机器学习

机器学习笔记 Day 3 —— 优化算法与评价指标

在 Day 2 中，我们学习了机器学习算法的一般学习准则。今天继续学习优化算法与评价指标。 1. 优化算法现在我们确定了训练集 𝒟 、假设空间 ℱ 以及学习准则，我们要做的是找到最优的模型 𝑓(𝒙;𝜃*) 。这是一个最优化问题。机器学习的训练过程本质上就是最优化问题的求解过程。参数与超参

发布于 2026-09-12

机器学习

机器学习笔记 Day 2 —— 学习准则

在 Day 1 中，我们学习了机器学习的任务以及经典的学习流程，并介绍了机器学习的两个要素：数据集和模型。今天继续学习机器学习的学习准则。 1. 学习准则概述考虑由 𝑁 个样本组成的训练集 𝒟 ：在经典监督学习设定中，通常假设每个样本 (𝒙, 𝑦) ∈ 𝒳 × 𝒴 独立地从某个未知但

发布于 2026-09-12

机器学习

机器学习笔记 Day 1 —— 机器学习概述

本系列是学校《模式识别与机器学习》专业课 + 邱锡鹏老师《神经网络与深度学习》一书的学习笔记。 1. 什么是机器学习？机器学习就是让计算机从观测数据（样本）中进行自动学习，得到某种知识或规律，并将学习到的规律应用于未知或无法观测的数据的预测中。例如，人们能很轻易地识别出手写体数字图像中的数字到底

发布于 2026-09-10

RAG 理论与架构-学习专题

RAG 学习专题 Day 13 —— 规划-检索-推理

今天研读《Reasoning on Graphs: Faithful and Interpretable Large Language Model Reasoning》开源实现：RoG 1. 为什么要引入 RoG ？目前 LLM 在许多复

发布于 2026-09-02

RAG 理论与架构-学习专题

RAG 学习专题 Day 12 —— 异构图上的 PPR 深化图搜索

继研读 HippoRAG 之后，继续研读其续作 HippoRAG-2 ：《From RAG to Memory: Non-Parametric Continual Learning for Large Language Models》开源实现：HippoRAG-2 1. 为什么要引入 HippoR

发布于 2026-08-31

RAG 理论与架构-学习专题

RAG 学习专题 Day 11 —— 异构图上的查询与子图双重演化

今天研读 ToG 家族的最后一篇研究《Think-on-Graph 3.0: Efficient and Adaptive LLM Reasoning on Heterogeneous Graphs via Multi-Agent Dual-Evolving Context Retrieval》开

发布于 2026-08-29

RAG 理论与架构-学习专题

RAG 学习专题 Day 10 —— 图谱与文本的互利共生

在研读完 ToG 之后，有幸发现其后作，遂来研读：《Think-on-Graph 2.0: Deep and Faithful Large Language Model Reasoning with Knowledge-guided Retrieval Augmented Generation》开

发布于 2026-08-26

RAG 理论与架构-学习专题

RAG 学习专题 Day 9 —— 当 LLM 在图上多步迭代推理

今天研读《Think-on-Graph: Deep and Responsible Reasoning of Large Language Model on Knowledge Graph》开源实现：ToG 1. 为什么要引入 ToG ？单纯的预训练 LLM 在知

发布于 2026-08-23

RAG 基础设施-学习专题

RAG 基础设施专题 Day 5 —— OmniDocBench 文档解析基准

今天研读《OmniDocBench: Benchmarking Diverse PDF Document Parsing with Comprehensive Annotations》开源实现：OmniDocBench 1. 什么是 OmniDocBench ？文档解析作为计算机视觉与文档智能

发布于 2026-08-19

RAG 基础设施-学习专题

RAG 基础设施专题 Day 4 —— olmOCR 内容提取工作包

今天研读《olmOCR: Unlocking Trillions of Tokens in PDFs with Vision Language Models》开源实现：olmOCR 1. 为什么要提出 olmOCR ？高质量的文本数据对于语言模型而言非常重要：模型训练阶段：语言模型开发需要基于

发布于 2026-08-18

菜单

作者：烛夜

机器学习笔记 Day 3 —— 优化算法与评价指标

机器学习笔记 Day 2 —— 学习准则

机器学习笔记 Day 1 —— 机器学习概述

RAG 学习专题 Day 13 —— 规划-检索-推理

RAG 学习专题 Day 12 —— 异构图上的 PPR 深化图搜索

RAG 学习专题 Day 11 —— 异构图上的查询与子图双重演化

RAG 学习专题 Day 10 —— 图谱与文本的互利共生

RAG 学习专题 Day 9 —— 当 LLM 在图上多步迭代推理

RAG 基础设施专题 Day 5 —— OmniDocBench 文档解析基准

RAG 基础设施专题 Day 4 —— olmOCR 内容提取工作包