面试被问到”Adam 和 SGD 的区别”,回答不出来很尴尬。这篇文章把神经网络的三大核心——优化器、网络结构、损失函数——全面梳理一遍,每个知识点都带公式和 PyTorch 代码。
人类的智能很大程度上依赖记忆——不只是当下的感知,还有过去的经验、长期积累的知识、以及对未来的预期。AI Agent 也一样:没有记忆系统的 Agent 每次对话都从零开始,无法积累经验,无法跨会话保持状态。本文系统拆解 Agent 记忆系统的四种类型、存储架构、检索策略、遗忘机制,以及生产环境中的完整实现。
检索增强生成(RAG)是解决 LLM 知识局限性最务实的方案。本文从最朴素的 Naive RAG 出发,深入剖析每个环节的工程细节,覆盖 Advanced RAG 的全部优化手段,以及 Self-RAG、GraphRAG、HyDE 等前沿变体,最终给出生产级 RAG 系统的完整实现。
工具调用(Tool Use / Function Calling)是 AI Agent 从”说话机器”变成”做事机器”的核心机制。本文从协议设计、底层原理、工程实现到生产级落地,全面拆解工具调用的每一个细节——包括大多数教程跳过的部分:并行调用、错误处理、代码执行沙箱、工具权限控制、成本优化。
LLM 从”对话机器”进化为”自主行动者”——这是过去两年 AI 工程领域最重要的范式转移。本文从第一原理出发,回答三个问题:Agent 是什么、为什么需要它、它如何工作,并深入剖析 ReAct、MRKL、AutoGPT 等奠基性框架的设计原理。
TRPO(Trust Region Policy Optimization)是 PPO 的理论前身,由 Schulman et al. 于 2015 年提出。它从严格的理论出发,推导出单调不下降的策略更新保证,并用 KL 散度约束将不可信的目标函数替换为可优化的代理目标。理解 TRPO 是理解 PPO 为何有效的关键。
系列文章: ① Agent 概览 · ② Tool Use · ③ RAG · ④ Memory · ⑤ Planning · ⑥ Multi-Agent · ⑦ Agent Engineering · ⑧ MCP & Skills(本篇)
大模型方向面试必考知识点的精炼总结。每个考点给出核心结论 + 关键公式 + 一句话答案,适合面试前快速复习。
系列文章: ① Agent 概览 · ② Tool Use · ③ RAG · ④ Memory · ⑤ Planning · ⑥ Multi-Agent · ⑦ Agent Engineering(本篇)
NumPy 是 Python 科学计算的基石,几乎所有数据科学、机器学习框架(PyTorch、TensorFlow、Pandas、SciPy)底层都依赖它。本文系统讲解 NumPy 的核心特性,从 ndarray 的内存布局到广播机制、线性代数、FFT,以及实战技巧。
复旦大学2025fall周五晚上高级软开第十四组小组作业lab(组长liang的那一组
复旦大学2025fall高级软开作业repo(小组14
7 days golang programs from scratch (web framework Gee, distributed cache GeeCache, object relational mapping ORM framework GeeORM, rpc framework GeeRPC etc) 7天用Go动手写/从零实现系列