随着 AI 能力的快速提升，安全问题已从学术讨论上升为全球性政策议题。本页面梳理 AI 安全的核心问题、主要方法和监管动态。

AI 对齐问题的核心

对齐（Alignment）的核心问题是：如何确保 AI 系统的行为符合人类意图和价值观。这包含三个子问题：

• 价值对齐（Value Alignment）：AI 系统是否理解并尊重人类的价值偏好？挑战在于人类价值本身是多元且动态变化的
• 能力控制（Capability Control）：如何在保持 AI 有用的同时，限制其产生有害行为的能力？包括物理世界行动能力和信息影响力
• 可解释性（Interpretability）：我们能否理解 AI 做出某个决策的内部原因？黑箱模型在高风险场景中难以建立信任

从统计语言模型到自主 Agent，大语言模型经历了约十年的范式跃迁。本页面梳理这一进程的关键节点和技术脉络。

前 Transformer 时代

2017 年之前，语言建模主要依赖统计方法：

• n-gram 模型：基于词频共现预测下一个词，简单有效但无法捕捉长距离依赖
• Word2Vec（2013）：Mikolov 提出的词向量方法，首次将词映射到连续向量空间，"king - man + woman ≈ queen"成为经典范例
• Seq2Seq（2014）：Sutskever 等人提出的编码器-解码器架构，使用 LSTM 处理变长序列，在机器翻译任务上取得突破
• Attention 机制（2014-2015）：Bahdanau 和 Luong 先后提出注意力机制，允许模型动态关注输入的不同部分

AI 正在从根本上改变软件的构建方式。本页面分析 AI 辅助编程的演进路径及其对开发者和行业的影响。

AI 辅助编程的三个阶段

AI 与编程的关系正在经历明确的阶段演进：

• 代码补全（2021-2023）：GitHub Copilot 为代表，在编辑器中实时补全代码片段。AI 是"打字加速器"，开发者仍主导逻辑设计
• Agent 编程（2024-2025）：Agent 编程 崛起，Claude Code、Cursor Agent 等工具能理解完整代码库，自主完成多文件修改。开发者角色从"写代码"转向"描述需求 + 审核结果"
• 自主编程（2026-）：AI 能够独立完成从需求理解到代码部署的全流程，人类主要负责需求定义、架构决策和质量验收

从简单的聊天机器人到复杂的多智能体系统，LLM 应用的架构模式已形成相对成熟的分类。本页面梳理常见的架构模式及其适用场景。

单轮对话

最基本的模式：用户发送一条消息，LLM 返回一次回复。

• 适用场景：翻译、摘要、文本改写等无状态任务
• 架构要点：无需维护会话状态，每次请求独立处理
• 成本控制：输入 token 即输出 token，最简单直接的成本模型

多轮对话

开源 AI 在 2023-2026 年经历了爆发式增长。本页面梳理开源模型、框架、数据和社区的现状，以及开源与闭源之间的核心辩论。

开源模型浪潮

开源大模型的质量在两年内迅速逼近闭源模型：

• LLaMA（2023）：Meta 发布 LLaMA 系列，虽非完全开源（研究许可），但权重泄露后引发社区微调热潮，成为开源 LLM 运动的起点
• Llama 2/3（2023-2024）：Meta 逐步放开许可证，Llama 3 系列在多个基准上接近 GPT-4 水平，成为开源模型的标杆
• Mistral：法国公司 Mistral AI 以高效架构著称，Mistral 7B 在同级别模型中表现突出
• Qwen（通义千问）：阿里云推出的多语言模型系列，中文能力突出，许可证对商业友好
• DeepSeek：深度求索以创新的 MoE 架构和训练方法著称，DeepSeek-V3 在推理任务上表现亮眼