零基础学 AI：人工智能入门指南
15.4 迈向 AGI
我们现在处于什么阶段？未来会怎样？ 站在当下回望，很多人觉得我们正在接近 AGI，但“还有多远”依然存在巨大分歧。 如果 AI 达到了人类水平，它就能设计出比自己更强的 AI。这种自我迭代会引发智能爆炸，被称为 “技术奇点”。
15.4 迈向 AGI
我们现在处于什么阶段？未来会怎样？
15.4.1 什么是 AGI？
AGI（通用人工智能） 是指具备与人类同等甚至超越人类的智能，能够学习、感知、解决任何智力任务的 AI 系统。
- ANI（弱人工智能）：现在的 AI。下围棋很强但不会做饭；会聊天但不会开车。
- AGI（强人工智能）：像科幻电影里的 Jarvis，什么都会，能像人一样思考。
15.4.2 离 AGI 还有多远？
站在当下回望，很多人觉得我们正在接近 AGI，但“还有多远”依然存在巨大分歧。
- 乐观派（如 OpenAI）：部分专家认为，随着推理能力与工具使用能力增强，AGI 可能会在未来几年内到来（这是较乐观的预测）。
- 审慎派（如 Yann LeCun）：依然强调世界模型（World Model，简单说就是“先在脑海里模拟现实再行动”）的重要性，认为单纯的语言模型存在天花板。
15.4.3 超级智能与奇点
如果 AI 达到了人类水平，它就能设计出比自己更强的 AI。这种自我迭代会引发智能爆炸，被称为 “技术奇点”。
届时，可能会出现 超级智能（Superintelligence）——它的智力超越人类的程度，就像人类超越蚂蚁一样。
15.4.4 人类的未来
面对超级智能，主要有两种担忧：
- 失控风险：AI 把地球变成曲别针工厂（著名的“曲别针思想实验”）。
- 生存意义：如果机器什么都做得比人好，人类存在的价值是什么？
这就是为什么现在的 AI 公司都设有 “安全团队”，致力于研究如何确保 AI 始终为人类利益服务。
乐观的愿景：
AI 帮助人类攻克癌症、解决能源危机、从繁重的劳动中解放，人类进入一个物质极大丰富、专注于精神追求的新纪元。
15.4.5 一种公共利益导向的愿景
2024 年底，一篇由 Mariano-Florentino Cuéllar、Jeff Dean、David Patterson 等作者撰写的论文提出了 18 个具体里程碑，试图把 AI 研究引向更明确的公共利益目标：
| 领域 | 里程碑 | 描述 |
|---|---|---|
| 🎓 教育 | 全球 AI 导师 | 让每个孩子都能通过智能手机获得多语言、文化适应的个性化辅导 |
| 🏥 医疗 | 医疗 AI 助手 | 自动化繁琐的医疗文书（保险理赔、病历记录），让医生回归治病救人 |
| 💼 就业 | 快速技能提升 | 帮助低收入工人在 3-6 个月内获得市场需求的新技能 |
| 🔬 科学 | 科学家的 AI 伙伴 | 像 AlphaFold 预测蛋白质结构一样，AI 加速各领域的科学发现 |
| 🌍 公平 | 弥合全球差距 | AI 可作为「跨越式技术」，弥补发展中国家医生、教师等专业人才的短缺 |
| 🛡️ 安全 | 虚假信息侦探 | 国际协调的高精度工具，检测和标记深度伪造内容 |
这些里程碑不是官方路线图，也不代表全体学术界共识；它们更适合作为一种值得讨论的愿景：技术进步的目标不应只是替代人类劳动，也应服务于公共利益。
参考文献：Cuéllar, Dean, Patterson et al., “Shaping AI's Impact on Billions of Lives” (arXiv:2412.02730, 2024)
15.4.6 思考题
如果你要把 AI 用于“教育、医疗、就业”三者之一来创造公共价值，你会优先选哪一项？你的最小可行方案是什么？