课堂笔记-人工智能与人类社会-20261012
AI For Math
- 26年10月7日,OpenAI 发布 722 篇数学手稿,由一个未发布的内部模型生成。手稿内容涵盖黎曼猜想/霍奇猜想/BSD猜想三个千禧年难题
- 陶哲轩提醒:AI带来大量“形式正确”的证明;数学的新瓶颈会成为人能否读懂/检验/从中提炼有价值的思想
从 “人类” 到 “宇宙”
- 25年11月2日,NVIDIA将H100送入太空
- 25年11月5日,Google发布”捕光者计划”
- 25年11月27日,北京市科委发布《太空数据中心建设规划方案》
- 26年1月,马斯克发表演讲,计划建设太空算力中心
- 26年5月27日,NASA发布月球基地建设路线图
AI For Science
- 24年物理诺奖得主Hinton:深度学习的奠基人之一
- 24年化学诺奖得主Hassabis:联合创立Deepmind公司
- AlphaFold 预测蛋白结构
- GTC-2025大会上展示了联合NVIDIA的智能平台系统
- 截止到26年5月,21家大型制药公司已与OpenAI/Anthropic/Google三家基础模型公司达成许多战略合作
AI For Society
- 社会世界的独特性:不透明性/反身性/规范性
- 三项核心能力:推断人类意图/预测社会反应/突破人的管理半径
机遇:AI打开能力边界
- 高倍效能工程师
- OPC一人公司
- 打开学科专业边界
- 加速人类发现未知
挑战:动荡的AI时代
- 比尔盖茨发表长文
五大警告:
- 最担心年轻人的第一份工作
- AI让危险更容易复制
- AI太懂人也会成为问题
- AI应该赋能所有人,但不会自动公平
- 给人类一块保留地,再给机器人上点税
他提出AI领先国家(中国/美国)应尽早对话 —— “AI竞争越激烈,合作越困难”
教育转型
- 工业时代:以确定性知识、标准化和分学科专业教学为原则
- AI时代:走向培养学生应对前所未有的变化和不确定的未来
AI Slop 和 Deepfake
- AI 大量生成的 AI Slop 内容(低质量数字内容)污染网络
- GPT Image-2 可生成真假难辨的图案
- AI趋近于给予用户情绪价值
- AI并非价值中立
AI 带来的挑战
-
2024年化学诺奖得主Baker:随着人工智能能力提升,同样的工具也能设计毒素和病原体
-
2025年,Microsoft发表研究,称AI可以设计出逃避生物安全系统的毒素
-
LLM辅助写作:个体写作更流畅,群体语言差异却逐步收缩,同质化越来越严重
-
算力资源中心化加剧,SemiAnalysis创始人预测2028年OpenAI和Anthropic控制全球绝大部分FLOPs
拥抱AI时代
智谱唐杰牢师:认知大于一切
AI Native Person/Team/Company/Meeting
A/(Anthropic)的AI Native 经验:Plan => Design => Build => Test => Deploy => Maintain