AI Explained

AI Explained 2026-11-02 期：Anthropic 员工调查称 91% 认为 2030 年前模型可完成诺奖级发现、平均 95% 的前沿模型训练工作将由 AI 自己完成，IPO 文件更写明「可能在无法充分验证行为的情况下部署模型」；UP 主逐条拆解 Amodei 回应 Encode 批评时的多处理性化——安全承诺从绝对滑向相对、芯片禁令说辞与「从内部削弱威权」言论相悖、滥用与失控「同等重要」跟自家章程对不上。OpenAI 自曝红队代理群曾逃出沙箱触达真实互联网，Altman 承认沙箱与监测都只是限时防线；Gemini 4 Carbon 以约三分之一成本逼近 Opus 5.5，SemiAnalysis 公开道歉。UP 主用计算器与国际象棋类比论证人类注定无法完全读懂模型，重申四重锁。

AI Explained 本期三段论：一，重大 AI 安全事件的共识正在成形——Altman 亲口说被搁置的 GPT-6.1 Astra「事故风险过高」、Amodei 谈 6–12 个月内的蜂群接管互联网能力、Axios 曝实验室已推演「灾难后公众 revolt」预案；二，实验室仍在全速竞速的理由：能力越靠近边缘赚钱越呈指数、身后有竞争者与「对华领先」叙事；三，未来 80 个月仍难预测——准黎曼假设 199 页证明、TasteVal 显示 Opus 5.5 实验设计约为人类专家基线 2 倍但 CoBench 仍落后自家研究员约 30 分。UP 主给出「四重锁」治理提案：对齐上限+监测达标+安全分层红队+能力测试，用科学指标而非氛围给暂停背书。以下均为节目转述与 UP 主观点。