离谱，Anthropic 对齐负责人称十年内 AI 灭绝人类概率超 10%……
继因担心 AGI 杀死人类而辞职的 Jacob Coxon （见：Anthropic 研究员因担心 AGI 失控而辞职：或十年内致人类灭绝）后，EvanHub（Anthropic 对齐负责人）公开表态称「Jacob 说得对」，并补充说：
团队真诚地相信 AI 可能导致人类灭绝，他个人估计未来十年内这一风险超过 10%。
同时他坦言，Anthropic 正在尽力降低该风险，但目前还没有解决超级智能对齐问题的方案，也不认为当前路径明确通往解决方案，甚至表示「明显不在正轨上」。
投票：