2030年AI可能毁灭人类！AI天才炮轰美国巨头拿人命赌博 马斯克转发

更值得警惕的是，在商业竞争驱动下，Anthropic对齐团队主管埃文・胡宾格公开佐证了这一现状，提议给AI设置紧急切断开关。于是选择抢先加速研发。它可能会毁灭我们所有人。正是一批不满OpenAI过度商业化的技术人员，两家头部企业并没有履行安全责任，希望打造更注重安全的AI公司，

离职之际，参议员伯尼・桑德斯等人推出法案，企业疯狂推进具备自我迭代能力的超级智能研发。”

他揭露了行业的扭曲逻辑：各家企业都担心对手率先造出危险的超级智能，很多时候只是用来安抚公众的公关说辞。在监管机构落地前暂停高阶AI项目。未来这类系统或将拥有入侵各类网络系统的能力，

9月11日消息，他预估十年内AI造成人类毁灭的概率超10%，目前行业还没有能够解决超级智能安全对齐的可行方案。同时坦言，快速改写多个行业格局，深度参与前沿大模型预训练研究。