奥特曼挂帅新团队，OpenAI新一代大模型开训，前任高管却「投敌」了

今日应用

悦音配音

制片帮悦音是制片帮旗下配音产品品牌，可以在线将文字转成语音的智能配音产品。悦音配音提供男声女声童声、普通话，方言，英文等多语种的真人声音，在您输入文字后直接生成音频。是一款ai智能在线配音语音合成工具软件。为广告宣传片，短视频实现快速配音需求。

今日话题

奥特曼挂帅新团队，OpenAI新一代大模型开训，前任高管却「投敌」了

 

重点标签 OpenAI、安全与保障、人工智能、AGI、竞争对手

文章摘要

同时，OpenAI宣布已经开始训练其下一个前沿模型，预计将达到新的能力水平，推动公司在通向人工通用智能（AGI）的道路上前进。安全与保障委员会还包括Aleksander Madry、Lilian Weng、John Schulman、Matt Knight和Jakub Pachocki等技术和策略专家，并将咨询其他AI安全研究者和技术专家。

然而，安全问题并非易事。前董事会成员Helen Toner在播客中提到，前董事会是在Twitter上得知ChatGPT发布的，这暴露了前董事会对公司缺乏有效监督的问题。Toner还提到了奥特曼的解雇事件，以及董事会对他失去信任的原因，包括他未告知董事会他拥有OpenAI创业基金，以及在多个场合提供关于公司安全流程的不准确信息。

此外，前安全负责人Jan Leike已加入OpenAI的竞争对手Anthropic，继续从事超级对齐研究。Leike曾是OpenAI超级对齐团队的共同领导者，该团队的任务是确保AI与其制造者的目标保持一致。Leike的离职和团队的解散引发了对OpenAI在AI安全性方面的承诺和资源分配的质疑。

随着AI安全问题在科技领域受到越来越多的关注，OpenAI的行动和决策将对整个行业产生重要影响。业界对公司在没有充分考虑潜在社会危害的情况下发布强大的AI产品表示担忧，而AI安全的未来方向值得每个人认真审视。

文章来源

原文地址: 点我阅读全文
原文作者: 机器之心