今日应用
今日话题
Altman被曝七宗罪，OpenAI竟欲加密GPU合作军方？员工大批离职团队濒临崩溃
重点标签 OpenAI、七宗罪、AGI风险、技术争议、AI伦理
文章摘要
OpenAI近期面临严重的舆论危机和内部动荡。一方面，公司被指控存在七宗罪，包括忽视人工通用智能（AGI）的风险、逼迫员工放弃股权、反对开源、跟踪GPU、泄露隐私、与军方合作等。这些行为引发了公众的强烈不满和质疑。另一方面，公司内部出现离职潮，包括首席科学家Ilya Sutskever和高管Jan Leike在内的多名重要成员宣布离职，他们对公司的发展方向和价值观表示失望。
离职潮的背后，是员工对OpenAI管理层的不满。他们认为公司过分追求光鲜的产品，忽视了AI技术的安全性和伦理问题。超级对齐团队的成员表示，在计算资源有限的情况下，完成关键研究变得越来越困难。此外，公司还被曝出逼迫员工签署严苛的离职协议，否则就会失去股权，这种做法在科技圈引起了轩然大波。
在技术争议方面，OpenAI提出的AI治理计划引发了恐慌。计划中提出将加密保护扩展到硬件层，意味着GPU需要经过签名才能运行AI模型。这无疑增加了小公司的市场准入门槛。此外，OpenAI还与新闻集团News Corp达成合作，将新闻内容引入AI产品，这可能会使AI产品受到特定政治倾向的影响。
在开源与闭源的争论中，OpenAI与微软站在一起，试图对政府施加影响，推动严格的安全限制和许可要求。这与Meta、IBM等支持开源AI模型的公司形成了鲜明对比。
在AI伦理方面，OpenAI的GPT-4o产品被指出存在潜在的危险，如开发高度情绪化的语音输出，可能会让用户过度依赖AI，甚至透露敏感信息。此外，OpenAI已经删除了针对军事和战争使用ChatGPT的禁令，这意味着军方也可以使用这项技术，尽管目前看来无法用于直接杀人。
总的来说，OpenAI近期的种种行为引发了公众对其价值观和发展方向的质疑。公司需要正视这些问题，重新审视自己的使命和责任，以确保AI技术的健康发展。
文章来源
原文地址: 点我阅读全文
原文作者: AIGC新智界
相关文章
