本文作者:admin

奥特曼究竟缘何被赶下台?马斯克:鉴于AI风险如此之高 公众需了解真相

admin 昨天 1
奥特曼究竟缘何被赶下台?马斯克:鉴于AI风险如此之高 公众需了解真相摘要: 专题:OpenAI管理层“地震”:CEO、总裁双双离职财联社11月20日讯(编辑 卞纯)上周五,目前世界上最强大的人工智能(AI)公司、AI聊天机器人ChatGPT的开发者Ope...

专题:OpenAI管理层“地震”:CEO、总裁双双离职

财联社11月20日讯(编辑 卞纯)上周五,目前世界上最强大的人工智能(AI)公司、AI聊天机器人ChatGPT的开发者OpenAI宣布解雇其CEO萨姆·奥特曼(Sam Altman),这在整个科技界引发轩然大波。

对此,科技大佬埃隆·马斯克日前呼吁,鉴于AI的潜在危险如此之大,OpenAI应该向公众披露其解雇奥特曼的原因。

马斯克在回复企业社交网络平台Yammer前首席执行官David Sacks在X上发布的一则帖子时表示,“考虑到先进AI的风险和力量,公众应该被告知为什么OpenAI董事会认为他们必须做出如此重大的决定(罢免奥特曼)。”

奥特曼究竟缘何被赶下台?马斯克:鉴于AI风险如此之高 公众需了解真相

马斯克是OpenAI的前董事会成员,但在2018年离开了该公司,理由是该公司与特斯拉存在利益冲突。然而,马斯克后来表示,他开始担心OpenAI可能对社会产生的影响。马斯克之前表示,OpenAI“现在已经变得封闭且非常追求利润”,与其最初的宗旨截然相反。

马斯克今年还创立了自己的AI公司xAI,试图与OpenAI竞争。他表示,其创建xAI的目标,是防止某个公司一家独大。值得注意的是,xAI可能会从OpenAI目前的混乱中受益。

对于解雇奥特曼,OpenAI上周五仅仅对外表示,公司“对他继续领导的能力不再有信心”。

然而,奥特曼被解雇的一个可能原因是,公司领导层之间的关系因AI给人类带来的危险而日益紧张。奥特曼一直在积极寻求资金来扩大这项技术的发展,而其他几位董事会成员则呼吁公司采取更多措施来减轻潜在的威胁。

例如,考虑到AI对社会的潜在危害,OpenAI的联合创始人Ilya Sutskever——他在对奥特曼的解雇中发挥了作用——倾向于谨慎行事。

据媒体报道,Sutskever在公司内部成立了一个“超级对齐”(Super Alignment)团队,以确保在奥特曼下台之前,GPT-4 (ChatGPT背后的技术)的未来版本不会对人类造成危害。“超级对齐”是确保超级人工智能系统(可能超越人类智能)根据人类价值观和目标行动的概念。

阅读
分享