马斯克起诉OpenAI:安全承诺是否沦为商业牺牲品?

诉讼核心:使命与商业的冲突
埃隆·马斯克旨在拆解OpenAI的法律行动,其关键可能在于OpenAI的营利性子公司如何增强或削弱该前沿实验室成立时的使命——确保人类从通用人工智能(AGI)中受益。这一争议在加州奥克兰联邦法院的庭审中成为焦点,前员工和董事会成员的证词揭示了OpenAI在安全承诺与商业目标之间的张力。
前员工证词:从研究到产品的转向
罗西·坎贝尔(Rosie Campbell)于2021年加入OpenAI的AGI准备团队,2024年因团队解散离职。她指出,OpenAI的文化从研究导向转向产品导向,削弱了对AI安全的关注。坎贝尔回忆道:“我刚加入时,研究氛围浓厚,人们常讨论AGI和安全问题。后来,公司更像一个产品驱动型组织。”
安全团队的命运:解散与隐患
- 团队调整:坎贝尔所在的AGI准备团队与另一支安全导向的“超级对齐团队”在同一时期被关闭,引发对安全投入的质疑。
- 资金与安全的平衡:坎贝尔承认,构建AGI需要大量资金,但强调在缺乏适当安全措施的情况下开发超级智能模型,与组织初衷不符。
关键事件:GPT-4印度部署的争议
坎贝尔指出,微软在印度通过Bing搜索引擎部署GPT-4模型前,未经过OpenAI部署安全委员会(DSB)评估。尽管模型本身风险不大,但公司“需要为技术发展建立强有力的先例,确保安全流程可靠执行”。这一事件成为董事会不信任Altman的导火索之一。
董事会的不信任:Altman的管理风格
前董事会成员塔莎·麦考利(Tasha McCauley)证词揭露,Altman存在误导董事会的行为,包括隐瞒关于董事会成员海伦·托纳(Helen Toner)的意图,以及未披露ChatGPT的公开发布决定。董事会担忧其“冲突规避的管理风格”和潜在利益冲突,导致2023年曾短暂解雇Altman。Altman随后聘请Anthropic的前负责人迪伦·斯坎迪纳罗(Dylan Scandinaro)担任准备部门负责人,称此举“让自己睡得更安心”。
关注微信号:智享开源 ,可及时获取信息
评论列表
发表评论
为你推荐
关注微信

近期评论
- 发表在《今天我终于找到了加快网站速度的办法》
- 发表在《如何成为超级个体?》
- 发表在《像ChatGPT一样记笔记》
- 发表在《python 如何将电子表格按照某一列相同数据分到一个一个工作表中》
- 发表在《python 如何将电子表格按照某一列相同数据分到一个一个工作表中》

还没有任何评论,你来说两句吧!