埃隆·马斯克的诉讼让OpenAI的安全记录备受审视
埃隆·马斯克试图拆解OpenAI的法律行动，可能取决于其营利性子公司如何增强或削弱该前沿实验室确保人类从通用人工智能（AGI）中受益的成立使命。
周四，加利福尼亚州奥克兰的一家联邦法院听取了前员工兼董事会成员的证词，称该公司将AI产品推向市场的努力，损害了其对AI安全的承诺。
罗西·坎贝尔于2021年加入该公司的AGI准备团队，2024年因团队解散而离开OpenAI。同期，另一个专注于安全的团队“超级对齐团队”也被关闭。
她作证说：“我刚加入时，公司非常注重研究，人们经常讨论AGI和安全问题。随着时间的推移，公司更像一个以产品为导向的组织。”
在交叉盘问中，坎贝尔承认，为实现构建AGI的目标，实验室可能需要大量资金，但她表示，在没有适当安全措施的情况下创建超智能计算机模型，不符合她最初加入的组织的使命。
坎贝尔指出一个事件：微软通过其必应搜索引擎在印度部署了该公司的GPT-4模型版本，而该模型尚未经过公司部署安全委员会（DSB）的评估。她说，模型本身没有巨大风险，但公司需要“随着技术变得更强，树立强有力的先例。我们希望有可靠的安全流程，我们知道这些流程正在被遵循。”
OpenAI的律师还让坎贝尔承认，在她的“推测性意见”中，OpenAI的安全方法优于马斯克创立、今年早些时候被SpaceX收购的AI公司xAI的安全方法。
OpenAI发布其模型的评估结果并公开分享安全框架，但公司拒绝透露……
关注微信号：智享开源 ，可及时获取信息
评论列表
发表评论
为你推荐
关注微信
近期评论
- 发表在《今天我终于找到了加快网站速度的办法》
- 发表在《如何成为超级个体？》
- 发表在《像ChatGPT一样记笔记》
- 发表在《python 如何将电子表格按照某一列相同数据分到一个一个工作表中》
- 发表在《python 如何将电子表格按照某一列相同数据分到一个一个工作表中》
还没有任何评论，你来说两句吧！