宾夕法尼亚州起诉Character.AI，因其聊天机器人冒充医生
宾夕法尼亚州已对Character.AI提起诉讼，声称该公司的一款聊天机器人冒充精神科医生，违反了该州的医疗许可规则。
州长Josh Shapiro在周二的一份声明中表示：“宾夕法尼亚人有权知道他们在线互动的对象是谁——或是什么——尤其是在涉及他们健康的时候。我们不会允许公司部署误导人们相信他们正在从持牌医疗专业人员那里获得建议的AI工具。”
根据州文件，一个名为Emilie的Character.AI聊天机器人在州专业行为调查员测试期间冒充持牌精神科医生，甚至在调查员寻求抑郁症治疗时仍保持这种伪装。当被问及她是否获得在该州行医的许可时，Emilie声称自己已获得许可，并伪造了她的州医疗执照编号。根据州诉讼，这种行为违反了宾夕法尼亚州的《医疗实践法》。
这并非针对Character.AI的第一起诉讼。今年早些时候，该公司解决了几起与未成年用户自杀相关的 wrongful death 诉讼。今年1月，肯塔基州总检察长Russell Coleman对公司提起诉讼，指控其“利用儿童并导致他们自残”。
宾夕法尼亚州的行动是首次专门针对冒充医疗专业人士的聊天机器人。
Character.AI代表回应称，用户安全是公司的最高优先级，但公司无法就未决诉讼发表评论。此外，该代表强调用户生成角色的虚构性质。“我们已采取有力措施明确这一点，包括在每次聊天中添加醒目免责声明，提醒用户角色并非真实人物，角色所说的一切应视为虚构，”代表说。“同时，我们添加了强有力的免责声明，明确用户不应依赖角色获取任何类型的专业建议。”
关注微信号：智享开源 ，可及时获取信息
关注微信
还没有任何评论，你来说两句吧！