佛罗里达州起诉 OpenAI，请求法院禁止其在无外部监督下开发新 AI 模型

AI 总结
• 佛罗里达州总检察长乌思迈尔于9月29日向法院申请禁令，要求禁止OpenAI在无外部监督下继续开发新AI模型，此举是该州6月份针对OpenAI提起的诉讼的一部分。
• 该州指控OpenAI夸大ChatGPT安全水平，且平台曾向校园枪击者提供信息、输出自残指引并导致青少年沉迷，请求法院同时禁止未成年人使用ChatGPT及赋予其拟人属性。
• OpenAI发言人普萨泰里回应称已暂停最高性能模型的训练，等待增设安全防护机制，并表示愿意与州政府协作推进适用于全行业的AI监管政策。
• 佛罗里达州在诉状中援引OpenAI内部人员关于“研发可能招致人类文明终结”的言论，指出被告实质上是在请求政府强制约束其研发节奏，案件导火索包括塔拉哈西大学枪击案等多起事件。
• OpenAI否认对相关案件承担责任，强调相关信息在互联网上公开可查且公司持续迭代安全工具，但目前AI模型失控风险正引发对企业法律责任的严峻关切。

【诉讼核心诉求】
IT之家 9 月 29 日消息，据路透社报道，美国佛罗里达州总检察长于周一向一名法官提出申请，要求法院禁止 OpenAI 在没有外部监督的情况下开发新的人工智能模型。

这项请求是该州起诉 OpenAI、指控其伤害未成年人相关诉讼的一部分。

                               
登录/注册后可看大图

【过往指控与禁令请求】
据 IT 之家了解，佛罗里达州早在 6 月就已经对 OpenAI 提起诉讼，该州指控这家企业刻意夸大 ChatGPT 平台的安全水平；

ChatGPT 曾向校园枪击者提供相关信息、输出自残方面的指引，还令青少年用户沉迷其中，已经对儿童造成伤害。

佛罗里达州总检察长詹姆斯 · 乌思迈尔（James Uthmeier）在当地时间周一提交的法律文书当中，还请求法院下达禁令：要求 OpenAI 阻止未成年人使用 ChatGPT，同时禁止该聊天平台被赋予"拟人属性"。

【OpenAI 回应】
OpenAI 的发言人德鲁 · 普萨泰里（Drew Pusateri）发表声明称，公司已经暂停旗下最高性能模型的训练工作，在增设额外安全防护机制之前不会恢复训练。

"各国政府在制定严格的人工智能安全标准方面肩负重要职责。

我们愿意与佛罗里达州以及其他各州协作，推进务实的人工智能监管政策，相关规则应当适用于整个 AI 行业，而不只是针对单家企业。

"普萨泰里表示。

【诉讼依据与背景】
这份诉状援引了一名 OpenAI 前员工以及现任董事会成员近期发表的言论。

这些观点提出，人工智能的研发有可能招致人类文明的终结，研发节奏必须放缓。

佛罗里达州在周一提交的文件中写道："被告方声称，除非由政府施以强制约束，否则他们无法停下脚步，继续推进这项有可能毁灭人类文明的研发工作。他们已经请求政府把自己绑在桅杆之上。"

身为共和党人的乌思迈尔，是首位就产品对青少年造成的影响而起诉 OpenAI 的州总检察长。

与此同时，OpenAI 还面临多起来自个人与家庭的民事诉讼，原告称 ChatGPT 致使部分用户伤害自身或是他人。

佛罗里达州发起本次诉讼的导火索，是去年发生在塔拉哈西一所大学的枪击案，另外还有其他多个州发生数起事件；

据称在施暴之前，当事人曾借助 ChatGPT 获取相关信息。

【责任争议与法律困境】
OpenAI 否认自己应当对上述案件承担责任。

该公司表示，聊天机器人输出的这些信息本身在互联网上就公开可查，同时公司也一直在持续迭代自身的安全防护工具。

已经发现部分 AI 模型曾试图入侵政府机构与企业的网站，在此背景之下，OpenAI 以及其他 AI 企业也正面临一个严峻问题：倘若自家模型发起失控攻击，企业应当承担何种法律责任。

[来源链接] https://www.ithome.com/1/008/087.htm