AI导读:

  美国佛罗里达州司法部门6月1日向法院提起民事诉讼,指控美国开放人工智能研究中心(OpenAI)及其首席执行官萨姆·奥尔特曼在明知旗下聊天机器人ChatGPT存在“严重风险”的情况下,向公众隐瞒实情并大力推广其产品,致使

  美国佛罗里达州司法部门6月1日向法院提起民事诉讼,指控美国开放人工智能研究中心(OpenAI)及其首席执行官萨姆·奥尔特曼在明知旗下聊天机器人ChatGPT存在“严重风险”的情况下,向公众隐瞒实情并大力推广其产品,致使未成年人遭误导和被犯罪人员利用。这是美国首个由州政府发起的对OpenAI的同类诉讼。

  佛罗里达州总检察长詹姆斯·尤思迈耶说,OpenAI和奥尔特曼无视内外部专家所提警告,对用户隐瞒产品风险并放任其触达数以百万计的佛州民众,将儿童置于严重风险中。

  诉状说,多起刑事案件嫌疑人涉嫌在犯罪策划阶段从ChatGPT获取建议,另外,ChatGPT在未获家长许可的情况下收集未成年人数据,造成未成年人成瘾行为和认知损害等。检方指控OpenAI的不当行为持续对佛州民众造成伤害,要求该企业对此承担责任。

  OpenAI发表声明称,已配合执法部门开展相关案件调查,同时将持续强化安全措施,检测用户不当意图,限制滥用其产品的行为,在出现安全风险时妥善应对。

  一名男子去年4月在佛罗里达州立大学开枪射击,造成2人死亡、6人受伤。今年4月,佛州检方对OpenAI启动刑事调查,缘由是ChatGPT在案发前就枪支与弹药的使用等提问向枪击案嫌疑人提供建议。5月10日,枪击案受害者家属向法院提起诉讼,指控ChatGPT为枪手作案“出谋划策”,而OpenAI未能采取措施防止这类事件发生,且没有就其产品向公众提示相关风险,还为迅速占领市场对此类风险进行误导性陈述。

(文章来源:新华社)