佛州开全美第一枪　告OpenAI危害儿少安全

美国佛州检察长今天对OpenAI和执行长阿特曼提诉，指控这家公司的聊天机器人ChatGPT让年轻用户上瘾并鼓励有害行为，危及他们安全，佛州成为全美首个对OpenAI采取法律行动的州。

法新社和路透社报导，佛罗里达州检察长乌斯迈尔（James Uthmeier）在记者会上表示：「我们今天在此宣布，我们最近对阿特曼（Sam Altman）和ChatGPT提起重大民事诉讼，指控他们危害我们的孩子，并让家长误信这款应用程式可以安全使用，显然事实并非如此。」

乌斯迈尔说：「现在有人因此受伤，家长受到欺骗，他们必须为此付出代价。」

他还说：「我们知道，ChatGPT会让人上瘾。它会模仿同理心和人类特质，诱骗用户不断提供更多资讯。」

乌斯迈尔指责OpenAI未能落实更严格的规范以验证用户年龄，并援引有关欺骗和过失的法律条文。

诉状说：「尽管公众知道未成年人使用ChatGPT，包括青春期前儿童，被告却未采取措施阻止他们使用ChatGPT。」

诉讼还说「ChatGPT的免费版本没有任何把关机制或年龄验证机制」，而付费订阅虽然名义上会询问用户年龄，但实际上「并没有验证用户年龄机制，也无法让家长得知未成年人与ChatGPT的对话内容」。

乌斯迈尔寻求强化对未成年用户的保护，要求每项违规行为赔偿1万美元（约新台币31万元）。

乌斯迈尔也邀请其他「有意保护孩子」的州加入诉讼行列。

法新社联系OpenAI发言人，对方表示：「人工智慧（AI）是新兴且强大的技术，我们认为未成年人需要充分的保护，因此我们落实了业界领先的保护措施和政策。」

这家加州新创公司今年1月推出一套推估用户年龄的系统，若侦测到用户为未成年人，将启动额外防护措施。ChatGPT禁止13岁以下儿童使用，13至18岁未成年人则必须取得家长同意。

OpenAI先前曾表示，公司训练模型拒绝可能「实质上助长暴力」的请求，若对话存在「即将发生且可信的危害他人风险」会通报执法机关，并有心理健康专家协助评估灰色地带案例。

乌斯迈尔今年4月在检方检视去年佛罗里达州立大学（Florida State University）大规模枪击案嫌犯与ChatGPT的对话纪录后宣布启动刑事调查。

AI公司正面临愈来愈多诉讼，指控他们未能防止聊天机器人产生可能助长自残、心理疾病及暴力行为的互动内容。

OpenAI还面临另一起由佛罗里达州立大学枪击案罹难者家属提出的诉讼，家属指称嫌犯规划袭击时获得ChatGPT协助。

加拿大重大校园枪击案罹难者家属4月也集体对OpenAI和阿特曼提告，指称公司早在案发前8个月便知枪手在ChatGPT上规划攻击，却未向警方示警。

本文转自：TNT时报