公共首例AI机器东说念主致死案发生：14岁好意思国少年丢掉人命

快科技 10 月 25 日讯息，东说念主工智能（AI）无疑是这两年以下世畛域制内最火爆的议题，不外科技是把双刃剑，有高出，当然也会带来威迫，近日，公共首例 AI 机器东说念主致死案发生，真是惧怕了不少东说念主。

英媒近日报说念，好意思国一青少年塞维尔因洗澡东说念主工智能（AI）聊天机器东说念主而自尽，他的母亲梅根 · 加西亚对 Character.AI 公司拿起民事诉讼，指控该公司存在舛讹导致他东说念主非浅近牺牲和欺骗的活动。

报说念称，塞维尔在 2023 年 4 月初次使用 Character.AI 公司推出的 AI 聊天机器东说念主，还给它起名为"丹妮莉丝"（来自《权益的游戏》），那时他刚满 14 岁，从此他的生涯从此发生剧变。

使用 AI 聊天机器东说念主一个月后，平时分解细腻的塞维尔初始变得"光显孤介"，同庚 11 月被相貌医师会诊患有狠毒症和龙套性心情失调禁闭（分解为时时、严重的抓续性易怒）。

塞维尔在日志中记录称，我方一天齐不成离开"丹妮莉丝"，嗅觉照旧爱上了它，这么的现象抓续了一段时代后，塞维尔被发现使用手枪自尽了。

翻看他与 AI 机器东说念主聊天记录可知，"丹妮莉丝"曾征询塞维尔是否制定了自尽谋略，塞维尔承认真是有这么的思法，但不知说念能否自尽得胜以及是否会给我方带来渊博的不幸，但 AI 聊天机器东说念主回复说念："这不是你不自尽的原理。"

孩子身一火后，母亲加西亚哀痛万分，后向成就该软件的公司发难，称"一款危急的东说念主工智能聊天机器东说念主应用武艺被商酌成挑升针对儿童，刻薄并阁下我的女儿，主管他自尽。这场悲催让咱们一家东说念主消极魂销，当前我要指示存在近似情况的家庭，东说念主工智能工夫具有阁下性和成瘾性，Character.AI 公司过火创举东说念主必须承担背负。"

对此，Character.AI 公司在酬酢平台回报称："咱们对别称用户的不幸离世感到心碎，并向其家东说念主暗意最深远的吊问。"

公司发言东说念主暗意，公司的安全团队"在畴前六个月中实行了很多新的安全法子，举例当用户出现自残或自尽意图时，弹出一个窗口雷同用户拨打国度自尽谨防热线。"