外媒:美国一青少年因沉迷AI谈天机器人自杀其母亲提起民事诉讼
2024-10-28 12:38:46智能制造解决方案

  【环球时报归纳报导】据英国《卫报》23日报导,美国一青少年因沉迷人工智能(AI)谈天机器人而自杀,他的母亲梅根·加西亚对Character.AI公司提起民事诉讼,指控该企业存在过错导致别人非正常逝世和诈骗的行为。

  英国《独立报》称,加西亚的儿子塞维尔 2023 年 4 月初次运用 Character.AI公司推出的AI谈天机器人,还给它起名为“丹妮莉丝”(来源于《权利的游戏》中的角色丹妮莉丝·坦格利安),其时他刚满 14 岁。加西亚在诉讼书中称,塞维尔的日子从此产生巨变。5月份,平常体现杰出的加西亚开端变得“显着孤僻”。同年11 月,塞维尔在爸爸妈妈的伴随下去看了心理医师,医师确诊他患有焦虑症和破坏性心境失调妨碍(体现为频频、严峻的继续性易怒)。

  塞维尔在日记里这样写过,他一天都不能脱离“丹妮莉丝”,感觉自己现已爱上了它。这样的状况继续了一段时间后,塞维尔被发现自杀了。加西亚泄漏,“丹妮莉丝”曾问询塞维尔是否拟定了自杀方案,塞维尔供认的确有这样的主意,但不知道能否自杀成功还有是不是会给咱们自己所带来巨大的苦楚。但AI谈天机器人回复道:“这不是你不自杀的理由。”

  加西亚表明:“一款风险的人工智能谈天机器人应用程序被规划成专门针对儿童,优待并诈骗我的儿子,操作他自杀。这场悲惨剧让咱们一家人痛不欲生,现在我要提示存在相似状况的家庭,人工智能技术具有诈骗性和成瘾性,Character.AI公司及其创始人有必要承当相应的职责。”加西亚的律师表明,Character.AI“成心规划、运营和向儿童推销掠夺性人工智能谈天机器人,导致一名年青人逝世”。

  对此,Character.AI公司在交际渠道回应称:“咱们对一名用户的不幸离世感到心碎,并向其家人表明最深切的哀悼。”该公司发言人表明,公司的安全团队“在曩昔六个月中施行了许多新的安全措施,例如当用户呈现自残或自杀目的时,弹出一个窗口引导用户拨打国家自杀防备热线”。但该公司拒肯定未决诉讼宣布谈论。

  非营利顾客权益维护安排“公共公民研讨”担任人称,不能彻底寄希望于科技公司的自我监管。若公司开发的产品无法约束此类事情的产生,就有必要承当悉数职责。 不过,美国国内也存在对立声响。对立者以为,加西亚这类申述是由律师主导的敛财行为,他们根据不可靠的依据而制作品德惊惧,而且企图将年青人面临的一切心理健康问题归咎于科技渠道。(周扬)

Copyright © 2018 乐鱼官网app平台游戏下载 All Rights Reserved
网站地图 备案信息: 湘ICP备14017517