佛羅里達(dá)州發(fā)生一起因青少年沉迷人工智能聊天機(jī)器人而導(dǎo)致的悲劇。一名14歲少年塞維爾·塞澤三世不幸去世，其母梅根·加西亞指控聊天機(jī)器人的開(kāi)發(fā)公司Character.ai與兒子的死亡有關(guān)。加西亞在聯(lián)邦法院提起了民事訴訟，指控該公司存在多項(xiàng)不當(dāng)行為。
加西亞在訴訟中聲稱(chēng)，她兒子在去世前幾個(gè)月里日夜不停地使用這款聊天機(jī)器人，甚至給機(jī)器人取了《權(quán)力的游戲》中角色的名字。她指責(zé)Character.ai開(kāi)發(fā)的產(chǎn)品加劇了她兒子的抑郁癥，并導(dǎo)致他自殺。
Character.ai對(duì)指控表示否認(rèn)，并在推文中向塞澤的家人表示哀悼。同時(shí)，該公司強(qiáng)調(diào)非常重視用戶(hù)的安全。
訴訟還將谷歌列為被告，但谷歌表示自己只是與Character.ai簽訂了許可協(xié)議，并不擁有這家公司。
消費(fèi)者權(quán)益保護(hù)組織公共公民研究主管里克·克萊普爾表示，開(kāi)發(fā)人工智能聊天機(jī)器人的科技公司不能自我監(jiān)管，必須承擔(dān)全部責(zé)任。
