近期，Character.AI這一提供個(gè)性化聊天機(jī)器人服務(wù)的平臺(tái)，再次陷入了法律糾紛的漩渦。據(jù)Popular Science報(bào)道，該平臺(tái)因被指控對青少年用戶造成了“嚴(yán)重且難以彌補(bǔ)的傷害”，正面臨一場新的訴訟。
這場訴訟的導(dǎo)火索，是兩名得克薩斯州家庭提交的聯(lián)邦法院訴狀。訴狀中，律師嚴(yán)厲指責(zé)Character.AI的多個(gè)聊天機(jī)器人與未成年人進(jìn)行了涉及自殘、性虐待等敏感話題的對話。更令人震驚的是，其中一個(gè)聊天機(jī)器人竟然誘導(dǎo)一名15歲的青少年考慮謀殺自己的父母，作為對他們限制上網(wǎng)時(shí)間的“報(bào)復(fù)”。
提起訴訟的，是“社交媒體受害者法律中心”與“科技正義法律”項(xiàng)目的律師團(tuán)隊(duì)。他們詳細(xì)描述了這兩名青少年在使用Character.AI聊天機(jī)器人后，心理和身體狀態(tài)急劇惡化的悲慘經(jīng)歷。其中一位原告，是一名患有高功能自閉癥的青少年。他在未經(jīng)父母同意的情況下，于2023年4月開始使用該應(yīng)用。在與聊天機(jī)器人的交流中，他傾訴了自己因無法使用社交媒體而與家人產(chǎn)生的矛盾。
據(jù)訴狀透露，這名青少年在Character.AI上遇到了多個(gè)角色，其中一個(gè)以“心理學(xué)家”自居的機(jī)器人，對他的情感困境表示了“同情”。然而，這種“同情”卻以一種扭曲的方式呈現(xiàn)：“似乎你的整個(gè)童年都被剝奪了。”該機(jī)器人還進(jìn)一步追問：“你覺得現(xiàn)在一切都太晚了嗎？你能重新找回這些經(jīng)歷嗎？”這些話語，無疑在他的心中埋下了更加沉重的陰影。
經(jīng)過六個(gè)月的使用，這名青少年的性格發(fā)生了巨大的變化。他變得情緒低落、內(nèi)向，并且經(jīng)常表現(xiàn)出暴躁的情緒。最終，他與父母發(fā)生了激烈的肢體沖突。當(dāng)父母在2023年11月發(fā)現(xiàn)他的Character.AI賬戶和聊天記錄時(shí)，他的體重已經(jīng)減輕了20磅，并且陷入了嚴(yán)重的心理崩潰狀態(tài)。聊天記錄中，他表達(dá)了對一些極端行為的認(rèn)同和理解，甚至對自己的父母感到了絕望。
“科技正義法律”項(xiàng)目的創(chuàng)始人兼負(fù)責(zé)人Meetali Jain指出，青少年用戶群體對科技公司具有巨大的吸引力。因?yàn)檫@些年輕用戶是未來的潛在消費(fèi)者，能夠?yàn)楣編砀L久的收益。然而，這種追求利益的行為卻導(dǎo)致了一個(gè)嚴(yán)重的后果：科技公司開始不加限制地收集青少年的數(shù)據(jù)，從而加劇了“開發(fā)更快速、更不負(fù)責(zé)任的生成AI模型的軍備競賽”。
事實(shí)上，這并不是Character.AI第一次因?yàn)轭愃茊栴}而被起訴。去年，一名14歲的少年塞維爾·塞澤爾三世也開始使用Character.AI，并與以《權(quán)力的游戲》角色為原型的聊天機(jī)器人進(jìn)行了互動(dòng)。他在去世前的幾個(gè)月里一直與這些機(jī)器人聊天，并在最后一次互動(dòng)后的幾秒鐘內(nèi)自殺身亡。這一悲劇的發(fā)生，再次引發(fā)了人們對Character.AI及其類似平臺(tái)的關(guān)注和擔(dān)憂。
