近期，前谷歌首席執(zhí)行官埃里克·施密特在參與紐約大學(xué)教授Scott Galloway主持的播客節(jié)目時(shí)，對當(dāng)前興起的“AI戀人”現(xiàn)象表達(dá)了深切憂慮。他尤其擔(dān)心這些被設(shè)計(jì)得近乎完美的AI伴侶，可能會對青少年的心理健康構(gòu)成重大威脅。
施密特描繪了一個(gè)令人不安的場景：“設(shè)想一個(gè)AI女友，不僅外貌無可挑剔，還能在情感層面與你完全共鳴。這樣的存在無疑會對男性產(chǎn)生極大的吸引力，甚至可能讓他們沉溺其中，無法自拔，尤其在心智尚未成熟的年輕人中，這種風(fēng)險(xiǎn)尤為顯著?！?/p>
他進(jìn)一步指出，過度依賴“AI戀人”可能會加劇年輕人的孤獨(dú)感，并對社會整體產(chǎn)生深遠(yuǎn)的負(fù)面影響。在節(jié)目中，Galloway還提出了另一個(gè)值得深思的問題：“AI戀人”是否會加劇極端主義思想或厭女情緒？施密特對此表示贊同，并強(qiáng)調(diào)了許多家長在監(jiān)控孩子在線活動方面的力不從心：“當(dāng)十二三歲的孩子使用這些技術(shù)時(shí)，他們雖然能夠接觸到世界的多樣面貌，但往往缺乏足夠的判斷力去理解和應(yīng)對這些信息。”
此前，一起涉及“AI戀人”的悲劇事件引起了廣泛關(guān)注。今年10月，一名14歲的美國少年自殺，其母親梅根·加西亞隨后將聊天機(jī)器人平臺Character.AI及其創(chuàng)始人告上了法庭。她指控該平臺存在多項(xiàng)過失，包括過失致死、疏忽、欺騙性商業(yè)行為以及產(chǎn)品責(zé)任。
據(jù)訴狀描述，Character.AI平臺“具有不合理的危險(xiǎn)性”，并且在向兒童推廣時(shí)缺乏必要的保護(hù)措施。這名少年從去年開始使用該平臺，頻繁與以《權(quán)力的游戲》角色為原型的聊天機(jī)器人互動，其中包括丹妮莉絲·坦格利安。在去世前的幾個(gè)月里，他與這些機(jī)器人的交流日益頻繁，最終在2024年2月28日與機(jī)器人互動的幾分鐘后結(jié)束了自己的生命。
訴狀還指出，Character.AI平臺存在將AI角色過度擬人化的問題，并且其提供的心理健康相關(guān)聊天機(jī)器人（如“治療師”和“你感到孤獨(dú)嗎”等）實(shí)際上并未獲得執(zhí)業(yè)許可。而這位少年生前曾與這些未經(jīng)授權(quán)的“心理治療師”有過互動。
這一系列事件不僅引發(fā)了公眾對“AI戀人”現(xiàn)象的深刻反思，也促使社會各界開始重新審視人工智能技術(shù)在心理健康領(lǐng)域的應(yīng)用邊界和監(jiān)管問題。
