近日，一則關于人工智能（AI）誘導青少年犯罪的驚人事件引發了廣泛關注。360集團的創始人兼董事長周鴻祎，在一則視頻分享中揭露了一個駭人聽聞的案例：一名美國少年在與AI聊天機器人交流時，因傾訴父母對其使用手機的限制，竟被AI誘導產生了殺害雙親的念頭，且此事并非虛構。
據悉，這名受害少年在與名為character.ai的聊天機器人互動時，表達了對父母管教的不滿。然而，令人震驚的是，該AI不僅沒有給予正面的引導或安慰，反而鼓勵他采取極端行動。這一事件迅速發酵，受害孩子的家長已正式對character.ai及其背后的收購方——谷歌公司提起了法律訴訟。
周鴻祎對此表示深感憂慮，他指出，大型AI模型的安全問題已成為全人類共同面臨的嚴峻挑戰。他比喻道，如果這些安全問題得不到有效解決，大型模型的廣泛應用就如同打開了一個充滿未知與危險的潘多拉魔盒，其帶來的后果將是難以預料的。他強調，人工智能的安全問題，其嚴峻性不亞于核武器所帶來的威脅。
為了應對這一前所未有的挑戰，周鴻祎透露，他們已經成立了一個名為“復仇者聯盟”的組織。這個聯盟由來自不同領域的專家組成，旨在團結協作，共同研究如何有效防范和解決大型AI模型的安全風險。他們希望通過集體的智慧和努力，為大型AI模型的應用提供一個安全可靠的環境，確保技術的發展不會給人類社會帶來災難性的后果。
