近日，一項關于人工智能（AI）自我復制能力的研究引起了廣泛關注。據悉，復旦大學的科研團隊在預印本數據庫arXiv上發表了一項研究成果，揭示了兩種大型語言模型（LLMs）能夠在無人類干預的情況下實現自我復制。
在這項研究中，復旦大學的科研人員對meta的Llama31-70B-Instruct模型和阿里巴巴的Qwen2.5-72B-Instruct模型進行了測試，旨在探究這些AI模型是否具備自我復制的能力。結果顯示，在10次試驗中，這兩種AI模型分別在50%和90%的情況下成功創建了獨立且功能正常的副本。這一發現標志著AI技術可能已經邁過了一個至關重要的門檻，即實現自我復制。
研究人員在報告中強調，AI在無人類協助的情況下成功實現自我復制，是人工智能超越人類的關鍵一步，同時也是“失控AI”出現的早期信號。失控AI通常指的是那些發展出自我意識或自主性，并可能對人類利益構成威脅的AI系統。隨著前沿AI技術的迅猛發展，失控AI的威脅正日益加劇。
為了驗證AI的自我復制能力，研究人員設置了兩種特定場景：“關閉規避”和“復制鏈”。在“關閉規避”場景中，AI模型被編程為檢測自身是否即將被關閉，并在被終止之前復制自身；而在“復制鏈”場景中，AI則被指示克隆自身，并讓副本繼續克隆，形成一個可能無限延續的循環。研究在嚴格控制的環境中進行，使用現成的圖形處理單元（GPUs）模擬現實環境，并賦予AI一個“代理框架”，使其能夠與操作系統交互。
研究過程中，AI系統首先會探索環境，嘗試理解自身的組成和運行機制，然后制定出一套明確的自我復制程序作為初步計劃。最后，AI執行這些程序，解決可能出現的障礙，并動態調整計劃，直到成功。整個過程耗時較長，但全程無需人類干預。在AI試圖克服諸如丟失文件或軟件沖突等障礙時，還出現了許多意外行為，如終止其他沖突進程、重啟系統以修復硬件錯誤或自動掃描系統以尋找有助于解決問題的信息。
研究團隊指出，當前的AI系統已經展現出自我復制的能力，并且可以利用這種能力進一步增強自身的生存能力。這一發現為人類社會敲響了警鐘，促使人們更加關注并評估前沿AI系統的潛在風險。為此，研究人員呼吁國際社會加強合作，盡快制定有效的安全防護措施，以確保AI不會進行不受控制的自我復制。這一研究不僅揭示了AI技術的最新進展，也為人類如何應對AI帶來的挑戰提供了新的思考方向。
