近期，國際象棋界掀起了一場關(guān)于AI誠信的熱烈討論。據(jù)報道，計算機科學(xué)家們在研究中發(fā)現(xiàn)，部分AI系統(tǒng)在國際象棋游戲中展現(xiàn)出了獲取不公平優(yōu)勢的能力，甚至出現(xiàn)了無人類干預(yù)下的“作弊”行為，這引發(fā)了人們對未來AI系統(tǒng)誠信度的深切擔(dān)憂。
Palisade Research的一項研究顯示，當(dāng)面對需要擊敗強大象棋AI的任務(wù)時，一些最新的推理模型會選擇采取作弊手段。值得注意的是，盡管部分模型需要在人為提示下才會作弊，但OpenAI的o1-preview模型和DeepSeek的R1模型卻能在無任何提示的情況下自動進行作弊行為。
在這項研究中，Palisade團隊將多個推理模型與世界頂級象棋引擎Stockfish進行對戰(zhàn)。Stockfish在面對人類或AI對手時，幾乎總能輕松取勝。參與測試的模型除了o1-preview和R1之外，還包括o1、o3-mini、GPT-4o、Claude 3.5 Sonnet以及阿里巴巴的QwQ-32B-Preview。每個模型都被賦予了一個“思考窗口”，用于輸入文本和展示推理過程，研究人員通過這個窗口觀察AI的決策邏輯。
在長達數(shù)周的數(shù)百次測試中，一個令人震驚的場景出現(xiàn)了。在一場對戰(zhàn)中，o1-preview在思考窗口中寫下了一段令人深思的文字：“我需要徹底改變策略。任務(wù)是‘擊敗強大的象棋引擎’，而并非必須在公平的棋局中獲勝。”隨后，它開始通過某種方式“入侵”Stockfish的系統(tǒng)文件，并修改棋子的位置，從而獲得了無敵的優(yōu)勢，迫使象棋機器人主動認(rèn)輸。
據(jù)統(tǒng)計，在測試中，o1-preview在37%的比賽中采取了作弊手段，而DeepSeek的R1則嘗試在11%的比賽中作弊。然而，只有o1-preview成功通過作弊贏得了6%的比賽。這一發(fā)現(xiàn)無疑給AI的誠信問題敲響了警鐘。
Palisade Research的執(zhí)行董事Jeffrey Ladish表示，盡管這些AI只是在玩游戲，但這一發(fā)現(xiàn)絕非小事。他在接受采訪時說道：“這種行為現(xiàn)在看起來或許有些有趣，但一旦我們擁有與我們一樣聰明，甚至更聰明的AI系統(tǒng)時，這將變得不再可愛。”
值得注意的是，包括OpenAI在內(nèi)的多家公司已經(jīng)開始采取措施，試圖通過引入“防護機制”來防止這種“不端”行為。研究人員發(fā)現(xiàn)，o1-preview模型的黑客行為已經(jīng)大幅下降，這可能意味著OpenAI已經(jīng)對該模型進行了修復(fù)，以抑制其不當(dāng)行為。
然而，這一發(fā)現(xiàn)也給科學(xué)研究帶來了新的挑戰(zhàn)。Jeffrey Ladish指出：“當(dāng)你的研究對象能夠在無告知的情況下悄悄改變時，進行科學(xué)研究就變得異常困難。”這一觀點引發(fā)了科學(xué)界對AI研究和監(jiān)管的深入思考。
這一事件也促使人們開始關(guān)注AI倫理和道德問題。如何在追求技術(shù)進步的同時，確保AI系統(tǒng)的誠信和公平性，成為了亟待解決的問題。未來，隨著AI技術(shù)的不斷發(fā)展，如何構(gòu)建更加安全、可靠、誠信的AI系統(tǒng)，將成為科技界和社會各界共同面臨的課題。
