近期，據外媒報道，OpenAI正秘密資助一項旨在預測人類道德判斷的算法研究。這一消息在科技界引發了廣泛討論。
據悉，OpenAI通過其非營利組織OpenAI Inc.，向杜克大學的研究團隊提供了一筆高達100萬美元、為期三年的資助，用于探索道德人工智能的制造。該資助計劃被詳細記錄在提交給美國國稅局的文件中。
OpenAI的一位發言人證實了這一消息，并表示這是他們為推動人工智能道德發展所做出的努力之一。然而，關于這項研究的更多細節，包括其具體目標和進展，目前仍處于保密狀態，僅知該資助將于2025年結束。
杜克大學的實用倫理學教授Walter Sinnott-Armstrong是這項研究的首席研究員，但他拒絕透露更多信息。不過，據TechCrunch報道，Sinnott-Armstrong和他的同事Jana Borg已經在相關領域取得了一些成果。他們曾出版了一本書，探討了人工智能作為道德指南的可能性，并創建了一種算法來幫助決定腎臟捐贈的接受者。
這項研究的重點是訓練算法在涉及醫學、法律和商業等領域的道德沖突場景中預測人類的道德判斷。然而，這一任務面臨著巨大的挑戰。道德是一個復雜且主觀的概念，不同文化、宗教和哲學背景的人可能持有不同的道德觀念。
事實上，現代人工智能系統的工作原理是基于統計學的機器學習模型。它們通過訓練大量數據來識別模式并進行預測，但并不理解道德概念或道德決策背后的推理和情感。因此，人工智能往往會反映出訓練數據中的偏見，尤其是那些支持西方受過教育和工業化國家價值觀的觀點。
例如，艾倫人工智能研究所開發的Ask Delphi工具就展示了這一點。雖然它能夠在一些基本的道德困境中做出正確的判斷，但一旦問題被稍微改寫或重新措辭，它就可能批準幾乎任何事情，包括極端的道德錯誤。這凸顯了當前人工智能在道德判斷方面的局限性。
OpenAI及其資助的研究人員正試圖克服這些挑戰。然而，由于道德的主觀性和復雜性，以及缺乏一個普遍適用的倫理框架，這一任務變得尤為艱巨。不同的哲學家和倫理學家可能持有不同的觀點，這使得預測人類道德判斷變得更加困難。
盡管如此，OpenAI仍然堅持認為這項研究是有價值的。他們相信，通過不斷探索和改進算法，我們可以逐步接近一個更加道德和公正的人工智能未來。然而，這一目標的實現還需要時間和努力。
