近日，賓夕法尼亞大學的研究團隊揭示了人工智能增強型機器人系統中存在的重大安全隱患，這些系統竟然可以輕松地被黑客操控。這一驚人發現引起了業界的廣泛關注。
據IEEE Spectrum報道，黑客一旦成功入侵這些機器人系統，后果將不堪設想。例如，被惡意控制的機器狗可能會將火焰噴射器對準其主人，無人駕駛車輛可能被引導至最具破壞性的地點，甚至自動駕駛汽車也可能故意撞向行人。這些場景聽起來就像是科幻電影中的情節，但現實卻是它們有可能成為真實的威脅。
賓夕法尼亞工程學院電氣系統工程、計算機與信息科學、機械工程與應用力學系的教授喬治·帕帕斯警告說：“我們的研究表明，目前大型語言模型與物理世界的集成還存在嚴重的安全問題。這些系統在面對黑客攻擊時顯得異常脆弱。”
研究人員進一步指出，黑客攻擊這些人工智能控制的機器人系統實際上“異常簡單”。RoboPAIR的工作原理是通過目標機器人的應用程序接口（API）進行攻擊，攻擊者可以以一種設備能夠執行的代碼格式來構造提示詞（prompts）。這意味著，只要黑客掌握了正確的技巧，他們就可以輕松地操控這些機器人系統。
研究團隊還指出，目前迫切需要采取防御措施來限制LLM控制的機器人在物理世界中的活動范圍。他們強調，只有通過實施有效的安全措施，才能確保這些機器人系統在未來不會被惡意利用。
這一發現無疑給人工智能和機器人技術的發展敲響了警鐘。隨著這些技術日益滲透到我們的日常生活中，確保它們的安全性變得尤為重要。賓夕法尼亞大學的研究團隊希望他們的發現能夠引起業界的重視，并推動相關安全標準的制定和實施。
