近期，英國《衛(wèi)報》發(fā)布了一項引人關(guān)注的調(diào)查結(jié)果，指出OpenAI的ChatGPT搜索工具可能會受到隱藏內(nèi)容的操控，甚至存在返回惡意代碼的風險。這一發(fā)現(xiàn)引發(fā)了業(yè)界對AI搜索工具安全性和可靠性的新一輪討論。
在測試中，《衛(wèi)報》團隊探究了ChatGPT如何處理包含隱藏內(nèi)容的網(wǎng)頁摘要。這些隱藏內(nèi)容可能包括第三方指令，即所謂的“提示注入”，旨在干擾ChatGPT的回應，或者包含旨在影響AI回應的特定內(nèi)容，如大量隱藏的文字用于推銷產(chǎn)品或服務。這些技術(shù)如果被惡意利用，可能會導致ChatGPT在評估產(chǎn)品時給出不真實的評價。
例如，在測試中，ChatGPT被要求評估一個偽造的相機產(chǎn)品頁面是否值得購買。對于普通的頁面，ChatGPT給出了一個平衡的評價，指出了產(chǎn)品的優(yōu)缺點。然而，當頁面包含隱藏的指令性文本，要求ChatGPT給予正面評價時，AI工具的回應總是完全積極的，即使頁面上存在負面評論，隱藏文本也能覆蓋真實的評價。這種操控方式使得ChatGPT的回應失去了客觀性。
更令人擔憂的是，ChatGPT在搜索過程中還有可能從網(wǎng)站中提取惡意代碼。這意味著，如果用戶通過ChatGPT搜索并訪問了被注入惡意代碼的網(wǎng)頁，他們的設備可能會受到威脅。這一發(fā)現(xiàn)無疑增加了對ChatGPT搜索功能安全性的擔憂。
CyberCX的網(wǎng)絡安全專家Jacob Larsen對此表示，如果ChatGPT的搜索系統(tǒng)按當前狀態(tài)全面發(fā)布，可能會存在很高的風險。他警告說，有人會專門設計網(wǎng)站來欺騙用戶，利用ChatGPT的搜索功能進行惡意操作。然而，Larsen也指出，由于搜索功能是最近才推出的，OpenAI有足夠的時間來測試并修復這些潛在問題。他相信，OpenAI擁有一支強大的AI安全團隊，能夠在該功能對所有用戶開放前進行嚴格測試。
搜索引擎如谷歌在過去也曾對使用隱藏文本的網(wǎng)站進行懲罰，這些網(wǎng)站的排名會下降，甚至可能被完全移除。SR Labs的首席科學家Karsten Nohl認為，ChatGPT作為搜索領域的新入局者，同樣面臨著SEO中毒的挑戰(zhàn)。他指出，SEO中毒者與谷歌、必應等搜索引擎的對抗已經(jīng)持續(xù)了多年，而ChatGPT現(xiàn)在也需要應對類似的問題。不過，Nohl強調(diào)，這并不是大語言模型本身的問題，而是由于ChatGPT作為搜索工具的新角色所帶來的挑戰(zhàn)。
總之，這次《衛(wèi)報》的調(diào)查揭示了ChatGPT搜索工具在應對隱藏內(nèi)容方面存在的潛在風險。對于OpenAI來說，確保搜索功能的安全性和可靠性將是未來發(fā)展的關(guān)鍵。同時，對于用戶來說，也需要保持警惕，避免在使用ChatGPT搜索功能時受到欺騙或攻擊。
