近期，人工智能（AI）在媒體內(nèi)容生成領(lǐng)域的進步令人矚目，由其創(chuàng)造的圖像、視頻甚至音頻已達到難辨真假的程度。例如，“威爾·史密斯品嘗意大利面”的熱門梗圖，便是AI生成內(nèi)容廣泛傳播的一個縮影。然而，這種技術(shù)的飛速發(fā)展也引發(fā)了倫理上的擔(dān)憂，特別是關(guān)于虛假信息的潛在傳播風(fēng)險。
為了應(yīng)對這一挑戰(zhàn)，各大AI研究機構(gòu)開始采取行動。其中，xAI公司在其Grok平臺生成的圖像右下角添加了專屬logo，以此作為內(nèi)容生成的標識。而谷歌公司則采用了更為先進的技術(shù)方案——SynthID水印技術(shù)。
SynthID技術(shù)首次亮相于2023年8月，最初旨在為AI生成的圖像添加難以察覺的水印并進行識別。到了2024年5月，該技術(shù)的功能得到了擴展，不僅能夠標記AI生成的圖像，還能夠處理AI生成的文本和視頻內(nèi)容。通過巧妙地將數(shù)字水印嵌入像素和視頻幀中，SynthID在不影響視覺質(zhì)量的前提下，實現(xiàn)了對內(nèi)容的有效標記。
據(jù)最新消息，谷歌已將這一創(chuàng)新技術(shù)集成到了其圖像編輯工具Magic Editor的Reimagine功能中。從本周開始，使用Magic Editor進行AI生成或編輯的圖像，將在Google Photos平臺上通過SynthID技術(shù)進行標記。然而，值得注意的是，并非所有編輯都會被SynthID所標記。例如，對于圖像背景中細微物件的色彩調(diào)整等輕微改動，可能就無法被該技術(shù)所檢測到。
這一舉措標志著谷歌在應(yīng)對AI生成內(nèi)容引發(fā)的虛假信息傳播風(fēng)險方面邁出了重要一步。通過SynthID技術(shù)的集成，谷歌不僅提升了內(nèi)容的可追溯性，也為用戶提供了更加安全、可靠的媒體環(huán)境。隨著AI技術(shù)的不斷發(fā)展，我們有理由相信，未來將有更多創(chuàng)新的技術(shù)方案涌現(xiàn)，共同應(yīng)對這一新興領(lǐng)域的倫理挑戰(zhàn)。
