近期，一系列涉及AI深度合成技術的濫用事件引起了廣泛關注。據報道，從對企業家雷軍的惡搞，到冒充張文宏醫生音視頻進行帶貨，不法分子正利用這一技術實施詐騙，社會影響惡劣。
據央視新聞報道，過去一年中，AI深度合成音視頻侵權現象日益猖獗。例如，有網友曾利用AI技術合成劉德華的聲音，以此吸引流量，劉德華的電影公司也不得不發布聲明，警告公眾警惕此類偽造聲音的騙局。
調查發現，制作AI深度合成音視頻并非難事。在一些購物平臺上，AI深度合成技術已成為網店牟利的工具。消費者只需支付幾十元，即可定制名人音視頻，這一服務無疑加劇了侵權行為的蔓延。
在購物平臺上搜索，可以發現AI技術還支持聲音克隆定制，不僅在語言情感和語境上有操作空間，甚至還能模擬各種方言。這一技術的廣泛應用，無疑為不法分子提供了更多可乘之機。
對此，專家指出，相關法律法規已明確規定，未經授權，不得深度合成制作發布他人信息。網店接單制作名人視頻的行為，已構成侵權，并應承擔相應的法律責任。事實上，國內已經審結了首例AI生成聲音人格權侵權案。在這起案件中，一名配音演員的聲音被未經授權地AI生成并出售，法院最終認定被告行為構成侵權。
該案中，法院認為，根據我國的民法典，自然人的聲音被視為一種人格權益，具有人身專屬性。因此，任何未經授權的使用都構成侵權。這一判決無疑為打擊AI深度合成技術的濫用行為提供了有力的法律支持。
隨著AI技術的不斷發展，其帶來的潛在風險也日益凸顯。如何平衡技術創新與法律保護，成為亟待解決的問題。社會各界應共同努力，加強監管和自律，確保技術的健康發展。
