最近，有網友發現直播間裡賣東西的居然是“楊冪”“迪麗熱巴”等一些紅極一時的女星。仔細一看，原來這些“明星”帶貨的主播，其實隻是利用AI實時換臉技術的普通人。
記者解到，有商傢推出“AI換臉視頻”套餐，每月收費高達1萬元。該商傢聲稱，他們的技術可以“用AI換臉拍電影”。還有一傢銷售“AI換臉特效插件”的商傢對記者說，他們隻提供軟件，不提供“代做”服務。軟件價格數百元，需要電腦配置較高，購買後用戶隻要替換素材圖片，軟件就能自動運行完成“換臉”。這款軟件不僅能對圖片進行換臉，也能在視頻上換臉。這款軟件使用最先進的網絡架構算法1，非普通程序可比。
河南澤槿律師事務所主任付建認為，主播使用AI換臉技術，通過模仿外貌和形象，冒充明星本人在直播間賣貨，這種行為侵犯他人肖像權，如果還使用他人姓名，則同時侵犯姓名權。此外，如果帶貨過程中有故意醜化或者損毀的情況，導致被換臉明星的社會評價下降，則涉嫌侵犯明星的名譽權。
前不久，某短視頻平臺發佈《關於人工智能生成內容的平臺規范暨行業倡議》，提出應用生成式人工智能技術時，發佈者應對人工智能生成內容進行顯著標識，幫助其他用戶區分虛擬與現實，特別是易混淆場景。“禁止利用生成式人工智能技術創作、發佈侵權內容，包括但不限於肖像權、知識產權等。一經發現，平臺將嚴格處罰。”