界面新聞記者 | 蔡星卓
界面新聞編輯 | 劉海川
2025年5月18日，孫儷工作室官方微博發(fā)布消息，稱工作室近日發(fā)現(xiàn)有部分網(wǎng)絡(luò)用戶在自媒體平臺發(fā)布與演員孫儷相關(guān)的虛假廣告宣傳視頻。
微博補充，此類虛假視頻通過技術(shù)合成的方式，把孫儷的形象和聲音制作成虛假采訪視頻為某些商家的產(chǎn)品進行推薦。孫儷工作室警告此類虛假信息的發(fā)布者及傳播者，立即刪除全部虛假廣告視頻，并稱工作室已保全相關(guān)侵權(quán)內(nèi)容，將通過法律途徑嚴格追究相關(guān)責任方的法律責任。
近些年，互聯(lián)網(wǎng)平臺所涉及的虛假宣傳有愈演愈烈趨勢。2025年3月，北京互聯(lián)網(wǎng)法院召開新聞發(fā)布會，通報建院以來涉網(wǎng)絡(luò)消費虛假宣傳案件審理情況。通報稱，2018年至2025年2月底，該院共受理涉網(wǎng)絡(luò)消費虛假宣傳案件6734件，案件數(shù)量整體呈上升態(tài)勢。另外，涉訴主體范圍廣泛，案件類型較為集中。在此背景之下，利用人工智能生成內(nèi)容（AIGC）進行虛假宣傳更成為不可避免的關(guān)注焦點。
AI虛假宣傳，本質(zhì)是傳統(tǒng)交易下的衍生問題
針對孫儷夫婦的案例，北京西東律師事務(wù)所律師杜明懷分析，雖然其虛假視頻由AI生成，在視覺等方面更為“逼真”，但本質(zhì)上還是涉及到個人肖像的使用問題，以及網(wǎng)絡(luò)個人數(shù)據(jù)的保護問題。他認為，就法律法規(guī)層面來說，AI虛假宣傳本質(zhì)上還是商家與消費者之間發(fā)生的問題。
杜明懷告訴界面新聞，從法律層面來說，AI虛假宣傳首先是虛假宣傳，其次才考慮生成的方式?！氨举|(zhì)上，AI虛假宣傳是傳統(tǒng)模式交易衍生出來的新問題，其涉及到以下幾個層面的法律法規(guī)。首先，AI虛假宣傳本質(zhì)上涉及到交易問題，因此受制于《民法典》。其次，其涉及電子交易，因此還與《電子商務(wù)法》、《網(wǎng)絡(luò)交易監(jiān)督管理辦法》有關(guān)?？紤]到消費者權(quán)益保護問題，此類問題還會涉及《消費者權(quán)益保護法》、《反不正當競爭法》。另外，AI虛假宣傳可能還涉及到網(wǎng)絡(luò)安全與個人信息保護的問題。”
不過，雖然AI虛假宣傳問題處于虛假宣傳的大框架之下，其仍具有特殊性。以孫儷此次的事件為例，當肖像遇上AI技術(shù)，其產(chǎn)生的問題并不只涉及肖像本身，還涉及AI加工后新的數(shù)據(jù)產(chǎn)品。“在孫儷的案例中，權(quán)利主體主要有3方：孫儷本人、拍攝其原始素材的攝影師、虛假宣傳視頻的制作人（商家或廣告商）。而AI虛假宣傳涉及到的責任主體主要有AIGC平臺、AIGC平臺的使用人（即商家或廣告商）和互聯(lián)網(wǎng)平臺?！?/p>
杜明懷介紹，針對AIGC的具體規(guī)范，現(xiàn)行有2個相關(guān)規(guī)定。首先是《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》。該規(guī)定已經(jīng)2022年11月3日國家互聯(lián)網(wǎng)信息辦公室2022年第21次室務(wù)會議審議通過，并經(jīng)工業(yè)和信息化部、公安部同意，自2023年1月10日起施行，其中明確規(guī)范了深度合成內(nèi)容的數(shù)據(jù)和技術(shù)管理規(guī)范，以及監(jiān)督檢查與法律責任。
另外，杜明懷提到，2023年5月23日國家互聯(lián)網(wǎng)信息辦公室2023年第12次室務(wù)會會議審議通過《生成式人工智能服務(wù)管理暫行辦法》，自2023年8月15日起施行?！安贿^，這兩部法規(guī)都只對平臺作出規(guī)定，消費者的權(quán)益還是要參照如《民法典》、《消費者權(quán)益保護法》中的相關(guān)規(guī)定。”杜明懷補充。
AI技術(shù)下的欺詐行為，為何更具迷惑性？
從2019年大衛(wèi)·貝克漢姆“說”9國語言宣傳“瘧疾必死”，到2025年李在明“辱罵”妻子的深度偽造視頻在網(wǎng)絡(luò)流傳，隨著深度偽造技術(shù)（Deepfake）的發(fā)展，人們越來越驚嘆于AI的偽造能力，不法分子的騙術(shù)也不斷升級。
中南大學數(shù)字法治研究院兼職研究員、法原（杭州）科技有限公司總經(jīng)理汪承昊分析，AI技術(shù)在多個方面都加深了欺詐行為。“簡單來說，從過去的模擬信號時代到現(xiàn)在的數(shù)字信號時代，目前的技術(shù)已經(jīng)非常成熟了。從視覺層面來講，人們越來越難單純通過肉眼來分辨視頻是否真實?！?/span>
汪承昊向界面新聞介紹，AI技術(shù)在生物信息電子化方面進行了強化，因此可以偽造出更逼真的面孔和聲音等。另外，人工智能技術(shù)還可以對欺詐的“劇本”設(shè)計進行強化?！皩嶋H上，這背后的原理是讓被欺騙者的大腦過載，注意力更加分散，從而更容易被欺騙。”
除此之外，在破壞網(wǎng)絡(luò)安全方面，AI也可以進行輔助。“以電詐為例，詐騙分子常‘黑入’某些號段的電話號碼進行詐騙，因為這些號段可以支持高并發(fā)呼入。”汪承昊認為，詐騙是一個概率問題，AI手段可以使詐騙電話更加批量化，從而在并發(fā)規(guī)模上提高詐騙的得逞數(shù)量。
AI時代，普通人應(yīng)該如何避免被欺詐？杜明懷認為，個人信息如何被有效保護是一個關(guān)鍵問題。“AI時代最明顯的是大數(shù)據(jù)的使用問題，一方面，基于個人數(shù)據(jù)的新的生成內(nèi)容，我們是不是有權(quán)利拒絕自己的數(shù)據(jù)被使用，或?qū)φl使用了自己的數(shù)據(jù)保留知情權(quán)?！绷硪环矫妫琶鲬颜J為，在AI的選擇之下，需要考慮個人是否可以拒絕接收到某些信息，或是保留選擇權(quán)。
不過，在汪承昊看來，技術(shù)的迅速發(fā)展下，消費者并不會變得越來越弱勢?！凹幢愫芏鄤?chuàng)新行為極具爭議性，創(chuàng)新一直是被允許的。而犯罪層面的‘創(chuàng)新’屬于‘惡性創(chuàng)新’，最終都會被識別出來。近20年來，我國的比如網(wǎng)絡(luò)欺詐狀況是呈下降趨勢的，這說明我們在相關(guān)方面投入了足夠的社會成本。”
在法律法規(guī)存在不足的地方，杜明懷認為，消費者應(yīng)該調(diào)動自己的積極性。“如果個人對現(xiàn)行的法律法規(guī)有不滿，可以積極地向立法機關(guān)或者其他相關(guān)部門去反映自己的訴求。特別是有一些新出臺的規(guī)定，我們可以多關(guān)注它，對不完善的地方提出建議，這也是每個人的權(quán)利?！?/span>