界面新聞記者 | 蔡星卓
界面新聞編輯 | 劉海川
2025年5月18日，孫儷工作室官方微博發(fā)布消息，稱工作室近日發(fā)現(xiàn)有部分網絡用戶在自媒體平臺發(fā)布與演員孫儷相關的虛假廣告宣傳視頻。
微博補充，此類虛假視頻通過技術合成的方式，把孫儷的形象和聲音制作成虛假采訪視頻為某些商家的產品進行推薦。孫儷工作室警告此類虛假信息的發(fā)布者及傳播者，立即刪除全部虛假廣告視頻，并稱工作室已保全相關侵權內容，將通過法律途徑嚴格追究相關責任方的法律責任。
近些年，互聯(lián)網平臺所涉及的虛假宣傳有愈演愈烈趨勢。2025年3月，北京互聯(lián)網法院召開新聞發(fā)布會，通報建院以來涉網絡消費虛假宣傳案件審理情況。通報稱，2018年至2025年2月底，該院共受理涉網絡消費虛假宣傳案件6734件，案件數(shù)量整體呈上升態(tài)勢。另外，涉訴主體范圍廣泛，案件類型較為集中。在此背景之下，利用人工智能生成內容（AIGC）進行虛假宣傳更成為不可避免的關注焦點。
AI虛假宣傳，本質是傳統(tǒng)交易下的衍生問題
針對孫儷夫婦的案例，北京西東律師事務所律師杜明懷分析，雖然其虛假視頻由AI生成，在視覺等方面更為“逼真”，但本質上還是涉及到個人肖像的使用問題，以及網絡個人數(shù)據(jù)的保護問題。他認為，就法律法規(guī)層面來說，AI虛假宣傳本質上還是商家與消費者之間發(fā)生的問題。
杜明懷告訴界面新聞，從法律層面來說，AI虛假宣傳首先是虛假宣傳，其次才考慮生成的方式?！氨举|上，AI虛假宣傳是傳統(tǒng)模式交易衍生出來的新問題，其涉及到以下幾個層面的法律法規(guī)。首先，AI虛假宣傳本質上涉及到交易問題，因此受制于《民法典》。其次，其涉及電子交易，因此還與《電子商務法》、《網絡交易監(jiān)督管理辦法》有關?？紤]到消費者權益保護問題，此類問題還會涉及《消費者權益保護法》、《反不正當競爭法》。另外，AI虛假宣傳可能還涉及到網絡安全與個人信息保護的問題。”
不過，雖然AI虛假宣傳問題處于虛假宣傳的大框架之下，其仍具有特殊性。以孫儷此次的事件為例，當肖像遇上AI技術，其產生的問題并不只涉及肖像本身，還涉及AI加工后新的數(shù)據(jù)產品?！霸趯O儷的案例中，權利主體主要有3方：孫儷本人、拍攝其原始素材的攝影師、虛假宣傳視頻的制作人（商家或廣告商）。而AI虛假宣傳涉及到的責任主體主要有AIGC平臺、AIGC平臺的使用人（即商家或廣告商）和互聯(lián)網平臺?！?/p>
杜明懷介紹，針對AIGC的具體規(guī)范，現(xiàn)行有2個相關規(guī)定。首先是《互聯(lián)網信息服務深度合成管理規(guī)定》。該規(guī)定已經2022年11月3日國家互聯(lián)網信息辦公室2022年第21次室務會議審議通過，并經工業(yè)和信息化部、公安部同意，自2023年1月10日起施行，其中明確規(guī)范了深度合成內容的數(shù)據(jù)和技術管理規(guī)范，以及監(jiān)督檢查與法律責任。
另外，杜明懷提到，2023年5月23日國家互聯(lián)網信息辦公室2023年第12次室務會會議審議通過《生成式人工智能服務管理暫行辦法》，自2023年8月15日起施行?！安贿^，這兩部法規(guī)都只對平臺作出規(guī)定，消費者的權益還是要參照如《民法典》、《消費者權益保護法》中的相關規(guī)定?！倍琶鲬蜒a充。
AI技術下的欺詐行為，為何更具迷惑性？
從2019年大衛(wèi)·貝克漢姆“說”9國語言宣傳“瘧疾必死”，到2025年李在明“辱罵”妻子的深度偽造視頻在網絡流傳，隨著深度偽造技術（Deepfake）的發(fā)展，人們越來越驚嘆于AI的偽造能力，不法分子的騙術也不斷升級。
中南大學數(shù)字法治研究院兼職研究員、法原（杭州）科技有限公司總經理汪承昊分析，AI技術在多個方面都加深了欺詐行為?！昂唵蝸碚f，從過去的模擬信號時代到現(xiàn)在的數(shù)字信號時代，目前的技術已經非常成熟了。從視覺層面來講，人們越來越難單純通過肉眼來分辨視頻是否真實?！?/span>
汪承昊向界面新聞介紹，AI技術在生物信息電子化方面進行了強化，因此可以偽造出更逼真的面孔和聲音等。另外，人工智能技術還可以對欺詐的“劇本”設計進行強化?！皩嶋H上，這背后的原理是讓被欺騙者的大腦過載，注意力更加分散，從而更容易被欺騙?！?/span>
除此之外，在破壞網絡安全方面，AI也可以進行輔助?！耙噪娫p為例，詐騙分子?！谌搿承┨柖蔚碾娫捥柎a進行詐騙，因為這些號段可以支持高并發(fā)呼入?！蓖舫嘘徽J為，詐騙是一個概率問題，AI手段可以使詐騙電話更加批量化，從而在并發(fā)規(guī)模上提高詐騙的得逞數(shù)量。
AI時代，普通人應該如何避免被欺詐？杜明懷認為，個人信息如何被有效保護是一個關鍵問題?！癆I時代最明顯的是大數(shù)據(jù)的使用問題，一方面，基于個人數(shù)據(jù)的新的生成內容，我們是不是有權利拒絕自己的數(shù)據(jù)被使用，或對誰使用了自己的數(shù)據(jù)保留知情權。”另一方面，杜明懷認為，在AI的選擇之下，需要考慮個人是否可以拒絕接收到某些信息，或是保留選擇權。
不過，在汪承昊看來，技術的迅速發(fā)展下，消費者并不會變得越來越弱勢?！凹幢愫芏鄤?chuàng)新行為極具爭議性，創(chuàng)新一直是被允許的。而犯罪層面的‘創(chuàng)新’屬于‘惡性創(chuàng)新’，最終都會被識別出來。近20年來，我國的比如網絡欺詐狀況是呈下降趨勢的，這說明我們在相關方面投入了足夠的社會成本。”
在法律法規(guī)存在不足的地方，杜明懷認為，消費者應該調動自己的積極性?！叭绻麄€人對現(xiàn)行的法律法規(guī)有不滿，可以積極地向立法機關或者其他相關部門去反映自己的訴求。特別是有一些新出臺的規(guī)定，我們可以多關注它，對不完善的地方提出建議，這也是每個人的權利?！?/span>