界面新聞?dòng)浾?| 蔡星卓
界面新聞編輯 | 劉海川
2025年5月18日，孫儷工作室官方微博發(fā)布消息，稱工作室近日發(fā)現(xiàn)有部分網(wǎng)絡(luò)用戶在自媒體平臺(tái)發(fā)布與演員孫儷相關(guān)的虛假?gòu)V告宣傳視頻。
微博補(bǔ)充，此類虛假視頻通過(guò)技術(shù)合成的方式，把孫儷的形象和聲音制作成虛假采訪視頻為某些商家的產(chǎn)品進(jìn)行推薦。孫儷工作室警告此類虛假信息的發(fā)布者及傳播者，立即刪除全部虛假?gòu)V告視頻，并稱工作室已保全相關(guān)侵權(quán)內(nèi)容，將通過(guò)法律途徑嚴(yán)格追究相關(guān)責(zé)任方的法律責(zé)任。
近些年，互聯(lián)網(wǎng)平臺(tái)所涉及的虛假宣傳有愈演愈烈趨勢(shì)。2025年3月，北京互聯(lián)網(wǎng)法院召開(kāi)新聞發(fā)布會(huì)，通報(bào)建院以來(lái)涉網(wǎng)絡(luò)消費(fèi)虛假宣傳案件審理情況。通報(bào)稱，2018年至2025年2月底，該院共受理涉網(wǎng)絡(luò)消費(fèi)虛假宣傳案件6734件，案件數(shù)量整體呈上升態(tài)勢(shì)。另外，涉訴主體范圍廣泛，案件類型較為集中。在此背景之下，利用人工智能生成內(nèi)容（AIGC）進(jìn)行虛假宣傳更成為不可避免的關(guān)注焦點(diǎn)。
AI虛假宣傳，本質(zhì)是傳統(tǒng)交易下的衍生問(wèn)題
針對(duì)孫儷夫婦的案例，北京西東律師事務(wù)所律師杜明懷分析，雖然其虛假視頻由AI生成，在視覺(jué)等方面更為“逼真”，但本質(zhì)上還是涉及到個(gè)人肖像的使用問(wèn)題，以及網(wǎng)絡(luò)個(gè)人數(shù)據(jù)的保護(hù)問(wèn)題。他認(rèn)為，就法律法規(guī)層面來(lái)說(shuō)，AI虛假宣傳本質(zhì)上還是商家與消費(fèi)者之間發(fā)生的問(wèn)題。
杜明懷告訴界面新聞，從法律層面來(lái)說(shuō)，AI虛假宣傳首先是虛假宣傳，其次才考慮生成的方式。“本質(zhì)上，AI虛假宣傳是傳統(tǒng)模式交易衍生出來(lái)的新問(wèn)題，其涉及到以下幾個(gè)層面的法律法規(guī)。首先，AI虛假宣傳本質(zhì)上涉及到交易問(wèn)題，因此受制于《民法典》。其次，其涉及電子交易，因此還與《電子商務(wù)法》、《網(wǎng)絡(luò)交易監(jiān)督管理辦法》有關(guān)?？紤]到消費(fèi)者權(quán)益保護(hù)問(wèn)題，此類問(wèn)題還會(huì)涉及《消費(fèi)者權(quán)益保護(hù)法》、《反不正當(dāng)競(jìng)爭(zhēng)法》。另外，AI虛假宣傳可能還涉及到網(wǎng)絡(luò)安全與個(gè)人信息保護(hù)的問(wèn)題?！?/p>
不過(guò)，雖然AI虛假宣傳問(wèn)題處于虛假宣傳的大框架之下，其仍具有特殊性。以孫儷此次的事件為例，當(dāng)肖像遇上AI技術(shù)，其產(chǎn)生的問(wèn)題并不只涉及肖像本身，還涉及AI加工后新的數(shù)據(jù)產(chǎn)品?！霸趯O儷的案例中，權(quán)利主體主要有3方：孫儷本人、拍攝其原始素材的攝影師、虛假宣傳視頻的制作人（商家或廣告商）。而AI虛假宣傳涉及到的責(zé)任主體主要有AIGC平臺(tái)、AIGC平臺(tái)的使用人（即商家或廣告商）和互聯(lián)網(wǎng)平臺(tái)?！?/p>
杜明懷介紹，針對(duì)AIGC的具體規(guī)范，現(xiàn)行有2個(gè)相關(guān)規(guī)定。首先是《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》。該規(guī)定已經(jīng)2022年11月3日國(guó)家互聯(lián)網(wǎng)信息辦公室2022年第21次室務(wù)會(huì)議審議通過(guò)，并經(jīng)工業(yè)和信息化部、公安部同意，自2023年1月10日起施行，其中明確規(guī)范了深度合成內(nèi)容的數(shù)據(jù)和技術(shù)管理規(guī)范，以及監(jiān)督檢查與法律責(zé)任。
另外，杜明懷提到，2023年5月23日國(guó)家互聯(lián)網(wǎng)信息辦公室2023年第12次室務(wù)會(huì)會(huì)議審議通過(guò)《生成式人工智能服務(wù)管理暫行辦法》，自2023年8月15日起施行?！安贿^(guò)，這兩部法規(guī)都只對(duì)平臺(tái)作出規(guī)定，消費(fèi)者的權(quán)益還是要參照如《民法典》、《消費(fèi)者權(quán)益保護(hù)法》中的相關(guān)規(guī)定?！倍琶鲬蜒a(bǔ)充。
AI技術(shù)下的欺詐行為，為何更具迷惑性？
從2019年大衛(wèi)·貝克漢姆“說(shuō)”9國(guó)語(yǔ)言宣傳“瘧疾必死”，到2025年李在明“辱罵”妻子的深度偽造視頻在網(wǎng)絡(luò)流傳，隨著深度偽造技術(shù)（Deepfake）的發(fā)展，人們?cè)絹?lái)越驚嘆于AI的偽造能力，不法分子的騙術(shù)也不斷升級(jí)。
中南大學(xué)數(shù)字法治研究院兼職研究員、法原（杭州）科技有限公司總經(jīng)理汪承昊分析，AI技術(shù)在多個(gè)方面都加深了欺詐行為。“簡(jiǎn)單來(lái)說(shuō)，從過(guò)去的模擬信號(hào)時(shí)代到現(xiàn)在的數(shù)字信號(hào)時(shí)代，目前的技術(shù)已經(jīng)非常成熟了。從視覺(jué)層面來(lái)講，人們?cè)絹?lái)越難單純通過(guò)肉眼來(lái)分辨視頻是否真實(shí)。”
汪承昊向界面新聞介紹，AI技術(shù)在生物信息電子化方面進(jìn)行了強(qiáng)化，因此可以偽造出更逼真的面孔和聲音等。另外，人工智能技術(shù)還可以對(duì)欺詐的“劇本”設(shè)計(jì)進(jìn)行強(qiáng)化?！皩?shí)際上，這背后的原理是讓被欺騙者的大腦過(guò)載，注意力更加分散，從而更容易被欺騙?！?/span>
除此之外，在破壞網(wǎng)絡(luò)安全方面，AI也可以進(jìn)行輔助?！耙噪娫p為例，詐騙分子?！谌搿承┨?hào)段的電話號(hào)碼進(jìn)行詐騙，因?yàn)檫@些號(hào)段可以支持高并發(fā)呼入。”汪承昊認(rèn)為，詐騙是一個(gè)概率問(wèn)題，AI手段可以使詐騙電話更加批量化，從而在并發(fā)規(guī)模上提高詐騙的得逞數(shù)量。
AI時(shí)代，普通人應(yīng)該如何避免被欺詐？杜明懷認(rèn)為，個(gè)人信息如何被有效保護(hù)是一個(gè)關(guān)鍵問(wèn)題?！癆I時(shí)代最明顯的是大數(shù)據(jù)的使用問(wèn)題，一方面，基于個(gè)人數(shù)據(jù)的新的生成內(nèi)容，我們是不是有權(quán)利拒絕自己的數(shù)據(jù)被使用，或?qū)φl(shuí)使用了自己的數(shù)據(jù)保留知情權(quán)?！绷硪环矫妫琶鲬颜J(rèn)為，在AI的選擇之下，需要考慮個(gè)人是否可以拒絕接收到某些信息，或是保留選擇權(quán)。
不過(guò)，在汪承昊看來(lái)，技術(shù)的迅速發(fā)展下，消費(fèi)者并不會(huì)變得越來(lái)越弱勢(shì)。“即便很多創(chuàng)新行為極具爭(zhēng)議性，創(chuàng)新一直是被允許的。而犯罪層面的‘創(chuàng)新’屬于‘惡性創(chuàng)新’，最終都會(huì)被識(shí)別出來(lái)。近20年來(lái)，我國(guó)的比如網(wǎng)絡(luò)欺詐狀況是呈下降趨勢(shì)的，這說(shuō)明我們?cè)谙嚓P(guān)方面投入了足夠的社會(huì)成本?！?/span>
在法律法規(guī)存在不足的地方，杜明懷認(rèn)為，消費(fèi)者應(yīng)該調(diào)動(dòng)自己的積極性?！叭绻麄€(gè)人對(duì)現(xiàn)行的法律法規(guī)有不滿，可以積極地向立法機(jī)關(guān)或者其他相關(guān)部門(mén)去反映自己的訴求。特別是有一些新出臺(tái)的規(guī)定，我們可以多關(guān)注它，對(duì)不完善的地方提出建議，這也是每個(gè)人的權(quán)利?！?/span>