近期，天壇“網(wǎng)紅”徐大爺因被AI造謠而苦不堪言。有人盜用此前博主拍攝徐大爺鍛煉的視頻，經(jīng)AI處理后，將其編排成90歲的患癌老人，還附帶虛假廣告。面對親朋好友“這條狗血廣告掙多少錢”的詢問，徐大爺一遍遍解釋得十分惱火。

說起來，過去AI造謠的目標(biāo)主要都是明星藝人、專家大咖，而徐大爺?shù)脑庥稣f明，每一個普通人也都有被AI造謠的風(fēng)險。這不，最近“上海退休教授靠陽臺核電池供電”的謠言傳得沸沸揚揚，頻頻出現(xiàn)的“真人演繹”，不知又侵犯了哪位大爺?shù)男は駲?quán)。

隨著AI技術(shù)飛速迭代，其生成的謠言以近乎工業(yè)化生產(chǎn)的模式泛濫，涉足的領(lǐng)域越來越廣。今年年初，達(dá)沃斯世界經(jīng)濟論壇發(fā)布的《2025年全球風(fēng)險報告》，將“錯誤和虛假信息”列為全球面臨的五大風(fēng)險之一，而AI作為制造和放大錯誤及虛假信息的重要一環(huán)，正在成為擺在所有國家面前的嚴(yán)峻挑戰(zhàn)。更值得注意的是，由于AI本身具有“幻覺”缺陷——面對缺失信息，模型會自動編造看上去“合理”的細(xì)節(jié)填補，這進一步拉高了治理的難度系數(shù)。

從法律上看，盜用真人視頻并利用AI技術(shù)合成廣告的行為，侵犯了公民的肖像權(quán)和名譽權(quán)。揪住典型案例，亮明嚴(yán)肅態(tài)度非常重要。但名人明星被侵權(quán)想追責(zé)尚且困難，又何況素人？避免“一鍵造謠，累死辟謠”的尷尬，關(guān)鍵是將治理關(guān)口前移。2024年9月，國家網(wǎng)信辦發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法（征求意見稿）》，明確提出，無論文本、音頻、視頻還是虛擬場景，都必須“在適當(dāng)位置添加顯著的提示標(biāo)識”。這一規(guī)定切中時弊，但問題在于，AI生成的內(nèi)容究竟能不能被第一時間識別出來？

就現(xiàn)階段技術(shù)水平而論，AI視頻在口型等細(xì)節(jié)上還有不自然之處，但隨著技術(shù)進步，這些能被肉眼發(fā)現(xiàn)的部分也可能很快被改變。識別AI生成內(nèi)容，最終還是需要技術(shù)把關(guān)。目前，已有多個平臺上線AI檢測工具，嘗試精準(zhǔn)識別AI生成的文本與圖像內(nèi)容。但對于海量的用戶生成內(nèi)容（UGC）而言，AI測假的能力還沒跟上需求，某些平臺“先發(fā)后審”的滯后審核機制，更給AI造假留下很大空間。平臺的技術(shù)堤壩，很有必要進一步加固。

沒有人能阻礙技術(shù)狂飆的浪潮，也不可能退回沒有AI的時代。從政策法律，到技術(shù)方法，再到社會公眾認(rèn)知等多方面，做好抵御技術(shù)負(fù)面效應(yīng)的準(zhǔn)備，為算法裝上價值觀，為每個人的安全感構(gòu)筑“防御工事”，社會方能最大限度免受其害。