AI偽造圖騙“僅退款”事件頻發，國家反詐中心App上線AI內容鑒定功能，能否遏制造假式索賠？

　　網購時遇到商品存在問題，拍張照片申請售后，是消費者維權的正常流程。然而近期，不少電商商家反映，買家發來的“破裂手機殼”“枯萎植物”售后圖片，乍看像那么回事，實際上卻是AI偽造出來的“問題圖片”。

　　如今AI技術的迅猛發展讓圖像造假門檻大幅降低，“有圖有真相”變得不再牢靠。用戶上傳一張原始照片，輸入兩行指令，新鮮的水果就發霉變質。一張假圖就能輕松申請僅退款，不退貨白拿商品，這種新型薅羊毛手段，讓不少商家叫苦不迭。

　　近日，國家反詐中心App正式上線AI內容鑒定功能，用AI技術對圖像、視頻等內容進行識別檢測，以應對當下泛濫的AI換臉、偽造圖片視頻等新型詐騙手段，這則消息很快沖上熱搜，引發廣泛關注。用AI治理惡意AI，如何做到？效果如何？

　　河北辛集市的張先生(化名)，是一名無花果樹種植戶，上個月他把店開到了某直播電商平臺，售賣無花果苗。然而，僅僅賣出去12單，他就收到了一份“僅退款”申請，對方的理由是收到的無花果苗已干枯死亡，隨申請附上的，是一張葉片全黃、毫無生機的果苗圖片。張先生滿心疑惑，自己明明是帶盆發貨，兩天時間果苗怎么會完全枯死？

　　張先生：直播選的苗，他選了一棵特別健壯的。我是帶盆發貨的，發貨之前也會保證土壤濕潤的。發貨到客戶收到就兩天時間，它苗在里邊不可能干到顏色枯黃。那樣缺水枯黃的話，至少要5天到7天。

　　憑借多年種植經驗，張先生找出了圖片中的破綻：如果是真的失水，就是運輸途中有問題的話，葉子是不會展開的，應該是皺而且下垂的。圖片枯萎死亡的狀態完全是正常植物的葉片狀態改成枯黃的顏色做的，稍微有點經驗的人都能看出來。

　　張先生斷定，這就是AI造假。他隨即駁回了申請，并聯系買家退貨退款，但買家直接申請了平臺介入。盡管張先生據理力爭，平臺還是依據顧客發來的這張圖片，幾分鐘內就批準了“僅退款”申請。最終，這筆45元的訂單，讓張先生直接啟動退店流程，不再在該平臺賣苗。

　　記者調查發現，張先生的遭遇并非個例。在社交平臺上，不少商家現身說法，講述自己見過的AI偽造售后圖片。五只衣架在同一位置整齊斷裂、塑料手機殼斷裂邊緣出現毛刺、手串破碎后呈空心殼狀……記者梳理多位商家曬出的疑似AI造假圖發現，這些圖片雖然乍看逼真，但細看卻漏洞百出，存在邏輯硬傷。

　　在AI生成圖像泛濫的當下，如何精準鑒別真偽已成為繞不開的現實問題。近期，國家反詐中心App正式上線了AI內容鑒定功能，該功能支持圖像、視頻等內容的AI識別檢測。與此同時，各互聯網平臺也在積極布局AI鑒真工具。螞蟻安全內容視覺算法負責人蘭鈞表示，應對AI造假，核心在于“以AI治AI”。

　　螞蟻安全內容視覺算法負責人蘭鈞：檢測方法由兩部分組成，一部分會有小模型來學習AIGC模型它生成內容的模式，基于大量的內容進行學習和訓練，然后來進行判斷。另外會用大模型來關注內容的本身，看內容上有沒有一些物理的瑕疵，可能文字有沒有亂碼；我們也會看它的邏輯語義上的問題，可能會出現小狗在唱歌這種不符合邏輯的問題。最終小模型和大模型結合一起來進行判斷。

　　記者在網絡上隨機選取了十張商家宣稱的疑似AI生成“售后圖”，上傳國家反詐中心App及多個AI鑒真工具，結果無一例外，均被系統判定為“圖像含AI生成痕跡”。張先生提供的干枯無花果圖片，也被系統認定“圖像含AI生成痕跡”。與之相對比，記者上傳一張自己隨手拍攝的照片，系統則提示“未檢測到合成痕跡”。

　　蘭鈞表示，他們的鑒真工具在業務場景中可實現 “萬分之一打擾率、九成以上召回率”，也就是幾乎不誤傷真實內容，又能較為精準識別AI造假內容。

　　蘭鈞：我們希望它不能打擾到用戶，不要出現誤識別，真正AIGC的內容，要把它盡量召回。用戶或者商家可以嘗試外部的一些AI鑒真工具，來輔助進行判斷。對于目前的這種AIGC的技術生成的內容還是比較有效的。

　　北京郵電大學互聯網治理與法律研究中心主任謝永江表示，AI偽造圖片騙取退款的行為，本質是民事欺詐，若不及時遏制，將威脅電子商務的正常秩序與健康發展。AI鑒真工具能大幅降低商家的辨別成本，既能震懾不法分子，也能作為商家與平臺交涉、維護自身權益的有力證據。

　　監制丨劉黎

　　記者丨譚瑱

　　來源：中央廣播電視總臺中國之聲