您的位置：首頁 >科技 >

識別AI造假，只靠網友眼尖？

2025-03-14 15:38:32 來源：新華網

來源標題：識別AI造假，只靠網友眼尖?

3月3日，著名演員劉曉慶通過微博澄清，微信視頻號“曉慶人生”并非她的賬號，直言相關賬號“畫面是我，聲音很像我”。上海辟謠平臺初步調查發現，相關賬號使用AI技術，生成劉曉慶的聲音、視頻等。截至發稿，該賬號已經不可見。

但是，類似使用AI技術“傍名人”的帖子在社交平臺還有很多。演員靳東、醫生張文宏、企業家雷軍等，都曾被“AI造假”。造假者手段百出，或覬覦名人光環吸引流量增加粉絲，或假借名人形象、語音帶貨牟利，更有不法分子用AI數字人炮制詐騙陷阱，利用公眾對名人的信任騙取錢財。

值得注意的是，社交平臺的AIGC(人工智能生成內容)不止于“傍名人”。很多服務行業、自媒體越發頻繁使用AIGC為自己“添光”，有些場景的AIGC更是讓觀看者真假難辨。比如，在餐飲、設計、攝影等行業，用AI照片取代實景照片的現象越來越普遍。商家用這些技術生成的美圖、美景招攬顧客。商家造假成本越來越低，效果卻很好，普通人幾乎難辨真偽。

再比如，社交平臺的分享等板塊，美輪美奐的城市風光、鬼斧神工的自然景致讓網友心潮澎湃。可當滿心期待的網友向發布者追問具體地點時，得到的往往是沉默。直至有眼尖的網友一語道破天機：這些“照片”大概率是AI虛構的，發布者自然無法給出真實地址。

面對AIGC滲透到生活的方方面面，如果只是提醒觀看者提高警惕、加以辨別，不足以從根本上解決問題。對很多并不了解AI等新技術的網友來說，更是不可能完成的任務。

所以，要解決AIGC充斥網絡的問題，必須從源頭上采取舉措。

一方面，相關平臺必須正視目前AIGC充斥網絡的現狀，直面平臺自己的問題，而不是一味將責任推卸給發布者。不難發現，一些商家、自媒體之所以熱衷于AIGC，是因為這些內容能夠躲過平臺的審核機制，以“真實”的形象出現在社交平臺上，甚至利用平臺現有算法，為它們的擴散獲得機會。

以“傍名人”類AIGC為例，不法分子利用名人效應吸引眼球，與此同時，平臺也成為名人效應的受益者。所以，“傍名人”的現象層出不窮，平臺做的卻只是“賬號被舉報甚至被官方查處后才封號”的事后管理，而沒有從發布伊始就拒絕相關虛假信息。

再比如，AIGC之所以出現在“分享”板塊中，與傳統算法不辨真偽有關。傳統算法過度聚焦用戶即時反響，單純依據互動量等指標推薦內容，卻忽視了AIGC帶來的虛假性問題，反而為虛假內容擴散大開綠燈。

要解決以上問題，必須有的放矢，精準施策。

首當其沖的是名人賬號監管亟待強化。名人作為公眾焦點，一旦賬號被盜用、造假，危害深遠。所以，平臺應該構建更加嚴格的名人賬號認證體系，確保賬號創建與運營的真實性。

其實，現有的很多技術已經可以幫上忙，比如通過面部動態識別、聲紋加密比對等生物技術手段，判斷是“真人”還是“數字人”;或者用最簡單的方式——人工審核，加大對各種冠以名人名號的賬號審查，發現“傍名人”“假名人”后立刻下架，將負面影響扼殺在萌芽狀態。

其次，給AIGC打上技術“烙印”勢在必行。AI生成的文字、圖片、視頻混雜在信息流中，普通用戶很難憑肉眼甄別。指望造假者主動標注，也無異于與虎謀皮。所以，大模型開發者等提供AIGC服務的企業有必要與信息發布平臺聯手，用技術手段為AIGC生成人眼不可識別但技術能夠鑒定的“隱形標簽”、特殊標志。這樣一來，只要用戶在平臺上發布AIGC，平臺就能自動識別，并添加水印、標簽，注明“AI制造”身份，既讓用戶在瀏覽時心中有數，避免被虛假信息誤導，也便于后續的內容追溯與管理。對于故意隱匿AIGC標志、企圖魚目混珠的發布者，則可以施以懲罰，如限流、封禁賬號等，以儆效尤。

最后，針對那些缺乏關鍵要素卻博人眼球的信息，平臺可以要求發布者補充關鍵信息;若發布者無法按照要求完成，則可以采取公開提示、流量限制、封號清退等方式，督促發布者上傳真實信息。

更進一步，法律法規也要快步跟上AIGC的“狂飆”速度。相關部門應加快制定針對AI造假、虛假信息傳播的法律法規，明確造假者、平臺方、傳播者等各方的責任邊界。對利用AI實施詐騙等違法犯罪行為嚴懲不貸，震懾不法之徒;對平臺疏于管理導致虛假信息泛濫的情況，以巨額罰款倒逼平臺守土有責。

標簽：

識別AI造假，只靠網友眼尖？

精彩閱讀

熱點文章

推薦文章