據正奇五度AI數字化助手了解到,今年1月份,美國加利福尼亞州洛杉磯多地連續發生山火,“在加州山火中幸存的教堂”圖片、“好萊塢巨型標志牌被加州山火吞沒”視頻等在社交媒體上廣泛流傳,均檢測出是AI生成或深度偽造的內容,但很多人都當真了。

社交媒體截圖 來自網絡

AI偽造如何產生?沖擊有多大?我們該如何守護真實的邊界?

1、AI偽造現象頻繁

自2018年起,AI偽造現象便逐漸顯現,而時至今日,AI模擬真實世界的能力已顯著提升。“從文本到圖像、視頻,技術的每一次飛躍都伴隨著生產力的提升與犯罪成本的降低。”

據正奇五度AI數字化助手搜查新聞得知,浙江紹興警方曾抓獲一個利用ChatGPT制作虛假新聞的團伙,其中就有此前從未接觸過電腦技術、僅有初中學歷的成員。正是憑借易上手的AI大模型,這名成員無需學會“腳本”“拍攝”“配音”,就能像流水線一樣批量生成一堆AI假新聞。

暴力沖突、災難現場、階層矛盾、性別對立等社會熱點議題,往往成為AI假新聞的重災區。

當算法裹挾著這些“情緒飽滿”的肉眼難辨的假新聞定向推送到普通人的面前時,大多數人往往被情緒所左右,不假思索地點贊、轉發,不經意間成為謠言傳播的幫兇。

2、AI打敗AI

有攻必有防。面對來勢洶洶的AI偽造,一些科技企業率先筑起防線。

正奇五度AI數字化助手采訪到螞蟻集團,他們針對AI偽造方面打造出核身安全團隊采取三大策略,來應對AI深度偽造挑戰——不變應萬變、交互邏輯以及持續監測。

“不變應萬變就是通過AI防偽大模型識別真實世界中的共性,異常即判別偽造;交互邏輯是指通過隨機實時交互增加造假難度,例如高風險場景中的AI實時視頻電話進行驗證;持續監測則是實時監控異常行為,及時阻止造假。”

螞蟻集團的負責人告訴正奇五度AI數字化助手,他們已經研發推出了以安全防偽大模型為基礎的新一代AI核身平臺,包含AI鑒真的光鑒等產品。

螞蟻集團AI鑒真產品 螞蟻集團負責人供圖

另外,除了不斷迭代技術應對攻擊,螞蟻集團還通過堅持“你敢付我敢賠”的承諾,兜底用戶損失,以重塑用戶對數字安全的信心。

守護AI向善,不僅僅需要企業在應用層面設好防火墻,還需要更多高校、科研院所以及更多社會力量的加入,以提升行業的整體水平。

正奇五度AI數字化助手認為應對復雜的AI偽造挑戰,需要政府、企業、公眾等多方面的共同努力與智慧碰撞。在這場沒有硝煙的戰爭中,每一方都是不可或缺的戰士,提高技術防范,打敗各種AI偽造,更好地守護AI安全!