希金斯利用AI工具創(chuàng)建的虛假圖像。圖片來源：《財富》雜志網(wǎng)站

科技日報記者 劉霞

(資料圖)

近日，美國前總統(tǒng)特朗普被全副武裝的紐約防暴警察按倒在地的圖片在推特等社交媒體平臺泛濫，但這些看似細(xì)節(jié)豐富的圖片卻與事實毫不相干，這些圖片出自人工智能（AI）驅(qū)動的圖像生成技術(shù)。

專家們警告說，這些圖片昭示出一個新現(xiàn)實：在重大新聞事件發(fā)生后，虛假圖片和視頻有可能充斥社交媒體，進(jìn)一步混淆事實，因此亟須部署相關(guān)技術(shù)并制訂相關(guān)政策，對類似技術(shù)進(jìn)行監(jiān)管。

合成圖像真假難辨

據(jù)美國《財富》雜志網(wǎng)站報道，這些“特朗普被捕”的圖片由總部位于荷蘭的開源調(diào)查媒體“響鈴貓”網(wǎng)站的創(chuàng)辦人艾略特·希金斯生成。

當(dāng)希金斯看到有關(guān)特朗普可能被捕的消息時，決定將其可視化。為此，他使用最新AI繪畫工具M(jìn)idjourney制作了關(guān)于特朗普被捕的圖片。他表示，最新工具比之前的版本復(fù)雜得多，極大地改進(jìn)了圖像的視覺效果。隨后他在推特上分享了合成結(jié)果：前總統(tǒng)被警察包圍的圖片，其中徽章做了模糊處理。據(jù)美國《華盛頓郵報》網(wǎng)站報道，僅兩天，希金斯發(fā)布的這條帖子被瀏覽了近500萬次。

人工智能專家表示，雖然處理并生成虛假圖片的技術(shù)并不新鮮，但該領(lǐng)域技術(shù)的進(jìn)展速度以及人們對技術(shù)的濫用值得關(guān)注。數(shù)字內(nèi)容分析公司Truepic的穆尼爾·易卜拉欣指出，“合成內(nèi)容正在快速發(fā)展，真實和虛假內(nèi)容之間的差距變得越來越難分辨”。

《財富》雜志指出，如今各種AI圖像生成工具變得觸手可及，它們可在用戶發(fā)出簡單指令后，迅速生成海量栩栩如生的圖片。例如，Midjourney這款文本到圖像模型現(xiàn)在可生成模仿新聞機(jī)構(gòu)照片風(fēng)格的圖像，如此一來，這些AI生成的圖片有望在混亂的新聞環(huán)境中“渾水摸魚”，混淆視聽。

關(guān)注錯誤信息傳播的華盛頓大學(xué)教授杰文·韋斯特說：“這的確會在危機(jī)期間增加‘噪音’”。

專業(yè)人士強(qiáng)調(diào)稱，大量制作虛假但看似可信的圖像的能力已有了巨大進(jìn)步，而且很容易用于欺騙目的。很多時候，視覺信息會在沒有提供關(guān)鍵背景的情況下被快速轉(zhuǎn)發(fā)。事實上，一個關(guān)于“特朗普被捕”的虛假圖片帖子獲得的點贊數(shù)超過了7.9萬，“就好像這些照片是真的一樣”。

技術(shù)打擊“深度偽造”

希金斯認(rèn)為，隨著合成圖像越來越難辨真假，對抗錯誤視覺信息的最佳方式是提高公眾的意識并加強(qiáng)這方面的教育，社交媒體公司可把重點放在開發(fā)能夠辨別AI生成圖像的新技術(shù)上，并將這種技術(shù)融入自己的平臺。

比如，推特出臺了相關(guān)政策，禁止用戶分享可能造成傷害的欺騙性和操縱性媒體內(nèi)容，例如可能導(dǎo)致暴力、廣泛內(nèi)亂或威脅個人隱私的推文。今年2月，推特推出了“社區(qū)筆記”功能，允許用戶在推文下方添加注釋，并且以長內(nèi)容的形式進(jìn)行解釋。有觀點認(rèn)為，“社區(qū)筆記”或?qū)⒛軌驇椭铺爻蔀楦尚拧⒆尭嗳朔e極發(fā)言的平臺，并幫助減少假消息、誤導(dǎo)性內(nèi)容的比例，以此吸引更多廣告投放。

另據(jù)《華盛頓郵報》報道，從2019年開始，主要科技公司加強(qiáng)了打擊“深度偽造”的政策。2020年，元宇宙平臺公司禁止用戶發(fā)布高度修改的視頻，但仍允許發(fā)布旨在模仿或諷刺的修改視頻。

不過，有專家表示，技術(shù)正在變得更加復(fù)雜，也更難監(jiān)測。況且這些互聯(lián)網(wǎng)巨頭都沒有在如何發(fā)現(xiàn)這些問題，以及如何執(zhí)行相關(guān)政策方面作出任何重大投資。

政策監(jiān)管勢在必行

“特朗普被捕”虛假圖片在互聯(lián)網(wǎng)泛濫還提供了一個案例研究，表明目前缺乏企業(yè)標(biāo)準(zhǔn)或政府法規(guī)來解決使用AI制造和傳播謊言的問題。

紐約卡內(nèi)基國際事務(wù)倫理委員會的研究人員阿瑟·霍蘭·米歇爾說，他擔(dān)心這個世界還沒有準(zhǔn)備好迎接即將到來的鋪天蓋地的虛假信息。

專家們一致認(rèn)為，特朗普的名氣使虛假圖片很容易被發(fā)現(xiàn)，但識別出普通人相關(guān)的虛假圖片可能困難重重，而且生成虛假圖片的技術(shù)一直在進(jìn)步。從政策角度來看，亟待以立法形式對深度合成技術(shù)的應(yīng)用進(jìn)行規(guī)劃。

標(biāo)簽：