細思極恐！AI已經能合成難辨真假的人臉圖，可信度甚至超越真實臉孔

據(jù)《每日郵報》報道，近日有一項令人擔憂的新研究顯示，由人工智能(AI)創(chuàng)建的假臉看起來與真人的臉別無二致，甚至可能比真人的臉更真實。

研究人員進行了幾項實驗，想確認機器學習框架創(chuàng)建的假臉是否能夠欺騙人類。他們發(fā)現(xiàn)，機器合成生成的人臉非常逼真，跟真實的人臉放在一起會讓人混肴，難以區(qū)分。看到這些結果，研究人員呼吁要采取保護措施，以防止“深度偽造人臉”在網上傳播。

在這項研究中，研究者用StyleGAN2創(chuàng)建的假臉進行調查，StyleGAN2是美國科技公司Nvidia的一個“生成式對抗網絡”。生成式對抗網絡（或GANs）的工作原理是讓兩種算法相互對抗，試圖創(chuàng)造出令人信服的現(xiàn)實世界。

研究論文表示，目前AI合成引擎也許已經走出“恐怖谷”，能夠創(chuàng)造出跟真實人臉難以區(qū)分且更受人信賴的面孔。

在第一個實驗中，315名參與者將對一組800張面孔中提取的128張面孔進行分類，分為真實面孔或合成面孔。結果發(fā)現(xiàn)，他們的準確率僅為48%。

在第二個實驗中，219名新參與者先接受了培訓，并得到了如何對人臉進行分類的反饋。但結果發(fā)現(xiàn)，盡管進行了培訓，準確率僅提高到59%。

第三個實驗要求223名參與者對128張面孔的真實度進行評分，這些面孔取自同一組的800張面孔，評分范圍為1（非常不真實）到7（非常真實）。結果發(fā)現(xiàn)，合成面孔的平均評分比真實面孔的平均評分高出7.7%。

研究人員表示，面部表情可能會影響判斷結果，一張笑臉更有可能被評為真實面孔，但65.5%的真實面孔和58.8%的合成面孔都是微笑的，因此僅通過面部表情，無法解釋為什么合成面孔的評分更高。

為了保障安全，未來讓大眾免受“深度偽造人臉”的影響，研究人員還提出了創(chuàng)建和傳播合成圖像的準則。保障措施可以包括在圖像和視頻合成網絡中加入強大的水印，這將為可靠的識別提供一個下游機制。

題為AI-synthesized faces are indistinguishable from real faces and more trustworthy的相關研究論文發(fā)表在《美國國家科學院院刊》（PNAS）上。  

前瞻經濟學人APP資訊組

論文原文：

https://www.pnas.org/content/119/8/e2120481119

標簽：