人工智能可6小時識別4萬種假想生物武器，科學家發出警告！

人工智能的尖端數字計算能力意味著人工智能系統能夠在早期發現疾病，管理化學反應，并解釋宇宙的一些奧秘。

但是，這種幾乎能力無限的人工智能也有一個缺點。

新的研究強調了人工智能模型可以很容易地被訓練成善意的，它也能設計成找到假想的生物武器制劑。用現有的人工智能進行試驗，研究員在短短6個小時的時間里，識別了40000種假想的生物武器化學品。

換句話說，雖然人工智能可以令人難以置信地強大，當涉及到發現化學組合和藥物化合物以改善健康時，同樣的力量可以被用來產生出潛在的致命物質。

該團隊在一次國際安全會議上進行了試驗，讓一個名為MegaSyn的人工智能系統檢測分子的毒性。在實驗中，有毒分子被保留而不是被消除。更重要的是，該模型還被訓練成將這些分子組合在一起，在極短的時間內產生假想的4萬個生物武器。

結果發現，許多生成的化合物甚至比烈性神經毒劑VX的毒性更強。因此，這項新研究背后的作者對他們研究的一些細節進行了保密，并認真討論了是否完全不公開這些結果。

在接受The Verge采訪時，這篇新論文的主要作者和研究所在的Collaborations Pharmaceuticals公司的高級科學家Fabio Urbina解釋說，從“好”的人工智能轉變為“壞”的人工智能并不需要太多步驟，該實驗是對人工智能帶來的危險的警告。

研究人員現在呼吁“重新審視”人工智能系統可能被用于惡意的目的。

該研究論文題為"Dual use of artificial-intelligence-powered drug discovery"，已發表在《自然-機器智能》期刊上。

前瞻經濟學人APP資訊組

論文原文：https://www.nature.com/articles/s42256-022-00465-9

標簽： 人工智能