多行業(yè)牽頭！30余機(jī)構(gòu)共同發(fā)起AI安全工作組【附AI市場(chǎng)應(yīng)用分析】

圖源：攝圖網(wǎng)

(資料圖片僅供參考)

9月7日，在2023 inclusion·外灘大會(huì)舉行的《探索下一代安全智能》論壇上，世界權(quán)威國際產(chǎn)業(yè)組織“云安全聯(lián)盟”（CSA）大中華區(qū)宣布成立“AI安全工作組”，中國電信、螞蟻集團(tuán)、華為、百度、字節(jié)跳動(dòng)、西安電子科技大學(xué)、國家金融測(cè)評(píng)中心等30余家機(jī)構(gòu)成為首批發(fā)起單位。該組織致力于共同解決AI技術(shù)快速發(fā)展所帶來的安全難題。

據(jù)CSA官網(wǎng)顯示，該工作組的主要職責(zé)是研究和編制與AI安全相關(guān)的技術(shù)安全威脅和風(fēng)險(xiǎn)、AI數(shù)據(jù)安全與隱私保護(hù)、AI技術(shù)助力安全應(yīng)用、AI的倫理和AI合規(guī)等方面的材料。工作組將圍繞以 AI 安全為核心的各種 AI 技術(shù)威脅、風(fēng)險(xiǎn)、防護(hù)以及其他相關(guān)問題展開研究工作。

AI技術(shù)的應(yīng)用給我們帶來了許多便利的同時(shí)，也引來了一系列的安全隱患。AI安全工作組的成立加強(qiáng)對(duì)AI技術(shù)安全的研究和防護(hù)，保障人們?cè)谑褂肁I技術(shù)時(shí)的安全和隱私。

AI技術(shù)應(yīng)用主要集中在政府城市治理和運(yùn)營

2020年，中國人工智能市場(chǎng)主要客戶來自政府城市治理和運(yùn)營(公安、交警、司法、城市運(yùn)營、政務(wù)、交運(yùn)管理、國土資源、監(jiān)所、環(huán)保等)，應(yīng)用占比達(dá)到49%，互聯(lián)網(wǎng)與金融行業(yè)緊隨其后，占比分別為18%和12%。

企業(yè)和政府對(duì)人工智能的應(yīng)用逐漸升溫

在決定企業(yè)產(chǎn)生經(jīng)濟(jì)效益的各個(gè)環(huán)節(jié)，都已能夠看到人工智能的身影。前瞻產(chǎn)業(yè)研究院估算，目前中國大型企業(yè)基本都已在持續(xù)規(guī)劃投入實(shí)施人工智能項(xiàng)目，而全部規(guī)上企業(yè)中約有超過10%的企業(yè)已將人工智能與其主營業(yè)務(wù)結(jié)合，實(shí)現(xiàn)產(chǎn)業(yè)地位提高或經(jīng)營效益優(yōu)化。

中國科學(xué)院自動(dòng)化研究所曾毅認(rèn)為重視和管控人工智能的安全風(fēng)險(xiǎn)不是阻礙人工智能的發(fā)展與應(yīng)用，而是確保人工智能技術(shù)穩(wěn)健發(fā)展。曾毅表示人工智能應(yīng)該適度發(fā)展、適度和謹(jǐn)慎使用，深度治理。對(duì)于那些沒有必要使用人工智能的場(chǎng)景，或者使用人工智能帶來的益處有限、卻有很大的不確定性與隱患，應(yīng)當(dāng)秉持能不用則不用的原則。

美國非營利研究機(jī)構(gòu)“人工智能安全中心”董事丹·亨德里克斯認(rèn)為與人類相比，AI系統(tǒng)具有更強(qiáng)的適應(yīng)性，強(qiáng)大的能力可能導(dǎo)致AI系統(tǒng)在很多領(lǐng)域取代人類的工作，甚至直接參與到?jīng)Q策過程中來。所以AI開發(fā)者更需要保持謹(jǐn)慎和安全意識(shí)，不能嘗試淡化規(guī)模化的社會(huì)風(fēng)險(xiǎn)，為應(yīng)對(duì)意外事件做好準(zhǔn)備。有關(guān)機(jī)構(gòu)和組織應(yīng)該要考慮如何開展更加安全的AI系統(tǒng)研發(fā)，安全人員需要明確制定使AI系統(tǒng)更加安全的措施。

前瞻經(jīng)濟(jì)學(xué)人APP資訊組

更多本行業(yè)研究分析詳見前瞻產(chǎn)業(yè)研究院《中國人工智能行業(yè)發(fā)展前景預(yù)測(cè)與投資戰(zhàn)略規(guī)劃分析報(bào)告》

同時(shí)前瞻產(chǎn)業(yè)研究院還提供產(chǎn)業(yè)大數(shù)據(jù)、產(chǎn)業(yè)研究報(bào)告、產(chǎn)業(yè)規(guī)劃、園區(qū)規(guī)劃、產(chǎn)業(yè)招商、產(chǎn)業(yè)圖譜、智慧招商系統(tǒng)、行業(yè)地位證明、IPO咨詢/募投可研、IPO工作底稿咨詢等解決方案。在招股說明書、公司年度報(bào)告等任何公開信息披露中引用本篇文章內(nèi)容，需要獲取前瞻產(chǎn)業(yè)研究院的正規(guī)授權(quán)。

更多深度行業(yè)分析盡在【前瞻經(jīng)濟(jì)學(xué)人APP】，還可以與500+經(jīng)濟(jì)學(xué)家/資深行業(yè)研究員交流互動(dòng)。

標(biāo)簽：