AI安全市場前景如何 AI安全行業(yè)市場發(fā)展分析2023

• 方蔓桃 2023年4月25日 來源：百度 521 28
• 繁體

日前，國家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法(征求意見稿)》(以下簡稱《征求意見稿》)公開征求意見，提出生成式人工智能產(chǎn)品提供服務(wù)前需申報安全評估和算法備案。從去年紅極一時的AI繪畫到近期備受關(guān)注的ChatGPT，人工智能生成內(nèi)容(以下簡稱“AIGCA

AI安全市場前景如何 ?我國人工智能產(chǎn)業(yè)正在與實體經(jīng)濟深度融合，成為經(jīng)濟社會發(fā)展新的增長引擎。國家先后出臺《新一代人工智能發(fā)展規(guī)劃》《科技部關(guān)于支持建設(shè)新一代人工智能示范應(yīng)用場景的通知》等政策，助力人工智能產(chǎn)業(yè)發(fā)展。中國信通院測算，2022年我國人工智能核心產(chǎn)業(yè)規(guī)模達5080億元，同比增長18%。據(jù)預(yù)測，到2030年，我國人工智能產(chǎn)業(yè)規(guī)模將達到1萬億元。

日前，國家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法(征求意見稿)》(以下簡稱《征求意見稿》)公開征求意見，提出生成式人工智能產(chǎn)品提供服務(wù)前需申報安全評估和算法備案。從去年紅極一時的AI繪畫到近期備受關(guān)注的ChatGPT，人工智能生成內(nèi)容(以下簡稱“AIGC”)熱度不減。然而，伴隨著AIGC應(yīng)用的不斷落地，其暴露出來的數(shù)據(jù)安全、隱私保護等問題也日益顯現(xiàn)。

據(jù)中研普華產(chǎn)業(yè)研究院出版的《2022-2027年中國AI安全行業(yè)市場全景調(diào)研與發(fā)展前景預(yù)測報告》統(tǒng)計分析顯示：

AI安全行業(yè)市場分析

信息技術(shù)推動了萬物互聯(lián)，也極大地推動世界向更高效、環(huán)保、便捷的方向前進。特別是大數(shù)據(jù)、云計算、區(qū)塊鏈、人工智能等信息技術(shù)迅速發(fā)展，與實體經(jīng)濟各行業(yè)領(lǐng)域進行深入交叉融合。

隨著人工智能技術(shù)在金融場景的應(yīng)用不斷深化，數(shù)據(jù)、算法與應(yīng)用層的安全可控問題逐漸凸顯。當前數(shù)據(jù)安全問題仍然十分嚴峻，特別是信息惡意獲取、篡改、偽造和亂用，成本級低，大規(guī)模的數(shù)據(jù)泄漏時有發(fā)生，數(shù)據(jù)安全應(yīng)得到全世界的廣泛關(guān)注。

2022年全球人工智能收入預(yù)計同比增長19.6%，達到4328億美元，包括軟件、硬件和服務(wù)。預(yù)計2023年可突破5000億美元大關(guān)。

AIGC是基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的人工智能技術(shù)。據(jù)Gartner預(yù)測，到2025年，AIGC將占所有生成數(shù)據(jù)的10%。

由于AIGC技術(shù)需要大量的數(shù)據(jù)來進行訓(xùn)練和優(yōu)化，以ChatGPT為例，GPT3直接把數(shù)據(jù)模型參數(shù)量從15億提升到1750億，接近了人腦中神經(jīng)連接的數(shù)量水平。然而，海量的數(shù)據(jù)也暴露出了更大的數(shù)據(jù)安全風(fēng)險。

研報指出，生成型人工智能可能在獲取數(shù)據(jù)時侵犯知識產(chǎn)權(quán)，在數(shù)據(jù)獲取與保存上存在一定法律風(fēng)險，生成內(nèi)容被濫用可能帶來巨大的伴生風(fēng)險。

在人工智能軟件分支行業(yè)，人工智能應(yīng)用程序占2021年上半年支出的47%，其次是人工智能系統(tǒng)基礎(chǔ)設(shè)施軟件(35%)。在增長方面，人工智能平臺預(yù)計表現(xiàn)最佳，五年復(fù)合增長率為34.6%。增長最慢的部分是人工智能系統(tǒng)基礎(chǔ)設(shè)施軟件，其五年復(fù)合增長率為14.1%。

在AI應(yīng)用程序分支，AI ERM預(yù)計在未來幾年內(nèi)保持最快的增長速度。人工智能生命周期軟件五年年均復(fù)合增長率為38.9%。

數(shù)據(jù)、算力、算法和知識、運用、理論六個要素彼此依賴，共同構(gòu)成了我國人工智能2.0發(fā)展的新生態(tài)。其中，數(shù)據(jù)的地位不言自明。

然而，在人工智能不斷走入人們的工作和生活場景時，數(shù)據(jù)的采集、存儲和應(yīng)用也越來越面臨諸多風(fēng)險。概括來說，數(shù)據(jù)安全問題體現(xiàn)在五個方面：可復(fù)制、易泄露、來源廣、危害大、監(jiān)管難，這是由數(shù)據(jù)的特性決定的。

在具體危害表現(xiàn)上，一方面，最常見的是對數(shù)據(jù)保密性的侵害，如在金融領(lǐng)域，通過網(wǎng)絡(luò)竊取人工智能系統(tǒng)用戶的交易賬單、理財情況來了解其個人資產(chǎn)狀況和基于在線行為的支付意愿，從而快速有效地定位金融詐騙的受害者和目標群體;或是通過各種網(wǎng)絡(luò)漏洞，竊取大量用戶的指紋、虹膜、面孔、身形等個人隱私信息數(shù)據(jù)用于犯罪;也有一些手機應(yīng)用軟件違法違規(guī)收集用戶個人信息等用于商業(yè)目的。

當前，新一輪科技革命和產(chǎn)業(yè)變革正在萌發(fā)，在5G、大數(shù)據(jù)、云計算、深度學(xué)習(xí)等新技術(shù)的共同驅(qū)動下，人工智能(AI)作為新型基礎(chǔ)設(shè)施的重要戰(zhàn)略性技術(shù)加速發(fā)展，并與社會各行各業(yè)創(chuàng)新融合，引發(fā)鏈式變革。特別是在網(wǎng)絡(luò)空間安全防護領(lǐng)域，人工智能在威脅識別、態(tài)勢感知、風(fēng)險評分、惡意檢測、不良信息治理、騷擾詐騙電話檢測、灰黑產(chǎn)識別等方面有其獨特的價值和優(yōu)勢，應(yīng)用需求呈現(xiàn)跨越式發(fā)展，產(chǎn)生了顯著的溢出效應(yīng)。

AI安全行業(yè)市場發(fā)展前景分析

作為數(shù)字時代“抵御風(fēng)險”的關(guān)鍵能力，AI安全可信技術(shù)的研究和應(yīng)用，將被廣泛地應(yīng)用于反欺詐、反洗錢、反賭博、數(shù)字身份識別、企業(yè)聯(lián)合風(fēng)控等領(lǐng)域，極大地助力企業(yè)提升風(fēng)險控制能力。

AI安全作為新型基礎(chǔ)設(shè)施的重要戰(zhàn)略性技術(shù)加速發(fā)展，并與社會各行各業(yè)創(chuàng)新融合，引發(fā)鏈式變革。特別是在網(wǎng)絡(luò)空間安全防護領(lǐng)域，人工智能在威脅識別、態(tài)勢感知、風(fēng)險評分、惡意檢測、不良信息治理、騷擾詐騙電話檢測、灰黑產(chǎn)識別等方面有其獨特的價值和優(yōu)勢，應(yīng)用需求呈現(xiàn)跨越式發(fā)展，產(chǎn)生了顯著的溢出效應(yīng)。

目前隱私計算技術(shù)提供方的商業(yè)模式主要分為平臺建設(shè)與數(shù)據(jù)運營兩大類。在未來，平臺建設(shè)不僅可以在現(xiàn)有的金融、通信、政務(wù)等核心行業(yè)的基礎(chǔ)上繼續(xù)擴大，也可以在醫(yī)療、能源、交通等創(chuàng)新領(lǐng)域進行拓展。對于數(shù)據(jù)運營而言，從傳統(tǒng)數(shù)據(jù)集或API調(diào)用轉(zhuǎn)向隱私計算模式進行升級改造將是未來的發(fā)展趨勢。根據(jù)這兩類商業(yè)模式的相關(guān)數(shù)據(jù)進行測算，預(yù)計到2025年我國隱私計算市場規(guī)模將達到百億元。

2023年1月10日，360天樞智庫、天津智慧城市數(shù)字安全研究院、網(wǎng)絡(luò)空間國際治理研究中心三方聯(lián)合發(fā)布《全球人工智能安全治理》報告，報告站在全球視角的宏觀高度縱覽、分析和解讀人工智能安全治理問題，提出人工智能發(fā)展面臨十大安全挑戰(zhàn)，旨在探索既能發(fā)揮人工智能技術(shù)效益，又能控制其安全風(fēng)險和負面影響的治理之道，是中國學(xué)術(shù)界和產(chǎn)業(yè)界對人工智能發(fā)展與安全的一次思想碰撞與深度探索，對人工智能安全治理具有積極指導(dǎo)意義。

在人工智能加速智能化變革的同時，針對人工智能的倫理規(guī)范、風(fēng)險框架、以及治理理念和模式的探索成為各國學(xué)術(shù)界和政策界的重點工作。360首席安全官、天津智慧城市數(shù)字安全研究院院長杜躍進稱，人工智能作為中、美、歐等國家或地區(qū)都在積極發(fā)展的關(guān)鍵新興技術(shù)，其在發(fā)展過程中所產(chǎn)生的安全挑戰(zhàn)也更為復(fù)雜多元，世界主要國家和地區(qū)已經(jīng)將安全治理列為各自人工智能戰(zhàn)略的優(yōu)先事項。

目前，各國普遍關(guān)注的人工智能安全問題共十類，包括網(wǎng)絡(luò)安全問題、企業(yè)合規(guī)問題、可解釋性問題、隱私安全問題、聲譽和倫理問題、未來勞動力問題、公平性問題、人身安全問題、社會穩(wěn)定問題、以及國家安全問題。而以上挑戰(zhàn)映射到人工智能的研發(fā)和應(yīng)用過程，又可以劃分為人工智能自身安全、衍生安全、以及人工智能賦能安全等核心安全挑戰(zhàn)。

在國家層面，需要進一步強化相關(guān)政策引導(dǎo)和立法規(guī)范。中國信息經(jīng)濟學(xué)會副理事長、廣州大學(xué)網(wǎng)絡(luò)空間安全學(xué)院教授齊佳音表示，《征求意見稿》為AIGC的研發(fā)和應(yīng)用第一次立了規(guī)矩，使得AIGC的研發(fā)和應(yīng)用有了規(guī)制框架，對于規(guī)范和引導(dǎo)這一領(lǐng)域的發(fā)展具有十分重要的積極作用。

報告顯示，作為一種數(shù)字技術(shù)，人工智能“雙刃劍”特征明顯，不僅自身存在數(shù)字安全威脅和隱患，隨著人工智能工程化、場景化、平臺化落地不斷加快，人工智能安全需求已經(jīng)超越單純技術(shù)范疇。面對日趨復(fù)雜的安全挑戰(zhàn)，人工智能安全治理難以一蹴而就，只有在實踐中不斷摸索，才能將人工智能安全風(fēng)險遏制在可控范圍。

報告對各國人工智能安全治理模式進行了深入剖析，針對上述問題，報告主要發(fā)現(xiàn)：美國流派在人工智能安全治理上采取的手段是在人工智能技術(shù)部署、使用與監(jiān)測的全過程中都進行驗證與監(jiān)管，建立與之配套的規(guī)范體系;歐盟流派則更寄希望于運用監(jiān)管框架與信任體系來對人工智能的安全進行規(guī)制，其規(guī)制更傾向于人權(quán)方向;相較美國與歐盟，中國流派的人工智能安全治理致力于形成內(nèi)含研發(fā)、管理和應(yīng)用的全流程安全保障體系，涵蓋基礎(chǔ)框架研制、基本安全原則、供應(yīng)鏈管理實踐指南、安全服務(wù)能力、應(yīng)用領(lǐng)域的標準研制等各個方面。

隨著AI安全行業(yè)競爭的不斷加劇，大型企業(yè)間并購整合與資本運作日趨頻繁，國內(nèi)外優(yōu)秀的AI安全企業(yè)愈來愈重視對行業(yè)市場的分析研究，特別是對當前市場環(huán)境和客戶需求趨勢變化的深入研究，以期提前占領(lǐng)市場，取得先發(fā)優(yōu)勢。正因為如此，一大批優(yōu)秀品牌迅速崛起，逐漸成為行業(yè)中的翹楚。中研普華利用多種獨創(chuàng)的信息處理技術(shù)，對AI安全行業(yè)市場海量的數(shù)據(jù)進行采集、整理、加工、分析、傳遞，為客戶提供一攬子信息解決方案和咨詢服務(wù)，最大限度地降低客戶投資風(fēng)險與經(jīng)營成本，把握投資機遇，提高企業(yè)競爭力。

本報告利用中研普華長期對AI安全行業(yè)市場跟蹤搜集的一手市場數(shù)據(jù)，同時依據(jù)國家統(tǒng)計局、國家商務(wù)部、國家發(fā)改委、國務(wù)院發(fā)展研究中心、行業(yè)協(xié)會、中國行業(yè)研究網(wǎng)、全國及海外專業(yè)研究機構(gòu)提供的大量權(quán)威資料，采用與國際同步的科學(xué)分析模型，全面而準確地為您從行業(yè)的整體高度來架構(gòu)分析體系。讓您全面、準確地把握整個AI安全行業(yè)的市場走向和發(fā)展趨勢。

未來行業(yè)市場發(fā)展前景和投資機會在哪?欲了解更多關(guān)于行業(yè)具體詳情可以點擊查看中研普華產(chǎn)業(yè)研究院的報告《2022-2027年中國AI安全行業(yè)市場全景調(diào)研與發(fā)展前景預(yù)測報告》。報告對行業(yè)相關(guān)各種因素進行具體調(diào)查、研究、分析，洞察行業(yè)今后的發(fā)展方向、行業(yè)競爭格局的演變趨勢以及技術(shù)標準、市場規(guī)模、潛在問題與行業(yè)發(fā)展的癥結(jié)所在，評估行業(yè)投資價值、效果效益程度，提出建設(shè)性意見建議，為行業(yè)投資決策者和企業(yè)經(jīng)營者提供參考依據(jù)。

• 相關(guān)深度報告REPORTS

  

  2022-2027年中國AI安全行業(yè)市場全景調(diào)研與發(fā)展前景預(yù)測報告

  AI安全行業(yè)研究報告中的AI安全行業(yè)數(shù)據(jù)分析以權(quán)威的國家統(tǒng)計數(shù)據(jù)為基礎(chǔ)，采用宏觀和微觀相結(jié)合的分析方式，利用科學(xué)的統(tǒng)計分析方法，在描述行業(yè)概貌的同時，對AI安全行業(yè)進行細化分析，重點企業(yè)...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡