2024年AI安全行業(yè)發(fā)展現(xiàn)狀及政策環(huán)境分析

• 陳觀秋 2024年5月7日 來(lái)源：經(jīng)濟(jì)日?qǐng)?bào) 北京商報(bào) 中新網(wǎng) 百度 921 57
• 繁體

人工智能在創(chuàng)造前所未有機(jī)遇的同時(shí)，也伴隨著超越以往范疇的風(fēng)險(xiǎn)，對(duì)監(jiān)管提出了嚴(yán)峻考驗(yàn)。報(bào)告顯示，2023年基于AI的深度偽造欺詐暴增了3000%，基于AI的釣魚(yú)郵件增長(zhǎng)了1000%;已有多個(gè)有國(guó)家背景的APT組織利用AI實(shí)施了十余起網(wǎng)絡(luò)攻擊事件。

作為先進(jìn)技術(shù)的標(biāo)桿，人工智能領(lǐng)域的任何風(fēng)吹草動(dòng)都可能引發(fā)全球關(guān)注。從ChatGPT橫空出世到Sora刷新認(rèn)知，只用了1年多的時(shí)間。在此期間，國(guó)內(nèi)的“百模大戰(zhàn)”打得如火如荼，一批通過(guò)備案的大模型已經(jīng)向各行業(yè)及社會(huì)公眾開(kāi)放。全球范圍內(nèi)，人工智能的競(jìng)爭(zhēng)日趨激烈。

咨詢(xún)機(jī)構(gòu)麥肯錫預(yù)計(jì)，以AIGC為代表的AI技術(shù)將給全球經(jīng)濟(jì)帶來(lái)超過(guò)7.9萬(wàn)億美元價(jià)值，到2030年之前，如果生成式AI應(yīng)用于各行業(yè)，每年總經(jīng)濟(jì)效益高達(dá)6.1萬(wàn)億美元至7.9萬(wàn)億美元。

人工智能在創(chuàng)造前所未有機(jī)遇的同時(shí)，也伴隨著超越以往范疇的風(fēng)險(xiǎn)，對(duì)監(jiān)管提出了嚴(yán)峻考驗(yàn)。

AI安全行業(yè)發(fā)展現(xiàn)狀及政策環(huán)境分析

奇安信集團(tuán)對(duì)外發(fā)布《2024人工智能安全報(bào)告》。其中顯示，2023年基于AI的深度偽造欺詐暴增了3000%，基于AI的釣魚(yú)郵件增長(zhǎng)了1000%;已有多個(gè)有國(guó)家背景的APT組織利用AI實(shí)施了十余起網(wǎng)絡(luò)攻擊事件。奇安信預(yù)計(jì)，未來(lái)十年，人工智能技術(shù)的惡意使用將快速增長(zhǎng)，將在政治安全、網(wǎng)絡(luò)安全、物理安全和軍事安全等方面構(gòu)成嚴(yán)重威脅。

我們的報(bào)告《2024-2029年中國(guó)AI安全行業(yè)市場(chǎng)全景調(diào)研與發(fā)展前景預(yù)測(cè)報(bào)告》包含大量的數(shù)據(jù)、深入分析、專(zhuān)業(yè)方法和價(jià)值洞察，可以幫助您更好地了解行業(yè)的趨勢(shì)、風(fēng)險(xiǎn)和機(jī)遇。在未來(lái)的競(jìng)爭(zhēng)中擁有正確的洞察力，就有可能在適當(dāng)?shù)臅r(shí)間和地點(diǎn)獲得領(lǐng)先優(yōu)勢(shì)。

近年來(lái)，隨著數(shù)字化智能化的深入，新的技術(shù)不斷衍生出新的安全風(fēng)險(xiǎn)，數(shù)字安全風(fēng)險(xiǎn)進(jìn)入了快迭代、高智能、全覆蓋的新階段。尤其是2022年末AI大模型橫空出世，AI安全風(fēng)險(xiǎn)陡增迅速成為全球業(yè)界的一致共識(shí)，AI安全成為主流的安全關(guān)切，并逐漸形成了一個(gè)新的安全技術(shù)研究領(lǐng)域。

AI技術(shù)的應(yīng)用給我們帶來(lái)了許多便利，但同時(shí)也引來(lái)了一系列的安全隱患。AI安全工作組的成立加強(qiáng)對(duì)AI技術(shù)安全的研究和防護(hù)，保障人們?cè)谑褂肁I技術(shù)時(shí)的安全和隱私。

上述《報(bào)告》認(rèn)為，AI技術(shù)將會(huì)推動(dòng)安全領(lǐng)域發(fā)生范式變革，全行業(yè)需啟動(dòng)人工智能網(wǎng)絡(luò)防御推進(jìn)計(jì)劃。在人工智能帶來(lái)巨大想象空間的同時(shí)，安全問(wèn)題值得進(jìn)一步關(guān)注，看好大模型及AI安全行業(yè)的發(fā)展?jié)摿Α?/p>

2023年6月，歐洲議會(huì)通過(guò)了《AI法案》授權(quán)草案，草案內(nèi)容包括用于監(jiān)督人工智能基礎(chǔ)模型的分級(jí)管理辦法。

據(jù)中研產(chǎn)業(yè)研究院《2024-2029年中國(guó)AI安全行業(yè)市場(chǎng)全景調(diào)研與發(fā)展前景預(yù)測(cè)報(bào)告》分析：

2023年10月，由中國(guó)全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)組織，面向社會(huì)公開(kāi)征求《生成式人工智能服務(wù)安全基本要求》意見(jiàn)。同月，日本首相岸田文雄在日本京都發(fā)表演講，公布面向生成式人工智能的監(jiān)管計(jì)劃。

2023年11月，英國(guó)全球第一屆人工智能安全峰會(huì)在英國(guó)召開(kāi)，與會(huì)各國(guó)討論了當(dāng)下全球人工智能治理的問(wèn)題。中國(guó)科技部副部長(zhǎng)吳朝暉率團(tuán)參會(huì)并在峰會(huì)開(kāi)幕式上發(fā)表講話(huà)，并在會(huì)后聯(lián)合發(fā)布《宣言》，該《宣言》成為“第一份關(guān)于有必要監(jiān)管AI發(fā)展的全球聲明”。

人工智能的安全與治理問(wèn)題，關(guān)乎產(chǎn)業(yè)發(fā)展方向與速度，關(guān)乎供給雙方權(quán)利與義務(wù)，更關(guān)乎國(guó)際競(jìng)爭(zhēng)中的優(yōu)勢(shì)與主動(dòng)。

人工智能領(lǐng)域的專(zhuān)門(mén)法也在逐步推進(jìn)中。今年，在十四屆全國(guó)人大二次會(huì)議新聞發(fā)布會(huì)上，大會(huì)發(fā)言人婁勤儉表示，下一步將研究推進(jìn)科技創(chuàng)新方面的立法，特別是深入研究人工智能、生物技術(shù)等前沿科技領(lǐng)域有關(guān)倫理、道德、安全等重要問(wèn)題，不斷完善科技法律體系。

報(bào)告對(duì)中國(guó)AI安全行業(yè)的內(nèi)外部環(huán)境、行業(yè)發(fā)展現(xiàn)狀、產(chǎn)業(yè)鏈發(fā)展?fàn)顩r、市場(chǎng)供需、競(jìng)爭(zhēng)格局、標(biāo)桿企業(yè)、發(fā)展趨勢(shì)、機(jī)會(huì)風(fēng)險(xiǎn)、發(fā)展策略與投資建議等進(jìn)行了分析，并重點(diǎn)分析了我國(guó)AI安全行業(yè)將面臨的機(jī)遇與挑戰(zhàn)。

想要了解更多AI安全行業(yè)詳情分析，可以點(diǎn)擊查看中研普華研究報(bào)告《2024-2029年中國(guó)AI安全行業(yè)市場(chǎng)全景調(diào)研與發(fā)展前景預(yù)測(cè)報(bào)告》。

• 相關(guān)深度報(bào)告REPORTS

  

  2024-2029年中國(guó)AI安全行業(yè)市場(chǎng)全景調(diào)研與發(fā)展前景預(yù)測(cè)報(bào)告

  隨著AI安全行業(yè)競(jìng)爭(zhēng)的不斷加劇，大型企業(yè)間并購(gòu)整合與資本運(yùn)作日趨頻繁，國(guó)內(nèi)外優(yōu)秀的AI安全企業(yè)愈來(lái)愈重視對(duì)行業(yè)市場(chǎng)的分析研究，特別是對(duì)當(dāng)前市場(chǎng)環(huán)境和客戶(hù)需求趨勢(shì)變化的深入研究，以期提前...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡