國家網(wǎng)信辦：生成式人工智能產(chǎn)品提供服務前需申報安全評估

• 吳澳燕 2023年4月13日 來源：互聯(lián)網(wǎng) 537 29
• 繁體

《征求意見稿》要求，利用生成式人工智能產(chǎn)品向公眾提供服務前，應當按照《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務安全評估規(guī)定》向國家網(wǎng)信部門申報安全評估，并按照《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。

生成式人工智能，是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內容的技術?！墩髑笠庖姼濉分赋觯瑖抑С秩斯ぶ悄芩惴?、框架等基礎技術的自主創(chuàng)新、推廣應用、國際合作，鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數(shù)據(jù)。

國家網(wǎng)信辦：生成式人工智能產(chǎn)品提供服務前需申報安全評估

4月11日，國家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務管理辦法(征求意見稿)》(簡稱《征求意見稿》)公開征求意見，其中提出生成式人工智能產(chǎn)品提供服務前需申報安全評估。

《征求意見稿》要求，利用生成式人工智能產(chǎn)品向公眾提供服務前，應當按照《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務安全評估規(guī)定》向國家網(wǎng)信部門申報安全評估，并按照《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。

《征求意見稿》強調，提供者在提供服務過程中，對用戶的輸入信息和使用記錄承擔保護義務。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據(jù)用戶輸入信息和使用情況進行畫像，不得向他人提供用戶輸入信息。提供者應當建立用戶投訴接收處理機制，及時處置個人關于更正、刪除、屏蔽其個人信息的請求;發(fā)現(xiàn)、知悉生成的文本、圖片、聲音、視頻等侵害他人肖像權、名譽權、個人隱私、商業(yè)秘密，或者不符合本辦法要求時，應當采取措施，停止生成，防止危害持續(xù)。

根據(jù)中研普華產(chǎn)業(yè)研究院發(fā)布的《2023-2028年中國AI繪畫行業(yè)市場前瞻與未來投資戰(zhàn)略分析報告》顯示：

伴隨元宇宙技術的發(fā)展和產(chǎn)業(yè)數(shù)字化升級，數(shù)字人正在成為下一代互聯(lián)網(wǎng)的基礎設施。與此同時，AI的應用場景也愈加豐富。人工智能生產(chǎn)數(shù)字內容(AIGC)風潮漸盛，應用前景廣闊，具有內容生產(chǎn)能力的數(shù)字人將在未來的數(shù)字化應用場景下占據(jù)更大優(yōu)勢。

AIGC即AI Generated Content，是指利用人工智能技術來生成內容，AIGC也被認為是繼UGC、PGC之后的新型內容生產(chǎn)方式，AI繪畫、AI寫作等都屬于AIGC的分支。

未來5年，AI繪畫在圖像內容生成領域的滲透率將達到10%-30%，市場規(guī)模超600億元的新興市場將吸引更多企業(yè)和資本，創(chuàng)造更大的市場價值。

AI繪畫行業(yè)發(fā)展如何

最初，AIGC可生成的內容形式以文字為主，經(jīng)過2022年指數(shù)級的發(fā)展增速，目前，除了AI繪圖，AIGC技術可生成的內容形式已經(jīng)拓展到了包括文宇、圖像、視頻、語音、代碼、機器人動作等多種內容形式。2022年也因此被稱為“AIGC元年”。紅杉資本9月份發(fā)布的一篇文章提到，生成式AI，讓機器開始大規(guī)模涉足知識類和創(chuàng)造性工作，這涉及數(shù)十億人的工作，未來預計能夠產(chǎn)生數(shù)萬億美元的經(jīng)濟價值。

AIGC在消費互聯(lián)網(wǎng)、產(chǎn)業(yè)互聯(lián)網(wǎng)和社會價值領域持續(xù)產(chǎn)生變革性影響，目前的爆發(fā)點主要是在內容消費領域，已經(jīng)呈現(xiàn)百花齊放之勢。AIGC生成的內容種類越來越豐富，而且內容質量也在顯著提升，產(chǎn)業(yè)生態(tài)日益豐富。AIGC有望成為新型的內容生產(chǎn)基礎設施，塑造數(shù)字內容生產(chǎn)與交互新范式，持續(xù)推進數(shù)字文化產(chǎn)業(yè)創(chuàng)新。AIGC還將作為生產(chǎn)力工具，不斷推動聊天機器人、數(shù)字人、元宇宙等領域發(fā)展。

從發(fā)展歷程來看，我國AI繪畫產(chǎn)業(yè)的發(fā)展以核心技術的突破為依托。尤其是近五年來，行業(yè)進入快速發(fā)展時期，其標志就是眾多關鍵技術全面到位。比如在2017年，AI圖像生成、自動生成唇形視頻、圖像高清化、圖像編輯、圖像風格遷移、wavnet語音合成等技術快速發(fā)展，就為AI內容創(chuàng)作等多個領域奠定了基礎。近幾年來，從預訓練語言模型、生成式對抗網(wǎng)絡，越來越多核心技術得到突破。

目前來說，AI繪畫市場的核心用戶中超8成依然來自興趣用戶，除了大學生作為市場主體之外，包括產(chǎn)品設計師、工業(yè)設計師、視覺設計師、插畫師、游戲原畫師在內的專業(yè)級用戶，數(shù)量占市場用戶規(guī)模的20%左右。

盡管產(chǎn)業(yè)概念不斷升溫，用戶規(guī)模持續(xù)擴容，但國內AI繪畫依然處于起步階段，AI繪畫創(chuàng)作的內容還是以簡單的圖片內容為主，距離“解放內容生產(chǎn)力”的行業(yè)目標還有一定的距離。尤其是在技術、產(chǎn)品和場景領域，行業(yè)還存在很多短板，要想實現(xiàn)大規(guī)模商業(yè)化推廣，還需要解決一系列問題。

比如在成本方面，現(xiàn)有AI繪畫工具在生成高清圖片素材時，訓練的時間及服務開銷非常大，這直接影響了市場推廣。再說產(chǎn)品效果方面，AI繪畫對于文本的標準要求很高，制作高質量的AI作品并不容易，其業(yè)務價值、藝術價值也需要專業(yè)評估和考驗。此外，現(xiàn)階段AI繪畫在版權歸屬、素材審核等方面還存在問題，AI“入侵”藝術創(chuàng)作領域等問題的爭議依然存在。對于內容創(chuàng)作者以及產(chǎn)業(yè)鏈相關企業(yè)來說，如何在保證產(chǎn)品效果的基礎上實現(xiàn)差異化發(fā)展商業(yè)化落地，將成為產(chǎn)業(yè)高質量發(fā)展的關鍵。

目前，通過深度學習和圖像處理技術, AI已經(jīng)在圖像識別、圖像合成、人臉識別、視頻分析、語音識別等多個領域都取得了巨大進步。隨著深度學習技術的快速應用，將給人工智能帶來更大的想象空間，尤其是在圖像識別、視頻分析等領域，將會有巨大的進步。但在 AI繪畫方面, AI還需要不斷的探索，提升效率，從而滿足更多領域的需求。

更多行業(yè)詳情請點擊中研普華產(chǎn)業(yè)研究院發(fā)布的《2023-2028年中國AI繪畫行業(yè)市場前瞻與未來投資戰(zhàn)略分析報告》。

• 相關深度報告REPORTS

  

  2023-2028年中國AI繪畫行業(yè)市場前瞻與未來投資戰(zhàn)略分析報告

  AI的繪畫原理是類似于人類的寫生，不過這里所說的“AI”不是普通的 AI,而是“AI+ CAD”。在傳統(tǒng)的 CAD軟件中, CAD是用來繪畫的，在 CAD軟件中，模型首先被輸入到電腦中，在電腦中通過投影...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡