ChatGPT存在的安全風(fēng)險，近日引發(fā)諸多關(guān)注。繼意大利宣布禁止使用ChatGPT后，加拿大也就數(shù)據(jù)安全問題開始調(diào)查Open AI。

當(dāng)下數(shù)字經(jīng)濟加速發(fā)展，人工智能在帶來便利的同時，也隱藏著巨大的數(shù)據(jù)安全風(fēng)險。數(shù)據(jù)安全產(chǎn)業(yè)駛?cè)氚l(fā)展快車道，我國多家上市公司已提前布局該領(lǐng)域，搶占先發(fā)優(yōu)勢。

多位專家在接受《證券日報》記者采訪時表示，人工智能技術(shù)的發(fā)展對于網(wǎng)絡(luò)安全是把“雙刃劍”，從國家層面來看，需要用新的技術(shù)倫理來引領(lǐng)細節(jié)層面的政策制定和法律規(guī)范，從企業(yè)層面來看，這是一個新的創(chuàng)新引領(lǐng)和彎道超車的契機。

數(shù)據(jù)安全問題引關(guān)注

意大利于當(dāng)?shù)貢r間3月31日打響“封殺”ChatGPT的“第一槍”。意大利個人數(shù)據(jù)保護局宣布，禁止使用聊天機器人ChatGPT，限制開發(fā)這一平臺的Open AI公司處理意大利用戶信息，并啟動立案調(diào)查。

緊隨其后，加拿大隱私專員辦公室于當(dāng)?shù)貢r間4月4日在官網(wǎng)宣布對Open AI展開調(diào)查。

在愈演愈烈的監(jiān)管聲浪中，Open AI于4月5日在官方博客發(fā)布了題為《我們保障AI安全的方法》的文章進行回應(yīng)，介紹了該公司確保AI模型安全性的部署。

中央財經(jīng)大學(xué)數(shù)字經(jīng)濟融合創(chuàng)新發(fā)展中心主任陳端在接受《證券日報》記者采訪時表示：“人工智能的快速發(fā)展，本質(zhì)上是一場生產(chǎn)力層面的變革，牽一發(fā)而動全身，對既有的生產(chǎn)體系架構(gòu)、社會組織架構(gòu)、社會關(guān)系結(jié)構(gòu)都會產(chǎn)生深刻沖擊，帶來難以預(yù)估、也不易防范的非傳統(tǒng)風(fēng)險。”

她表示，“用全域視角來綜合研判，把數(shù)據(jù)安全問題置于結(jié)構(gòu)性變革的大框架下去審視，需要強化政策引導(dǎo)和立法規(guī)范。而在現(xiàn)階段更為重要的是，用新的技術(shù)倫理來引領(lǐng)細節(jié)層面的政策制定和法律規(guī)范。”

我國十分重視數(shù)字技術(shù)發(fā)展，同時也關(guān)注人工智能發(fā)展過程中的風(fēng)險和問題。2023年1月份，工業(yè)和信息化部等十六部門聯(lián)合印發(fā)《關(guān)于促進數(shù)據(jù)安全產(chǎn)業(yè)發(fā)展的指導(dǎo)意見》提出，提升產(chǎn)業(yè)創(chuàng)新能力，加強核心技術(shù)攻關(guān)，到2025年，我國數(shù)據(jù)安全產(chǎn)業(yè)規(guī)模超過1500億元，年復(fù)合增長率超過30%，將建成5個省部級及以上數(shù)據(jù)安全重點實驗室，培育若干具有國際競爭力的龍頭骨干企業(yè)、單項冠軍企業(yè)和專精特新“小巨人”企業(yè)。

4月3日，科技部高新技術(shù)司司長陳家昌在國新辦新聞發(fā)布會上表示，針對人工智能發(fā)展過程中的一些風(fēng)險和問題，科技部制定發(fā)布了新一代人工智能治理原則和倫理規(guī)范，推動科技向善。

A股上市公司積極布局

數(shù)據(jù)安全是數(shù)字經(jīng)濟產(chǎn)業(yè)的基石之一。數(shù)據(jù)安全產(chǎn)業(yè)鏈主要包括上游安全芯片等軟硬件供應(yīng)商，中游防火墻、VPN、商用密碼、數(shù)據(jù)要素等產(chǎn)品與解決方案提供商，下游應(yīng)用則涵蓋政府、國防、電信、金融、能源等關(guān)鍵領(lǐng)域。

華安證券計算機行業(yè)聯(lián)席首席分析師王奇玨在接受《證券日報》記者采訪時表示：“目前我國網(wǎng)絡(luò)安全行業(yè)格局還相對較為分散。人工智能及算力的發(fā)展帶來網(wǎng)絡(luò)安全的直接需求。人工智能既是網(wǎng)絡(luò)安全需求來源，也是網(wǎng)絡(luò)安全的下一形態(tài)。未來若有企業(yè)能夠積極把握‘人工智能+安全’這一機遇，有望獲得快速的發(fā)展。”

對于如何用好人工智能這把“雙刃劍”，A股多家上市公司已率先進行相關(guān)技術(shù)儲備與業(yè)務(wù)布局。近日，天融信在投資者互動平臺上表示：“目前公司進一步加大類ChatGPT的大模型技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域的研究投入，聚焦惡意樣本檢測與分析、攻擊行為發(fā)現(xiàn)與溯源、安全情報推理與生成、自動化漏洞挖掘與評估、智能化安全服務(wù)與運營等方向。”

深信服表示：“公司長期關(guān)注安全、云計算和相關(guān)領(lǐng)域的前沿技術(shù)，后續(xù)將繼續(xù)積極探索各類前沿技術(shù)在網(wǎng)絡(luò)安全和云計算的應(yīng)用，公司將結(jié)合自身能力儲備和下游客戶需求，持續(xù)進行網(wǎng)絡(luò)安全、云計算和基礎(chǔ)網(wǎng)絡(luò)及物聯(lián)網(wǎng)等業(yè)務(wù)領(lǐng)域的技術(shù)創(chuàng)新。”

永信至誠在投資者互動平臺上表示：“人工智能在不同行業(yè)、不同領(lǐng)域的應(yīng)用有不同形態(tài)，例如ChatGPT類的人工智能平臺，一般會出現(xiàn)接口類、越權(quán)類等網(wǎng)絡(luò)安全風(fēng)險，還可能存在隱私泄露、數(shù)據(jù)泄露等數(shù)據(jù)安全風(fēng)險，公司的網(wǎng)絡(luò)靶場和數(shù)字風(fēng)洞產(chǎn)品具備對該類產(chǎn)品和風(fēng)險進行安全測試評估的能力。”

陳端向《證券日報》記者表示：“人工智能快速發(fā)展所帶來的變革，讓底層技術(shù)邏輯、業(yè)務(wù)邏輯，乃至未來的場景生態(tài)、場景邏輯、產(chǎn)業(yè)生態(tài)都處在深刻變革之中，能夠以創(chuàng)新贏得先發(fā)優(yōu)勢的企業(yè)，將把握住下一個紅利期。”