收藏,！2024中關(guān)村論壇——數(shù)據(jù)安全治理與發(fā)展論壇精彩觀點

發(fā)布者: 麗江同城網(wǎng) | 發(fā)布時間: 2024-5-14 14:35| 查看數(shù): 12627| 評論數(shù): 0|IP：中國云南麗江

近日,，2024中關(guān)村論壇——數(shù)據(jù)安全治理與發(fā)展論壇在中關(guān)村國際創(chuàng)新中心成功舉辦,。會上,，國內(nèi)外科研院所專家學(xué)者交流前沿理念,、分享研究成果,。

精彩觀點碰撞

柳俊泓

新加坡資訊通信媒體發(fā)展局局長

數(shù)據(jù)雖然看不見摸不著,，但它推動著數(shù)字經(jīng)濟的發(fā)展。如何在數(shù)據(jù)安全保護和創(chuàng)新發(fā)展之間取得平衡,？大多數(shù)國家和地區(qū)都有著相似的處理方式,。首先，獲得用戶授權(quán)同意,，是使用個人數(shù)據(jù)非常重要的環(huán)節(jié),；第二，數(shù)據(jù)機制需要明確數(shù)據(jù)不可用的領(lǐng)域,；第三,，頂層設(shè)計要審慎，數(shù)據(jù)可用的領(lǐng)域應(yīng)占大多數(shù),；第四,，要建立協(xié)調(diào)機制，通過標(biāo)準(zhǔn)合同條款進行協(xié)調(diào),，有助于實現(xiàn)一定程度的全球一致性,。

數(shù)據(jù)是人工智能的核心，一些新服務(wù),、新解決方案由傳統(tǒng)人工智能和生成式人工智能創(chuàng)造出來。我們需要對數(shù)據(jù)和人工智能建立信任,，要真正聚焦共性的人工智能測試方法,，促進人與人之間的交流。人工智能發(fā)展凸顯出數(shù)據(jù)的重要性,，同時也在創(chuàng)造一個全球性的治理框架,，其中建立互信是最重要的因素。

沈昌祥

中國工程院院士

大數(shù)據(jù)具有多源異構(gòu),、非結(jié)構(gòu)化,、低價值度、快速處理等特點,。隨著信息技術(shù)發(fā)展和海量數(shù)據(jù)爆發(fā),，安全成為支撐大數(shù)據(jù)健康發(fā)展的關(guān)鍵。我們要打造數(shù)據(jù)治理安全可信的新生態(tài),，構(gòu)建數(shù)字經(jīng)濟主動免疫保障體系,，實現(xiàn)“六不”防護效果，使數(shù)據(jù)安全治理達到有效的目標(biāo)：一是“進不去”,，即攻擊者進不去,；二是“拿不到”，即非授權(quán)者重要信息拿不到,；三是“看不懂”,，即竊取保密信息看不懂,；四是“改不了”，即系統(tǒng)和信息改不了,；五是“癱不成”,，即系統(tǒng)工作癱不成；六是“賴不掉”,，即攻擊行為賴不掉,。

郭毅可

香港科技大學(xué)首席副校長

在人工智能和大語言模型為各行業(yè)帶來變革的時代，數(shù)據(jù)安全治理顯得尤為重要,。為防止未經(jīng)授權(quán)訪問和數(shù)據(jù)泄露,，要采取嚴(yán)格的安全措施，通過數(shù)據(jù)匿名化技術(shù),、用戶同意和隱私設(shè)計原則以及實施數(shù)據(jù)分類,、訪問控制和加密方法等，保護知識產(chǎn)權(quán)和防止未經(jīng)授權(quán)的披露,。除了制定明確的政策和框架,，以及有效的數(shù)據(jù)分類和歸類以外，訪問控制和權(quán)限管理也是確保數(shù)據(jù)安全的關(guān)鍵因素,。

此外,，我們需要在保護數(shù)據(jù)隱私和敏感信息的同時，建立國際機構(gòu)框架和制定法規(guī)來確保數(shù)據(jù)安全,。通過建立健全法規(guī),，應(yīng)用先進技術(shù)，加強國際合作,，推動人工智能規(guī)范發(fā)展,，確保數(shù)據(jù)安全治理有效實施。

孫茂松

清華大學(xué)人工智能研究院常務(wù)副院長

生成式人工智能帶來很多挑戰(zhàn),。我們發(fā)現(xiàn),，機器翻譯產(chǎn)生的雙語質(zhì)量并不高，用這些數(shù)據(jù)訓(xùn)練機器翻譯系統(tǒng),，反而會造成損害,。隨著其生成能力的增強，如果放任不管,，機器生成的內(nèi)容很快就會超過人類創(chuàng)作的內(nèi)容,，而且其中很多內(nèi)容可能與事實不符，用這些內(nèi)容來訓(xùn)練大模型,，可能會帶來隱患,。因此，這一領(lǐng)域確實面臨著許多挑戰(zhàn)，需要全球各國政府和學(xué)者共同努力,，從技術(shù)上解決這些問題,。同時，生成式人工智能也為數(shù)據(jù)治理提供了非常重要的正面推動作用,。我們可以通過為大模型增加某些條件,，如特定提示詞（Prompt）或標(biāo)簽（Tag），讓它生成尚未遇到過的情景數(shù)據(jù),，從而幫助我們進行預(yù)判,。

七大成果發(fā)布

北京市數(shù)據(jù)跨境便利化實踐

繼全國首個數(shù)據(jù)出境安全評估項目、首個通過訂立標(biāo)準(zhǔn)合同實現(xiàn)個人信息合規(guī)出境案例“兩個全國第一”在北京落地后,，北京市政產(chǎn)學(xué)研聯(lián)合打造數(shù)據(jù)出境“綠色通道”機制,，覆蓋汽車、醫(yī)藥,、民航,、零售、人工智能五大行業(yè)百余家企業(yè),，通過政策咨詢,、宣講解讀、靠前指導(dǎo),、材料預(yù)審等一系列便利化舉措服務(wù)企業(yè)主體超4000家,；設(shè)立數(shù)據(jù)跨境服務(wù)中心，搭建全國首個數(shù)據(jù)托管服務(wù)平臺,、數(shù)據(jù)安全與治理公共服務(wù)平臺,，數(shù)據(jù)跨境高質(zhì)量社會化服務(wù)能力大幅提升。近一年,，北京市數(shù)據(jù)出境安全評估通過企業(yè)增長650%，個人信息出境標(biāo)準(zhǔn)合同備案通過企業(yè)實現(xiàn)破百,，出境數(shù)據(jù)多樣性和通過率穩(wěn)居全國前列,，為加快發(fā)展新質(zhì)生產(chǎn)力、推動數(shù)字經(jīng)濟高質(zhì)量發(fā)展提供有力保障,。

中文互聯(lián)網(wǎng)語料庫CCI 2.0

北京智源人工智能研究院發(fā)布中文互聯(lián)網(wǎng)語料庫CCI 2.0,，規(guī)模約500G，是經(jīng)過嚴(yán)格清洗過濾的中文數(shù)據(jù)集,。CCI 2.0在1.0版本基礎(chǔ)上,，進一步擴充數(shù)據(jù)來源、完善數(shù)據(jù)處理流程,、提升數(shù)據(jù)規(guī)模和質(zhì)量,，并通過數(shù)據(jù)集“共建-共享”合作運營機制，持續(xù)推動迭代更新，為大模型技術(shù)發(fā)展提供高質(zhì)量,、高可信的數(shù)據(jù)資源支撐,。

北京人工智能數(shù)據(jù)訓(xùn)練基地監(jiān)管沙盒

北京市經(jīng)信局、北京市網(wǎng)信辦組織相關(guān)單位建立北京人工智能數(shù)據(jù)訓(xùn)練基地監(jiān)管沙盒機制,，依托北京數(shù)據(jù)基礎(chǔ)制度先行區(qū),、北京人工智能數(shù)據(jù)訓(xùn)練基地提供的可信空間和強大智算資源，形成多項人工智能訓(xùn)練數(shù)據(jù)應(yīng)用創(chuàng)新機制,，向大模型企業(yè)模型訓(xùn)練提供“強大算力+海量數(shù)據(jù)+監(jiān)管合規(guī)”的完整訓(xùn)練要素,，成為我國首個將監(jiān)管沙盒機制應(yīng)用于人工智能領(lǐng)域的案例。

北京市高級別自動駕駛示范區(qū)數(shù)據(jù)安全治理白皮書

北京市高級別自動駕駛示范區(qū)辦公室發(fā)布《北京市高級別自動駕駛示范區(qū)數(shù)據(jù)安全治理白皮書》,，基于示范區(qū)海量自動駕駛產(chǎn)業(yè)數(shù)據(jù),，以“保障示范區(qū)數(shù)據(jù)全過程安全合規(guī)，促進車路云一體化數(shù)據(jù)價值挖掘”為目標(biāo),，率先開展數(shù)據(jù)分級分類,、實時感知安全態(tài)勢、定期進行風(fēng)險評估,、推動應(yīng)用技術(shù)創(chuàng)新等專項工作,，為解決產(chǎn)業(yè)數(shù)據(jù)安全治理共性需求打造標(biāo)桿實踐指南。

生成式人工智能安全風(fēng)險測評平臺及大賽

中科院信息工程研究所創(chuàng)新構(gòu)建大模型安全技術(shù)測評體系,，研究開發(fā)生成式人工智能安全風(fēng)險測評平臺,，并依托該平臺舉辦首屆生成式人工智能安全大賽，設(shè)置安全攻擊,、安全檢測,、對齊防護三大賽道，構(gòu)建“眾研,、眾用,、眾創(chuàng)”的中文大模型安全評估模式，促進人工智能底層技術(shù)和基礎(chǔ)底座的安全可控水平不斷提升,。

國家網(wǎng)絡(luò)安全融合發(fā)展試驗區(qū)（北京市海淀區(qū)）網(wǎng)絡(luò)安全公共服務(wù)平臺

北京市海淀區(qū)依托國家網(wǎng)絡(luò)安全教育技術(shù)產(chǎn)業(yè)融合發(fā)展試驗區(qū)建設(shè),，創(chuàng)新打造網(wǎng)絡(luò)安全公共服務(wù)平臺，立足“政府主導(dǎo),、企業(yè)經(jīng)營,、市場運作、社會參與”的工作思路,，開通“網(wǎng)安120”24小時公共服務(wù)熱線,，匯集頭部網(wǎng)絡(luò)安全資源，面向社會公眾,、企業(yè)提供網(wǎng)絡(luò)安全應(yīng)急處置,、溯源分析、整改加固等全棧服務(wù)。

此外,，在圓桌論壇環(huán)節(jié)，來自清華大學(xué),、劍橋大學(xué),、香港科技大學(xué)、IBM,、華為,、奇安信的數(shù)據(jù)安全專家，聚焦生成式人工智能數(shù)據(jù)安全治理熱點問題,，從理論研究,、技術(shù)應(yīng)用、產(chǎn)業(yè)實踐,、國際合作等方面分享實踐經(jīng)驗,、研討發(fā)展路徑，推動人工智能技術(shù)賦能產(chǎn)業(yè)健康發(fā)展,。

本次論壇由國家互聯(lián)網(wǎng)信息辦公室,、北京市人民政府主辦，國家互聯(lián)網(wǎng)信息辦公室網(wǎng)絡(luò)數(shù)據(jù)管理局,、北京市互聯(lián)網(wǎng)信息辦公室,、北京市經(jīng)濟和信息化局、北京市政務(wù)服務(wù)和數(shù)據(jù)管理局,、北京市商務(wù)局,、海淀區(qū)人民政府、大興國際機場臨空經(jīng)濟區(qū)（大興）管理委員會承辦,，清華大學(xué)人工智能國際治理研究院,、國家互聯(lián)網(wǎng)應(yīng)急中心北京分中心協(xié)辦。

分享0 收藏0 支持0 反對0

		自動登錄	找回密碼
密碼			立即注冊

收藏,！2024中關(guān)村論壇——數(shù)據(jù)安全治理與發(fā)展論壇精彩觀點

最新評論

0 條評論