近幾年，科技企業在推廣新一代信息技術產品時，數據安全、數據隱私等問題廣受詬病。數據作為驅動人工智能快速發展的重要基礎，其安全也決定了人工智能的安全。人工智能的加速發展給數據的安全治理帶來了新的機遇和挑戰。
驗證碼登陸、移動在線支付、人臉識別門禁……
隨著新一代信息技術的發展，互聯網和人工智能技術應用蓬勃發展，數據也被視為一種無形的資產。然而，技術是一把雙刃劍，在給我們生產生活帶來效率提升的同時，伴隨的安全問題也不可忽視。
近幾年，科技企業在推廣新一代信息技術產品時，數據安全、數據隱私等問題廣受詬病。數據安全成為當今數字化轉型時代的關鍵緊迫議題。
在7月8日至10日舉行的2021世界人工智能大會上，數據安全、數據治理、網絡安全等問題備受關注。業界認為，在人工智能深入推進城市數字化轉型過程中，企業應積極主動接受監管，推動產業健康持續發展。
數據安全治理面臨新的機遇和挑戰
近日，桔視記錄儀等25款App因存在嚴重違法違規收集使用個人信息問題，被國家互聯網信息辦公室依據《中華人民共和國網絡安全法》相關規定，通知應用商店下架。
此前，在上海車展特斯拉車主維權事件中，特斯拉公布了維權車主車輛事發前半小時的行車數據。該行為引發了眾多爭議：車企該不該將行車數據公開？人們如何確定數據的可靠性？
沒有大數據的收集和基礎，人工智能是無本之木。數據作為驅動人工智能快速發展的重要基礎，其安全也決定了人工智能的安全。人工智能的加速發展給數據的安全治理帶來了新的機遇和挑戰。
“大數據驅動業務的開展，讓數據安全對城市運轉變得前所未有的重要，數據一旦遭到攻擊，就意味著業務會停轉，將造成嚴重的經濟損失和社會后果?！?60公司創始人、董事長兼CEO周鴻祎表示，最近幾年，360公司接到大量醫院的報警，稱醫院網站被勒索軟件攻擊之后不能進行手術，不能給病人掛號看病。
近年來，城市也成為了網絡勒索的重要目標，而且網絡攻擊的對象不僅限于電腦、手機、設備、系統，還逐漸擴展到數據。人工智能數據的獲取、處理和應用具有極強的隱私性與領域擴展性，關乎個人信息安全甚至國家信息安全。對政府、城市公共事業單位的數據勒索，會造成城市運轉和服務陷入停擺。今年5月，美國最大的燃油輸送管線遭遇網絡攻擊被迫關停，導致美國東海岸45%的汽油、柴油等燃料供應受到影響。
業界認為，針對上述情況，要讓人工智能技術的頭頂上高懸一把達摩克里斯之劍。
數據輸入、分析等過程都存在相應風險
數據非法跨境流通可能危害國家主權和國家安全；數字信息的過度采集和非法使用，可能侵犯公民的權利和隱私；算法的偏好可能加劇社會的偏見或歧視，威脅公平正義；無人駕駛汽車緊急避險等智能決策可能威脅特定人群的生命……
全國政協社會和法制委員會副主任陳智敏在人工智能大會安全高端對話上指出，人工智能發展與安全發展風險同時并存，這不僅是一個技術問題，也是一個安全問題，同時還涉及倫理、法律和國際規則等相關問題。
國家工業信息安全發展研究中心副主任何小龍在人工智能大會上表示，人工智能帶來的數據安全問題一方面加速了傳統數據安全問題。
人工智能大規模的運用使得過度采集數據安全問題進一步加劇。另一方面，也帶來了新型數據安全的問題。人工智能的算法對數據具有較強的依賴性，可能會帶來數據投毒等新型數據安全挑戰。
算法、模型和數據構成機器學習三大基石。騰訊朱雀實驗室首席AI安全專家朱季峰在人工智能大會主題論壇上表示，以算法構建過程中上下游的產業鏈來看，數據的輸入、數據的分析、模型的訓練、模型的決策、模型的上線部署應用以及模型的改造過程當中都存在相應的風險。
例如，在數據輸入環節，如果攻擊者控制了數據來源，或者攻擊者能夠對收集數據的設備本身產生安全攻擊，最終將通過這個鏈條影響到算法模型。如通過超聲波影響陀螺儀，最終可以使無人機墜落。或者在模型決策階段，可以通過物理攻擊，使得自動駕駛車輛最終視覺識別系統出問題，這樣可能影響車輛自動行駛或者對行人的判斷。
隨著人工智能的應用，技術的濫用帶來失控風險。驗證碼驗證機制首當其沖。朱季峰介紹，早在2017年，地下的黑產就已經開始用機器學習的方法做二維碼識別訓練。資料表明，80%以上驗證的準確性都可以通過機器學習算法自動完成線上的注冊，這就產生了一系列的安全問題。
3大系統共筑數據安全防火墻
人臉識別技術依托于對海量視圖數據的分析，因而數據安全直接影響著人臉識別技術的實戰應用。人工智能技術在安防領域的應用是技術尋求落地進程最快、應用最早的訓練場。
達闥創始人、董事長兼CEO黃曉慶表示，從數據采集到數據處理到數據傳輸，解決數據網絡安全問題有很多手段。從網絡和數據角度要完成三個重要的任務——物理隔離、網絡隔離、應用端到端的保護。
除了技術，我國利用法律武器在數據立法上也做出了探索。
今年6月，我國頒布了《數據安全法》，9月1日將開始正式實施?！稊祿踩ā诽岢鲆詳祿旨壏诸悶楹诵?，搭建數據安全的監管制度，要求強化落實各級數據處理活動主體數據安全保護的義務與責任，為規范數據處理活動，保障數據安全提供法律依據。另外，《個人信息保護法（草案）》也即將進入三審階段，兩項法案相輔相成，推動我國個人信息保護和數據安全治理進入全新階段。
在人工智能大會“大愛無疆·共生”論壇上，清華大學蘇世民書院院長薛瀾回顧人工智能治理模式歷經回應式治理、集中治理和敏捷治理三個階段?！艾F在我們進入了相對比較集中的治理模式。該模式明確了國家加強行業監管，促進制度落地的決心，對暴露出來的各種問題采取比較堅決的措施落實監管規則，同時觸及到需要進一步研究的問題?！毖懻f。
目前，上海正研究立項公共場所人臉識別分級分類應用規范的地方標準，將成為全國首個立項的人臉識別的地方性標準；開展全市人工智能數據立法調研，規范數據確權，數據共享等重要內容，推動可信人工智能的研究。上海市人大也正在起草《上海市數據條例》。
此外，上海市數字證書認證中心、復旦大學計算機學院、上海交通大學電子信息與電氣工程學院、移動互聯網系統與應用安全國家工程實驗室、上海賽博網絡安全產業創新研究院共同發起籌建數字身份與數據流通信任技術實驗室，該實驗室將基于數字信任技術的產學研生態合作，開展隱私計算、區塊鏈、前沿密碼等數字信任技術攻關和產業應用，支撐城市數字化轉型、數據要素市場構建和網絡安全體系建設。
記者獲悉，上海浦東新區將在數據資源共享、數據交易、數據開發利用等方面進行立法探索；臨港新片區將試點開展企業法人數據的跨境流通的安全評估和服務監管，加強個人數據的全生命周期安全監控和防護。
