習近平總書記在中共中央政治局第三十四次集體學習時強調指出,要規范數字經濟發展,堅持促進發展和監管規范兩手抓、兩手都要硬,在發展中規范、在規范中發展。
近年來,隨著互聯網經濟快速發展,一些大型平臺企業如雨后春筍般發展壯大,它們借助大數據、人工智能等現代信息手段,業務遍及網絡購物、交通出行、旅游住宿、訂餐外賣、網絡游戲等。然而,平臺企業在提供產品或服務的同時,也暴露出一些不容忽視的問題:有的通過大數據殺熟;有的通過網絡直播推送違反法律規定的內容;有的刷好評隱差評......
許多企業需要利用人工智能輔助決策,依靠算法開展“經營診斷”,獲得決策信息、確定經營策略,保持競爭優勢。但算法的本質是互聯網的一種編程技術,需要人來參與,既然是人在操作,難免存在主觀色彩,造成不公。
例如,部分西方媒體報道,美國醫療保健風險預測工具被發現具有嚴重的種族偏見;蘋果公司的信用卡算法,存在歧視女性的明顯問題......可以說,數字經濟時代,消費者在看不見摸不到的算法面前,成為“弱勢群體”,權益亟待保障。
若任由不公平的算法無序發展,既會破壞公平競爭的市場環境,又會使消費者成為技術欺凌的對象,從根本上影響數字經濟的發展。因此必須嚴格監管,切實解決算法不公的問題,可以從以下幾方面采取措施。
第一,加強監管頂層設計。習近平總書記指出,要健全市場準入制度、公平競爭審查制度、公平競爭監管制度,建立全方位、多層次、立體化監管體系,實現事前事中事后全鏈條全領域監管。對于算法的規制,不管是事前監管還是事中、事后監管,不管是否進行倫理審查,都要堅持從嚴,實現監管全覆蓋。要建立分層分類監管機制,加強對算法應用的分級標識和分類管理。對不同的算法,確定不同的監管等級和尺度,對涉及公共利益、生命健康、財產權利等的算法,必須強化監管。要嚴格目標規制,對監管目標嚴格監控。要加強倫理審查,對涉及價值觀、道德觀,特別是未成年人教育的算法,必須嚴格審查,堅決掃除不公平的土壤。要加強典型案例建設,圍繞群眾關注的侵害消費者權益的“二選一”、大數據殺熟等問題,列出一批典型案例,提高社會知曉率。
第二,加強相關法律制度建設。習近平總書記指出,要完善數字經濟治理體系,健全法律法規和政策制度,提高我國數字經濟治理體系和治理能力現代化水平。要加強算法領域的立法建設,盡快出臺有關法規,填補相關法律空白。司法機關要加強對算法應用案件的研究,盡快出臺有關司法解釋,通過判例強化對消費者權益的保護。要建立算法投訴應訴機制,全面保障社會各界的投訴、監督權。要加快培育一批技術鑒定機構,強化技術審核力量。
第三,加強反制措施的算法研究。針對有壟斷行為企業加強監管,“用算法針對算法”,從技術上破解不公平問題產生的根源。引導平臺企業加大投入,深化開展算法研究,推出有價值的成果,破解技術不公,重塑市場競爭機制。對于可能產生侵害消費者權益的算法,要采取措施積極預防,把隱患化解在萌芽狀態;對已經發生的不公平算法,要積極研究應對的新技術、新手段,一時解決不了的,就先停止平臺相關業務運營。針對大數據殺熟、價格歧視類的問題,必須采取果斷措施,堅決取消。
第四,加強規制機構建設。政府有關部門可以考慮設立專門機構,負責算法應用倫理、規則、標準制定,對不公平算法及時開展調查、處理,加強對算法應用的有效監管,確保經營者使用的算法可知、可查、可逆,一旦發生爭議,能夠向司法機關、第三方機構提供數據和相關資料,做到算法應用的可驗證、可解釋;要完善算法實施方的舉證責任,徹底解決消費者舉證難、鑒定難的問題,有關部門要加強協調,細化監管職責,實現分工合作、相互配合;要提高監管技術和手段,把監管和治理貫穿創新、生產、經營、投資全過程。