來源：新華網
隨着大數據、人工智能等信息技術的快速發展,我們正在進入“算法經濟時代”。以深度學習為代表的人工智能算法在互聯網信息傳播、數字經濟發展、信息產業服務等諸多方面發揮了重要作用，產生了溢出性極強的經濟效益。
然而，當前人工智能算法通常依賴於數據驅動的方式，其行為不可控、決策機理難解釋，帶來了公平性、隱私性等相關安全問題。更嚴重的是，人工智能算法“黑箱”特性導致了算法治理困難，加劇了算法被資本利用的可能，給算法經濟的發展帶來一定負面影響。事實上，近年來算法“黑箱”特性的負面作用正在凸顯。一些平台利用算法決策侵犯受眾權益的問題層出不窮，傳統監管手段失效，極易引發監管機構信任危機。
監管信任危機的根源在於企業在數據和算法上的非對稱優勢。當前，基礎數據的所有權和控制權主要集中在互聯網平台企業，這些企業全程操縱算法設計、運行、測試和分析，由此佔據着優勢地位。監管部門在“算法社會”中已經呈現出被邊緣化的趨勢，極易失去對關鍵數據和關鍵算法的監督權和控制權。這意味着，算法“黑箱”的存在勢必導致私人利益主觀上俘獲公共利益，以及資本主觀上規避公權力約束等風險的產生。同時，算法“黑箱”客觀上隱藏了算法自身存在的缺陷，並可能觸發安全風險，讓監管機構難以審查算法信息。監管機構規制算法的內容與手段均受到限制，難以及時針對算法問題進行問責和糾偏。
例如，一些平台基於用户信息，對用户進行“大數據殺熟”，即對於同樣的商品或服務，新用户的價格比老用户便宜許多，暗中形成市場歧視，踐踏市場公平，侵害消費者權益和政府公信力。而互聯網平台企業使用的動態定價算法存在的潛在缺陷，則可能造成算法共謀，即在多個動態定價算法同時被使用時，在人們不知情的情況下通過算法對市場進行壟斷，從而提高市場價格，產生寡頭。除了商業領域，“黑箱”讓諸多算法流程處於出不透明的狀態，公民的知情權在相當程度上失去保障。
我國“十四五”國家信息化規劃提出，應建立健全規範有序的數字化發展治理體系。2022年1月份發佈的《互聯網信息服務算法推薦管理規定》，明確反對算法歧視、大數據殺熟、誘導沉迷等算法的不合理應用。而算法治理法律法規、監管標準規範、監管技術及平台的缺失缺位，是建立健全算法治理體系中的三大挑戰。
應對挑戰，尤其需要從法律責任、行政責任、道德責任三方面構建算法治理法律法規體系，推動社會各方之間的合作互信。在法律責任層面，國家應制定、完善相關法律法規，在多元主體之間建立起監管算法“黑箱”的共同準則。在行政責任層面，着眼於行政審查、行政監管與行政問責，制定技術標準和操作守則，要求平台企業使用的算法符合法律法規要求、符合公共利益，削弱或消除算法“黑箱”造成的負面影響；在道德責任層面，着眼於算法倫理的嵌入，監管部門應該要求平台在算法設計上符合社會一般道德觀念、價值與規範。
針對算法設計、應用、監管等全流程治理問題，需要構建算法基礎標準、風險評估標準、安全等級標準以及監管標準等完整的標準規範體系，分級分類，設立全面、清晰、可操作的技術指標體系，做到實時可控可監管。算法企業應積極主動配合國家算法治理過程，依據相關標準要求，制定和公開算法相關信息，提升算法透明度。與此同時，發揮社會組織監督作用，加強第三方監督，平衡算法信息的不對稱。
針對算法“黑箱”風險難定義、難監管、難預防、難取證、難追責等問題，需要推動研究院所、企業、高校和政府的技術合作，突破度量評估、行為監測、風險防護、博弈演化、突變溯因等原創理論與核心技術，創建並豐富監管技術手段，確保算法在各個階段中的安全風險可控。為實現算法治理自動化、標準化，還應當開展算法全週期、立體化智能評測和監測技術的研發，構建可解釋性、隱私保護、公平性、魯棒性兼顧的安全可信的算法監管平台。（劉祥龍 作者系北京航空航天大學軟件開發環境國家重點實驗室副主任，計算機學院教授、博士生導師）
特別提醒：本網內容轉載自其他媒體，目的在於傳遞更多信息，並不代表本網贊同其觀點。其原創性以及文中陳述文字和內容未經本站證實，對本文以及其中全部或者部分內容、文字的真實性、完整性、及時性本站不作任何保證或承諾，並請自行核實相關內容。本站不承擔此類作品侵權行為的直接責任及連帶責任。如若本網有任何內容侵犯您的權益，請及時聯繫我們，本站將會在24小時內處理完畢