自動化駕駛、個性化資訊推薦……未來將會是一個“算法無處不在”的社會。我們在享受便利的同時，該如何避免算法侵權?
2024年全國兩會，全國政協委員、北京國際城市發展研究院創始院長連玉明提交了一份提案，嘗試爲防範算法風險建言獻策。他建議強化司法救濟，將算法侵權領域納入公益訴訟法定範疇，未來還應着重將個人在算法應用中的救濟權利制度化和規範化。
連玉明還有一份提案聚焦數據要素市場。他建議，在建立“三權分置”數據產權制度基礎上，加快探索數據要素“三級市場”，推動數據資產向數據資本躍升。與此同時，他認爲既要“數盡其用”，更要保護數權，建議加大立法的理論研究，適時啓動《數權法》立法。近日，南都記者專訪了連玉明。
談AI安全與發展
火鍋市場年達400億元商機！築間首跨麻辣鍋領域 插旗一級戰區西門町
“算法治理是實現AI‘向善’的重要一環”
南都:生成式AI火爆的同時，也讓全球警惕AI風險的擔憂加劇。如何應對人工智能帶來的挑戰，目前是否已經形成了一些相關的共識?
連玉明:據我瞭解，全球範圍內至少有60多個國家制定和實施了相關治理政策，我國也發佈了《互聯網信息服務深度合成管理規定》等政策文件，並提出了《全球人工智能治理倡議》。在全球範圍內，人工智能領域的規則秩序正處於形成階段，倫理治理髮展趨勢逐漸同步。
作爲人工智能治理的核心環節，算法治理是實現AI“向善”的重要一環。面對層出不窮的算法侵權問題，我國建立包括算法治理在內的人工智能治理體系刻不容緩。
南都:今年你有一份提案正是與算法治理有關，現階段強調算法治理的重要性和迫切性是什麼?
連玉明:2019年4月，《自然》雜誌上刊登了一篇研究性綜述，其中指出未來將是一個“算法無所不在”的社會，自動化的新聞推薦、算法輔助法官判案、無人駕駛汽車等，都將無縫接入我們的生活。現在，這個“未來”已到，算法爲人類社會生活帶來了諸多福音，但同時，諸如侵犯隱私、名譽損害、身體傷害、羣體歧視、區隔控制以及信息操縱等算法侵權危害現象日漸突出。當前，算法風險防範與算法侵權治理已從學界走向國家治理層面，成爲重要的社會議題之一。
談算法治理
“將算法侵權領域納入公益訴訟法定範疇”
南都:當前算法治理面臨哪些難題?
連玉明:主要在三方面。一是立法嚴重滯後。我國雖已發佈相關文件，但整體立法進程仍顯緩慢，還存在較大差距。二是監管體系不健全。我國尚未設立類似於國家算法安全委員會的專門性算法審查和監管機構，現有算法應用監管制度還不完善，急需加快制定算法應用規則和標準規範，建立算法問責制，強化算法侵權司法救濟，加強算法倫理建設，提升算法公平性。三是維權難度大。由於算法黑箱或技術不透明性，與傳統的侵害行爲相比，算法侵權的因果進程更加冗長、複雜、不透明，導致不僅難以對算法的決策機制作出人們可理解的解釋，甚至將侵害結果追溯到具體行爲主體都變得非常困難。
南都:面對這樣的困境，該如何破解?
連玉明:我的提案主要圍繞算法侵權後，司法救濟中的公益訴訟制度建設提出相關建議。一是將算法侵權領域納入公益訴訟法定範疇，建議最高人民法院和最高人民檢察院儘快出臺針對算法侵權的司法解釋和專題指導案例。二是加快構建以人民檢察院爲主導、社會組織和個人共同參與的算法侵權公益訴訟多元主體模式，推動多元主體協同治理。由於算法侵權案件特有的專業性和複雜性，要調動全社會、各領域、多層次的專門組織和專業人士，構建公益訴訟支持系統，降低法律成本。三是加強算法侵權公益訴訟制度的宣傳工作。通過多種形式、多種渠道擴大社會公衆對算法侵權公益訴訟制度的知曉度和參與度，讓公衆充分了解算法侵權公益訴訟對保護羣體利益、守護公共利益的重要作用。
談數權立法
“既要‘數盡其用’，更要保護數權”
南都:2024年1月1日，數據被視爲一種資產進入財務報表。數據入表是數據資產化的第一步。你認爲，接下來要讓數據充分發揮價值，還需要考慮哪些關鍵問題?
連玉明:數據的產權、定價、流通、分配等制度構建十分複雜，在世界範圍內都是一個“無人區”。我國推動實施“數據資源入表”，可以說是在構建數據要素市場中邁出了關鍵一步。但“數據資源入表”是在沒有突破傳統的會計準則、價值分配與計量方法框架下進行的，還需進一步破解數據產權界定不清晰、數據定價體系不完善、數據資產登記制度不健全、數據交易平臺定位不準確等問題。
中金印力消费REIT将于3月25日网下询价，估值39.59亿元
要推動“數據資源入表”走向“數據資產入表”，就必須建立數據資產覈算和入表的全鏈條管理體系，從數據產權界定製度、資產登記制度、資產評估制度、交易定價制度、資產入表制度等入手，構建一個全流程的完整閉環，才能使數據資產的商品化、市場化、要素化真正見到成效。
南都:爲推動數據資產向數據資本躍升，你提出在“三權分置”的數據產權基礎上，探索建立數據要素“三級市場”，能否談談主要思路?
連玉明:2022年12月，中共中央、國務院印發《關於構建數據基礎制度更好發揮數據要素作用的意見》，提出建立數據“三權分置”產權運行機制，其核心是通過明確數據資源持有權，強化數據加工使用權，放活數據產品經營權。在此基礎上，可參考資本和土地等要素多級市場體系，探索構建零級、一級和二級聯動的數據要素多級市場體系。
一級市場即數據資源市場，主要承載以數據集或數據接口爲主要流通方式的數據資源。二級市場即數據產品和服務市場，數據加工方對數據資源進行加工處理和算法模型化，以產品和服務形式銷售給購買者，是要素產品化的過程。零級市場即非交易流通市場，屬於未進入交易環節但發生數據共享交換和權益流轉的市場行爲，既包括企業內部或具有一定業務或股權關聯關係的企業間發生的數據共享交換，也包括數據信託等新型數據權益流轉。
我認爲，應該逐步細化數據“三權分置”和數據“三級市場”之間的關係，推動數據資產向數據資本躍升。
另外，數據既是信息載體又是生產要素，與勞動、資本、土地、知識、技術等生產要素不同，具有非競爭性、非排他性、可複製性等特點，這就決定了數據行爲規則、數據權利保護不能套用傳統的法治模式。最大程度發揮數據的要素作用，既要解決好以“所有權”爲重點的數據產權問題，更要加快完善基於“共享權”的數據權利保護問題，既要“數盡其用”，更要保護數權。
我建議應加大數權立法的理論研究，重點解決數據權屬、形態、公共數據共享機制等關鍵問題，按照安全至上、互聯互通、公益優先、貢獻定酬的原則，適時推動《數權法》立法進程。
建立數據“三權分置”產權運行機制，其核心是通過明確數據資源持有權，強化數據加工使用權，放活數據產品經營權。在此基礎上，可參考資本和土地等要素多級市場體系，探索構建零級、一級和二級聯動的數據要素多級市場體系。我認爲，應該逐步細化數據“三權分置”和數據“三級市場”之間的關係，推動數據資產向數據資本躍升。——連玉明
採寫:南都記者 李玲 胡耕碩 實習生 陳奕帆 發自北京
受訪者供圖