設為首頁 加入收藏
您當前所在的位:法律法規->法律研究->研究思考

數字時代應高度關注算法規制

訪問量:[]
發布時間:2020-10-14 09:17 來源:
分享:
0


  近日,《人物》雜志一篇關注外賣騎手的深度報道《外賣騎手,困在系統里》,引發一場輿論風暴。外賣企業開發的實時配送系統,運用AI智能算法和深度學習的系統,極大地提高了智能配送的效率。外賣騎手不需要自己去優化路線,只要按照系統指示,就可以不浪費一分鐘,及時將外賣送到顧客手中。但外賣騎手越努力,系統就會自動修改參數,縮短配送時間要求,使得外賣騎手不得不通過超速、逆行、闖紅燈等方法來縮短配送時間,以避免因為延誤而被罰款。但問題是,對經過這種“艱苦卓絕的努力”才實現的配送效率,智能配送系統又進一步將其默認設定為一種普遍性、標準化的要求。這是一個可怕的自噬循環:外賣騎手越努力(不管這種努力是通過什么方式實現的),越是讓系統覺得騎手仍有潛力可挖,進一步提出近乎不可能完成的任務。本來是服務于人的系統,結果反過來控制和主宰了人。科幻電影《黑客帝國》描述的無所不在、控制一切的矩陣(matrix),似乎正在成為現實。
  其實問題并沒有那么復雜。上述情況是數字時代的算法問題。由于信息技術的發展,人們已經可以通過收集和處理大數據,來規劃和安排社會生活中的很多事項,這樣不僅能提高效率且讓判斷更加精準。例如,銀行可以對其收集的海量金融消費數據進行分析,根據算法來決定是否給予一個申請人貸款以及貸款的利率是多少。法院可以根據司法大數據設計一個算法,來決定是否批準相關人員提出的保釋、減刑的申請。電商平臺可以根據商業大數據,來決定商家在搜索結果中的排序,以此追求最高的用戶點擊率購買率,實現平臺GMV(成交總額)的最大化。因此,伴隨大數據技術不斷進步,算法的使用必將越來越廣泛。
  在帶來各種福利的同時,算法的運用也催生諸多問題。作為算法運作之基礎的數據是否客觀真實?算法的運用是否會加深和強化歧視?人們是否有權利挑戰算法給出的結論?進而言之,人們是否有權挑戰算法本身的公平性與合理性?這些都是最近一些年來日益受到學界關注的重要話題。
  就其性質而言,算法其實是數據科技企業開發出來的一套運營管理工具,在很大程度上替代自然人來作出決策與判斷。不過,即便有高科技背景,算法仍應被歸于相應的運營者的決策與判斷。算法本身是一種技術,但是算法運營者賦予其靈魂與價值選擇,所以算法問責與規制的基礎仍在于將算法運營者置于規制的中心。任何脫離這一基礎來討論算法規制,注定會淪為空談。
  具體來說,算法運營者必須為算法所導致的實際問題承擔責任。例如,某種特定的算法運用是否導致明顯的違法歧視行為,是否導致對公共秩序的危害,是否侵犯公民的基本權利與人格尊嚴,是否違反了社會交往中必要的注意義務等。在這里,筆者并非想套用傳統意義上的“產品責任”理念,去理解和界定算法運營者的法律責任性質,因為這二者的確存在重大差別,但無論如何,算法運營者需要為算法運用的后果承擔責任,這是一個不爭的事實。算法責任的具體制度框架需要進一步明確,也需要給予更多關注。作為一個初步框架,算法規制可能需要包括以下要素。
  第一,對可以運用算法的場景建立審慎評估制度。對于涉及公民重大權益的場合,例如刑事訴訟程序、量刑等領域,如要運用算法來作出決策,需有更加嚴格的控制與審查機制。第二,對于算法運用是否產生不良后果,要建立一種社會性的評議機制進行持續性的跟蹤研究。這有點類似于新產品投入使用之后的后續觀察義務。如果社會評議機制有充分的理由,認定特定算法的運用,導致不良后果,就應該啟動問責機制,要求相應的算法運營者予以解釋與說明并作出優化。第三,將責任機制覆蓋至算法領域。在司法以及行政理念上,無論是法官還是行政執法者,都需要將算法的運用作為算法運營者行為的延伸。無論運營者是否存在過錯,是否存在行政違法等,算法因素都應被納入追責的考量范圍內。
  希望外賣騎手被系統所困的報道,引發的不只是人們對外賣騎手這個特定群體的關心,還有對正在日益進入的算法時代的深入系統思考以及對建立相應算法規制體系的關注與研究。在這方面,人們還有很多工作要做。

□北京大學法學院教授
北京大學電子商務法研究中心主任 薛軍

(責任編輯:)

Copyright 1984-2016 CHINA INDUSTRY & COMMERCE NEWS AGENCY All Rights Reserved

中國市場監管報 版權所有