1. AI成“監工”：算法下外賣騎手挑戰交通規則，“助手”可能變“殺手”
得票率：51.2%
案例描述：
為提高配送效率，一些外賣平臺研究開發了實時智能配送系統。借助AI算法，平臺可以最優化地安排訂單，也能給騎手規劃最合理的路線。但出于平臺、騎手和用戶三方效率最大化的目標，AI算法將所有時間壓縮到了極致，為了按時完成配送，騎手們只能用超速去挽回超時這件事。超速、闖紅燈、逆行……外賣騎手挑戰交通規則的舉動是一種逆算法，是騎手們長期在系統算法的控制與規訓之下做出的不得已的勞動實踐，而這種逆算法的直接后果則是——外賣員遭遇交通事故的數量急劇上升。同時，這也意味著，在很多人類勞動者和AI的協作專業工作中，人類將處在被管轄和被監督之下。（來源：《人物》雜志）
專家點評：
徐云程 曠視首席發展官、曠視 AI 治理研究院院長
這個案例雖然講的是外賣騎手，但我們可以思考，當AI算法嵌入到人類社會的方方面面，人類在不知不覺中已經作為一個數據被算法研究，人類每天看到的信息究竟是算法推送還是客觀公正的？當算法的技術不斷臻于完美，商業利益不斷迭代，對人類福祉的影響到底是什么？對AI企業來說，應在早期產品實驗室研究過程和產品化過程中考慮到平等問題；作為個人，在推動AI治理時，應思考如何貢獻更多前瞻性看法。
梁正 清華大學公共管理學院教授、清華大學人工智能國際治理研究院副院長
選擇該案例并不是因為這是一個現象級問題，而是可以看出人工智能治理問題不是某一個單一主體可以解決的。我們可以看到，在這個案例里還包括交通規劃、收入保障體系不到位等問題，我的結論是——我們需要一個多元主體共治的治理體系。
徐勇 哈爾濱工業大學深圳研究生院教授、博導
AI技術的發展與普及給人類生活帶來了極大的便利，但由于商業驅動產生了以盈利為導向的技術優化，使得勞動人員在技術監管下對現實社會規章制度產生破壞行為。AI技術的應用應有利于人類社會良性發展，我國處于AI技術高速發展的階段，企業以AI技術壓榨人力勞動術來增加商業利益無疑是一種舍本逐末的行為。需要運用法律和道德對AI技術的研發和應用進行約束，正確引導企業的價值觀。在人工智能普及的時代，也應充分保護勞動者的合法權益，人工智能算法的應用在追求效率和利益之外，不可忽略人性與理性，不能讓機器的冰冷碾壓人性的光輝。
