經濟觀察報 記者 任曉寧 11月27日下午，北京大學理科5號樓內，“算法為人”論壇的展旗仍擺在大樓入口處，這場幾天前由北京大學數字治理研究中心等多家機構主辦的論壇是國內第一個討論算法與社會關系的專題論壇。此前，算法相關論壇討論的主要是技術話題，研究如何提高技術效率。

北京大學數字治理研究中心主任邱澤奇為這場論壇準備了很久，舉辦時間恰好與網信辦等四部委聯合推出算法治理清朗行動，以及農夫山泉創始人鐘睒睒炮轟抖音創始人張一鳴的熱點事件重合。這是巧合，某種意義上也是必然。“以前大家對算法的感覺不明顯，不痛不癢，現在可能是感覺到痛了。”邱澤奇對經濟觀察報說，社會大眾已經回過味了，有體驗也有能力去反思算法了。

邱澤奇師從著名社會學家費孝通，他從2000年起關注算法治理。一開始，他覺得ERP(Enterprise Resource Planning，企業資源規劃)的算法會讓人失去工作，后來發現電商系統的算法對商家可能不公平，再到現在，算法幾乎覆蓋到了每個中國人。算法偏見、算法歧視、算法霸權已經成為社會的敏感議題。

在20多年的研究中，邱澤奇發現，算法可以作惡，也可以向善，這主要取決于算法制造者。在與微信創始人張小龍的一次長談后，他加深了這種認知：如果掌控技術的人，能夠把社會的良心和社會的共識植入產品中，數字技術是完全可以向善的，算法也是完全可以為人的。

但是，近期鐘睒睒的控訴、網信辦等四部委的治理，證明一些平臺和行業明顯沒有做到技術向善和算法為人，反而因技術對社會造成了傷害。一些內容平臺缺乏將企業社會責任付諸平臺運營的行動，更沒有相關的經驗。

邱澤奇認為，缺乏價值觀和社會責任感的企業，非常危險。他呼吁企業充分運用當下的窗口期，從提升運營和管理質量的視角，認真對待算法問題。一旦等到監管大棒落下，對整個互聯網行業都不是好事。屆時，即使監管不介入，平臺也會承受巨大的社會壓力。

算法操縱后果已現

經濟觀察報：你為什么會在11月底舉辦算法治理論壇？這是第一次舉辦嗎？

邱澤奇：是第一次舉辦。為這個論壇我籌備了很久。算法并不是新鮮話題，之前大家有各種各樣的爭議，討論更多的是大數據“殺熟”之類的經濟議題。最近兩年，與算法相關的其他問題也開始被熱議。我的想法是，與其讓大家只憑直覺，沒有依據地討論，不如舉辦一個專題會議，請各方專家，尤其是懂算法的人講一講，這是第一個初衷。第二個初衷是，很多人都說算法在作惡，我想知道，算法是不是也能做點好事？我從這個立場詢問大家意見，大家都很有興趣，于是就舉辦了這個論壇。

經濟觀察報：這場論壇結束的第二天，網信辦就發布了開展“清朗·網絡平臺算法典型問題治理”專項行動的通知。最近鐘睒睒也在控訴算法，這些都是巧合嗎？還是因為現在算法對社會帶來的危害已經到了一個爆發點了？

邱澤奇：算法偏見一直都存在，偏見帶來的后果也一直都在。只是之前大家對算法后果缺乏反思，或者反思得不夠。

比如鐘睒睒這件事，他認為自己遭遇網暴時，已經過去半年時間了，現在站出來講這件事，并把根源歸結到算法和抖音身上，是因為他需要有一個反應過程。整個社會對算法后果的反思也需要一個反應時間。

在2024年，算法應用的大致形態基本呈現出來了，算法帶來的負面社會后果也在顯現。以前大家對算法的感覺不明顯，不痛不癢，現在可能是感覺到痛了。早期大家是從買機票、火車票的體驗中感受到大數據“殺熟”的，這主要是經濟議題。現在各類算法的目標對象都有了長時間體驗，也不再只是經濟議題，大家回過味了，有能力去反思了。比如信息繭房、權益損害、算法偏見、算法歧視，這些概念過去只存在于學術界，現在，普通老百姓都知道這些概念了，說明社會認知提高了。

在這個意義上講，算法治理不只是政府的單向治理，而是多主體參與的綜合治理。

經濟觀察報：現在人們提到算法偏見、算法歧視、信息繭房、過度沉迷等，會認為都是算法在作惡。你認為算法是在作惡嗎？

邱澤奇：坦率地講，算法就是幫你算個數。你寫了一套程序，它幫你把一些看不明、道不清的規律從數據里扒出來。我的觀點是，算法自己不會作惡。

那么，問題出在哪里呢？關鍵在數據和算法的匹配以及算法的調試，說到底，都是人在忙乎。總體而言，由于使用數字技術的人群不是同質性的、而是異質性的，且每一類人群對數據的貢獻，在量和質上都有差異，因此，算法使用的數據始終是有偏差的。當算法應用數據時，便會復刻現實社會的結構，甚至放大現實社會的問題。

這時，形式上有兩條路徑可以解決問題。第一是對來自現實生活的真實數據進行加權，第二是調試算法來糾偏。兩者實質上是一條路徑，因為，對數據加權也是由算法來實現的。

經濟觀察報：算法可以做到厘清偏見嗎？

邱澤奇：算法是人寫出來的，無論如何都是可以調整的。在方法意義上，算法是工具。工具是否合用，是可以做交叉檢驗的，在技術上也很容易實現，完全沒有問題。

平臺不宜涸澤而漁

經濟觀察報：你是社會學專家，為什么會一直關注算法問題？

邱澤奇：要說我為什么關注算法，可以從2000年算起。那時，我研究ERP在企業中的應用，用今天的視角來觀察，ERP可以被理解為算法推動的自動化。ERP運用的數據，質量非常高，每個字段都很清晰。

我們的研究發現，運用信息技術會產生比較重要的社會后果。ERP會產生的社會后果就包括讓人失去工作，失去權力。我們在青島啤酒做研究時遇到了一個例子，啤酒廠的庫管員在沒有ERP時是很有權力的，倉庫里有什么，他說了算。可是有了ERP，信息是透明的，他說了就不算了。

與當下的算法比較，ERP的社會影響不算大，它還只是影響企業。2012年我做淘寶店家研究時發現，平臺會讓網店連接泛在（通過現代通信技術，實現設備、系統、人和環境的廣泛連接，形成一個無縫、即插即用的網絡環境），也因此會帶來某種特定的后果，比如讓一個人的影響力變得非常巨大。這時，平臺的作用和機制就變得特別重要了，平臺想為買賣雙方謀福利，還是想自己從中抽更多的成，至關重要。在電商圈，平臺對商家抽成常常會被商家理解為平臺稅。如果平臺稅過高，商家的收益就會受損，在算法里，完全可以被理解為平臺沒有把控好自己。

同期，因為游戲問題我也關注了到某些平臺，不少家長都說，游戲真是害死人。我記得某平臺當時做了一點創新，成立了未成年人成長守護平臺。能讓技術來幫忙監督孩子們玩游戲，自然是對社會負責任的做法。這件事給我很大的啟發，讓我見識了平臺是可以做有利于社會、有利于大眾的事的。

之后，我和張小龍有過一個很長時間的訪談，其中，談到微信對廣告植入的考量，他讓我認識到，如果掌握技術的人能夠把社會的良心和社會共識的訴求植入產品中，便是數字技術的向善，也是算法為人。至少，他可以做得相對克制一點，讓大家感受更好一點。

那幾年，我也在與網約車平臺接觸。當時正好遇到網約車乘客死亡事件，我提了一個建議：設置一鍵報警。后來我發現，網約車平臺的改進比我想象的好太多了，比如有錄音，有一鍵報警，也有緊急聯系人，做得越來越完善。

這些事情都讓我相信，數字技術不僅可以賺錢，也可以為人類社會服務。其中，算法是數字技術的核心力量，也是數字時代的技術強權。技術掌控者掌握技術，是為一個人，還是為大多數人，向左走，還是向右走，都是值得關注的，不只是值得政府關注，更值得社會關注。

經濟觀察報：你提到了很多已經改善的互聯網公司，這些公司都偏向基礎設施類。但近期大家反對聲音比較大的是內容平臺和社區平臺。人們認為這些平臺在積聚戾氣，甚至形成網暴，為什么這些公司的算法會走上這條路？

邱澤奇：依我看，內容平臺的價值觀更加重要。馬云曾有一句話說，讓天下沒有難做的生意。微信則讓世界變成一個小地球，讓你站在地球的中央。這些都是價值觀。一個公司有了價值觀，尤其是有了符合社會共識的價值觀，也就有了價值追求，繼而就會有追求目標的行動。

與零售平臺、社交平臺、生活平臺不同，內容平臺直接關涉人們的認知和認知改變，更需要有符合社會共識的價值觀。僅就這一點而言，它們可以做很多事。

經濟觀察報：可以做什么事？

邱澤奇：比如有效處理虛假信息。就鐘睒睒事件而言，我以為內容平臺是可以有作為空間的，比如對事實類內容，如果未經核實，可以讓算法在內容里打上平臺提示，如：此內容未經核實，請觀眾注意辨別。我以為，對于未經核實的事實類內容，平臺有提示的責任和義務。為此，平臺的工作量和工作內容的確會大大增加，可是，受益的卻是大多數人，平臺可以留下更優質的內容，受眾會增加判別的依據，內容空間會因此更加清朗，社會還會因此更加積極向上。

經濟觀察報：為什么現在算法問題較多的是短視頻平臺？

邱澤奇：我更愿意相信這是這類平臺邁向成熟的社會過程，還是應該允許這些平臺成熟起來，不能一上來就指責它們，因為沒有人能想到事情會發展到什么地步。比如網約車平臺，可能最初也沒有人想到會有司機這么壞。有些事情超出了人們的認知底線，的確是想不到。不過，既然壞的結果已經顯現了，就需要正視，也正好可以抓住機會在平臺運營和管理上提檔升級。

經濟觀察報：就成熟度而言，中國互聯網公司走向成熟，似乎都經歷過大型輿論風波。短視頻平臺是不是還沒有經歷過？

邱澤奇：百度經歷過“魏則西事件”，阿里巴巴經歷過商家“十月圍城”，騰訊經歷過“3Q大戰”，滴滴經歷過順風車司機殺人，美團經歷過騎手“困在系統里”事件，只有短視頻平臺還沒有經歷過輿論的風暴口，這次是這類平臺歷史上的第一次。

其他平臺前些年的經歷，都是社會力量的反映，它們有明確的受害者，有社會力量的參與。內容平臺不一樣的是，對象的離散性使得它不可能因某個事件而帶來一場社會運動，否則就會落入法治之網，這次的清朗行動也可以算是內容平臺自我進化的一個機會。

歷史告訴我們，一家得到社會廣泛認可的技術公司，通常會選擇在讓大多數人獲益的同時，從大多數人那里獲益，而不是簡單地竭澤而漁。

經濟觀察報：為什么現在一些公司出現了涸澤而漁的現象？

邱澤奇：可能是因為公司太年輕，心太大，或者擔心失去賺錢的機會而選擇了只做幾年的公司，不做百年公司。公司的成長是需要時間的，比如騰訊提出科技向善，是因為它12歲時遇到了“3Q大戰”，學會了把半條命交給合作伙伴。

經濟觀察報：你接觸到的很多內容平臺，比如抖音、快手、騰訊視頻號等，平臺現在有意愿改變嗎？

邱澤奇：我覺得是有的，只是平臺可能真的不知道應該怎么做。所以我主張呼吁一下，或者引發一些社會討論，為這些公司集智。

經濟觀察報：你似乎一直從積極的角度去鼓勵平臺，倡導它們承擔社會責任。為什么要這么做？

邱澤奇：我還有一個更大的擔憂，如果監管繼續趨于嚴格，整個中國互聯網產業有可能垮掉。2020年全球市值前10名的公司之中，有七家互聯網公司，中國有兩家。2023年全球市值前50名的公司中，只有一家中國互聯網公司，而且排名靠后。國內互聯網行業這幾年掉得太厲害，這不是我們期待的結果，更不是對中國發展有利的結果。

監管是一柄雙刃劍，在中美競爭的關鍵時刻，我們應該更好地運用監管工具箱，促進產業發展，促進經濟發展，促進社會發展。

經濟觀察報：如果平臺一直不改怎么辦？

邱澤奇：我們先把道理說在前面。可以先假定平臺是無辜的，它們沒有意識到算法對社會可能帶來的負面影響，但當我們把危害擺在平臺面前，清晰明確地讓它們知曉后，如果它們依舊再犯，那時再口誅筆伐，也不遲。

我相信大部分平臺也希望解決算法帶來的社會問題，消弭大家的抱怨。清朗行動一定不是零和博弈，而是希望雙贏和多贏。現在，是考驗平臺智慧的時候。

經濟觀察報：如果最后還是有公司不改呢？

邱澤奇：那它就死定了。并且這種死不會是因為監管而死，而是自己作死，自然而死。因為社會會拋棄它，這時，也一定會有新的公司乘虛而入。

對內容平臺而言，現在是一個很巧的時間節點，如果能自我反思，認真整改，一定會更上層樓。如果不能反思，那它就很危險了。

關于監管

經濟觀察報：你怎樣評價這次四部委出臺的算法治理政策？和往年相比有哪些差別嗎？

邱澤奇：這次列出的治理要點更清晰了，他們把哪一些算法會導致什么后果都點出來了，比如信息繭房、榜單操縱、危害勞動者權益、大數據“殺熟”、危害用戶權益、算法安全等，從后果出發，直接列出了算法的負面影響。

這次也把算法的每一大類都點了名，每個大類背后可能都指向一類典型平臺。

我不清楚的是，清朗行動會怎么操作。清朗行動等政府治理，目標還是促進發展，尤其是促進經濟發展、促進社會發展。

經濟觀察報：你對國外算法治理研究比較多，之前的論文里提到國外算法治理法案比較完善，并且事后問責已經形成了完整的邏輯。你覺得這種監管方式有用嗎？

邱澤奇：我覺得是有用的。對于最前沿的事情，人們都不是很清楚可能的創新空間，也不清楚創新可能產生的后果及其邊界。這個時候，我們要提早預防負面后果，但不應該提早約束，因為我們不知道要約束什么，如果只是原則性地說不能做，就會約束整個行業的發展。

美國的監管模式其實很簡單，就是我不熟悉的事你先干，只要出了狀況我一定找你算賬，即問責制。歐盟的模式是罰款，你在我這里運營，就要給我交一筆過路費。我們的監管有時會直接說你不能干。如果不能做事，哪里能獲得收益呢？我以為，中國一定要監管，并且要體現幾千年中華文化里的監管智慧，不過，還是要以促進經濟社會發展為目標來進行監管，我們也可以嘗試事后監管，采用問責制。

在算法監管上我始終主張問責制，也認為這是一個大趨勢。

經濟觀察報：為什么問責制會是大趨勢？

邱澤奇：就比如內容平臺上的一些內容體現的是人類的創新性和創造力，我們不能假定內容平臺什么都知道，并且有意在犯錯。在你假定它有意犯錯時，你需要拿出證據。在我們沒法假定時，最好的監管就是讓子彈先飛一會兒，讓人們釋放自己的創新和創造能力。

一旦造成了不好的后果，監管就可以立即到位，不管是內容責任主體還是平臺，對它問責，罰它。不過，最好不要一竿子打死它，因為它也在探索中。允許探索中犯錯是促進創新、促進發展最優的政策選擇。

經濟觀察報：國外現在有完整的算法治理法案，我們現在是不是還缺一部法案？

邱澤奇：也不能說國外有完整的法案，不過，我們現在的“九龍治水”倒是事實。比如說數據流通，監管的部門太多，事情就會變復雜。

經濟觀察報：如果“九龍治水”最后能統一成治理法案，情況會變好嗎？

邱澤奇：現在，算法的類型大致清晰了。對不同類型算法的治理，我主張采用判例法，誰被人告狀了，我就治誰。在我們不了解的領域采用判例法是更符合實際的做法，也是動用社會力量參與政策治理、參與國家法治的有效路徑，還是提升國家治理能力的必要維度，可以讓治理產生更優的社會效應。

?