“算法越智能，越能使用戶被‘安排’進(jìn)所謂‘信息繭房’。久而久之，用戶處于信息‘自我禁錮’困境。”《人民日?qǐng)?bào)》日前刊發(fā)了一篇題為《大數(shù)據(jù)社會(huì)需要考慮算法治理》的文章，再次提到“算法偏見”的話題。這讓人聯(lián)想到前一段時(shí)間喧囂一時(shí)的“大數(shù)據(jù)殺熟”爭(zhēng)議：一邊是網(wǎng)友控訴在一些旅游票務(wù)預(yù)訂平臺(tái)“同一航班的機(jī)票，賣別人2500，賣我3211”，另一邊是平臺(tái)堅(jiān)稱“從來沒有，也永遠(yuǎn)不會(huì)利用大數(shù)據(jù)損害消費(fèi)者利益”。

　　不可否認(rèn)，自從有了智能手機(jī)，我們的生活越來越方便。不過手機(jī)只是一臺(tái)機(jī)器，真正主導(dǎo)手機(jī)運(yùn)行結(jié)果的卻是算法——算法在手機(jī)的背后，手機(jī)看得見，算法卻看不見。在搜索引擎鍵入關(guān)鍵詞，出來什么結(jié)果、按照什么順序排列，是算法決定的；在互聯(lián)網(wǎng)平臺(tái)打車、預(yù)訂機(jī)票酒店，搜索商品和服務(wù)，誰能接單、出來什么價(jià)格，也是算法說了算。算法還能為你自動(dòng)匹配好友、找到理想員工，甚至抓到嫌疑犯。很多時(shí)候，我們消費(fèi)者在接受這些個(gè)性化服務(wù)的時(shí)候，真有如沐春風(fēng)之感。

　　但是，我們也在付出難以察覺的代價(jià)。越來越多的研究者發(fā)現(xiàn)，一些算法可能存在公平問題、涉及歧視甚至存在“不當(dāng)收費(fèi)”，損害了大眾利益，成了少數(shù)公司謀取不當(dāng)收益的工具。

　　“大數(shù)據(jù)殺熟”就是其中一個(gè)爭(zhēng)議。在人手一屏的時(shí)代，互聯(lián)網(wǎng)公司可以通過算法實(shí)現(xiàn)千人千價(jià)，同一件商品，價(jià)格可以因人、因地、因時(shí)隨時(shí)改變，即動(dòng)態(tài)定價(jià)和加價(jià)，例如遇上下雨天、高峰期，現(xiàn)在打車平臺(tái)都要加價(jià)，但加價(jià)的算法到底是如何運(yùn)行的呢？是不是我們拒絕加價(jià)，叫車的優(yōu)先級(jí)就會(huì)被算法降低，甚至被暫時(shí)排除在算法匹配的序列之外？這個(gè)還真不好說。

　　事實(shí)是，今天這個(gè)數(shù)據(jù)時(shí)代，手機(jī)聯(lián)接了我們，但同時(shí)手機(jī)又在割裂我們。雖然是同一部手機(jī)，但每個(gè)人輸入的數(shù)據(jù)不一樣，服務(wù)的結(jié)果也可能不一樣。如果要直指問題的關(guān)鍵，那就是：我們必須知道算法運(yùn)行的邏輯和決策的標(biāo)準(zhǔn)究竟是什么。

　　問題是，自誕生以來，一個(gè)算法是如何設(shè)計(jì)的，它就是一個(gè)商業(yè)公司的核心機(jī)密，對(duì)所有消費(fèi)者而言，算法像一個(gè)黑盒子，除了公司的高級(jí)管理人員和算法開發(fā)人員，一個(gè)公司的普通員工都無從知曉黑盒子里的秘密，更不用提消費(fèi)者了。那么，我們究竟應(yīng)該怎么辦？算法需不需要治理？

　　在我看來，把算法的開發(fā)和設(shè)計(jì)列為商業(yè)秘密，可以理解、也可以接受，但算法的邏輯和“功效”，應(yīng)該是可以公開的。這就好像藥品，其制藥的工藝過程可以是商業(yè)秘密，但一個(gè)藥的成分和功效卻是應(yīng)該、也必須公開的。否則消費(fèi)者怎么能、又怎么敢把它吞下口呢？

　　把算法比作藥品，是指它和藥品一樣，能夠解決某種特定的問題，換一個(gè)角度看，算法輸入的是數(shù)據(jù)，輸出的也是數(shù)據(jù)，它服務(wù)大眾、完成某種功能，它也可以被視為云端這條大流水線上的一個(gè)設(shè)備，不過是虛擬設(shè)備罷了，既然是服務(wù)大眾的設(shè)備，那就應(yīng)該有說明書，沒有說明書就用，那是亂用，和不看說明書就把藥吃了，又有什么不同呢？

　　考慮到算法對(duì)人類生活方方面面的重大影響，把算法比作藥品或者是保健品，并不為過。在很多聚合性資訊平臺(tái)上，其算法決定了讀者可能會(huì)讀到什么，這些讀到的東西，毫無疑問會(huì)影響一個(gè)人的心理和意識(shí)甚至精神的健康。一顆藥丸要進(jìn)入市場(chǎng)，生產(chǎn)廠家必須對(duì)它的成分、性狀、功用、服用方法以及可能產(chǎn)生的副作用逐一作出說明。對(duì)應(yīng)到算法，它也應(yīng)該有“成分、性狀和功效”說明，對(duì)其輸入、輸出的數(shù)據(jù)，互聯(lián)網(wǎng)公司也應(yīng)該作出說明，其說明的真實(shí)性甚至還需要接受市場(chǎng)管理部門的審查。

　　可以預(yù)計(jì)，今天及未來的城市生活，將會(huì)越來越依賴算法，算法將無處不在，算法治理是一個(gè)公平社會(huì)、效率社會(huì)必須關(guān)注的問題。傳統(tǒng)互聯(lián)網(wǎng)，其治理的重點(diǎn)常常是內(nèi)容；今天和未來，我們要對(duì)算法進(jìn)行合理適度的治理，需要專業(yè)的人員和機(jī)構(gòu)。在前不久的新一輪政府機(jī)構(gòu)改革中，包括廣東在內(nèi)的許多省市紛紛成立了大數(shù)據(jù)管理局。或許，在不久的將來，在大數(shù)據(jù)管理局或者市場(chǎng)監(jiān)督管理局可以增設(shè)監(jiān)督算法公平的職能和崗位。

　　【作者涂子沛系大數(shù)據(jù)專家，數(shù)文明（廣東）科技有限公司CEO】