-
熊節(jié):拿起手機(jī)時(shí),我們該如何與算法抗?fàn)帲?/h3>
編者按:近年來,網(wǎng)絡(luò)平臺(tái)算法逐漸從幕后走到臺(tái)前,走進(jìn)公眾的視野?!靶畔⒗O房”從傳播學(xué)的專業(yè)術(shù)語,變成人人有所耳聞的概念;“打榜”“買熱搜”不再限于飯圈,背后的相關(guān)產(chǎn)業(yè)也不再是秘密;越來越多的人意識(shí)到自己被大數(shù)據(jù)“殺熟”,外賣平臺(tái)通過算法壓榨騎手的現(xiàn)象也通過爆款文章傳遍全網(wǎng),引發(fā)熱議,甚至改編進(jìn)影視劇。
11月12日,中央網(wǎng)信辦、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局等四部門聯(lián)合印發(fā)了《關(guān)于開展“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問題治理”專項(xiàng)行動(dòng)的通知》,以治理網(wǎng)絡(luò)平臺(tái)算法典型問題為主要任務(wù),旨在整治信息繭房、操縱榜單、壓榨騎手、大數(shù)據(jù)殺熟等存在已久、關(guān)注度較高的典型問題。
觀察者網(wǎng)對話華東師范大學(xué)國際傳播研究院全球南方研究中心主任熊節(jié),他以通俗易懂的方式介紹與我們?nèi)粘I钕⑾⑾嚓P(guān)的算法機(jī)制,提出對相關(guān)問題治理的看法。
【文/觀察者網(wǎng) 劉冶】
觀察者網(wǎng):從用戶視角來看,平臺(tái)的各種算法都是“黑箱”,用戶只能看到算法最終呈現(xiàn)的結(jié)果,而無法知道算法具體的運(yùn)作機(jī)制;就算知道了,也會(huì)因?yàn)榧夹g(shù)復(fù)雜而難以理解。能否簡單介紹一下常見的一些平臺(tái)算法?
熊節(jié):可以舉兩個(gè)最常見的例子來說明。
第一個(gè)是內(nèi)容推薦算法。這類算法應(yīng)用非常廣泛,從我們打開每個(gè)APP的開屏廣告,到APP推薦給我們的每條內(nèi)容,都是推薦算法計(jì)算的結(jié)果。推薦算法的運(yùn)作機(jī)制其實(shí)也并不復(fù)雜,甚至可以說很簡單。其實(shí)就是商家(也就是平臺(tái))盡可能掌握用戶盡可能多的信息,掌握的信息越充分越全面,就可以給用戶推薦盡可能準(zhǔn)確的信息。這和自古以來做生意的邏輯其實(shí)也是一樣的。
推薦算法跟自古以來的每個(gè)老板最大的不同,就是它掌握的關(guān)于用戶的信息是極其大量的。一般來說平臺(tái)會(huì)給用戶貼上幾千個(gè)甚至幾萬個(gè)這樣數(shù)量級(jí)的標(biāo)簽,比如可以具體到你是否喜歡周杰倫、你是否喜歡五月天、你是否慶祝圣誕節(jié)、你以前圣誕節(jié)是吃飯還是看電影……這么細(xì)節(jié)的信息都可以逐個(gè)貼上標(biāo)簽。
而且各個(gè)平臺(tái)關(guān)于用戶的信息也是互相流通的,通過被稱為客戶數(shù)據(jù)平臺(tái)(CDP)的大數(shù)據(jù)系統(tǒng),各個(gè)平臺(tái)都可以很有效地了解用戶的信息。
這種所有平臺(tái)對用戶的全方位的了解,就會(huì)造成所謂“信息繭房”的問題。比如說,每個(gè)平臺(tái)都知道我喜歡《黑神話:悟空》這個(gè)游戲,然后每個(gè)平臺(tái)都想爭奪我的瀏覽量,于是都給我推薦黑猴相關(guān)的文章和視頻。這就會(huì)給我造成一種印象,讓我感覺好像所有人都在耍猴、都在討論黑猴。這就是一種推薦算法造成的偏見。其實(shí)全國買了黑猴的也就2000萬人,在整個(gè)人口里只是一個(gè)很小的比例。
如果這種偏見發(fā)生在一些社會(huì)和政治問題上,就有可能使一些錯(cuò)誤的、偏執(zhí)的想法在一個(gè)信息繭房里被不斷強(qiáng)化和放大,嚴(yán)重的情況下有可能造成社會(huì)的分裂。
另一個(gè)例子是外賣騎手的派單算法。最近的電影《逆行人生》對這個(gè)問題有很好的展示。算法可以給騎手分配高效的路線,這本來是件好事。但平臺(tái)同時(shí)又把騎手配送的實(shí)際數(shù)據(jù)輸入回去,根據(jù)實(shí)際數(shù)據(jù)不斷調(diào)高對騎手的要求,強(qiáng)迫騎手要跑得越來越快才能保持收入水平。這就形成了對騎手的壓榨,而且也造成了騎手和顧客之間的緊張關(guān)系。
《逆行人生》截圖
這兩個(gè)例子其實(shí)是有一定的共通性的。在這兩個(gè)例子中,算法都可以優(yōu)化某些計(jì)算結(jié)果(給用戶推薦什么內(nèi)容、給哪個(gè)騎手派哪一單)。但是“優(yōu)化”首先就要回答一個(gè)問題:什么是“優(yōu)”。這個(gè)目的問題不是算法本身能回答的,而是使用算法的平臺(tái)賦予它的。如果平臺(tái)的唯一目的是掙錢、提高利潤率,那么信息繭房、壓榨騎手等情況毫無疑問就會(huì)成為達(dá)成掙錢這一目的不可避免的代價(jià)。
從這個(gè)意義來說,用戶看不懂算法運(yùn)作的內(nèi)部機(jī)制,只能看到算法運(yùn)作的結(jié)果,其實(shí)并不是一個(gè)大問題,因?yàn)榇蟊娬嬲枰P(guān)心的就是結(jié)果。如果算法造成的結(jié)果對社會(huì)不利,它內(nèi)部是怎么運(yùn)作的并不重要,總之就是需要整改。
觀察者網(wǎng):平臺(tái)一般需要從用戶那里收集哪些信息和數(shù)據(jù)?算法又是如何誘導(dǎo)用戶提供這些信息的?
熊節(jié):根據(jù)國家網(wǎng)信辦2019年的《APP違法違規(guī)收集使用個(gè)人信息行為認(rèn)定方法》,手機(jī)APP必須清晰列出收集了哪些個(gè)人信息。比如在豆瓣APP的“設(shè)置->已收集個(gè)人信息”菜單下就可以看到,豆瓣APP收集了賬戶信息、用戶身份證明信息、生物識(shí)別信息、社交與內(nèi)容信息、用戶使用過程信息、設(shè)備信息這6大類的信息。
感興趣的用戶可以自行查看每個(gè)APP收集了自己哪些信息。如果哪個(gè)APP沒有類似的功能,用戶應(yīng)該是可以向國家網(wǎng)信辦舉報(bào)的。
按照《個(gè)人信息保護(hù)法》的定義,個(gè)人信息是與已識(shí)別或者可識(shí)別的自然人有關(guān)的各種信息,其中有些信息本身指向個(gè)人或者直接關(guān)聯(lián)到個(gè)人,如姓名、身份證、指紋、面部信息、數(shù)字ID等(稱為識(shí)別符),其余的信息本身不具有識(shí)別個(gè)人身份的屬性,但通過結(jié)合分析或關(guān)聯(lián)分析也可以使信息或數(shù)據(jù)集指向某特定自然人。
一般來說,APP在法律許可的前提下,都是能收集的信息盡量收集。我覺得很難說是“算法誘導(dǎo)用戶提供這些信息”,基本上應(yīng)當(dāng)假設(shè)在使用APP的過程中所有的信息(甚至包括在某個(gè)頁面停留了多久這么細(xì)節(jié)的信息)都會(huì)被收集。
觀察者網(wǎng):盡管平臺(tái)在獲取用戶信息時(shí),都有用戶須知之類的提示條款。但對于用戶來說,這些條款過于冗長和專業(yè),很多時(shí)候并不能辨別出其中的陷阱。再加上平臺(tái)的強(qiáng)制性,如果不同意就無法使用平臺(tái)功能,用戶只能被動(dòng)接受。這種情況下,用戶如何維護(hù)自己的信息安全權(quán)益?
熊節(jié):我認(rèn)為靠EULA(最終用戶許可協(xié)議)維權(quán)這種做法,本身就是美國壟斷企業(yè)創(chuàng)造出來的一種單邊霸權(quán)。第一,有幾個(gè)用戶會(huì)看這些條款,又有幾個(gè)用戶能看懂里面的彎彎繞,很少。第二,更關(guān)鍵的是,我看懂了,我覺得有問題,然后我又能干啥?我朋友全都在用微信,領(lǐng)導(dǎo)天天用微信安排工作,我能說我覺得微信的個(gè)人信息保護(hù)條款有問題所以我不用微信嗎?
所以EULA這個(gè)東西需要有,但它的意義是明確相關(guān)法律法規(guī)的落地。也就是說《個(gè)人信息保護(hù)法》、《網(wǎng)絡(luò)安全法》等等法律法規(guī)在EULA里都有所體現(xiàn)了,然后APP的行為又是按照EULA來執(zhí)行的,這是一條法律意義上的鏈條。但用戶真正要維護(hù)信息安全權(quán)益,還是應(yīng)該回到可觀察的外在行為這個(gè)層面上來。
比如說我是淘寶的用戶,我懷疑淘寶是不是在用大數(shù)據(jù)殺我的熟,我用另一個(gè)手機(jī)號(hào)注冊一個(gè)新用戶,發(fā)現(xiàn)同樣的東西確實(shí)給到新用戶的價(jià)格比給到我這個(gè)88VIP的價(jià)格還低,那我就可以向網(wǎng)信部門舉報(bào)淘寶APP大數(shù)據(jù)殺熟。至于說它這個(gè)價(jià)格歧視是不是符合EULA的規(guī)定,這個(gè)根本就不重要。
-
本文僅代表作者個(gè)人觀點(diǎn)。
- 責(zé)任編輯: 劉冶 
-
研制成功!我國這一關(guān)鍵技術(shù)實(shí)現(xiàn)重大突破
2024-12-30 14:59 中國精造 -
華為:懸賞300萬元
2024-12-30 10:08 華為 -
我國新一代智能高鐵有望2027年落地
2024-12-30 09:02 高鐵世紀(jì) -
“量子”狼不再嚇崩比特幣
2024-12-30 08:24 心智觀察所 -
又添一大國利器!“探索三號(hào)”正式入列
2024-12-29 10:44 中國精造 -
我國首次實(shí)現(xiàn)!又一重大突破
2024-12-28 21:08 航空航天 -
嫦娥五號(hào)月球樣品向公眾開放!
2024-12-28 16:12 航空航天 -
我國氫氧旋轉(zhuǎn)爆震火箭發(fā)動(dòng)機(jī)長時(shí)熱試驗(yàn)圓滿成功
2024-12-28 14:36 航空航天 -
登月探測器“倒栽蔥”,日本公布原因
2024-12-27 12:10 航空航天 -
谷歌量子計(jì)算芯片給了國內(nèi)產(chǎn)業(yè)界緊迫感
2024-12-27 10:57 心智觀察所 -
《心智對話》直播:世界科創(chuàng)的舊中心與新勢力
2024-12-23 18:59 觀察者頭條 -
獨(dú)家對話|周毅恩:必須向“第四大排放國”下重手
2024-12-22 09:35 心智觀察所 -
《自然》:2025年值得關(guān)注的科學(xué)事件,中國“讀腦術(shù)”入選
2024-12-20 08:57 科技前沿 -
人類首份月背古磁場信息!嫦娥六號(hào)月球樣品最新研究成果發(fā)布
2024-12-20 06:46 嫦娥奔月 -
云計(jì)算這個(gè)美國對華封鎖的重點(diǎn)領(lǐng)域,二次長征勢在必行
2024-12-19 08:23 心智觀察所 -
首次整機(jī)試驗(yàn)成功!我國大推力氫氧火箭有突破性進(jìn)展
2024-12-18 18:24 航空航天 -
嫦娥六號(hào)、Sora等入選2024全球十大工程成就
2024-12-18 14:49 科技前沿 -
再次刷新紀(jì)錄!
2024-12-17 22:00 航空航天 -
航行警告:黃海部分海域進(jìn)行火箭發(fā)射
2024-12-17 16:57 航空航天 -
“真假5G”之爭,成為了國產(chǎn)射頻發(fā)力趕超的助推器
2024-12-17 08:28 心智觀察所
相關(guān)推薦 -
歐盟深吸一口氣:這也太荒謬了 評(píng)論 122陣容龐大!關(guān)鍵時(shí)刻,拉美伙伴“力挺”中國 評(píng)論 86轉(zhuǎn)頭,特朗普就炮轟歐盟 評(píng)論 310“中美會(huì)談成果遠(yuǎn)超預(yù)期,是一個(gè)非常好的起點(diǎn)” 評(píng)論 262中美日內(nèi)瓦經(jīng)貿(mào)會(huì)談聯(lián)合聲明 評(píng)論 1113最新聞 Hot
-
歐盟深吸一口氣:這也太荒謬了
-
美企開啟瘋狂囤貨,問題又來了
-
陣容龐大!關(guān)鍵時(shí)刻,拉美伙伴“力挺”中國
-
美國這就期待上了
-
日本:中美聲明,在研究了
-
120%→54%,這項(xiàng)對華關(guān)稅也改了
-
“特朗普敗了,更像是投降”
-
“美國技術(shù)封鎖迫使中國全速發(fā)展”
-
迷之自信、張口就來:更愿意和中國打,而非巴基斯坦…
-
哥倫比亞總統(tǒng)在華表態(tài):確認(rèn)加入!
-
以色列要求國際刑事法院撤銷對內(nèi)塔尼亞胡逮捕令
-
消息傳出,美企CEO“蹦下床打電話”:趕緊發(fā)貨!
-
持股市值超450億元,西北大學(xué)副校長成陜西首富
-
轉(zhuǎn)頭,特朗普就炮轟歐盟
-
在獄中,杜特爾特以壓倒性優(yōu)勢當(dāng)選市長
-
“中方抵抗到底,成了”
-