-
鄭戈:算法專項(xiàng)治理,不以處罰為目的
最后更新: 2024-11-28 17:55:33·以“信息繭房”為例,探討治理成效
下面我們就以“算法專項(xiàng)治理清單指引”中涉及“信息繭房”的內(nèi)容為例來說明其中的原理。
以互聯(lián)網(wǎng)和數(shù)字技術(shù)為媒介的經(jīng)濟(jì)形態(tài)有很多不同的名字,從注意力經(jīng)濟(jì)、共享經(jīng)濟(jì)、平臺(tái)經(jīng)濟(jì)到零工經(jīng)濟(jì)。每一個(gè)名稱都呈現(xiàn)出它的一個(gè)基本特征及其給法律和監(jiān)管帶來的新問題,比如零工經(jīng)濟(jì)所涉及的就是新型就業(yè)形態(tài)及其所涉及的勞動(dòng)法問題。而注意力經(jīng)濟(jì)則是導(dǎo)致“信息繭房”的主要原因。
我的老朋友哥倫比亞大學(xué)法學(xué)院教授吳修銘(Tim Wu,曾擔(dān)任拜登的科技與競(jìng)爭(zhēng)政策特別顧問)寫過一本書,書名叫《注意力商販》,核心觀點(diǎn)是:
當(dāng)我們使用各種網(wǎng)絡(luò)社交媒體的免費(fèi)服務(wù)時(shí),我們不是用戶,而是產(chǎn)品。這些平臺(tái)會(huì)提供各種免費(fèi)的服務(wù),從日常生活軌跡分享到小游戲,目的是吸引我們的注意力,讓我們花更多的時(shí)間在上面,生產(chǎn)更多的數(shù)據(jù),而這些數(shù)據(jù)就是讓它們賺錢的產(chǎn)品。
由于這種商業(yè)模式是如此普遍,以至于成為了我們所處的“數(shù)字社會(huì)”的日常組成部分,所以當(dāng)下最緊迫的問題不是討論它是好的、壞的抑或是“必要的惡”,而是用法律去規(guī)制它,限定它的應(yīng)用場(chǎng)景(where)和時(shí)間(when),正像廣告法對(duì)廣告的限制那樣。
強(qiáng)調(diào)數(shù)字經(jīng)濟(jì)的基本商業(yè)模式是通過吸引用戶注意力來獲取和利用數(shù)據(jù),并不是吳修銘的原創(chuàng)觀點(diǎn),這實(shí)際上是不代表商業(yè)利益的中立學(xué)者的共識(shí)。吳修銘的洞見在于直接將這種商業(yè)模式的核心要素定位到廣告。許多人之所以沒有意識(shí)到這一點(diǎn),是因?yàn)檫@種商業(yè)模式的廣告本質(zhì)被技術(shù)、算法和一整套天花亂墜的營(yíng)銷敘事給掩蓋了。
就其實(shí)質(zhì)而言,作為平臺(tái)經(jīng)濟(jì)核心敘事的“完美個(gè)人化”或“量身定制”,其實(shí)是一種廣告或營(yíng)銷手段。而把基于人工智能技術(shù)的個(gè)性化服務(wù)歸結(jié)為與推銷“腦白金”或“小罐茶”并無本質(zhì)區(qū)別的營(yíng)銷術(shù),可能會(huì)讓很多人感到驚訝。但我們舉小紅書的例子就很容易說明這一點(diǎn)。
小紅書將自己定位為“生活方式平臺(tái)和消費(fèi)決策入口”,正如微信和抖音等平臺(tái)一樣,它提供免費(fèi)的內(nèi)容分享,而收入則來自于廣告和電商。比如在小紅書上形成了獨(dú)特的“種草經(jīng)濟(jì)”:一個(gè)用戶通過在線分享消費(fèi)體驗(yàn),引發(fā)社區(qū)互動(dòng),推動(dòng)其他用戶去進(jìn)行線下消費(fèi)(小紅書因此賺得廣告費(fèi))或直接在平臺(tái)內(nèi)直播或內(nèi)容分享內(nèi)嵌入的鏈接下單購(gòu)買(小紅書因此賺取中介費(fèi)),這些用戶又反過來進(jìn)行體驗(yàn)分享,最終形成一個(gè)“正循環(huán)”。通過使用推薦算法,小紅書能夠精準(zhǔn)地把相關(guān)內(nèi)容投送到可能對(duì)其感興趣的人那里,因此使這個(gè)正循環(huán)的圈子越來越大。在2023年,小紅書的營(yíng)收達(dá)到了37億美元,凈利潤(rùn)為5億美元,其中廣告收入占到總營(yíng)收的近80%。
注意力經(jīng)濟(jì)的商業(yè)模式對(duì)我們的日常生活產(chǎn)生著巨大的影響。
首先是我們把越來越多的醒著的時(shí)間花在小紅書和微信等App上,其中最成功的幾個(gè)整合了各種各樣的服務(wù),從新聞、娛樂等內(nèi)容服務(wù),游戲、視頻等娛樂服務(wù),購(gòu)物、支付等消費(fèi)服務(wù),導(dǎo)致了上癮和沉迷問題,對(duì)青少年危害極大。
其次是這些App會(huì)盡可能多地獲取用戶的個(gè)人信息,超出為用戶提供其需要的服務(wù)所必要的范圍,這是它的內(nèi)在邏輯所決定。為此,學(xué)者祖波夫(Shoshana Zuboff)專門發(fā)明了“監(jiān)控資本主義”(Surveillance Capitalism)一詞,她在以此為題的一本暢銷書里將數(shù)字經(jīng)濟(jì)的基本形態(tài)概括為通過捕捉和利用“行為剩余”(behavioral surplus)來獲取超額利潤(rùn)。
她以谷歌為例,在使用谷歌的“免費(fèi)服務(wù)”的過程中,“我們變成了谷歌的預(yù)測(cè)工廠從中提取和開發(fā)利用原材料的客體”。像谷歌這樣的大型平臺(tái)企業(yè)雇傭了市場(chǎng)上絕大多數(shù)的優(yōu)秀數(shù)據(jù)科學(xué)家和人工智能專家,他們的集體智慧“旨在洞開人類經(jīng)驗(yàn)的大門,將其轉(zhuǎn)化為數(shù)據(jù)并創(chuàng)造成一個(gè)新的巨無霸市場(chǎng),這個(gè)市場(chǎng)通過預(yù)測(cè)、影響和控制人類行為來創(chuàng)造財(cái)富?!?
第三,通過對(duì)海量人類行為數(shù)據(jù)的學(xué)習(xí),這些平臺(tái)的算法掌握了流量密碼,其中包括通過極端化的言論來挑起爭(zhēng)議以吸引流量,或通過挑起對(duì)立引起爭(zhēng)論來吸引流量。為了確?!安坏舴邸?,算法會(huì)將用戶想看的內(nèi)容推送到他面前,而避免可能引起他反感的內(nèi)容推送給他。這是導(dǎo)致“信息繭房”、“回音室”和“過濾氣泡”的主要原因。
最后,也是最潛移默化和不易改變的,是對(duì)人們心理和行為的改變。人工智能技術(shù)的商業(yè)應(yīng)用一方面利用心理學(xué)知識(shí)來促進(jìn)算法編程,另一方面用計(jì)算機(jī)科學(xué)來促進(jìn)對(duì)消費(fèi)者心理和行為的理解。兩方面的合力使得平臺(tái)企業(yè)得以設(shè)計(jì)出各種行為預(yù)測(cè)和行為誘導(dǎo)算法,改變著人們的預(yù)期和行為。一切都變得越來越可預(yù)測(cè),因?yàn)橐磺卸甲兊迷娇刹倏?。但這并沒有使我們的生活變得更美好。
“完美個(gè)人化”聽起來的確很吸引人,誰不希望擁有為自己量身定制的產(chǎn)品和服務(wù)呢?但完美個(gè)人化所通向的目標(biāo)其實(shí)是標(biāo)準(zhǔn)化,因?yàn)闊o法規(guī)模化的操作都無法成為成功的商業(yè)模式。借助能夠高效率地找出統(tǒng)計(jì)學(xué)規(guī)律的算法,平臺(tái)企業(yè)通過識(shí)別、分類和評(píng)價(jià)將用戶貼上各種細(xì)分的標(biāo)簽,從而完成市場(chǎng)細(xì)分意義上的精準(zhǔn)廣告投放。這種商業(yè)策略既不是完美的,也不是個(gè)人化的,但卻是規(guī)模化的,因此商業(yè)上是成功的。
四家公司提供的App占據(jù)了使用智能手機(jī)的中國(guó)網(wǎng)民70%的時(shí)間/注意力,它們分別是騰訊、字節(jié)跳動(dòng)、阿里巴巴和百度。
了解了“注意力經(jīng)濟(jì)”的運(yùn)作機(jī)制之后,再來反觀專項(xiàng)治理清單指引中關(guān)于“信息繭房”的內(nèi)容,我們會(huì)發(fā)現(xiàn)有些建議雖是出于良好的意圖,但可能無法發(fā)揮多大的作用,比如關(guān)于興趣標(biāo)簽的那些內(nèi)容。
我們知道,平臺(tái)不是根據(jù)用戶自己明確表達(dá)出來的興趣來給他們貼標(biāo)簽的,而是根據(jù)對(duì)用戶不知不覺的線上行為所留下的電子痕跡來捕捉用戶的點(diǎn)滴需求、片斷想法、瞬間欲望,并自動(dòng)化地為用戶貼上各種標(biāo)簽的。這種微?;乃惴ň珳?zhǔn)靶向技術(shù)才是推薦算法的內(nèi)核。因此,哪怕你勾選了“不感興趣”,也無法影響算法根據(jù)你的行為數(shù)據(jù)來預(yù)測(cè)的興趣,以“身體很誠(chéng)實(shí)”的原理來繼續(xù)向你推送你無法言喻的內(nèi)心渴望所指向的內(nèi)容。
而“防沉迷舉措成效”這部分的內(nèi)容則是一種更好的控制論機(jī)制:在不確定采取什么措施才能更好實(shí)現(xiàn)法益保護(hù)目標(biāo)時(shí),要允許監(jiān)管對(duì)象去嘗試可能有助于實(shí)現(xiàn)該目標(biāo)的方法,并在嘗試之后記錄效果,進(jìn)行反饋,由此在試驗(yàn)中不斷進(jìn)行改進(jìn)。這或許是在數(shù)字科技全面改變經(jīng)濟(jì)和社會(huì)的時(shí)代對(duì)其實(shí)現(xiàn)向上向善的法律和政策引導(dǎo)的唯一辦法。
畢竟,數(shù)字化潮流浩浩湯湯,順之者昌,逆之者亡。所有的監(jiān)管都不能阻礙或扼殺數(shù)字技術(shù)及其應(yīng)用的創(chuàng)新和發(fā)展,而只能在前行中修補(bǔ),在修補(bǔ)中前行。
本文系觀察者網(wǎng)獨(dú)家稿件,文章內(nèi)容純屬作者個(gè)人觀點(diǎn),不代表平臺(tái)觀點(diǎn),未經(jīng)授權(quán),不得轉(zhuǎn)載,否則將追究法律責(zé)任。關(guān)注觀察者網(wǎng)微信guanchacn,每日閱讀趣味文章。
-
本文僅代表作者個(gè)人觀點(diǎn)。
- 責(zé)任編輯: 李泠 
-
南部戰(zhàn)區(qū)在黃巖島領(lǐng)海周邊??沼蜷_展戰(zhàn)備警巡
2024-11-28 17:20 南海局勢(shì) -
人民海軍今后將常態(tài)化訪問香港
2024-11-28 16:55 香港 -
副局長(zhǎng)受賄后上馬的項(xiàng)目爛尾,縣長(zhǎng)挪用資金“補(bǔ)漏”被騙
2024-11-28 16:45 廉政風(fēng)暴 -
對(duì)抗組織審查,大搞權(quán)錢交易!宗國(guó)明被“雙開”
2024-11-28 16:45 廉政風(fēng)暴 -
臺(tái)高中生遺憾未能與馬龍交流,原因竟是臺(tái)當(dāng)局有“意見”
2024-11-28 16:27 臺(tái)灣 -
首批240名中國(guó)籍涉賭詐違法犯罪嫌疑人被從柬埔寨押解回國(guó)
2024-11-28 13:43 -
世界最長(zhǎng)“綠色圍脖”,鎖邊合龍!
2024-11-28 10:56 綠水青山就是金山銀山 -
“他只是租賃承包,卻把整個(gè)礦賣了”
2024-11-28 10:49 -
志愿軍烈士遺骸,回國(guó)
2024-11-28 10:38 -
新增91種藥品!新版國(guó)家醫(yī)保藥品目錄公布
2024-11-28 10:20 -
古勁松被查,此前5任已落馬
2024-11-28 10:03 廉政風(fēng)暴 -
浙江:學(xué)校相關(guān)負(fù)責(zé)人與學(xué)生同標(biāo)準(zhǔn)共同用餐
2024-11-28 08:26 -
馬英九期待大陸同學(xué)在臺(tái)交到朋友,“其中一位叫馬英九”
2024-11-28 08:15 兩岸關(guān)系 -
國(guó)家醫(yī)保局:短缺藥品不合理漲價(jià),將被約談
2024-11-28 07:36 -
美國(guó)撲了個(gè)空
2024-11-27 23:01 -
朱芝松被查,上海市委常委會(huì)舉行會(huì)議:堅(jiān)決擁護(hù)黨中央決定
2024-11-27 21:23 上海觀察 -
中辦、國(guó)辦發(fā)文:有效降低全社會(huì)物流成本
2024-11-27 19:26 -
太原一機(jī)場(chǎng)工地發(fā)生坍塌,致3死
2024-11-27 18:43 安全生產(chǎn) -
受賄超3900萬元,最高法原庭長(zhǎng)鄭學(xué)林一審獲刑15年
2024-11-27 17:14 廉政風(fēng)暴 -
空軍記者余紅春獲第十五屆中國(guó)攝影金像獎(jiǎng),殲-20大量影像展出
2024-11-27 16:42 長(zhǎng)空鑄劍
相關(guān)推薦 -
政策突轉(zhuǎn),特朗普中東行大撒先進(jìn)AI芯片 評(píng)論 116“英美貿(mào)易協(xié)議這項(xiàng)‘毒丸’條款,中方狠批” 評(píng)論 145“不被特朗普唬住,中國(guó)打了個(gè)樣” 評(píng)論 125“顯然特朗普先退一步,雖尷尬但有用” 評(píng)論 79歐盟深吸一口氣:這也太荒謬了 評(píng)論 245最新聞 Hot
-
“中國(guó)在南美建巨型碼頭,確保替代美國(guó)糧食”
-
沙特對(duì)美投資6000億?“實(shí)際一半都不到”
-
又降了:125%→54%→30%
-
政策突轉(zhuǎn),特朗普中東行大撒先進(jìn)AI芯片
-
跟著特朗普去中東推銷星鏈,馬斯克賺大發(fā)了?
-
美國(guó)特務(wù)們的“噩夢(mèng)”…
-
“好萊塢都是騙人的,真后悔…”
-
歐盟:中美邁出正確一步,但…
-
“英美貿(mào)易協(xié)議這項(xiàng)‘毒丸’條款,中方狠批”
-
眼瞅著中美談成了,日本心里急啊…
-
日本:民間飛機(jī)別在釣魚島飛了,不要“刺激中國(guó)”
-
特朗普宣布解除對(duì)敘利亞制裁:祝好運(yùn)
-
“不夠啊,巴西還是比美國(guó)有優(yōu)勢(shì)”
-
特朗普喊話鮑威爾:像歐洲、中國(guó)那樣降息
-
被戳痛點(diǎn),印方火速打臉特朗普
-
普京:烏克蘭像抓狗一樣在街頭抓人
-