8月27日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》（以下簡稱《意見稿》）并公開征求意見。

《意見稿》對具有輿論屬性或社會動員能力的算法推薦服務(wù)提供者進(jìn)行重點(diǎn)規(guī)則，從內(nèi)容推薦要求堅(jiān)持主流價(jià)值導(dǎo)向，到不得實(shí)施流量造假、控制熱搜等影響網(wǎng)絡(luò)輿論，劍指微博、今日頭條、百度、快手、抖音等資訊信息及短視頻平臺。

對于平臺用工權(quán)益及消費(fèi)者權(quán)利的保障，《意見稿》要求，外賣及網(wǎng)約車平臺對勞動者、消費(fèi)者的雙重算法需規(guī)范，保證勞動者算法的公正透明，抵制算法對消費(fèi)者“大數(shù)據(jù)殺熟”。

如何平衡平臺對算法使用及用戶權(quán)利保障？多位專家向21世紀(jì)經(jīng)濟(jì)報(bào)道記者表示，企業(yè)合規(guī)應(yīng)注意《意見稿》所提出的技術(shù)、管理和內(nèi)容價(jià)值層面的多層次要求。

堅(jiān)持主流價(jià)值導(dǎo)向，算法向上向善

網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理，是我國近年來互聯(lián)網(wǎng)治理重點(diǎn)。

2019年12月，國家網(wǎng)信辦公布《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》，標(biāo)志著我國建立了完整的網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理框架。今年1月，國家網(wǎng)信辦就《互聯(lián)網(wǎng)信息服務(wù)管理辦法（修訂草案征求意見稿）》公開征求意見，進(jìn)一步規(guī)定信息傳播的各項(xiàng)要求。國家網(wǎng)信辦、全國掃黃打非辦等部門也多次對平臺內(nèi)容進(jìn)行整頓。

然而，網(wǎng)絡(luò)生態(tài)治理目前仍然存在難題。中國政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所副所長商希雪介紹，一方面，淫穢色情、賭博詐騙以及負(fù)能量內(nèi)容充斥網(wǎng)絡(luò)空間；另一方面，在“流量為王”的畸形觀念下，平臺利用算法模型通過熱搜、超話、炒作、聚集等信息推送方式投放給用戶“刺激”的話題和“熱點(diǎn)”的信息，大眾在被動“吃瓜”時(shí)也會感到精神的不適。

《意見稿》指出，算法推薦服務(wù)提供者應(yīng)當(dāng)堅(jiān)持主流價(jià)值導(dǎo)向，優(yōu)化算法推薦服務(wù)機(jī)制，積極傳播正能量，促進(jìn)算法應(yīng)用向上向善。

第九條從手段方面規(guī)范內(nèi)容服務(wù)平臺的信息推送行為，要求加強(qiáng)信息內(nèi)容管理，建立健全用于識別違法和不良信息的特征庫，完善入庫標(biāo)準(zhǔn)、規(guī)則和程序。發(fā)現(xiàn)未作顯著標(biāo)識的算法生成合成信息的，應(yīng)當(dāng)作出顯著標(biāo)識后，方可繼續(xù)傳輸。

內(nèi)容本身的治理固然必要，但在海量的內(nèi)容中，良性內(nèi)容常常被埋沒，低俗吸睛的內(nèi)容卻更容易被“刷”出，陷入了“劣幣驅(qū)逐良幣”的窘境中。

《意見稿》第十一條強(qiáng)調(diào)“建立完善人工干預(yù)和用戶自主選擇機(jī)制”，也即不僅依賴算法進(jìn)行內(nèi)容推薦，還需要增加人工識別及篩選的過程，“在首頁首屏、熱搜、精選、榜單類、彈窗等重點(diǎn)環(huán)節(jié)積極呈現(xiàn)符合主流價(jià)值導(dǎo)向的信息內(nèi)容。”

“相當(dāng)于在平臺夯實(shí)主體責(zé)任的過程中，除對謠言及其他不法信息的治理外，還多加了一道對算法決策的抓手?！敝袊ù髮W(xué)傳播法研究中心副主任朱巍表示，平臺通過何種算法和邏輯使用數(shù)據(jù)，是互聯(lián)網(wǎng)監(jiān)管的關(guān)鍵。

對于未成年人的保護(hù)，《意見稿》第十六條特別提出“通過開發(fā)適合未成年人使用的模式、提供適合未成年人特點(diǎn)的服務(wù)等方式，便利未成年人獲取有益身心健康的信息內(nèi)容。”

《意見稿》公布當(dāng)日，網(wǎng)信辦發(fā)布加強(qiáng)“飯圈”亂象治理的通知，提出“取消明星藝人榜單”“優(yōu)化調(diào)整排行規(guī)則”等10條工作措施。網(wǎng)信辦指出，在音樂作品、影視作品等排行中，降低簽到、點(diǎn)贊、評論等指標(biāo)權(quán)重，增加作品導(dǎo)向及專業(yè)性評價(jià)等指標(biāo)權(quán)重。不得設(shè)置誘導(dǎo)粉絲打榜的相關(guān)功能，引導(dǎo)粉絲更多關(guān)注文化產(chǎn)品質(zhì)量。

不得控制熱搜，影響網(wǎng)絡(luò)輿論

熱搜榜單是注意力經(jīng)濟(jì)最集中的體現(xiàn)，是新媒體時(shí)代議程設(shè)置最典型的樣本。

《意見稿》多項(xiàng)內(nèi)容規(guī)制排序精選類平臺，如資訊類的今日頭條與百度、短視頻類的快手與抖音、綜合類的微博與知乎等，劍指熱搜榜單這項(xiàng)功能服務(wù)。

關(guān)于熱搜排序、流量造假等問題，監(jiān)管部門此前曾多次出手，對平臺的監(jiān)管趨嚴(yán)。

2020年6月，國家網(wǎng)信辦指導(dǎo)北京市互聯(lián)網(wǎng)信息辦公室約談新浪微博負(fù)責(zé)人，針對微博在蔣某輿論事件中干擾網(wǎng)上傳播秩序，以及傳播違法違規(guī)信息等問題，責(zé)令整改，暫停更新微博熱搜榜一周，嚴(yán)肅處理相關(guān)責(zé)任人并從嚴(yán)予以罰款的行政處罰。

《意見稿》對算法推薦服務(wù)提供者在算法規(guī)則及公示方面進(jìn)行要求。第十二條提到，應(yīng)綜合運(yùn)用內(nèi)容去重、打散干預(yù)等策略，并優(yōu)化檢索、排序、選擇、推送、展示等規(guī)則的透明度和可解釋性。第十四條規(guī)定，應(yīng)以顯著方式告知用戶其提供算法推薦服務(wù)的情況，并以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖、運(yùn)行機(jī)制等。

今年8月23日，微博曾回應(yīng)“花錢買熱搜”“花錢壓熱搜”等質(zhì)疑，首次公布熱搜產(chǎn)品規(guī)則和管理細(xì)則。微博表示，熱搜根據(jù)微博用戶的真實(shí)行為進(jìn)行計(jì)算，并根據(jù)搜索量、發(fā)博量、互動量等數(shù)據(jù)指標(biāo)，形成實(shí)時(shí)榜單。榜單算法中包含了嚴(yán)格的排水軍和反垃圾機(jī)制，以確保公正客觀。

對于平臺在影響輿論及社會動員方面的規(guī)制，《意見稿》第十三條要求，不得利用算法虛假注冊賬號、非法交易賬號、操縱用戶賬號，或者虛假點(diǎn)贊、評論、轉(zhuǎn)發(fā)、網(wǎng)頁導(dǎo)航等，實(shí)施流量造假、流量劫持；不得利用算法屏蔽信息、過度推薦、操縱榜單或者檢索結(jié)果排序、控制熱搜或者精選等干預(yù)信息呈現(xiàn)，實(shí)施自我優(yōu)待、不正當(dāng)競爭、影響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)管。

同時(shí)，《意見稿》要求賦予用戶選擇權(quán)。第十五條提到，算法推薦服務(wù)提供者應(yīng)向用戶提供不針對其個(gè)人特征的選項(xiàng)，或向用戶提供便捷關(guān)閉算法推薦服務(wù)的選項(xiàng)。用戶選擇關(guān)閉的，應(yīng)立即停止提供相關(guān)服務(wù)。這與8月20日出臺的《個(gè)人信息保護(hù)法》中，關(guān)于個(gè)人信息權(quán)及撤回同意的相關(guān)內(nèi)容一脈相承。

網(wǎng)約車、外賣平臺雙重算法受監(jiān)管

近年來，外賣小哥、網(wǎng)約車司機(jī)等新就業(yè)形態(tài)勞動者隊(duì)伍不斷壯大。2019年，餐飲外賣員總數(shù)已突破700萬人。全國網(wǎng)約車監(jiān)管信息交互平臺統(tǒng)計(jì)顯示，截至2021年7月31日，全國共有241家平臺取得網(wǎng)約車經(jīng)營許可，各地共發(fā)放網(wǎng)約車駕駛員證351萬本。

《意見稿》對于網(wǎng)約車、外賣等調(diào)度決策類等平臺的算法也作出規(guī)制，從勞動者及消費(fèi)者的雙重算法進(jìn)行約束。

針對勞動者，《意見稿》要求算法公正透明。第十七條提出，算法推薦服務(wù)提供者向勞動者提供工作調(diào)度服務(wù)的，應(yīng)當(dāng)建立完善平臺訂單分配、報(bào)酬構(gòu)成及支付、工作時(shí)間、獎(jiǎng)懲等相關(guān)算法，履行勞動者權(quán)益保障義務(wù)。

今年5月，交通部、市場監(jiān)管總局等八部門聯(lián)合約談滴滴出行、曹操出行、高德、貨拉拉等10家平臺。約談要求，平臺應(yīng)主動公開定價(jià)機(jī)制和計(jì)價(jià)規(guī)則，持續(xù)優(yōu)化派單機(jī)制。曹操、滴滴等平臺已提出推進(jìn)抽成公開。曹操出行表示，已通過司機(jī)端展示等方式對現(xiàn)行分成比例公開。滴滴則在5月宣布將推進(jìn)公開訂單抽成，推動司機(jī)賬單透明化。

7月，人社部等八部門和市場監(jiān)管總局等七部門先后發(fā)布了《關(guān)于維護(hù)新就業(yè)形態(tài)勞動者勞動保障權(quán)益的指導(dǎo)意見》和《關(guān)于落實(shí)網(wǎng)絡(luò)餐飲平臺責(zé)任切實(shí)維護(hù)外賣送餐員權(quán)益的指導(dǎo)意見》，督促企業(yè)合理制定訂單分配、計(jì)件單價(jià)、抽成比例、報(bào)酬構(gòu)成及支付、工作時(shí)間、獎(jiǎng)懲等制度規(guī)則和平臺算法，提出通過“算法取中”等方式，替代“最嚴(yán)算法”的考核要求。

針對消費(fèi)者，算法則需限制“大數(shù)據(jù)殺熟”?！兑庖姼濉返谑藯l規(guī)定，算法推薦服務(wù)提供者向消費(fèi)者銷售商品或者提供服務(wù)的，應(yīng)當(dāng)保護(hù)消費(fèi)者合法權(quán)益，不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征，利用算法在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇等違法行為。

中國政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所副所長商希雪分析，當(dāng)前商業(yè)應(yīng)用場景中自動化決策算法愈加頻繁，引發(fā)威脅用戶正當(dāng)權(quán)益的社會風(fēng)險(xiǎn)。

關(guān)于“大數(shù)據(jù)殺熟”，《網(wǎng)絡(luò)交易監(jiān)督管理辦法》《電子商務(wù)法》《國務(wù)院反壟斷委員會關(guān)于平臺經(jīng)濟(jì)領(lǐng)域的反壟斷指南》，以及將于今年11月1日起施行的《個(gè)人信息保護(hù)法》等多部法律法規(guī)中都有明確規(guī)定，要求不得在交易中對個(gè)人實(shí)施“差別待遇”。

平衡算法使用與用戶權(quán)利保障

算法規(guī)則的背后是商業(yè)利益，面對算法推薦技術(shù)的各項(xiàng)要求，企業(yè)應(yīng)如何平衡算法的使用與保障用戶權(quán)利？

北京師范大學(xué)網(wǎng)絡(luò)法治國際中心執(zhí)行主任吳沈括建議，企業(yè)合規(guī)應(yīng)注意《意見稿》所提出的技術(shù)、管理和內(nèi)容價(jià)值層面的多層次要求。

具體而言，包括三個(gè)方面：在技術(shù)層面，產(chǎn)品自研發(fā)階段就要關(guān)注算法可能帶來的風(fēng)險(xiǎn)，尤其是歧視、虛假和與正能量不符的內(nèi)容傾向；在組織管理層面，需要構(gòu)建從用戶注冊、管理到風(fēng)險(xiǎn)評估等的全生命周期的組織管理制度，全面落實(shí)從制度到人的治理；在算法應(yīng)用過程中，注意內(nèi)容本身的價(jià)值倫理要求跟社會主義價(jià)值觀相符合，與正能量傳播要求的相匹配。

“從狹義的用戶權(quán)利保護(hù)角度來看，數(shù)據(jù)安全、個(gè)人信息保護(hù)，需要在現(xiàn)有的法律頂層設(shè)計(jì)下，做到制度間的交叉匹配，實(shí)現(xiàn)用戶的自主權(quán)利以及其他安全利益的綜合全面保護(hù)。”吳沈括說。

自動化決策是算法監(jiān)管之重?！捌脚_根據(jù)用戶的興趣愛好、消費(fèi)習(xí)慣等特征向其提供商品或者服務(wù)的搜索結(jié)果時(shí)，應(yīng)當(dāng)同時(shí)提供不針對其個(gè)人特征的選項(xiàng)?！鄙滔Ｑ┍硎?，一方面，在遵守法律規(guī)定的前提下，企業(yè)應(yīng)當(dāng)遵循公開、公平、公正的原則設(shè)計(jì)算法模型與制定自動化決策規(guī)則，不得對用戶提供歧視性的差異化待遇；另一方面，在履行“告知-同意”的義務(wù)前提下，企業(yè)應(yīng)當(dāng)保障用戶對算法設(shè)計(jì)與自動化決策的同意權(quán)、規(guī)則解釋權(quán)和選擇權(quán)。

借助外部力量，或許能讓企業(yè)從更客觀的角度解決問題。上海大邦律師事務(wù)所高級合伙人游云庭認(rèn)為，企業(yè)可以通過組建第三方的算法監(jiān)管委員會，例如第三方機(jī)構(gòu)、用戶代表、行業(yè)協(xié)會人員等，均可定期對企業(yè)內(nèi)部的算法倫理落實(shí)情況，輔助企業(yè)內(nèi)部的自查自糾和審計(jì)，由外部人士提出中肯建議，能有效減少算法風(fēng)險(xiǎn)。

（作者：張雅婷,郭美婷 編輯：張星）