郑戈：平台用算法“算计”用户，清朗行动能解决多少问题？

【文/观察者网专栏作者 郑戈】

近年来，算法逐渐成为一个热门词汇，但与此同时，越来越多的网络平台用户发觉自己仿佛被“算计”了，这“算法”成了“算计的方法”。

11月12日，中央网信办秘书局、工信部办公厅、公安部办公厅和国家市场监督管理总局办公厅联合发布了《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》，针对人民群众普遍关切的数字科技公司利用算法损害个人权益和公共利益的常见做法提出了具体的改善措施，督促企业深入对照自查整改。

该通知的附件提供了更为具体的“算法专项治理清单指引”，分“信息茧房”、热搜榜单、新就业形态劳动者权益、大数据“杀熟”、算法向上向善和落实算法安全主体责任等六个大项，提出了27个整改建议。

网友爆料，某日郑州飞往珠海的航班CZ6489，不同手机、不同账号搜索该航班显示出不同价格

·《通知》透露了哪些信息？

对于这个通知，我们可以从以下几个方面进行理解。

首先，通知所要求开展的行动不是“打击”“处理”或“严打”，而是专项执法行动，其目的在于保护网络安全和数据安全、人格权益、劳动者权益、消费者权益以及青少年和老年人权益，所有这些法益都有专门的法律加以保护，从《网络安全法》《数据安全法》《个人信息保护法》到《未成年人网络保护条例》。

其次，执法的方法是抓住“平台责任”这个抓手，督促企业自查整改。清单的目的正是为企业提供一个明确的指引，以便企业对照检查自己的算法设计是否符合要求，如果不符合则需要对算法进行进行调整和优化。这种执法方式不以处罚为目的，而以帮助企业向善向好为目的，可以使企业避免因违法而遭受处罚。作为指引，其中既包含了硬性的合法合规要求，也包含了科技伦理和商业伦理的内容，尤其是在”算法向上向善“这个部分。

第三，执法的目标选择体现了对数字经济时代算法应用的商业模式的准确理解，所提出的整改方案有现实针对性和价值引领性。通过对数字科技企业当下主流算法设计模式及其对用户个人权益和社会公共利益之影响的准确把握，清单指引提出了改善现有算法设计的具体建议，这些建议都有一定的现实针对性和技术可操作性。

最后，这些整改建议可以借助现行法律中为落实平台责任的网络和数据安全负责人以及个人信息保护负责人制度。在网络和数据法领域，平台责任已经成为一个核心概念。无论是在《网络安全法》和《数据安全法》之中，还是在《个人信息保护法》之内，数据掌控者和数据处理者的责任都占有基础性的地位，是法律得以有效实施的关键。

本图由作者郑戈绘制，转引请注明出处

为什么数字科技企业要承担类似于公权力部门所承担的对社会的公共责任呢？

这是因为它们已经成为当下已全面进入数字化时代的社会的信息基础设施运营者和公共服务提供者。马克·韦瑟曾说：“最复杂的技术是那些隐而不彰的技术。它们把自己编织进日常生活的纹理之中，直到自己成为其中顺理成章的组成部分”，数字技术正是这样的一种技术。

大型数字科技公司决定着我们的数字化生存状态。没有它们提供的用户界面（UI）和账号，普通用户无法进行社会交往（设想一下无法使用微信和QQ的情形），无法出行（高德、滴滴等打车类应用和各种共享单车应用），无法完成支付（支付宝和微信支付），无法订外卖（饿了么、美团或叮咚买菜），无法购物（淘宝、京东和拼多多），无法工作（WPS等各种“生产力工具”），也无法放松和娱乐（抖音、快手、小红书，腾讯视频、爱奇艺和优酷）。

没有它们提供的应用编程界面（API），其他开发者、生产者和经营者无法获得数字生态位，无法进行创新和生产经营活动。设想一下电商店家无法在电商平台建立卖家账户的情形，各种小程序开发者无法在苹果或安卓应用商店或无法介入微信界面的情形，百度或高德地图无法在华为或苹果手机上下载和安装的情形。

也就是说，大型数字科技公司所运营的，不是某种或某类产品或服务，而是“生态系统”（ecosystem）。

在这样的总体数字化环境中，让监管者去监督数据处理的全过程是完全不可能的，让公民个人通过诉讼或寻求行政救济的方式来维护自己的权利，也只能起到个案纠错的作用，而无法成为常态。传统的权利本位的法律模式和命令-控制本位的规制模式都无法有效发挥权利保障和风险控制的作用。

在这种背景下，由法律来确定框架性和底线性的基本原则，以平台责任的形式将遵循这些原则的责任落实到数据掌控者和处理者身上，使之内化为它们的运营准则和经营成本，政府从外部监督其合规行为，在出现可观察到的疏于履行责任的事件时强力介入，严厉处罚，这无疑是最为务实的一种制度设计方案。

这种模式将权利本位和风险规制本位的因素融合到一起，形成了所谓的“元规制”，即强调监管者与被监管者之间的合作而非对抗，行为规则的内化，以及法律和伦理原则在整个数字基础设施中的泛在化。

本次“清朗“行动正是这种数字化时代执法新模式的体现。

《网络安全法》《电子商务法》《个人信息保护法》《数据安全法》等法律规定了平台在维护公共利益和保护私人权利方面的责任，而平台在合法合规的考量下制定自身的平台规则，用以处理自身和用户之间的关系。这一套平台法体系已经不是传统意义上的合同或公司章程，而是新型的规范。

平台规范不仅涉及平台与用户之间的关系，也涉及到平台在算法架构设计上为履行平台责任而奉行的设计原则。政府对平台规范的内容和实施情况进行审查、提供指引并监督其实施情况是数字法实施的基本模式。

·以“信息茧房”为例，探讨治理成效

下面我们就以“算法专项治理清单指引”中涉及“信息茧房”的内容为例来说明其中的原理。

以互联网和数字技术为媒介的经济形态有很多不同的名字，从注意力经济、共享经济、平台经济到零工经济。每一个名称都呈现出它的一个基本特征及其给法律和监管带来的新问题，比如零工经济所涉及的就是新型就业形态及其所涉及的劳动法问题。而注意力经济则是导致“信息茧房”的主要原因。

我的老朋友哥伦比亚大学法学院教授吴修铭（Tim Wu，曾担任拜登的科技与竞争政策特别顾问）写过一本书，书名叫《注意力商贩》，核心观点是：

当我们使用各种网络社交媒体的免费服务时，我们不是用户，而是产品。这些平台会提供各种免费的服务，从日常生活轨迹分享到小游戏，目的是吸引我们的注意力，让我们花更多的时间在上面，生产更多的数据，而这些数据就是让它们赚钱的产品。

由于这种商业模式是如此普遍，以至于成为了我们所处的“数字社会”的日常组成部分，所以当下最紧迫的问题不是讨论它是好的、坏的抑或是“必要的恶”，而是用法律去规制它，限定它的应用场景（where）和时间（when），正像广告法对广告的限制那样。

强调数字经济的基本商业模式是通过吸引用户注意力来获取和利用数据，并不是吴修铭的原创观点，这实际上是不代表商业利益的中立学者的共识。吴修铭的洞见在于直接将这种商业模式的核心要素定位到广告。许多人之所以没有意识到这一点，是因为这种商业模式的广告本质被技术、算法和一整套天花乱坠的营销叙事给掩盖了。

就其实质而言，作为平台经济核心叙事的“完美个人化”或“量身定制”，其实是一种广告或营销手段。而把基于人工智能技术的个性化服务归结为与推销“脑白金”或“小罐茶”并无本质区别的营销术，可能会让很多人感到惊讶。但我们举小红书的例子就很容易说明这一点。

小红书将自己定位为“生活方式平台和消费决策入口”，正如微信和抖音等平台一样，它提供免费的内容分享，而收入则来自于广告和电商。比如在小红书上形成了独特的“种草经济”：一个用户通过在线分享消费体验，引发社区互动，推动其他用户去进行线下消费（小红书因此赚得广告费）或直接在平台内直播或内容分享内嵌入的链接下单购买（小红书因此赚取中介费），这些用户又反过来进行体验分享，最终形成一个“正循环”。通过使用推荐算法，小红书能够精准地把相关内容投送到可能对其感兴趣的人那里，因此使这个正循环的圈子越来越大。在2023年，小红书的营收达到了37亿美元，净利润为5亿美元，其中广告收入占到总营收的近80%。

注意力经济的商业模式对我们的日常生活产生着巨大的影响。

首先是我们把越来越多的醒着的时间花在小红书和微信等App上，其中最成功的几个整合了各种各样的服务，从新闻、娱乐等内容服务，游戏、视频等娱乐服务，购物、支付等消费服务，导致了上瘾和沉迷问题，对青少年危害极大。

其次是这些App会尽可能多地获取用户的个人信息，超出为用户提供其需要的服务所必要的范围，这是它的内在逻辑所决定。为此，学者祖波夫（Shoshana Zuboff）专门发明了“监控资本主义”（Surveillance Capitalism）一词，她在以此为题的一本畅销书里将数字经济的基本形态概括为通过捕捉和利用“行为剩余”（behavioral surplus）来获取超额利润。

她以谷歌为例，在使用谷歌的“免费服务”的过程中，“我们变成了谷歌的预测工厂从中提取和开发利用原材料的客体”。像谷歌这样的大型平台企业雇佣了市场上绝大多数的优秀数据科学家和人工智能专家，他们的集体智慧“旨在洞开人类经验的大门，将其转化为数据并创造成一个新的巨无霸市场，这个市场通过预测、影响和控制人类行为来创造财富。”

第三，通过对海量人类行为数据的学习，这些平台的算法掌握了流量密码，其中包括通过极端化的言论来挑起争议以吸引流量，或通过挑起对立引起争论来吸引流量。为了确保“不掉粉”，算法会将用户想看的内容推送到他面前，而避免可能引起他反感的内容推送给他。这是导致“信息茧房”、“回音室”和“过滤气泡”的主要原因。

最后，也是最潜移默化和不易改变的，是对人们心理和行为的改变。人工智能技术的商业应用一方面利用心理学知识来促进算法编程，另一方面用计算机科学来促进对消费者心理和行为的理解。两方面的合力使得平台企业得以设计出各种行为预测和行为诱导算法，改变着人们的预期和行为。一切都变得越来越可预测，因为一切都变得越可操控。但这并没有使我们的生活变得更美好。

“完美个人化”听起来的确很吸引人，谁不希望拥有为自己量身定制的产品和服务呢？但完美个人化所通向的目标其实是标准化，因为无法规模化的操作都无法成为成功的商业模式。借助能够高效率地找出统计学规律的算法，平台企业通过识别、分类和评价将用户贴上各种细分的标签，从而完成市场细分意义上的精准广告投放。这种商业策略既不是完美的，也不是个人化的，但却是规模化的，因此商业上是成功的。

四家公司提供的App占据了使用智能手机的中国网民70%的时间/注意力，它们分别是腾讯、字节跳动、阿里巴巴和百度。

了解了“注意力经济”的运作机制之后，再来反观专项治理清单指引中关于“信息茧房”的内容，我们会发现有些建议虽是出于良好的意图，但可能无法发挥多大的作用，比如关于兴趣标签的那些内容。

我们知道，平台不是根据用户自己明确表达出来的兴趣来给他们贴标签的，而是根据对用户不知不觉的线上行为所留下的电子痕迹来捕捉用户的点滴需求、片断想法、瞬间欲望，并自动化地为用户贴上各种标签的。这种微粒化的算法精准靶向技术才是推荐算法的内核。因此，哪怕你勾选了“不感兴趣”，也无法影响算法根据你的行为数据来预测的兴趣，以“身体很诚实”的原理来继续向你推送你无法言喻的内心渴望所指向的内容。

而“防沉迷举措成效”这部分的内容则是一种更好的控制论机制：在不确定采取什么措施才能更好实现法益保护目标时，要允许监管对象去尝试可能有助于实现该目标的方法，并在尝试之后记录效果，进行反馈，由此在试验中不断进行改进。这或许是在数字科技全面改变经济和社会的时代对其实现向上向善的法律和政策引导的唯一办法。

毕竟，数字化潮流浩浩汤汤，顺之者昌，逆之者亡。所有的监管都不能阻碍或扼杀数字技术及其应用的创新和发展，而只能在前行中修补，在修补中前行。

本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。