第 32 章 · 为什么数据开始变成生产资料
谁拥有数据？谁控制算法？
- 出场人物
- 阿织果果石头
- 涉及学科
- 数据经济学算法社会学平台治理
- World OS 层
- 技术世界认知世界制度世界
一个故事
启明岛上的每一个人，每天都在留下痕迹：搜了什么、买了什么、去了哪里、和谁聊天、看了什么视频、在哪条视频前停留了几秒、借过多少钱、按时还了没有。
这些痕迹都变成了数据，流进了一个个算法里。
这一年，岛上发生了三件小事：
- 阿织家 15 岁的织星，每天在一个短视频应用上刷 5 个小时。他发现，自己越刷，推给他的视频就越刺激、越极端，停都停不下来。
- 果商家的女儿和好朋友在同一天、用同一个应用订了同一条航线的船票，她的票价比朋友贵了两成。后来她才知道，应用「知道」她经常订船票、很少比价。
- 石头家的后代向小算银行申请贷款，几秒钟就被拒绝了。柜员说：「是系统评分不够。」「为什么不够？」「系统没说。」
冲突
织星的时间、果商女儿的钱、石头家后代的贷款，都被一个他们看不见、也说不清的东西影响着。
这些数据是他们自己产生的，却在别人的手里。决定他们看到什么、付多少钱、能不能借到钱的算法，也在别人的手里。
谁拥有数据？谁控制算法？算法是中立的吗？
你来决定
你是议事会成员，正在起草全岛的数据规则。你会提出哪一条？
观察结果
数据本身不值钱。一条「织星在某条视频前停了 3 秒」的记录，毫无用处。
可是当几十万人、几十亿条这样的记录汇集在一起，进入算法，事情就变了：
算法会影响：
- 推荐：你看到什么新闻、视频、商品。
- 广告：谁在什么时候向你推销什么。
- 价格：同样的东西，不同的人看到不同的价格。
- 信用：你能不能借到钱、利率多少。
- 舆论：一群人会看到什么样的世界。
于是出现了一种新的权力：算法权力。它不像士兵那样看得见，也不像法律那样写在纸上，却在每天、每秒地影响着每一个人的选择。
算法也不是中立的。它有目标：一个短视频算法的目标如果是「让用户停留更久」，它就会找出最能让人停不下来的内容，而不一定是对人最好的内容。它还会继承数据里的偏见：如果过去的数据里就有不公平，算法会把不公平学得更快、更准。
它叫什么
对人的行为、事物状态的记录。数据有一个特殊的性质：你用了，我照样能用，而且汇集得越多，价值越大。这让它和土地、石油这些传统的生产资料很不一样。
一套处理信息、做出判断的规则。今天很多算法不是人一条条写出来的，而是机器从大量数据里「学」出来的。
根据你过去的行为，预测你可能喜欢什么，再推给你看的算法。
当信息多得看不完时，稀缺的就变成了人的注意力。很多「免费」的服务，靠的是把你的注意力卖给广告商。你付出的是时间（第 1 章的机会成本）。
通过控制算法，影响大量人的所见、所想、所做的能力。
个人控制自己信息的权利：谁能收集、谁能看、谁能用来做什么。
算法因为目标设置或训练数据的问题，系统性地对某些人不公平。
真实世界
2018 年，媒体曝光一家名为剑桥分析的公司，通过一个性格测试小程序，获取了多达数千万社交网络用户的数据，并被指用于政治广告的精准投放。
这件事让很多人第一次意识到：自己随手点开的一个小测试，可能变成了影响选举的工具。美国监管部门后来对相关社交网络公司处以 50 亿美元的罚款。
一家大型科技公司曾开发一个自动筛选简历的算法，用过去十年的录用数据训练。后来发现，由于过去录用的技术人员大多是男性，算法学会了给含有「女子」字样的简历（比如「女子国际象棋俱乐部队长」）降分。公司最后放弃了这个工具。
算法没有恶意，但它忠实地复制了过去的不公平。
欧盟的《通用数据保护条例》从 2018 年起施行，赋予个人查询、更正、删除自己数据的权利。中国的《个人信息保护法》从 2021 年 11 月起施行，其中明确规定，利用个人信息进行自动化决策，不得在交易价格等条件上实行不合理的差别待遇；2022 年起施行的算法推荐管理规定，要求应用向用户提供关闭个性化推荐的选项。
本章「你来决定」里的几种办法，在现实中都能找到对应的规则。
诺贝尔经济学奖得主西蒙在 1971 年就预言，大意是：信息的丰富，会造成注意力的贫乏。
五十多年后，这句话成了注意力经济最好的注脚。
改一个变量
推荐的内容会完全不同。可「满意」很难测量，「停留时间」却很容易测量。
算法优化什么，就会得到什么。 选择一个目标，本身就是一个价值判断。
数据从「被拿走的东西」变成了「劳动的成果」。有学者提出过「数据即劳动」的设想。
可一个人的数据单独看价值很低，每人每年也许只能拿到很少的钱。真正的价值在于汇集，这让「按人分钱」变得很难设计。
所有人看到的世界，都由同一套规则挑选。它可以让大家更了解彼此，也可以悄悄地让某些声音消失。
控制叙事的权力（第 10 章），在数字时代集中到了算法手里。
他发现了一条错误的数据，更正以后贷款获批了。
可如果所有人都知道算法看重什么，有人就会想办法「刷分」：制造假数据迎合算法。透明能纠正错误，也会引来钻空子的人。
三种讲法
问孩子：为什么你看完一个恐龙视频，下一个推荐的也是恐龙视频？是谁在决定给你推荐什么？
小实验：和孩子一起打开一个视频应用，故意连着看几个同类视频，再看看推荐页有什么变化。问：它是怎么「知道」的？
画循环图：照着本章的「数据飞轮」，画出你最常用的一个应用是怎样收集数据、又怎样影响你的。
找因果：行为 → 数据 → 算法 → 推荐、价格、评分 → 新的行为 → 新的数据。在这个循环里，谁获得了收益？谁承担了风险？
讨论：一个「免费」的应用，你付出了什么？
分析：打开你手机上一个常用应用的隐私设置，看看它收集了哪些数据、能不能关闭个性化推荐。你会怎样调整？
讨论：数据应该归谁？个人、平台，还是社会共有？结合第 7 章的产权理论（使用权、收益权、转让权、排他权），设计一种你认为合理的数据产权方案，并指出它的缺点。
带走的问题
本章自测
数据汇集起来，经过算法处理，可以用于推荐、广告、定价、信用评估等，创造巨大的经济价值。而且数据可以被反复使用、越多越有价值，这和土地、石油等传统生产资料不同。
算法有目标，目标本身就是一种价值选择；算法从过去的数据中学习，也会继承数据中的偏见。
通过控制算法，影响大量人所见、所想、所做的能力。它不像传统权力那样看得见，但影响范围可能更广。
你付出的是时间、注意力和数据。它们被用来卖广告、改进算法，最终变成了平台的收入。
一句话带走
数据进入算法，算法影响推荐、广告、价格、信用和舆论，于是出现新的权力：算法权力。