《社交困境》：算法抓住了人类的弱点……

╰+哭是因爲堅強的太久メ 2022-12-16 15:25 148阅读 0赞

![format_png][]

全文共**6965**字，预计学习时长**18**分钟

![format_png 1][]

《社交困境》是杰夫·奥洛威斯基（Jeff Orlowski）和Exposure Labs团队投注数年心血的项目，最近刚刚在Netflix首映，迅速跃升至浏览前10榜单。该电影巧妙地将戏剧与我和其他十几名前社交媒体高管的访谈结合在一起，希望传达出世界对社交媒体新闻和娱乐日益依赖的(通常是潜意识的)后果。

当然，对于科技行业的人来说，问题无处不在。过去几天里，硅谷内外的产品经理、工程师、设计师和其他技术高管都在联系笔者，想更好地了解这里到底发生了什么，以及他们能做些什么。对于这部电影如何诞生，何人参与其中，以及它如何与过去十年科技领域的其他热门话题相关联，很多人也存在一些困惑。

为了让这部电影尽可能广为人知，Exposure Labs团队显然将一切都保持在相对较高的水平。如果你想深入挖掘，理解其中涉及的产品力学和人类心理学，下面是我自己的看法。

首先，要说明几个关键点：

·        此帖非批判帖，不针对任何人。这些挑战是结构性问题，不是任何个人、团队或公司造成的结果。公司里的同事都令人惊讶、聪明、热情、且有道德，每一个人我都曾有过交往(我曾在那儿任职)，他们都迫切地想为世界人民做最好的事。

·        我们如今的境地并不是因为谁缺乏执行力。事实上，正是出色的执行力将我们带到了这里：支持当今平台的算法取得了超乎想象的成功，工程产品设计团队迅速迭代，成功实现公司目标。人们因这部作品得到了提升和广泛认可，这部作品没有被雪藏，这些话题并不是什么机密。

·        比起2018年初我接受有关这部电影的专访时，如今这些问题所引起的争议要小得多。我从制作团队那里听说，说服当时的任何人就这些话题发表意见都是非常具有挑战性的。我个人曾经也很犹豫要不要接受采访，不过很高兴杰夫·奥洛威斯基说服了我。

·        我相信还有很多人在思考同样的事情，他们会为这部电影做出极大的贡献。我知道制作团队联系了很多人，试图说服他们参加，结果喜忧参半，他们肯定还漏掉了一些人。

·        这些挑战有很多技术上的微妙之处，很难用文字来表达，更别说用电影了。我不想假装全部了解，我希望这篇文章可以开启科技行业内推进有效对话之路。

·        尽管如此，社交媒体对当今世界的影响是真实且具有毁灭性的。现状不可持续，这些公司需要认真对待这一点，并以比目前更快的速度对其平台进行重大改革。

背景

![format_png 2][]

图源：unsplash

2015年，我被任命为推特的消费产品主管，主要工作内容是带领产品团队，与设计和工程部门密切合作，负责Twitter在iOS，安卓和网页上的运行——就是提起“Twitter”就会想到的核心的消费者体验。2017年1月18日，我离开了Twitter，并暗自立下誓言，我再也不会为基于广告的社交媒体工作。

大约一年前，2016年4月12日，我参加了由谷歌前设计伦理学家特里斯坦·哈里斯(Tristan Harris)在旧金山组织的一次小型晚宴，他后来成立了人道技术中心。在与Facebook的前平台主管戴夫·莫林（Dave Morin）、话题的创造者克里斯·梅西纳（Chris Messina）等人的晚餐中，特里斯坦表达了他对社交网络在人们不知情的情况下窃取对人们时间的控制及其负面影响的粗浅理解。

该观点本身并不新奇——人们在Facebook、Twitter或Instagram上花费的时间在当代文化中是老生常谈的话题——但克里斯的理解更具深度，他对下游后果的洞察力醍醐灌顶又骇人听闻。那场晚宴使我受到了极大的震撼，仅仅几个月后，我便辞去了产品领导的职务。

直白来说，我长久执着于数据隐私。2013年1月，我和我的合作伙伴韦恩·张(WayneChang)将Crashlytics出售给Twitter时，我们确保带来的数据(覆盖全球数亿部智能手机)被明确隔离，且无法获取其他业务、产品或工程工作(包括广告)。这在当时并不常见，与Facebook收购Onavo形成鲜明对比)韦恩和我今天在Digits对客户数据采取同样的保护措施。

离开推特几个月后，也就是2017年春天，杰夫·奥洛威斯基（Jeff  Orlowski）找到了我。他是艾美奖获奖的气候变化电影——《逐冰之旅》和《追逐珊瑚》的导演兼摄影师，这两部电影是我帮助制作的。(注意，我不是《社交困境》的制片人，也不参与该项目。)事实证明，杰夫也听说过特里斯坦的工作，并很想深入了解他学到了什么。

问题的本质可以提炼如下：几乎所有社交网络(当时和现在)都支持基于广告的商业模式，潜在中激励了增加每个用户在产品上花费的时间，以获得更多收入。而他们使用的技术正变得越来越先进。

是我们疯了吗？

![format_png 3][]

图源：unsplash

2017年，我、特里斯坦和其他科技领域的朋友进一步讨论这个问题时，我突然意识到这是多么令人大开眼界和有争议，即使对那些最了解基于互联网的社交网络如何运作的人来说也是如此。

Facebook、YouTube或Twitter真的在英国脱欧或2016年美国大选中起到任何作用吗？扎克伯格公开坚定否认了这种可能性。但是事后想来，答案是肯定的。毫无疑问。

今天，事情就变得更清楚了。如果你问自己：

·        世界怎么变得这么两极化，这么分裂？

·        谎言是如何一天天超越事实的？

·        毫无根据的阴谋论为何如此受欢迎，以至于影响广大民众和主流政党？

然后理性审视一下社交媒体业务的潜在机制，这一切都变得如此明显，令人痛苦。简而言之，今天的全球混乱都是试图从广告中赚钱的直接、理性的结果。从技术上讲，任何结合了广告、用户生产内容、机器学习的消费产品都有潜在的、不可避免的结构性问题。

但是等等，这不就是健康与安全吗？重要的是要明确区分《社会困境》和今天所有主要社交平台上基本的、长期公认的和正在进行的健康与安全努力。

网络暴力和骚扰是极其严重的话题，会带来现实世界的后果，过去十年中，科技行业内外无数人冒着职业和声誉的风险，提升人们对这些问题的认识，并要求改变。在不减少这些努力的情况下，《社会困境》的可怕之处在于，它实际上与健康和安全无关，而在于更具结构性和隐蔽性的东西：商业模式本身。

想象一下，如果互联网中的每个人都彼此友好并相互支持，那不是太棒了吗？不幸的是，基于在线广告的商业模式的毁灭性后果仍然存在。今天的世界会变得越来越两极分化，受谎言影响越来越大，只是更礼貌一点。

是什么让网络广告与众不同？

广告当然不是新东西。有钱可花、有推广计划的人可以付钱让观众看到他们的信息。几百年来都是这样。我选择电视节目、杂志和报纸文章，但我并没有选择随之而来的广告，出版商和合作赞助商确定了广告内容（无论好坏）。

然而，从历史上看，这些都是被动的经历。内容产生、发布、消费，内容就像广告一样，是不可改变：在消费者到来之前就已经预先确定，并且针对大量的受众，每个消费者享受或遭受同样的体验。

数字广告在20世纪90年代以同样的框架开始，无数在线出版物的顶部和侧栏上布满了横幅广告。当然，比平面广告更烦人——考虑到它们花哨的颜色和粗糙的GIF动画——但本质上是一样的。

![format_png 4][]

图源：unsplash

然后，一切都变了。如果可以选择实时显示广告会怎么样？如果它们会因观看者不同而发生变化呢？如果他们能在此刻对消费者的特定意图做出反应呢？搜索广告(Overture发明，Google推广)正是通过关键词做到了这一点。突然间，广告变得更息息相关，当然也更加有效。

当时，在2000年年初，很多人将其视为一种进步：为什么我会想看到一个我没有兴趣的广告？广告最终会有帮助吗？随着2000年代中期社交网络的兴起，这种方法继续发展。广告是根据关注对象或在个人资料中透露的人口统计和位置信息进行推送。

这似乎是合理的，但有一个关键的区别。有了搜索广告，看到的广告便成了自主搜索的直接结果。我决定有意识地搜索一些东西，然后搜索结果页面就呈现了相关的广告。搜索量越大，看到的广告就越多。

但与搜索不同的是，当你将广告与其他媒体内容相结合时，潜意识中还会利用另一维度——时间。你多久打开一次Facebook、YouTube、Twitter等？转眼又过了20分钟？这不是意外，这是精心设计的。

像任何企业一样，你有增加股东价值的信托责任，也就是驱动利润。基于广告的你手头有两个主要杠杆：

·        增加所展示广告的相关性（点击量越多，广告商支付广告费越高)。

·        提升广告印象(显示次数越多，广告商支付广告费越高)。

从第一条开始，对相关性的追求是网络执着于数据收集以及随之而来的在线隐私保护运动背后的核心驱动力。你关于我的数据越多，你就越了解我的兴趣，我的优点，我的缺点。你知道应该向我展示什么，才能让我观看一些视频，点击一些东西，或者买一些东西——无论广告商想让我做什么。

![format_png 5][]

图源：unsplash

实际上，基于广告的企业正在出售改变用户行为的机会。准确地说，用户的注意力和行为才是他们的产品。(这也是为什么韦恩和我断然拒绝与推特共享Crashlytics数据——应用开发者不应该仅仅为了从第三方SDK的功能中受益而“出售”他们的用户。)

故事的这一部分是它自己的噩梦，但这是一个科技和广告行业今天普遍理解和接受的噩梦，不管是好是坏，我不再赘述。

以更隐秘方式提升广告印象

记住，你现在是一个理性的社交网络。把注意力转向广告印象时，有三种主要的方法来推动增长：

·        获得更多可盈利的用户(可以向其显示广告的总人数)。

·        增加负载。(与正常的有机内容相比，向人们展示的广告数量)。

·        增加使用量 (各个用户使用产品的频率和时长，以便于在其使用期间展示更多广告)。

可盈利的用户增长通常通过虚拟策略和社会心理学实现。通过促进与新朋友的接触(“导入联系人列表”)，通知他们可能感兴趣的动作(“您在照片中被标记了”)，并编排反馈循环(“莎莉和其他5个人喜欢你的帖子”)，社交网络在概念上直接传播到现实世界的社区(“我们找到了12个你可能认识的人”)。

广告负载很简单，也容易调整，但它会很快超过一个临界点：大多数人都不喜欢在短时间内看到太多的广告。你可能会注意到，一到财政季度快结束时，社交网络上的广告比平时更多——这很容易就能让人在几天时间内增加浏览量，以确保实现收入目标，然后在太多人忍无可忍之前将其撤销。

最后，提高使用率类似于推动用户群的增长。可以调整一些社交互动，促进现有用户的重新激活，而不是专注于引入新用户。事实证明，提升广告印象可以完全不依靠社交互动提高使用率。

“人工智能”的影响

![format_png 6][]

图源：unsplash

众所周知，2013年至2014年期间，Facebook将其新闻源切换到算法模式，在这种模式下，你第一次看到的内容不仅仅是好友和他们发布动态的顺序，还有其他因素在起作用。

尽管“删除Facebook”的威胁广泛存在，但这在一开始是有意义的：我真的想看到那个疯狂的高中朋友的每一篇帖子吗？他几乎醒着的时候都在平台上度过。(但是删除好友会很尴尬……)

毕竟一则广告和一条有机内容能有什么区别？如果Facebook可以通过编程选择人们看到的广告，为什么机器学习算法不能通过编程选择人们看到的用户生成的内容？理论上来说，这可能会比纯粹的时间顺序带来更好的产品体验。他们深刻地认识到了这一点。

但是等等，内容在哪个方面“更好”？“更好”是对谁而言？该算法将如何选择显示选择的内容？

Facebook有推动广告印象(推动收入)的信托义务，所以这当然成为他们算法内容选择标准的一个主要因素。可悲的是，这种变化如此有效，以至于其他社交网络别无选择，只能模仿它来保持竞争力。

事实证明，社交媒体的使用(每个用户花费的时间)不仅受到社交互动或所看到广告的高度影响，还受到所看到有机的、用户生成的内容以及所看到顺序的高度影响。

有史以来第一次，媒体平台可以按个人顺序特定指定内容，这是最有可能在产品中逐渐留住客户的方式，这意味着此人可以进一步向下滚动，也就会看到更多广告。高级机器算法很容易理解：给算法一个目标状态(例如，驱动广告收入)，它们会客观地对此进行优化。

Facebook可怕的、利润丰厚的发现

![format_png 7][]

图源：unsplash

可悲的是，这个难题的最后一块是人性。我们想要归属感，作为人类，我们往往不喜欢我们不同意的事情。我们希望成为一个利益共享的社区的一部分。我们希望被告知我们是对的，我们没有疯，还有很多其他人和我们一样。如果我们看到一些与自己观点相左的东西，我们就会产生要么战斗要么逃跑的心态。然后关闭应用程序。

我们对新鲜事物和闹剧也有着无穷无尽的欲望。我们愿意对这些事情表示震惊、醒悟、着迷、愤怒或开心，但总是希望以一种与我们现有信仰定向一致的方式。

为了利润而极化

仅仅几年后，当英国脱欧和2016年大选成为焦点，Facebook的机器学习算法也有了一些重要的“发现”：

·        一般来说，人们更有可能寻找和消费他们认可的内容。

·        他们更有可能接触并分享某些方面令人愤慨的内容。

·        而且，一旦被激怒并参与进来，人们更有可能继续沿着同样的路线前进以获取更多的内容。

这让Facebook比以往任何时候都能够展现更多、更有针对性的广告。他们实现了广告的圣杯：在全球范围内准确地将客户内容和广告进行匹配。最终结果是，社交网络正纯粹以广告收入的名义，迅速分化当今世界。

我看到的每一条内容都是经过特别挑选的、留住了我的内容。让我继续滚动。让我不停地敲打。让我一直看到广告。因为几乎总是我喜欢的东西，或有趣，或离谱——算法已经知道了这一点。

因此，结局很明显：主要的消费科技平台，不仅在美国，而且在全球范围内，现在都有一种隐含的信托义务来强化我目前的观点，这只会让我(和其他人)按照自己的思路变得更加教条和激进，无论内容是关于哪个主题，或者我倾向于哪个方向。我变得两极分化和激进，却只为他们创造了利益。

真实世界的影响

这不仅仅是理论或夸张，这实际上每天影响数十亿人：

·        科学证明，全球变暖的事实无可争议，但地球上很大一部分人却不这么认为，这阻碍了急需的监管和政策变革。

·        毫无根据的披萨门阴谋理论“在其生命的前五周被超过25万个账户分享了大约140万次”，并导致一名持枪歹徒袭击了哥伦比亚地区的一家披萨店。

·        多年来，缅甸政府系统地利用社交媒体煽动对罗辛亚少数民族的仇恨，以至于种族灭绝在社会上被大多数人接受。

·        墨西哥、巴西和其他70个国家的政府和政治团体被发现通过社交媒体故意向本国公民传播虚假信息。

·        知名美国政客经常散布令人发指的无耻谎言，他们知道谎言会在粉丝群中迅速传播，很少有人会花时间去核实它们的真实性。研究表明，谎言传播速度比事实快6倍。

媒体平台从未如此鼓动愤怒和虚假信息的传播，我们能做些什么呢？

表明立场

就像大多数普通人的悲剧一样，单独一人很难有所作为。即使在推特上保持影响力也是徒劳——问题在于商业模式本身，而不是其执行。实现业务目标的出色执行是Facebook沦落至此的首要原因。

这已经变成了一个陷阱：替代的商业模式，比如按订阅量收费或按粉丝数量/受众规模收费，几乎必然导致总收入大幅下降。这些算法从广告客户那里提取的每用户费用比普通用户的支付意愿(或纯粹的支付能力)要多。

在竞争激烈的资本主义市场中，没有明确的路径让个人表明立场——他们成功撼动的公司都会立即被原则性不强的竞争对手超越，并面临某些股东的抗议。

但是通过共同行动，我们可以有所作为。就像许多其他行业的情况，这已经到了我们别无选择的地步，只能迫使这些基于广告的消费技术平台将它们的负外部性内在化。好消息是，我的技术朋友们对此不再有争议，现在有许多聪明人在研究这些问题并探讨解决方式。

![format_png 8][]

图源：unsplash

与我在2017年的讨论形成鲜明对比的是，过去一年中，我交谈过的许多工程师、产品经理和技术高管现在都完全理解并同意推动这一过程的机制。但是他们还不知道该怎么办——所以，让我们一起来讨论一下。

·        消费产品中可以收集和存储的个人数据的数量和类型应该有限制吗？

·        在给定的时段和给定的时间间隔内，可以向个人展示的广告的最大数量是否应该有限制，以持续时间较长者为准？（一定要恢复每个人对自己时间的掌控)

·        个性化广告应该完全合法吗？（在高速公路上开车时，我们会看到同样的广告牌，对于这些广告牌产生一段对话。然而没有人知道其他人在网上看到了什么——你怎么可能感同身受呢？)

这只是一个开始，机器学习算法在追求目标状态时是无情的，这不是他们将发现的最后一个心理学技巧——我们需要为下一个做好准备。

正如特里斯坦所指出的那样，我们不需要担心有一天机器人会“接管世界”，我们必须担心的是，有一天机器会克服人类的缺点，从而操纵我们的行为来实现它们自己的目标。

![format_png 9][]

**推荐阅读专题**

[![format_png 10][]][format_png 10 1]

[![format_png 11][]][format_png 11 1]

[![format_png 12][]][format_png 12 1]

[![format_png 13][]][format_png 13 1]

![format_png 14][]

**留言点赞发个朋友圈**

**我们一起分享AI学习与发展的干货**

编译组：张月星、骆昱含

《社交困境》：算法抓住了人类的弱点……

发表评论取消回复

还没有评论，来说两句吧...

相关阅读

相关案例分析：抖音点赞功能滥用带来的社交困境

相关抖音热门算法揭秘：抓住流量的钥匙

相关《社交困境》：算法抓住了人类的弱点……

相关 Linux系统默默改变了人类世界的生活方式

相关 Linux系统默默改变了人类世界的生活方式

相关 Linux系统默默改变了人类世界的生活方式

相关创业故事，终生受用之创业必须抓住人性弱点及需求

相关人性的弱点

相关读书笔记------人性的弱点

相关人性的弱点-读书笔记