Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
‎（“进入凡人生活的一切强大之物 ‎无不具有弊端”）
‎（——索福克勒斯）
‎好 你直接开始吧？ ‎好 坐下 能否舒适地坐着
‎还好吗？好了
‎是
‎第一镜 打板
‎要我先从自我介绍开始吗？
‎世界你好 贝利 第三镜
‎-可以了吗？ ‎-这是我最讨厌的部分 兄弟
‎我不喜欢这样
‎我2011年到2012年间在脸书工作
‎我是Instagram非常早期的员工
‎我曾任职于谷歌、YouTube
‎苹果、谷歌、推特、Palm
‎我帮助创始了Mozilla Labs ‎后来更多工作于火狐这边
‎在拍吗？大家…
‎很好
‎我曾在推特工作 我在推特的 ‎最后一份岗位 是高级副总工程师
‎我曾是Pinterest的总经理
‎在那之前 我在脸书做了五年的
‎盈利总监
‎在推特期间 我用了几年时间 ‎运营他们的开发者平台
‎然后我做了消费者产品部长
‎我曾合作发明 ‎谷歌硬盘、谷歌邮箱聊天
‎脸书网页和脸书“赞”按钮
‎对 所以我才花了八个月的时间
‎和律师反复周旋
‎真的让我很崩溃
‎我在那里任职的时候 一直觉得 ‎总体上 这是积极的力量
‎我现在不确定 自己是否还这样想了
‎出于对道德伦理的担心 ‎我于2017年6月离开谷歌
‎不仅是担心谷歌的道德伦理 ‎而是对整个产业
‎我很担心
‎非常担心
‎如今 人们很容易忽略一个事实
‎这些工具 ‎其实为世界创造了一些美好的东西
‎它们让失去联系的家人重聚 ‎找器官捐赠者
‎它们为整个世界带来了
‎有意义的、系统的变革
‎这是这些平台积极的一面
‎我认为我们对它的消极一面 ‎过度看轻了
‎对 这些东西 只要你发布 ‎它们自己就会存活
‎它们被使用的方式 ‎与你当初的预期大相径庭
‎我深信 这些负面的后果 ‎不是任何人刻意为之
‎没有任何一个坏人 没有 绝对没有
‎那么问题在哪里？
‎是否有问题？问题在哪里？
‎是 很难给出一个单一的、简明的…
‎我在试着谈论很多不同的问题
‎问题在哪里？
‎NETFLIX 原创纪录片
‎虽然面对越来越多的质疑
‎这些所谓的大型技术公司却越发壮大
‎整个技术产业 ‎正在面临全新维度的审查
‎一项新的研究初步揭示了心理健康
‎与社交媒体使用之间的联系
‎来谈谈最新的研究…
‎…的情况 根本没有保险
‎数千万美国人无望地
‎玩电子设备成瘾
‎因为技术 现在你真的能把自己 ‎隔离在一个泡泡内 周围都是
‎（你的朋友在照片中圈出了你）
‎与你观点相似的人 ‎瘾性就更加恶化了
‎虚假新闻变得更发达了
‎威胁着全世界的社会
‎我们12年多以前创造推特的时候 ‎根本没有想到这些
‎官方说 他们没有理由相信
‎俄罗斯网络攻击会停止
‎YouTube被迫专注于清理网站
‎如果你和十几岁的孩子去聊
‎他们是绝对不可能删除抖音的…
‎喂 艾拉 可以帮忙摆桌子吗？
‎有一个严肃的问题
‎社交媒体是否让您的孩子抑郁
‎艾拉 可以帮忙摆桌子吗？
‎整容在青少年中已经十分受欢迎
‎整容医生甚至造出了一种新病征
‎“图片分享畸形征” ‎指的是年轻的患者想做整容手术
‎让自己看上去 ‎更接近加了滤镜的自拍中的样子
‎我还是不明白 ‎你为什么让她用那东西
‎我能怎么办？
‎我是说 她们班上的其他孩子全都有
‎她才11岁
‎卡桑 没人强迫你用
‎你想和别人切断联系多久 都随你
‎喂 我没有手机也不会和别人 ‎切断联系 好吗？我现在就在网上
‎而且 这根本不是实际的联系 ‎全都是没用的…
‎监视资本主义 ‎已经形成了我们的政治和文化
‎而很多人根本没有察觉
‎伊斯兰国煽动网上的关注者
‎现在 白人至上主义也在这样做
‎最近在印度
‎网络暴民害死了十几个人 ‎包括这五个…
‎虚假新闻不只是虚假新闻 ‎是有后果的
‎在虚假新闻的时代 ‎你要怎么解决传染病？
‎吃中餐会感染新冠病毒吗？
‎我们已经从信息时代 ‎过渡到了虚假信息时代
‎我们的民主受到了攻击
‎我说的是：“我认为如今 ‎创造出的工具正在开始
‎侵蚀社会正常运转的社交纽带”
‎阿莎愿意接受评论 我们播放视频
‎然后说 “女士们先生们 ‎我是特里斯坦·哈里斯”
‎-好 ‎-很好
‎就是说 我上来 然后…
‎（人道 技术的新议程）
‎你就说“欢迎各位的到来”
‎今天 我想聊聊技术的一个新议程
‎以及我们为什么要这样做 ‎因为如果你问人们
‎“如今的技术产业怎么了？”
‎有一种不满和丑闻的杂音
‎“他们盗用了我们的数据” ‎还有技术成瘾问题
‎有虚假新闻问题 有两极分化问题
‎有些竞选过程被黑客操控的问题
‎但是这些问题的背后 ‎是否有一个原因
‎导致这些问题在同时发生？
‎-感觉还行吗？ ‎-非常好 好
‎我只是想… 我想让人们看到…
‎在技术产业 正面临着一个问题
‎这个问题连名字都没有 ‎这个问题有一个源头…
‎环顾你身边 ‎感觉这个世界在逐渐疯狂
‎你要问自己 这是正常的吗？
‎还是我们都中了什么魔咒？
‎（特里斯坦·哈里斯 ‎谷歌前设计道德伦理学家）
‎（人道技术中心 合作创始人）
‎我希望更多的人能够理解它的原理
‎因为它不应该 ‎只被技术产业的业内知道
‎应该让所有人都知道
‎-你好！ ‎-嗨！
‎-特里斯坦 幸会 ‎-特里斯坦？
‎-对 ‎-太好了 好
‎特里斯坦·哈里斯 ‎是谷歌前设计道德伦理学家
‎被称为硅谷最接近良知的人物
‎他呼吁技术产业
‎在产品中引进 ‎被他称为“道德伦理设计”的要素
‎搞技术的业内人士 ‎极少如此直言不讳
‎特里斯坦·哈里斯相信 ‎总有人要这样
‎我在谷歌工作的时候
‎我在谷歌邮箱团队 ‎我就开始觉得很疲惫
‎因为我们讨论了很多…
‎收件箱应该长什么样 ‎应该是什么颜色
‎我自己感觉对邮件成瘾
‎我觉得有趣的是
‎在谷歌邮箱工作的人 ‎没有一个想把它做得不那么致瘾
‎我想：“别人想过这个问题吗？
‎我 没听谁谈论过这个问题”
‎我对技术产业整体感到沮丧
‎感觉我们有点迷路了
‎我真的很努力地去尝试 想办法
‎怎样能从行业内部改变这个问题
‎就在这个时候 我决定做一次展示 ‎算是号召大家吧
‎每天我回到家 每一个晚上 ‎都要花几个小时去做这件事
‎我的呼吁是 历史上从来没有过50个
‎20到35岁之间的加州白人设计师
‎做出一个能影响20亿人的决定
‎20亿人将会拥有 ‎他们从来不曾预料的想法
‎只因为一个谷歌的设计师说 ‎“你每天早上醒来
‎屏幕上的通知就是这样工作的”
‎我们作为谷歌 ‎有解决这个问题的道德责任
‎我把这个展示
‎发给了在谷歌 ‎与我关系最近的15到20个同事
‎我很紧张 我不知道他们会怎样想
‎我第二天去上班的时候
‎多数的电脑上都开着这个展示
‎（注意）
‎那天下午 有400个人同时观看
‎看到的人越来越多
‎我收到整个公司同事发来的各种邮件
‎每一个部门的人都说
‎“我太同意了 ‎我看到这个问题正在影响我的孩子
‎我看到这个问题正在影响我身边的人 ‎我们应该做点什么 来解决这个问题”
‎我感觉自己 ‎好像开启了一场革命之类的
‎后来 我才知道莱利·佩吉 ‎那一天在三个不同会议
‎都被人告知这个展示的存在
‎于是这个展示 ‎创造了这个文化性的时刻
‎谷歌需要认真对待
‎然后…杳无音讯了
‎2006年 所有人…
‎包括我们在脸书的所有人
‎超级羡慕谷歌 ‎羡慕谷歌所创建的一切
‎超级实用的服务
‎据我们当时所知 ‎为世界带来了很多好处
‎他们建立了一个平行的造钱机器
‎我们超级羡慕嫉妒谷歌 ‎在我们看来太优雅了…
‎太完美了
‎脸书当时才成立大概两年
‎我被雇到脸书 去找出
‎公司未来要走怎样的商业模式
‎我曾是盈利总监 大概意思就是
‎“你是要去想出 ‎这个东西怎样盈利的人”
‎当时很多人做了很多工作
‎但我明显是其中一个指向…
‎首先 我们必须要赚钱
‎我认为这个广告模式 ‎可能是最优雅的方式
‎妈妈刚给我们发的什么视频？
‎一个脱口秀 不过挺不错的 ‎那个人还算是个天才
‎他在谈论删除社交媒体 ‎你们真应该这样做
‎我可能要开始屏蔽她的邮件了
‎讲真 我都不知道她在说什么 ‎天啊 她还不如我
‎-不 她只用来找菜谱 ‎-对 还有工作
‎-还有健身视频 ‎-还看我们在做什么
‎还看她这辈子遇到过的每一个人 ‎在做什么
‎如果你一边往下划着 ‎你的社交媒体推送
‎一边看着我们 ‎你需要把你该死的手机放下 听好
‎因为我们的下一位嘉宾 ‎写了一本优秀的书
‎书的内容是社交媒体 ‎多大程度上破坏了我们的生活
‎掌声有请《立刻删除 ‎你社交媒体的十个论点》作者
‎贾伦·拉尼尔
‎谷歌、脸书这样的公司是有史以来
‎最富有、最成功的几个公司
‎他们的员工数量相对较少
‎他们只有一个大电脑 在那里摇钱
‎问题是 别人为什么给他们钱呢？ ‎这是一个非常重要的问题
‎我做了35年的技术产业投资者
‎硅谷的前50年 行业制造产品…
‎硬件、软件 卖给顾客 ‎简单良好的商业模式
‎过去十年 硅谷最大的公司
‎一直涉足贩卖他们用户的勾当
‎现在这样说 有点陈词滥调
‎但因为我们不为使用这些产品付钱
‎广告商为我们使用的产品付钱
‎广告商是顾客
‎我们是被销售的商品
‎经典的说法是
‎“如果你没有花钱买产品 ‎那你就是被卖的产品”
‎（你就是被卖的产品）
‎很多人想：“谷歌只是一个搜索框
‎脸书只是一个看我朋友们在做什么
‎看他们照片的地方”
‎但他们没有意识到的是 ‎他们在竞争你的关注
‎脸书、阅后即焚图片分享、推特 ‎Instagram、YouTube
‎这种公司 他们的商业模式 ‎是让人们的注意力持续吸引在屏幕上
‎我们来想办法 怎样尽最大可能
‎获得这个人的注意力
‎我们能让你在上面花多少时间？
‎我们能让你给我们分出 ‎你人生的多少时间？
‎当你去想 这些公司是怎样运作的
‎就能开始想通了
‎网络上有过各种服务 ‎我们都认为是免费的
‎但它们并不是免费的 ‎是广告商在付钱
‎广告商为什么给这些公司付钱？
‎它们付钱 交换给你展示广告
‎我们是产品 我们的关注 ‎就是卖给广告商的产品
‎这样说 过于简单化了
‎产品其实是我们行为和认知的
‎逐渐的、一点一点的 ‎我们未察觉到的变化
‎（行为和认知的 变化）
‎这才是产品 是唯一可能的产品
‎这其中 没有任何东西 ‎能再被称为产品了
‎这是他们能拿来赚钱的唯一东西
‎改变你做的事
‎你的思维模式 改变你这个人
‎这是一种逐渐的变化 非常轻微
‎如果你去找一个人 ‎你说：“给我一千万美元
‎我会让世界往你希望的方向改变1%…”
‎是整个世界！这就很神奇 值很多钱
‎好
‎这是每种商业都一直梦想的
‎就是投放一个广告 ‎有一定能够成功的保证
‎这就是他们的生意 ‎他们卖的是确定性
‎（确定性）
‎为了在这个生意中成功
‎你必须要有优秀的预判能力
‎（优秀的预判能力）
‎优秀的预判能力始于一个必要条件
‎你需要很多数据
‎（数据）
‎很多人把它称作监视资本主义
‎资本主义利用大型技术公司 ‎对每个人去的每一个地方
‎进行无限追踪获利
‎大型技术公司的商业模式
‎是保证广告商能尽最大可能成功
‎这是现在的一种新市场
‎这种市场 以前从未出现过
‎这个市场交易的 只有人类期货
‎就像交易五花肉期货 ‎和石油期货的市场
‎我们现在有了 ‎交易大范围人类期货的市场
‎这些市场创造了万亿美元
‎让网络公司成为了人类历史上
‎最富有的公司
‎我想让人们知道的是 ‎他们在网上做的一切
‎都被监控着 被追踪着 被评估着
‎你所做出的每一个行为 ‎都被小心翼翼地监控着、记录着
‎具体到你停在哪一张图片上看了 ‎你看了多久
‎是的 真的 看了多久都记录了
‎（纳维亚 参与时间）
‎（瑞恩 参与时间）
‎（雷恩 参与时间）
‎人们孤独的时候 他们知道 ‎人们抑郁的时候 他们知道
‎人们看前任爱侣的时候 他们知道
‎你深夜在做什么 他们知道 ‎他们全都知道
‎你是内向还是外向
‎你的神经哪种类型 ‎你的性格是哪种类型
‎他们所掌握的我们的信息
‎超越人类历史上所有的想象
‎这是史无前例的
‎所有这些我们不经意间 ‎不断流露出的数据
‎都被输入到这些系统中 ‎几乎不用人类看管
‎会做出越来越好的预判
‎预判出我们要做什么 ‎我们是怎样的人
‎（为您推荐）
‎很多人有一种误解 认为被卖掉的 ‎是我们的数据
‎脸书的商业兴趣 ‎肯定不是放掉这些数据
‎他们用这些数据做什么呢？
‎他们做出预判我们行为的模型
‎拥有最优秀模型的公司就赢了
‎他向下滑网页的速度慢
‎接近他平均阅读一屏时间长度的末尾 ‎减少广告加载
‎把朋友和家人弄回来
‎在屏幕的另一端
‎他们就好像拥有一个 ‎我们的巫毒娃娃化身一样
‎我们做过的所有事情
‎点击过的每一个地方
‎我们看过的所有视频 ‎点赞过的所有内容
‎这些数据都会被返回去 ‎用来建造一个越来越精准的模型
‎一旦有了这个模型
‎就能预判这个人做怎样的事
‎好 让我测试一下
‎你将要去哪里
‎我能预判出 ‎你会继续看什么样的视频
‎我能预判 ‎什么样的情感更能让你产生共鸣
‎好 完美
‎年度最悲壮失败
‎（悲壮失败）
‎-完美 有效果 ‎-接着另一个视频
‎漂亮 在它开始之前 ‎我们插进去一个运动鞋广告
‎很多这种技术公司有三个主要目标
‎有一个参与度目标 ‎增加你的使用 让你一直滑动屏幕
‎有一个增长目标
‎让你不断回来 尽可能多地邀请朋友
‎让他们再邀请更多的朋友
‎还有一个广告目标 ‎确保一切按照预期发展
‎我们尽量多地从广告上挣钱
‎每一个目标都由一个算法驱动
‎算法的作用是找出 给你展示什么
‎让数据上涨
‎我们在脸书 经常聊到这个想法
‎能够按照我们的需要调控
‎我们聊过 让马克来调控
‎“喂 我今天想让韩国的用户增加”
‎开始调控
‎“我们调控提高一点广告”
‎“调控提高一点盈利”
‎所以说…
‎所有这些公司 ‎都能做到这种程度的精准
‎-兄弟 怎么… ‎-我不知道我怎么没有得到黄牌罚下
‎-那个裁判真是逊 ‎-真的是一直…
‎-那是瑞贝卡 去和她说话 ‎-我知道那是谁
‎-兄弟 去啊 去跟她说话 ‎-我正在努力
‎他的日历上说 他正在休假 ‎我们应该实时操作
‎要我给他发一个窗口抖动吗？
‎好 抖吧
‎“您的好友泰勒刚刚加入了 ‎去挥手打个招呼吧”
‎快啊 兄弟
‎发一个挥手
‎你都没有… 去和她说话 兄弟
‎您的好友泰勒刚刚加入了！ ‎挥手打个招呼吧
‎（联系人网络）
‎新联系人！好 连上了
‎接下来推送 ‎用户079044238820瑞贝卡的发帖
‎好主意 卫星定位坐标显示 ‎他们距离很近
‎（瑞贝卡 找到了我的灵魂伴侣 ‎#闺蜜#呲溜呲溜#好朋友）
‎他容易受到广告影响
‎拍卖时间
‎（广告预览 深度衰落发蜡）
‎卖了！给深度衰落发蜡
‎我们有468个感兴趣的竞标人 ‎我们以3.262分卖给本 换来他的印象
‎我们创造了一个世界 ‎这个世界中 在线联系变成了主体
‎尤其是对年轻一代
‎然而在这个世界 每次两个人联系
‎唯一能提供经济支持的 ‎是通过一个鬼祟的第三方
‎有人给第三方钱 去操纵这两个人
‎所以 我们创造了全球的一整代人
‎他们成长的背景中 交流的意义
‎文化的意义 就是操纵
‎我们所做的每一件事的中心
‎都加入了欺骗和鬼祟
‎（“任何足够先进的技术 ‎都极其类似于魔术”）
‎（——亚瑟·C·克拉克）
‎-拿起另一个… ‎-好
‎-放在哪里才有用？ ‎-这样很好
‎-这里？ ‎-好
‎这会怎样出现在摄影机中 ‎如果我要做…
‎-其实 我们可以… ‎-就这样？
‎-什么？ ‎-对
‎-再来一次？ ‎-没错 好
‎对 不是 可能不是…
‎这样… 对
‎这个就稍微没那么…
‎克里斯在那边已经烦死了
‎可以了吗？
‎（魔术！）
‎我从五岁开始学习变魔术
‎我可以骗过成年人 ‎有博士学位的完全成熟的成年人
‎魔术师几乎像是最早期的神经学家
‎和心理学家
‎他们是最先明白
‎人们思想工作原理的人
‎他们在人们身上 ‎实时测试着很多很多的东西
‎魔术师懂一些事
‎你思想中 ‎你自己都没意识到的某一部分
‎这是让幻觉起作用的关键
‎医生、律师 ‎知道怎样构造747飞机或者核弹的人
‎他们并不会比别人更了解 ‎自己的思想有多么脆弱
‎因为这是一个完全不用的学科领域
‎这个学科领域 对所有人类都适用
‎（斯坦福大学）
‎从这个角度来说 ‎你就能对技术做了什么
‎有一个不同的理解
‎我在斯坦福劝服技术实验室的时候 ‎这就是我们所学到的
‎怎样利用我们知道的一切心理学知识
‎什么东西能劝服人们
‎把这个运用到技术中？
‎在座观众中的很多人 已经是天才了
‎我认为这是事实 但我的目标是 ‎让你们变成行为改变的天才
‎很多著名的硅谷人物 ‎都上过这个课
‎脸书、优步和其他公司的 ‎业绩增长关键人物
‎学习怎样让技术更能劝服人们
‎特里斯坦就是其中一个
‎劝服性技术 可以说是极端应用的
‎刻意设计
‎我们真的想去修改一个人的行为
‎我们想让他们这样做
‎我们想让他们继续用手指这样做
‎你往下拉 刷新 最上面就是新的内容
‎再下拉 再刷新 又是新的 ‎每一次都是
‎在心理学上 我们称为“正积极强化”
‎你不知道什么时候能刷到 ‎或者你是否能刷到什么
‎它的原理就像是赌城的老虎机
‎你有意识地使用产品 还远远不够
‎我想深度侵入你的大脑根部
‎在你脑中植入一个无意识的习惯
‎让你在更深的层次被编程
‎你自己都没有意识到
‎一个叫做詹姆斯·马歇尔的人
‎每一次你在看到老虎机在柜台上
‎你看一眼 你知道如果你过去
‎它可能有东西给你
‎于是你就玩了一下老虎机 ‎看你能得到什么 对吧？
‎这不是偶然 这是设计好的手段
‎他把一个金块 ‎给了旧金山军队的一个军官
‎别忘了 旧金山的人口数量 ‎当时只有…
‎另一个例子是照片圈人
‎如果你收到一封邮件 ‎说你朋友刚刚在一张照片中圈出了你
‎你当然会点击那封邮件 看一下照片
‎这不是你能选择忽略的事情
‎他们所利用的 ‎是根植于人类本性中的东西
‎你应该问自己的是
‎“这封邮件中 ‎为什么没把照片放进来？
‎这样 看照片就会容易很多 ”
‎当脸书发现这个功能之后 ‎他们可真是尽情调控
‎因为他们说 ‎“这将是增长积极性的绝好方式
‎我们让大家整天在照片中互相圈吧”
‎（本：至少我们中 ‎有一个人拍得很好）
‎他评论了
‎很好
‎瑞贝卡收到了 她正在回复
‎好 让本知道她在输入 别让他下线了
‎激活省略号
‎（至少我们中有一个人拍得很好 ‎…）
‎太好了 她发布了
‎他在评论 他给她发帖的评论的评论
‎等一下 他停止输入了
‎我们来自动填入
‎表情 他喜欢使用表情
‎（自动完成 参与度）
‎他选择了“火辣”表情
‎我以为他会选择茄子呢
‎有一整个学科 ‎这个领域叫做“增长量黑客学”
‎无数工程师团队 ‎他们的工作就是黑入人们的心理
‎让他们拥有更多的增长量
‎他们能得到更多的用户注册 ‎更高的参与度
‎能让你邀请更多人
‎各种测试、迭代 种种操作之后
‎知道我们发现最重要现象是什么吗？
‎让任何个体在十天内邀请七个朋友
‎（查马斯·帕里哈皮提亚 ‎脸书前增长副总裁）
‎就是这个
‎查马斯是脸书早期的增长负责人
‎他在技术领域非常知名
‎因为他首创了很多增长手段
‎这些手段的使用 ‎让脸书用户飞速增长
‎后来那些增长手段 ‎变成了硅谷的标准战术
‎在优步使用了 ‎在很多其他公司也使用了
‎他首创的一个东西 ‎就是对功能上的小变化
‎使用科学A/B测试
‎谷歌和脸书这种公司
‎会推出很多小实验
‎他们不断在用户身上测试
‎随着时间发展 ‎不停运行这些实验之后
‎就能发展出能让用户 ‎做你想让他们做的事
‎的最佳方式
‎这就是操纵
‎你让我感觉自己像是实验室的小白鼠
‎你就是实验室的小白鼠 ‎我们所有人都是
‎我们和开发治愈癌症药物的 ‎实验室小白鼠又不一样
‎这些实验的最终获益人 不是我们
‎对吧？我们就像僵尸一样 ‎他们想让我们看更多的广告
‎让他们挣更多的钱
‎脸书做了一个实验 ‎他们称为“海量规模蔓延实验”
‎好吧
‎我们怎样用脸书页面上的潜意识信号
‎来让更多人在中期选举中投票？
‎他们发现 他们能做到
‎他们得出的一个结论是 ‎现在我们知道
‎我们能影响现实世界中的行为和情感
‎而根本不用触发用户的意识
‎他们自己完全不知道
‎我们将这些人工智能引擎 ‎指回到我们身上
‎来反向编程 什么能引诱我们的回应
‎就很像你在蜘蛛身上模拟神经细胞
‎来看是什么引起它的腿反应
‎就是这种监狱实验
‎我们在实验中 捆绑人们进入矩阵
‎我们从他们的行为中获取金钱和数据 ‎用他们的行为牟利
‎我们甚至都不知道 发生了这些
‎我们想在心理学上弄清楚 ‎怎样以最快的速度操纵你
‎然后返回给你让你产生兴奋的事物
‎我们在脸书做得非常出色
‎Instagram也这样做了 ‎WhatsApp也这样做了
‎阅后即焚图片分享也这样做了 ‎推特也这样做了
‎这种东西正是
‎我这种黑客能想出来的
‎因为你在利用人类心理中的脆弱挣钱
‎（希恩·帕克 脸书前总经理）
‎我只是想 我们这些发明者、创造者…
‎有我 有马克 有…
‎Instagram的凯文·斯特罗姆 ‎所有这些人…
‎意识里非常清楚 但我们依然利用了
‎自行车问世的时候 没有人不满
‎对吧？所有人都开始用自行车出行
‎没有人说 ‎“天啊 我们刚刚毁掉了社会
‎因为自行车能影响人
‎拉远了他们和孩子间的距离
‎他们在毁掉民主的结构 ‎人们无法判断真假了”
‎对于自行车 ‎我们从来没有说过这种话
‎如果一个东西是工具 ‎它就会忠诚地坐在那里
‎耐心等待
‎如果一个东西不是工具 ‎它会在你身上有所求
‎引诱你、操纵你 想从你身上获利
‎我们已经走过了 ‎以工具为基础的技术环境
‎来到了以致瘾和操纵 ‎为基础的技术环境
‎这是技术环境的改变
‎社交媒体 ‎不是原地等在那里被使用的工具
‎它有自己的目标 ‎有自己的办法去实现这些目标
‎利用你的心理 来对付你
‎（“只有两个行业 ‎把他们的客户叫做‘使用者’
‎非法毒品和软件”）
‎（——爱德华·塔夫特）
‎回想几年之前 ‎我是Pinterest的总经理
‎我回到家 到家之后就无法放下手机
‎虽然我有两个小孩子 需要我的关爱
‎我在食物储藏室里打字回邮件
‎有时候会看Pinterest
‎我想：“天啊 这真是典型的讽刺
‎我白天去工作
‎构造一个把我当猎物的东西”
‎我无法… 有时候 ‎我真的情不自禁使用
‎我最无法摆脱的是推特
‎以前无法摆脱的是Reddit
‎我后来不得不给自己写程序 ‎来切断我阅读Reddit的瘾
‎我最成瘾的 可能是邮件
‎真的 我是认真的 我自己能感觉到
‎这很有趣
‎我很清楚 这一切的幕后发生着什么
‎我还是无法控制自己去使用
‎这就有点可怕了
‎即便知道这些手段的原理 ‎我还是容易受到它们影响
‎我拿起手机 ‎20分钟就不知不觉过去了
‎你晨起排尿之前 ‎会看一眼智能手机吗？
‎或者晨起排尿过程中 会看吗？
‎因为只有这两个选择
‎我试过用意志力克制 纯意志力…
‎“我要放下手机 ‎我到家之后 要把手机丢在车里”
‎我应该在千万个不同的日子 ‎告诉过自己千万次
‎“我不要把手机带到卧室”
‎然后晚上九点到了
‎“哎 我想把手机带进卧室”
‎这就有点…
‎意志力是一种努力
‎兽性在做着另一种努力
‎隆重介绍“厨房保险箱”
‎“厨房保险箱”是革命性的全新发明 ‎帮你战胜诱惑的
‎时间锁保鲜盒
‎大卫只需要把各种诱惑 ‎放进这个“厨房保险箱”
‎下一步 进行调控 设置时间
‎最后 按下调控 激活锁
‎“厨房保险箱”超级好
‎我们家有 是吧？
‎…电子游戏、信用卡、手机
‎对 有
‎“厨房保险箱”一旦上锁
‎直到计时器归零之前 没办法打开
‎问题是 社交媒体就是一种毒品
‎我们有着基本的生物学欲望
‎去和别人联系
‎这直接影响着 ‎奖赏通路中的多巴胺释放
‎这个机制背后 是几百万年的进化
‎让我们聚在一起 群居生活
‎找到伴侣 繁殖我们的物种
‎所以 毫无疑问 社交媒体这种载体
‎它会优化人们之间的联系
‎自然会有致瘾的可能性
‎爸 停！
‎我在晚饭前 还有上千个消息要回
‎消息？
‎我不知道消息是什么
‎-闻起来好香 宝贝 ‎-谢谢
‎我想 我们可以用所有五官
‎来享受今晚的晚餐
‎所以我决定 ‎今晚的餐桌上不能使用手机
‎好了 交上来
‎-真的吗？ ‎-是
‎-好吧 ‎-谢谢 本？
‎-好 ‎-妈妈是手机海盗
‎-拿走了 ‎-妈！
‎晚餐结束前 ‎这些手机会安全地放在这里
‎所有人可以安静待着了 好吗？
‎-我能看一眼是谁吗？ ‎-不行
‎我去再拿一个叉子
‎谢谢
‎宝贝 不能打开
‎我锁上了一个小时 别动了
‎我们要聊点什么？
‎我们可以聊聊我今天开车 ‎身边经过的极端中心政党疯子
‎-算了 弗兰科 ‎-怎么了？
‎我不想聊政治
‎-极端中心怎么了？ ‎-看吧？他都没明白
‎取决于你问谁
‎这就像是你问：“政治鼓吹怎么了？”
‎艾拉！
‎天啊
‎-需要我去… ‎-嗯
‎我很担心我的孩子们
‎等你们有了孩子 ‎我还会担心你们的孩子
‎虽然我有着各种知识储备 各种经验
‎我还是和孩子们争论
‎他们使用手机和电脑的时间
‎我会对我儿子说 ‎“你觉得自己会在手机上花多久？”
‎他会说 ‎“也就半小时吧 最多半小时了”
‎我觉得比一小时多一点 一个半小时
‎几周之前看了他的屏幕使用报告
‎-是3小时45分 ‎-那不是…
‎我觉得没有… 平均每天？
‎-对 ‎-我现在去拿来吗？
‎每一天 我都要提醒我的孩子们
‎愉悦和痛苦的平衡
‎多巴胺短缺的状态 上瘾的风险
‎-对 ‎-来揭晓真相
‎每天2小时50分
‎-我们看看 ‎-其实 我今天用了很多
‎-过去七天 ‎-可能这就是原因
‎Instagram 6小时13分 ‎好吧 我使用Instagram是最严重的
‎我的屏幕彻底碎了 谢谢你 卡桑
‎“谢谢你 卡桑”是什么意思？
‎你一直让妈妈担心我们的手机问题 ‎但其实这根本不是问题
‎我们吃晚餐不需要手机
‎我明白你说的 ‎但这又不是什么大事 没什么啊
‎不是什么大事 那就一周别用手机
‎对
‎对 其实 如果你能把那东西 ‎收起来一整周…
‎我就给你买一个新的屏幕
‎-从现在开始吗？ ‎-现在开始
‎好 成交
‎好 不过你要放在这里 小朋友
‎好 我把它放进去
‎计时开始 我退后了
‎好
‎-计时开始了 ‎-一周
‎天啊…
‎你觉得他能做到吗？
‎不知道 走着瞧
‎你吃饭吧 好吗？
‎美好的家庭晚餐！
‎这些技术产品不是由
‎努力保护和培育孩子的 ‎儿童心理学家设计的
‎它们的设计 是让这些算法
‎非常擅于给你推荐下一个视频
‎非常擅于让你拍照加滤镜
‎（两个赞）
‎（确定删除吗？否）
‎（是）
‎这些东西不仅在控制 ‎他们把注意力花在哪里
‎尤其是社交媒体越来越深入大脑根部
‎夺走孩子们的判断力 ‎自我价值和身份
‎（美化我）
‎（莉莉：可爱！）
‎（索薇娅：天啊 好美）
‎（奥利维亚：你太美了）
‎（阿瓦：你把耳朵P大了吗？）
‎（哈哈）
‎我们进化出 ‎在意我们社群中的其他人…
‎（布里亚纳：漂亮！）
‎…是否对我们有好印象的机制 ‎因为这很重要
‎但我们的进化 需要我们在意 ‎一万个人怎么看我们吗？
‎我们的进化
‎不需要每隔五分钟 ‎就获得一次社交认可
‎这根本不是我们需要去体验的
‎我们管理自己的生活 ‎建立在获得的完美感上
‎因为爱心、点赞、竖起大拇指 ‎这些短期的信号
‎给我们奖赏
‎我们把它融合到价值中 ‎融合到真相中
‎不论是否虚假 易破碎的人气
‎这是短期的 你需要承认 这让你更加
‎空虚 于是会再次这样做
‎因为这样 ‎它会将你逼入这样一个恶性循环
‎你会想：“我接下来要做什么？ ‎因为我还想要这种感觉”
‎想一下 这种现象被20亿人复杂化
‎然后想一下 之后人们 ‎会怎样回应别人对自己的看法
‎真的… 真的很恶劣
‎真的太恶劣了
‎美国青少年群体中 ‎出现了大幅增长的
‎抑郁和焦虑
‎大概就在2011年到2013年开始的
‎这个国家中 每十万名少女中
‎每年因为割腕或者自残
‎进医院接受治疗的人数
‎在2010年到2011年是非常平稳的
‎在那之后 直线上升
‎大一点的少女中 增加了62%
‎（美国非致命性自残住院人数）
‎进入青春期前的少女 增加了189% ‎将近三倍了
‎更可怕的是 ‎自杀也呈现出相同的趋势
‎（美国自杀率 ‎每百万女孩死亡人数）
‎大一点的少女 15到19岁
‎与本世纪初相比 增长了70%
‎青春期前的少女 ‎最开始的比率非常低
‎现在增长了151%
‎这个增长模式 指向了社交媒体
‎（2009年手机上的社交媒体数量）
‎Z代人 ‎1996年之后那会儿出生的孩子们
‎那些孩子们是历史上第一代
‎在初中开始使用社交媒体的
‎他们的时间 花在了哪里？
‎他们放学回家 就拿起手机
‎整个一代人都更加焦虑 ‎更加脆弱、更加抑郁
‎他们更不愿意冒险
‎他们拿到驾照的比率下降了
‎出去约会过的人数
‎有过任何形式浪漫互动的人数骤减
‎整个一代人 有了真正的改变
‎别忘了 这些人中的每一个 ‎每一个住院的人
‎背后都有一个受伤的、惊恐的家庭
‎“天啊 我的孩子们怎么了？”
‎在我看来 问题很显而易见
‎这些服务正在杀人 ‎也在导致人们自杀
‎我不认识哪个家长会说 ‎“是 我希望我的孩子们 成长过程中
‎感觉被技术设计师操控
‎操控他们的注意力 ‎让他们无法完成作业
‎让他们将自己 ‎和不切实际的审美标准相对比”
‎没有人希望那样
‎没有一个人
‎我们以前有一些保护措施
‎小孩子们观看周六早间动画片的时候
‎我们关心保护儿童
‎我们会说：“你不能这样 ‎给这个年龄段的孩子看广告”
‎然后有了YouTube儿童频道
‎蚕食了注意力经济的全部
‎现在所有的孩子 ‎都能看YouTube儿童频道
‎所有的保护措施 ‎所有的管理规定都不见了
‎（没有手机的时间）
‎我们在训练、调节整个一代人…
‎我们不自在、孤独、不确定或害怕时
‎有一个自己的数码安慰
‎这有点让我们 ‎自己处理这些情绪的能力退化了
‎Photoshop屏幕的另一端 ‎没有几千个工程师
‎用通知 用你的朋友
‎用人工智能去预判 ‎什么能完美地让你上瘾 引诱你
‎或者操纵你 或者允许广告商
‎去测试六万种不同的文本或颜色
‎（芝加哥反垄断技术会议）
‎…以此来找到 ‎怎样能完美地操纵你的思想
‎这是一种全新的力量和影响
‎我想再一次强调 他们使用的
‎玩弄人们的能力 ‎让人们成瘾或者受到影响
‎或许这一次是不同的 ‎或许他们是不同的
‎报纸问世时 印刷媒体问世时 ‎与现在很不同
‎电视问世的时候 与现在很不同
‎当时有三个主要的…
‎-网络 ‎-当时 我也想说
‎但我在说 这是一个全新的层次
‎这个新的层次 以前也发生过很多次
‎这只是我们看见的 最新的一个层次
‎有这样一种说法：“我们去适应它
‎我们要学着与这些设备共存
‎就像我们学着 ‎和其他所有事物共存一样”
‎但这个说法没有注意到的是 ‎有些东西明显是全新的
‎或许这其中最危险的是
‎这是由技术驱动的 ‎在成指数地向前发展
‎（计算机处理能力）
‎大体上 ‎如果你看从20世纪60年代至今
‎计算机处理能力增长了万亿倍
‎我们身边没有任何其他东西 ‎以这个速率增长
‎比如 汽车速度基本上才实现翻倍
‎几乎所有其他的东西都显得微不足道
‎或许最重要的是
‎我们人类… 我们的生理 ‎我们的大脑 根本没有丝毫进化
‎（没有手机的时间）
‎人类的思想、身体和体质
‎基本上不会改变了
‎我们可以搞基因工程 ‎在未来开发新的人类物种
‎但是现实来讲 ‎你生活在大脑这个硬件下
‎已经存在几百万年了
‎然后出现了这样一个屏幕 ‎在屏幕的另一端
‎有上千名工程师和超级计算机
‎有着与你不同的目标
‎那么 这个游戏谁能赢呢？谁会赢？
‎我们怎么会输？
‎-我不知道 ‎-他在哪里？这太不正常了
‎我给他推送朋友和家人的内容太多 ‎他烦了吗？
‎-或许吧 ‎-或许是广告太多了
‎不 一定出了严重的问题 ‎我们切换到复苏模式吧
‎当你想到人工智能 ‎人工智能会毁掉世界
‎你会看到《终结者》 看到施瓦辛格…
‎我会回来的
‎…你会看到无人机 你觉得 ‎“人工智能会杀人的”
‎人们忽略的是 人工智能 ‎现在已经在运营着当今世界了
‎甚至谈论“人工智能”都只是暗喻
‎在谷歌这种公司 有超级大的房间
‎有些在地下 有些在水下
‎房间里全是电脑
‎无数的电脑 连绵不绝
‎它们互相之间在内部深度连接
‎在运行着极其复杂的程序
‎始终不停地在彼此之间交换信息
‎他们会运行很多不同的程序
‎在同样的机器上 有不同的产品
‎有些东西可以被描述为简单算法
‎有些算法太过复杂
‎就可以被称为“智能”
‎我想说 算法是内嵌在代码中的观点…
‎算法并不是客观的
‎算法被某种成功的定义优化
‎所以 如果你能想象
‎一个商业公司成功的定义
‎需要依靠算法
‎那就是商业利益
‎通常都有利润
‎你给电脑一个目标 ‎说“我想要这个结果”
‎电脑自己去学习 怎样实现
‎这是“机器学习”概念的由来
‎所以 每一天 都会更好一点
‎在正确命令获取正确的推送数据
‎让你在这个产品上花的时间越来越多
‎没人能真正明白 为了实现这个目标
‎他们在做什么
‎算法有着自己的思想 虽然是人写的
‎它写出来的目的
‎是你建立一个机器 ‎这个机器会自己改变
‎这种公司 员工非常少
‎在脸书、推特和其他公司
‎只有几个人能明白 ‎这些系统的工作原理
‎虽然他们不需要完全理解
‎某一条特定的内容 会发生什么
‎作为人类 我们几乎 ‎已经失去了对这些系统的控制
‎因为是它们在控制我们看到的信息
‎更多的是它们在控制我们 ‎而不是我们控制它们
‎在他的地理区域对他和可以对比的人 ‎进行交叉参照
‎他的心理测定相似者
‎在他的地区 ‎有13694个和他行为相似的人
‎-他们中盛行什么？ ‎-我们需要真实的好东西
‎才能进行有效的复苏
‎因为平常的那些东西已经不起作用了
‎学校那个可爱的姑娘都没用了
‎我的分析显示 ‎用极端中心内容搞政治
‎有62.3%的几率能够获得长期参与
‎还不错
‎想用它引导 还不太够
‎好 所以我们已经试过 ‎通知给他圈人照片
‎邀请、实事、甚至是瑞贝卡的私信
‎但是用户01265923010呢？
‎是 本点赞了她所有的发帖
‎几个月的所有发帖 真的点了所有 ‎然后就没有然后了
‎我算出了通知安娜的内容
‎会有92.3%的复苏概率
‎（新感情）
‎还有她的新朋友
‎（没有手机的时间）
‎（你的前女友有了新感情！）
‎不是吧
‎好吧
‎（安娜与路易斯正在热恋）
‎什么？
‎当！我们回来了！
‎我们继续挣钱 兄弟们
‎好 让他们和整个世界联系起来
‎我给他看所有他可能喜欢的信息
‎你们是否想过 ‎这些推送对本是好的吗？
‎-没想过 ‎-没有
‎我在你身上下了咒语
‎因为你是我的
‎你最好停止你做的事情
‎我不骗你
‎（A/B测试 极端中心）
‎不 我不骗你
‎你知道我无法忍受
‎你在四处奔跑
‎爸爸 你更清楚
‎我无法忍受 因为你将我放下
‎耶
‎我在你身上下了咒语
‎因为你是我的
‎你是我的
‎想象一下 你在用脸书…
‎你的对手是人工智能
‎它知道你的一切
‎能够预测你未来的举动 ‎你对它却一无所知
‎除了上面有猫的视频和出生日期
‎这根本不是公平的竞争
‎本与杰瑞 该走了 孩子？
‎本？
‎本
‎快点
‎该上学了 我们走
‎（人道技术中心）
‎-你今天怎么样？ ‎-我很紧张
‎-你紧张吗？ ‎-是啊
‎我们都在当心这个时刻
‎当技术会超越人类力量和智慧
‎技术什么时候会超越人类 ‎取代我们的工作 比人类更聪明？
‎但有更早的时刻…
‎技术超越人类的弱点时
‎这个超越的点就是上瘾
‎两极分化、激进化、激化愤怒
‎激化虚荣 一切的根源
‎它在压制人类天性
‎在挫伤人性
‎很抱歉
‎我努力让人们明白
‎脸书这种地方的推送 ‎有多错误的一种方式
‎是让他们去想想维基百科
‎（新标签页）
‎当你打开一个维基百科网页 ‎你和别人看到的东西是一样的
‎（维基百科 自由的百科全书）
‎所以 这是网络上少有的 ‎我们统一共享的东西
‎现在 现象一下 维基百科说
‎我们要给每一个人不同的个性化定义
‎有人给我们钱 让我们这样做”
‎维基百科就会监视你 会计算
‎“我要做什么 才能代表一些商业利益
‎让这个人产生一点改变？” 对吧？
‎然后就会改变整个词条
‎你能想象吗？
‎你应该能够想象得到
‎因为在脸书页面上 就是这样的
‎你的YouTube推送 就是这样的
‎当你登录谷歌 输入“气候变化是…”
‎你会看到 根据你所居住的地区不同 ‎会出现不同的结果
‎（气候变化是）
‎在某些城市 你会看到自动完成…
‎“气候变化是一场骗局”
‎在其他地方 你将会看到
‎“气候变化是对自然的破坏”
‎这个功能 ‎提供的不都是气候变化的真相
‎而是你在哪里进行谷歌搜索
‎以及谷歌对你个人兴趣的了解
‎即便是两个非常亲近的朋友
‎他们两个有着完全相同的朋友圈子
‎他们会认为 ‎“我们会看到脸书上的新推送
‎会看到完全相同的更新” ‎但事实远非如此
‎他们会看到完全不同的世界
‎因为这些是基于计算机的计算
‎对每一个人来说 怎样最完美
‎（直播中）
‎想象这件事的一个方式是 ‎这是27亿人的《楚门的世界》
‎每一个人都有自己的现实 自己的…
‎事实
‎你觉得楚门为什么到现在都 ‎从来没有接近
‎发现他所在世界的真实本质？
‎我们接受了 ‎呈现在我们面前的世界就是现实
‎就是这么简单
‎（直播中）
‎随着时间推移 你会有一种错觉 ‎觉得每一个人都认同你
‎因为给你推送的新闻中 ‎每个人都和你极其相似
‎一旦你达到了这种状态 ‎你就很容易被操纵了
‎和你被魔术师操纵 是同样的方式
‎魔术师给你看纸牌魔术 跟你说 ‎“选一张牌 哪张都行”
‎你没有意识到的是 ‎他们早就给你设好陷阱了
‎于是你选的那张牌 ‎是他们想让你选的
‎这就是脸书的工作原理 ‎脸书坐在那里说
‎“喂 选择你的朋友 ‎选择你关注的联系人”
‎根本是胡扯 它就跟魔术师一样
‎脸书负责给你进行新闻推送
‎我们都不过是 ‎在基于不同的一系列事实行事
‎当大范围发生时
‎你就再也无法考虑甚至消化
‎与你所创造的世界观相悖的信息了
‎那就意味着 ‎我们其实不是客观、有建设性的个体
‎睁大你的眼睛 别相信谎言！睁大…
‎然后你扫了一眼另一边
‎你开始想 ‎“这些人怎么会如此愚蠢？”
‎他们也看到了我不停看到的这些信息
‎他们怎么会看不到相同的信息？
‎问题的答案是 ‎“他们没有看到相同的信息”
‎睁大你的眼睛 别相信谎言！
‎共和党人什么样？
‎愚昧无知
‎民主党就是一个犯罪团伙 ‎不是真正的政治党派
‎皮尤研究中心一项全新的大型研究 ‎对一万名美国成年人进行调查
‎发现我们比任何时候都要分裂
‎个人和政治两极分化达到20年来最高
‎有超过三分之一的共和党人说
‎民主党是对这个国家的威胁
‎民主党超过四分之一的人 ‎也这样说共和党
‎我们讨论的很多问题
‎比如政治两极分化
‎在有线电视上大量存在
‎媒体也有着同样的问题
‎整体上来说 他们的商业模式
‎是把我们的关注出售给广告商
‎网络只是一个新的、更有效率的 ‎实现方式罢了
‎我曾在YouTube的工作 ‎是研究YouTube推荐
‎让我担心的是 我研究的一个算法
‎增加了社会中的两极分化
‎但从观看时间来看
‎这种两极分化 ‎在让人们持续在线观看上 极其有效
‎这些老师教这些东西的唯一原因
‎是有人给他们钱 让他们教
‎-太扯了 ‎-喂 本杰
‎今天没有足球训练吗？
‎有 我只想看看今天的新闻
‎你去研究一下 极端中心说的任何话…
‎都不会把你看的这个东西称作新闻
‎你总是说一切都那么混乱 确实是
‎但那东西只是政治鼓吹
‎没有一个是真的 ‎全都是让你觉得合理
‎本 我很严肃 这些东西对你有害
‎你应该去足球训练
‎我分享这个东西 是因为我在意
‎我在意你被误导 这是不对的 好吗？
‎人们认为算法的设计
‎是给他们真正想要的 但其实不然
‎算法其实是在试图 ‎找到几个非常强大的兔子洞
‎试图找到哪一个兔子洞 ‎最贴近你的兴趣
‎然后 如果你开始观看其中一个视频
‎它就会不停继续推荐
‎这种情况 并不是有人刻意为之
‎只是推荐系统一直在做而已
‎以至于著名篮球运动员凯里·欧文
‎说他相信地球是平的 后来又道歉
‎因为他把责任推给 ‎YouTube的一个兔子洞
‎你点击 YouTube视频
‎它会继续 这个兔子洞能有多深
‎他后来在国家公共广播电台上说
‎“很抱歉我相信了这个 ‎我无意误导人们”
‎有人采访了教室中的一群学生 ‎他们说
‎“相信地球是圆的人肯定找他谈了”
‎地球平面阴谋论被算法
‎推荐了几亿次
‎很容易去想 ‎只有几个愚蠢的人被说服罢了
‎但是算法每一天都在变得更聪明
‎今天 它们说服人们相信 地球是平的
‎但是明天 它们就会说服你相信 ‎一个完全虚假的事情
‎11月7日 话题标签‘披萨门’诞生了
‎披萨门…
‎天啊
‎我还是不能百分之百确定 ‎这个最初是从哪里来的
‎但是订披萨等于订一个贩卖的人口 ‎这个想法
‎由于脸书上的多个小组越来越大
‎脸书推荐引擎开始建议普通用户
‎让他们加入披萨门小组
‎所以 如果一个用户反对疫苗 ‎或者相信飞机喷洒重金属阴谋论
‎或者对脸书的算法表示过
‎他们易于相信阴谋论
‎脸熟的推荐引擎 ‎就会推荐给他们披萨门小组
‎最终 这件事达到高潮 ‎一名男子携枪出现
‎决定他要给披萨店地下室的 ‎那些孩子们自由
‎而这个披萨店根本没有地下室
‎-你当时在这个地方做什么？ ‎-确保这里什么都没有
‎-什么事？ ‎-恋童癖怪圈
‎披萨门 他在说披萨门
‎这是阴谋论在所有社交媒体上
‎到处传播的一个例子
‎社交网络自己的推荐引擎
‎自愿把这个东西推送给
‎这辈子从来没有搜索过 ‎“披萨门”的人们
‎（披萨门 ‎民主党和恋童癖的深盘披萨）
‎有一个研究 麻省理工的研究
‎说推特上传播的虚假新闻 ‎比真实新闻传播速度快六倍
‎当一个人有着高于另一个人
‎六倍的优势 这种世界会是什么样？
‎你可以想象 这些事情有点…
‎将人类行为的基础平面倾斜了
‎让一些行为更难 让一些行为更容易
‎你总是可以自由地走上山坡
‎但是这样做的人越来越少
‎所以大范围内 在整个社会范围内 ‎你就是将基础平面倾斜了
‎改变了数十亿人的想法和行为
‎我们创造了一个 ‎偏心于虚假消息的体系
‎并不是因为我们想这样做
‎而是因为虚假信息比真实信息 ‎能让各个公司
‎赚到更多钱 真实信息比较无聊
‎这是一个 ‎利用虚假信息牟利的商业模式
‎允许未受监管的信息传送给更多的人
‎卖出最好的价钱 以此来赚钱
‎因为气候变化？对
‎这是骗局 对 是真的 这才是重点
‎他们谈论这件事情越多 ‎就越会将我们分化
‎他们越有力量 就越有控制权
‎脸书有万亿个新闻推送贴
‎他们无法知道哪些是真的 ‎哪些是事实…
‎所以当下这个议题 才如此重要
‎传播迅速的 不只是新冠病毒
‎网上有关于这个病毒的大量虚假信息
‎多喝水能将新冠病毒 ‎从你身体中冲走的提议
‎是在社交媒体上广泛流传的 ‎该病毒的谜题之一
‎这是政府计划的事件 ‎创造了这个病毒
‎来模拟世界各国将会如何应对
‎新冠病毒是一场骗局
‎非典 新冠病毒
‎看看这是什么时候制造的 2018年
‎我觉得是美国政府开始的这场闹剧
‎根本没有人生病 没人生病
‎没有人认识哪个人真正生病了
‎或许是政府在利用新冠病毒当借口
‎让所有人留在家 ‎因为有其他的事情要发生
‎新冠病毒不会杀人
‎他们是在掩盖5G辐射害死的人
‎（5G信号塔被割倒焚烧）
‎我们被谣言轰炸
‎人们去毁掉了真实的手机信号塔
‎我们看到俄罗斯和中国 ‎传播谣言和阴谋论
‎今天早上 乌克兰的恐慌与抗议…
‎人们不知道什么是真相 ‎现在已经闹出人命了
‎那些传播新冠病毒虚假信息的来源
‎积累了5200万人参与
‎你是说 胶银溶液会有效
‎我们这样说吧 ‎虽然没有用新冠病毒的毒株测试过
‎我们看到的新冠病毒 ‎只是发生在我们信息生态系统中的
‎一个极端案例
‎（惠特默 希特勒）
‎社交媒体放大了增长迅速的谣言 ‎和增长迅速的道听途说
‎以至于我们都不知道 什么是真了
‎不管我们关注的是什么问题
‎你还在队里吗？
‎好 如果你想来 我在训练之前 ‎先去吃点零食 你要来吗？
‎当我没说
‎当前 十个人当中 有九个人不满意
‎你仔细想想 极端中心和历史上 ‎任何政治运动无异
‎我们要站起来反抗 ‎我们要站起来反抗这种杂音
‎你是我的人民 我相信你们
‎-极端中心的内容好棒 ‎-他非常喜欢
‎运行一个拍卖
‎843个竞标人 他以4.35美分 ‎卖给了一个武器生产商
‎我们来宣传一下这些活动
‎这星期晚些时候 ‎将在这片地理区域发生的群众集会
‎新的视频博主也安排好了
‎说实话 我告诉你 ‎我愿意付出任何代价
‎我说 任何代价
‎-订阅… ‎-本？
‎…记得回来 因为我告诉你们…
‎我后面会有大事件
‎非常大的事件
‎脸书的一个问题是 ‎作为一个有劝说性质的工具
‎它或许是史上最伟大的发明
‎现在 你来想象一下 落在独裁者 ‎或者集权主义者手中 会怎样
‎如果你想控制你们国家的人民
‎从未有过像脸书这样有效的工具
‎一个问题最大的影响是
‎一些政府和其他不良人士 ‎把社交媒体当作武器
‎导致了真实的线下伤害
‎我认为最明显的案例
‎广泛被媒体关注的 ‎是缅甸发生的事情
‎（缅甸总统办公室）
‎在缅甸 人们想到网络时
‎他们想到的 是脸书
‎经常发生的事情是 人们买了手机
‎手机店主会提前帮他们下载好脸书
‎帮他们开好账户
‎于是人们拿到手机之后 ‎第一个打开的应用
‎他们唯一知道怎样打开的 就是脸书
‎一个新的震惊调查显示 ‎脸书日益增长的
‎对抗缅甸仇恨言论的难题
‎（停止杀害穆斯林）
‎脸书真的给军人和其他不良人士
‎一种控制公众言论的新手段
‎并协助煽动 ‎针对罗兴亚族穆斯林的暴力
‎包括大屠杀
‎焚烧整个村庄
‎违反人道主义的 ‎大规模强奸和其他严重犯罪行为
‎已经导致七十万罗兴亚族穆斯林 ‎逃出这个国家
‎这种情绪高涨的鼓吹 ‎以前并不是没有出现过
‎只是这个平台实现了
‎让操纵性言论传播变得异常容易
‎也不用花多少钱
‎如果我想操纵竞选
‎我现在可以去脸书上的 ‎一个阴谋论小组
‎可以找到一百个人
‎他们深信地球是平的
‎认为我们登月 完全是阴谋论
‎我可以告诉脸书 ‎“给我推荐一千个这种用户”
‎脸书会非常开心地发给我 ‎几千个这种用户
‎我现在可以给他们讲更多的阴谋论
‎以3.4美分卖了一个印象
‎推广新的极端中心
‎再安排一个广告
‎算法和操纵人的政治家 ‎在学习如何激发我们的方面
‎变得非常专业
‎非常擅长制造我们容易接受的 ‎虚假新闻 假装这就是事实
‎给我们造成混乱 ‎让我们相信这些谎言
‎我们似乎对自己是怎样的人 ‎自己的信仰 有越来越少的控制权
‎…来让他们选择站队
‎到处都是谎言
‎这样他们就能保持住权力 ‎这样他们就能控制一切
‎他们可以控制我们的思想 ‎这样他们就可以保守他们的秘密
‎（质疑真相）
‎（疾控中心承认掩盖疫苗/自闭症）
‎想象一个没有人相信任何真相的世界
‎（疫苗不普适所有人 ‎我们的基因就是证据）
‎所有人都相信 政府在骗他们
‎一切都是阴谋论
‎“我不应该相信任何人 ‎我痛恨对立面”
‎一切正在向这个方向发展
‎欧洲的政治地震 余震不止
‎这一次 轮到了意大利和西班牙
‎整体上来说 欧洲传统的 ‎中间派联合政府失去了大多数人支持
‎同时极左和极右民粹主义政党 ‎获得更多支持
‎（中心）
‎退后
‎好 我们走
‎这些账户专门故意试图
‎散播香港政治纷争信息
‎好 本
‎生活在一个全部信息来自于脸书
‎和社交媒体的国家 是什么感觉？
‎民主迅速崩溃
‎六个月
‎芝加哥的混乱发生后
‎抗议者和支持者之间的暴力冲突…
‎民主正面临着信心危机
‎我们看到的 是对全球民主的攻击
‎（极端中心）
‎多数目标国家 都是
‎进行民主选举的国家
‎大范围发生
‎国家行动者、家财万贯的富翁说
‎“我想让肯尼亚动摇 ‎我想让喀麦隆动摇
‎安哥拉？只要这么一点钱”
‎巴西上周日举行了一场特别的选举
‎选举动员是社交媒体驱动的
‎我们技术产业的人创造了
‎动摇和侵蚀社会结构的工具
‎所有国家都在同时发生 ‎世界各地都在发生
‎德国、西班牙、法国 ‎巴西、澳大利亚都有发生
‎一些世界上最发达的国家
‎正在互相爆破
‎他们有什么共同点？
‎基于你当前的了解
‎你相信脸书 ‎影响了2016年大选的结果吗？
‎这个问题好难回答
‎你知道 这个…
‎事实是 ‎有很多不同的力量在产生影响
‎脸书、推特和谷歌的代表们 ‎回到国会山
‎对俄罗斯干预2016年大选问题
‎进行第二天的证词发言
‎第三方政党的操纵没有黑入
‎对吧？俄罗斯没有黑入脸书
‎他们所做的是 利用脸书 ‎为合法广告商与合法用户创造的工具
‎用到了罪恶的用途中
‎就像是远程控制的战争
‎一个国家可以操纵另一个国家
‎都不用真正入侵实体边境
‎我们看到这些暴力的画面
‎这是一个被推来推去的垃圾箱…
‎但问题不是你想投票给谁
‎问题是在社会中散播混乱和分歧
‎这是在霍廷顿海滩市的示威…
‎问题是制造了两个对立面
‎丝毫不再听取对方的观点
‎不再想听对方的观点
‎不再相信对方
‎这是仇恨被暴露出
‎并转化成种族暴力的城市
‎（弗吉尼亚紧张局势 ‎暴力当天致三人遇害）
‎本！
‎卡桑德拉！
‎-卡桑！ ‎-本！
‎过来！
‎举起手 膝盖跪地 快 跪下
‎-冷静…… ‎-本！
‎喂！手举起来！
‎转过去 趴地上
‎我们希望这个系统 ‎售卖出最高的竞价吗？
‎完全出售民主 ‎你可以控制任何你想控制的思想
‎对特定人群设定谎言 ‎制造文化战争？
‎我们希望这样吗？
‎我们这个国家的人民…
‎不再和彼此说话了
‎我们这个国家的人民 ‎不再和彼此交友了
‎只因为他们在上一次竞选中投票的人
‎我们这个国家的人民孤立了自己
‎只看认同我们的那些频道
‎我今天想传达的信息是 ‎部落主义正在毁掉我们
‎它正在撕裂我们这个国家
‎正常的成年人 不可能这样做
‎如果每个人都有权执着于自己的真相
‎就真没有必要妥协 ‎没有必要让人们团结了
‎事实上 真的没有必要让人们互动
‎我们需要对现实有一些共同的理解
‎不然 我们就不是一个国家了
‎（扎克伯格先生）
‎所以长期来看 解决办法 ‎是建造更多的人工智能工具
‎找到人们使用这些服务的行为模式 ‎这是任何一个真人都做不到的
‎我们允许技术专家 把这个当做一个
‎他们有能力解决的问题呈现
‎这是骗人的
‎人们谈论人工智能 ‎好像人工智能知道真理一样
‎人工智能无法解决这些问题
‎人工智能无法解决虚假新闻的问题
‎谷歌没有选择去说
‎“这是阴谋论？这是真相吗？”
‎因为它们不知道 真相是什么
‎它们没有真相的代理服务器 ‎只有点击
‎如果我们不同意真相
‎或者不同意存在真相
‎我们就完蛋了
‎这是其他问题之下的问题
‎因为如果我们不能认同真相
‎那我们就无法找到 ‎我们任何一个问题的解决方法
‎我们应该建议他 ‎关注平面地球足球俱乐部
‎别再给他展示运动消息了 ‎他不感兴趣
‎硅谷的很多人相信一种理论
‎我们正在建造一些全球的超级大脑
‎我们所有的用户 ‎都只是可交互的神经元
‎他们一点都不重要
‎它让人们服从于这样一个奇怪的角色
‎你就像是一个小的编程元素
‎我们通过我们的行为操纵去 编程
‎为了服务于这个巨型大脑 ‎你根本不重要
‎不会给你钱 不会告诉你真相
‎你没有自主权
‎我们会鬼祟地操纵你 ‎因为你是编程中的结点
‎所以我们需要将你编程 ‎因为我们就要这样对待编程中的结点
‎天啊
‎当你想到技术 ‎技术是一种人类存亡的威胁
‎这个指控很严重…
‎然后你的脑中就会很容易想 ‎“好 我正在拿着手机
‎互动、点击、使用
‎人类存亡的威胁在哪里？
‎好 有一个超级电脑
‎在屏幕的另一端 正指向我的大脑
‎让我再看一个视频 ‎人类存亡的威胁在哪里？”
‎技术并不是人类存亡的威胁
‎（劝服性技术 美国参议院听政会）
‎是技术能够把 ‎社会中最坏的东西带出来的能力
‎社会中最坏的东西 ‎才是人类存亡的威胁
‎（美国参议院）
‎如果技术创造了公众混乱
‎愤怒、无礼
‎彼此缺乏信任
‎孤独、疏远、更加两极分化
‎更多大选黑入、更多平民政治
‎让人更加分散注意力 ‎无法集中在真正的问题上…
‎那只是社会
‎现在社会无法自愈
‎转移成了一种混乱的形式
‎这影响着每一个人 ‎即使你不使用这些产品
‎这些事情变成了数码的科学怪人
‎让这个世界变成他们现象中的样子
‎不论是儿童的心理健康
‎还是我们的政治 我们的政治演说
‎而不用因为控制公众舆论 ‎承担责任
‎-所以 还是要回到… ‎-你觉得这一切怪谁？
‎我认为我们必须让平台负起责任
‎因为他们接管大选广告的时候
‎就要负责保护大选
‎当他们接管儿童心理健康 ‎或是儿童频道的时候
‎他们就有责任保护好儿童频道
‎保持人们关注的竞争不会结束
‎我们的技术会在我们生活中更加集成 ‎而不会减少
‎人工智能会更加擅长预判 ‎什么内容能让我们持续盯着屏幕
‎而不是做出更差的预判
‎我已经62岁了
‎随着这个对话继续进行 ‎我每一分钟都在变老
‎但我会告诉你
‎到时候我可能已经死了 不在了 ‎但我可能会为此感恩
‎因为当这些恐怖的东西结出恶果
‎我觉得能吓死我
‎你也这样看吗？
‎还是我对一个我不够了解的情况 ‎过度反应了？
‎你最担心什么？
‎我认为在最短的时间范围内…
‎是内战
‎如果现在的常态继续下去 ‎我们说再过20年
‎我们很可能会因为故意无知 ‎毁掉我们的文明
‎我们或许会无法应对气候变化的挑战
‎我们或许会瓦解世界的民主
‎最终衰落成一种奇怪的独裁机能障碍
‎我们或许会毁掉全球经济
‎我们或许会无法存活
‎我真的把它看做 ‎人类生死存亡的大问题
‎这会是知道在这种幻象发生之前
‎世界是什么样的最后一代人吗？
‎如果你不知道自己在矩阵中 ‎你要怎么从矩阵中醒来？
‎（“不论是乌托邦还是毁灭 ‎都是一场一触即发的接力赛…）
‎（直接通往最后一刻…” ‎——巴克敏斯特·富勒）
‎你知道 我们说的很多话 ‎听起来像是…
‎片面的悲观
‎“天啊 技术正在毁灭世界
‎正在毁灭孩子们”
‎不是这样的
‎这很困惑 ‎因为这同时是乌托邦和毁灭
‎我可以在手机按一个按钮 ‎30秒后就能出现一辆车
‎我就可以去想去的任何地方
‎这简直是魔法 太神奇了
‎我们制作“点赞”按钮的时候
‎我们全部的动机是 “我们可以 ‎在世界中传播积极和爱吗？”
‎时间快进到当下 ‎青少年会因为没有得到足够多的点赞
‎而抑郁 这个想法
‎或者会导致政治两极分化
‎当时是完全无法想象的
‎我不认为这些人 ‎最开始的目标是邪恶的
‎只是这个商业模式有问题
‎你可以关掉服务 毁掉不管这是什么
‎200亿美元的股东利益 被起诉…
‎但现实是 覆水难收
‎你可以做出一些小的调整 但是最终
‎你要增加收益和使用 ‎每一个季度都要增加
‎规模做得越大 越难让任何人改变
‎我看到的是一群被困住的人 ‎被商业模式
‎经济奖励和股东压力困住
‎几乎无法做其他的任何事情
‎我认为我们应该接受
‎公司专注于挣钱 是合情合理的
‎不合情合理的是 ‎当没有监管、没有规定、没有竞争
‎公司在充当实际政府部门
‎然后他们说“我们可以监管自己”
‎这肯定是骗人的 怎么可能呢
‎经济奖励可以说运营着世界
‎所以这个问题的任何解决方案 ‎一定要符合经济奖励
‎这些公司没有需要改变的财政理由
‎所以我才认为 我们需要监管
‎手机公司有无数的关于你的敏感数据
‎我们有很多法律去保证 ‎他们不会利用这些数据做错事
‎在数码隐私上 我们几乎没有立法
‎我们可以对数据收集和处理收税
‎原理等同于你交水费
‎监控你自己的用水量
‎让这些公司因为持有的数据资产交税
‎就能给他们一个财政理由
‎不去获取地球上每一条数据
‎立法在这方面太落后了
‎但据我所知 当前状况的存在 ‎不是为了保护用户
‎而是为了保护这些巨型的
‎超级富有公司的权利和特权
‎我们要一直听从最有钱 ‎最有权力的人吗？
‎还是我们要说
‎“有时候 确实是有国家利益
‎有时候 人民的利益 用户利益
‎其实比一个
‎已经是亿万富翁的人的利益 ‎更加重要？”
‎这些市场削弱了民主 削弱了自由
‎应该对他们进行法律的制裁
‎这不是激进的提议
‎我们有法律制裁的其他市场
‎我们制裁人类器官贩卖市场
‎我们制裁人类奴隶市场
‎因为它们都有不可避免的破坏性后果
‎我们生活的世界
‎死去的树比活着的树更有经济价值
‎这个世界 死去的鲸 ‎比活着的鲸更有价值
‎只要我们的经济这样运转
‎公司不受监管
‎它们就会继续破坏树木
‎继续捕杀鲸
‎在地球上挖矿 从地下抽石油
‎虽然我们知道 这样做会破坏地球
‎我们知道 这样做会为未来几代人 ‎留下一个更不堪的世界
‎这是目光短浅
‎为了利益牺牲一切的信仰
‎指望每个 ‎只顾自己私利的公司会突然神奇地
‎去产生最好的结果
‎这已经影响环境很久了
‎恐怖的是 希望这是 ‎压倒骆驼的最后一根稻草
‎让我们作为文明的种族 去幡然醒悟
‎这个理论最初就有很多缺点
‎让我们看到 我们现在就是树 就是鲸
‎我们的关注就是被挖掘的矿产
‎如果我们花时间盯着一个屏幕
‎盯着一个广告 对公司而言
‎比我们用这个时间
‎过自己丰富的生活 更加有利可图
‎我们看到了这样的后果
‎我们看到公司利用强大的人工智能
‎凌驾在我们的智能之上 ‎研究怎样拉拢我们的关注
‎让我们去看 他们想让我们看的东西
‎而不是让我们看 ‎与我们目标、价值观
‎与我们的生活最为一致的东西
‎（史蒂夫·乔布斯 今日演讲者）
‎电脑对我来说 是…
‎是我们人类历史上 最神奇的发明
‎相当于是我们思想的自行车
‎人道技术的创想 是硅谷最初的目标
‎我们已经背离了这个目标 ‎因为这样做比较酷
‎而不是这样做比较正确
‎网络就是一个奇怪的、可笑的地方
‎它是实验性的
‎网络上发生着有创意的事情 ‎当然现在也有发生
‎但是感觉像一个巨大的商场
‎就是“天啊 ‎肯定不止表面上这么简单”
‎我想我只是一个乐观主义者
‎因为我认为 ‎我们可以改变社交媒体的样子和方式
‎技术的工作方式不是物理学定律 ‎它不是一成不变的
‎这些都是像我这样的人类 ‎做出的选择
‎人类可以改变这些技术
‎现在的问题是 我们是否愿意承认
‎这些后果 是我们杰作的直接产物
‎这些东西是我们建立起来的 ‎我们有责任去改变它们
‎提取关注模型 ‎不是我们想对待人类的方式
‎只有我这样想吗？还是…
‎可悲的人
‎一个健康社会的结构
‎要依靠我们脱离这种 ‎有破坏性的商业模型
‎我们可以要求 ‎这些产品进行人道设计
‎我们可以要求 ‎不被当做可以提取的资源对待
‎我们的动机可以是 ‎“我们怎样让这个世界变得更好？”
‎在整个人类历史中 ‎每一次有事物变得更好
‎都是因为有人站出来说
‎“这太蠢了 我们可以做得更好”
‎是批判者驱动着改进
‎批判者才是真正的乐观主义者
‎你好
‎感觉有点疯狂 是吧？
‎这东西的设计基本方式
‎就不会朝着好的方向发展
‎整个社交媒体
‎我说要改变这一切 ‎听起来有点疯狂
‎但我们需要这样做
‎你觉得这一天能实现吗？
‎必须要实现
‎你似乎非常乐观
‎听起来是这样吗？
‎是 我是说… ‎我无法相信你一直这样说
‎因为我在想：“真的吗？” 我感觉 ‎我们正走向毁灭 而不是乌托邦
‎我感觉我们正在飞速走向毁灭
‎需要一个奇迹 ‎才能让我们走下这条路“
‎这个奇迹当然是集体意识
‎可我是乐观主义者 ‎我们一定会有办法解决
‎但我认为 可能会用很久的时间
‎因为不是所有的人都意识到了 ‎这是一个问题
‎我认为当今技术最大的一个失败
‎是领导力的真正失败
‎人们站出来 去公开讨论
‎不仅是哪些地方进行得好 ‎还应该讨论哪里不完美
‎才能让有人介入 构建一些新的东西
‎最终 你知道
‎在有足够的公众压力之前 ‎这台机器是绝对不会回头的
‎通过这些对话 发出你的声音
‎在一些情况下 通过某些特定的技术
‎我们可以开始改变趋势 ‎我们可以开始改变对话
‎听起来可能有点奇怪 ‎但这是我的世界 是我生活的环境
‎我不恨他们 ‎我不想伤害谷歌或者脸书
‎我只是想改革它们 ‎别让他们毁了世界 你知道吗？
‎我在手机上卸载了很多程序
‎我感觉那些都是浪费时间
‎所有的社交媒体程序 所有的新程序
‎我关掉了通知
‎所有那些让我手机震动的通知
‎不够及时 对现在我来说 ‎并不重要的信息
‎也正是因为同样的理由 ‎我兜里不放饼干
‎减少你收到的通知数量
‎关掉通知
‎关掉所有应用的通知
‎我已经不再用谷歌了 ‎我用Qwant搜索引擎
‎这个引擎不会存储你的搜索历史
‎永远不要接受 ‎YouTube上给你推荐的视频
‎永远自己去选择 ‎这是另一个抗争的方式
‎谷歌浏览器有无数扩展程序 ‎可以移走推荐
‎我很喜欢你推荐一个 ‎撤销你所做东西的东西
‎对
‎在你分享之前 查找一下事实 ‎思考一下信息来源 谷歌搜索一下
‎如果这个东西感觉像是 ‎以触发你的情感按钮为目标
‎很可能确实是
‎基本可以说 你用点击去投票
‎如果你点击了钓鱼链接
‎你就是在创造一个经济奖励 ‎延续这个已经存在的体系
‎在你的生活中 一定要获得
‎各种不同的信息
‎我会在推特上关注我不认同的人
‎因为我想看到不同的观点
‎要知道 技术行业中的很多人
‎不会把这些设备给他们自己的小孩用
‎我的孩子们完全不使用社交媒体
‎这是规定 还是…
‎家规
‎我们对它很狂热
‎我们很疯狂
‎我们不会让我们的孩子 ‎拥有任何看屏幕的时间
‎我想出了 ‎我自己认为的三个简单原则
‎能让生活对家人来说更容易 ‎这是经过研究验证的
‎第一个原则是 ‎在每晚的固定时间 所有设备
‎不能进入卧室
‎不管是什么时间 睡前半小时 ‎所有设备全都拿出去
‎第二个原则是 ‎高中之前禁止使用社交媒体
‎我个人认为 这个年龄应该是16岁
‎初中已经够难了 上高中之前别用了
‎第三个原则是 ‎和你的孩子研究出一个时间预算
‎如果你和他们聊 去说
‎“你每天想在你的设备上花多少时间
‎你觉得适合的时长是多少”
‎他们通常会说出一个很合理的时长
‎看 我非常清楚
‎我无法让所有人删除社交媒体账号
‎但我想我可以让几个人这样做
‎让几个人删除账号 ‎就已经能产生很大影响了
‎理由是 这样能创造一个对话的空间
‎因为我想让社会中有足够的人
‎这些人不受到引擎的操纵 ‎能够进行社交对话
‎没有受到操纵引擎的牵制
‎这样做吧！退出这个体系
‎对 删掉 下线这个愚蠢的东西
‎世界很美丽 你们看 ‎外面的世界很美好
‎（在社交媒体上关注我们！）
‎（开玩笑的）
‎（我们来聊聊怎样解决这个问题 ‎登录TheSocialDilemma.com）
‎字幕翻译：王成成