监视资本主义:智能陷阱

记录片美国2020

主演:杰伦·拉尼尔  罗杰·麦克纳米  斯凯勒·吉桑多  卡拉·海沃德  文森特·卡塞瑟  马蒂·林赛  Ena Henderson  Chase Penny  

导演:杰夫·奥洛威斯基

 剧照

监视资本主义:智能陷阱 剧照 NO.1监视资本主义:智能陷阱 剧照 NO.2监视资本主义:智能陷阱 剧照 NO.3监视资本主义:智能陷阱 剧照 NO.4监视资本主义:智能陷阱 剧照 NO.5监视资本主义:智能陷阱 剧照 NO.6监视资本主义:智能陷阱 剧照 NO.13监视资本主义:智能陷阱 剧照 NO.14监视资本主义:智能陷阱 剧照 NO.15监视资本主义:智能陷阱 剧照 NO.16监视资本主义:智能陷阱 剧照 NO.17监视资本主义:智能陷阱 剧照 NO.18监视资本主义:智能陷阱 剧照 NO.19监视资本主义:智能陷阱 剧照 NO.20
更新时间:2024-03-02 15:14

详细剧情

  我们发推文、点赞、分享 — 但日益依赖社交媒体会带来什么后果?随着数字平台日益成为人们保持联系的重要方式,硅谷内部人士通过暴露屏幕另一侧的隐藏内容,揭示了社交媒体如何重新改写文明。

 长篇影评

 1 ) 结构性的问题:资本主义

“没有人是坏人。”智能陷阱的制造者也如我们一般是活生生的个体,带着人道主义的期许设计出“点赞”、“推荐”,但这些设计在发展的过程中失控了,成为让人上瘾的一个个陷阱,甚至陷阱设计者本身也会掉入其中。可见真正出问题的不是人本身,而是背后结构性的根源。正如片中所提,当今驱动或者说运营这个世界转动的的就是经济奖励,所以任何问题的解决方案一定要是符合经济奖励的,而经济奖励就是资本主义追求的最终目的。所有这个结构性问题就出在了马克思不断抨击的资本主义制度上,而智能陷阱只是再一次映证着资本主义本身摇摇欲坠,和过去资本主义导致的经济危机、工人罢工游行有着相似的本质。

同时,片中所提到的立法的解决方案,在资本主义国家也很难得到真正意义上的实现,因为悖论在于政府需要制定出不利于资本积累的法律条款,但却是资产阶级控制着政权。

片尾Harris说“我们要推翻这一切。”太笼统也太无力了,甚至搞不清的是,我们真正应该推翻的,是技术和工具本身,还是背后那个操纵技术达到目的的制度呢?

摘抄启发点:

1.极化

-技术什么时候会超越人类取代我们的工作,比人类更聪明?技术超越人类的弱点时。

这个超越的点就是上瘾。两极分化、激进化、激化愤怒、激化虚弱,一切的根源,它在压制人类的天性,在挫伤(checkmate)人类的天性。

-想象维基百科的个人化,脸书油管谷歌就是这样

-27亿的楚门的世界:

你觉得楚门为什么到现在都从来没有接近,发现他所在世界的真实本质?

-皮尤调查:个人和政治两极分化达到20年来最高

-人们总是以为算法推荐的是给他们真正想要的,但其实不然。算法其实是在试图找到几个非常强大的兔子洞。试图找到哪一个兔子洞最贴近你的兴趣。

-PIZZAGATE阴谋论在社交媒体传播的典型案例。

-我们创造了一个偏心于虚假信息的体系,并不是因为我们想要,而是因为虚假信息比真实信息能让各个公司赚到更多钱,真实信息都很无聊。

-如果你想控制你们国家的人民,从未有过像脸书这样有效的工具。

最明显的案例:缅甸发生的事情。

脸书真的给军人和其他不良人士一种控制公众言论的新手段,并协助煽动针对罗兴亚族穆斯林的暴力,已经导致70万罗兴亚族穆斯林逃出这个国家。

-远程控制战争,俄罗斯对2016年美国大选的干预。只是将合法给广告商与用户使用的工具用在了邪恶的地方。

-部落主义。

-技术并不是人类存亡的威胁,而是技术能把社会中最坏的东西带出来的能力,社会中最坏的东西,才是人类存亡的威胁。

-我们很可能会因为故意无知毁掉我们的文明。

-如果你不知道你身处矩阵中,你怎么从矩阵中醒来?

立法:

-经济奖励可以说运营着世界,所以这个问题的任何解决方案一定要符合经济奖励。

-交数据收集和处理税——不掌握所有的数据。

-“没有人是坏人”。点赞按钮的全部动机:我们可以在世界中传播积极和爱吗?但时间快进到当下,青少年会因为没有得到足够多的点赞而抑郁或者会导致政治两极分化。

-我不认为这些人的动机是邪恶的,只是这个商业模式有问题。

-我们应该接受的是公司是要挣钱的,但不合理的是,当没有监管规定竞争,公司在充当实际政府部门,然后他们说“我们可以自己监管自己。”

改进:

-推翻这套系统

-是批判者驱动着改进,批判者才是真正的乐观主义者。

-你在用点击去投票,你点击钓鱼网站,你就是在创造一个经济奖励延续这个已经存在的体系。

-在推特上关注你不认同的人。

-在你分享之前,查找一下事实,思考一下信息来源。

 2 ) Netflix的陷阱

假设有一个传统的汽车公司,汽车公司从开始研发,测试,生产制造,上市,售后等等一系列环节构成了汽车这个产品的生命周期,在这生命周期的每一步,都有庞杂的数据,而且所有的步骤都要被记录以方便后续的研究和改进。在公司开始研发前或者期间或者投放上市后,公司相关部门比如市场部会进行市场和用户调查,了解用户的需要跟反馈,以便提供更好的产品与服务,还有之后的改进。这是一个传统商品的开发过程。汽车公司希望开发出最好的产品,这样他们就可以获得更大的效益。这个过程大家通常比较熟悉而且听起来也是合情合理。

科技公司的产品也有类似的过程。一个很大差别在于用户几乎在产品还没成型,仅仅是测试的时候就被参与其中,用户与这个产品全部互动的数据都会被记录以作为产品研发与改进的基础。而这一差别会造成很多的问题,传统行业获取用户的数据往往基于问卷或者电话或者邮件等等,这些方式在用户回答时已经知道自己提供的信息会被用于该公司的产品研发,所以用户是知情且同意的。科技公司所记录与收集的数据发生在用户与产品交互的所有过程中,其实用户并不知情自己的数据会被用于该产品的开发,更不用说同意。同时传统产品所需要的用户信息往往比较公开,比如喜欢什么车型,几口人用等等,这些信息涉及到的私密性比较低。但是科技产品所需要的绝大多数是用户相对比较私密的信息,比如你搜索了什么,你对哪个人感兴趣等等。科技公司所涉及的用户的知情权与隐私权是一个已经浮出水面多年的法律与道德问题,各方力量斡旋多年在寻求解决方案。

这一系列过程在影片里被称为监控,而且为了使监控这一概念更具说服力,影片设计了一些场景,比如以人来模拟产品背后运作的过程,好像对每个用户都有一套设备来监视他做了什么看了什么,甚至于他在想什么。以影片中的模拟场景来看,这的确是监控,而且这非常吓人。但是以脸书每个月大约30亿的活跃用户来看,根本不可能会对于每个用户有一个团队来通过很多大屏幕来监视其一举一动,来揣测他的心思。所以这个比拟是失实而且夸张的,完全不符合纪录片的原则。同时揣测他人心思会涉及到猜对或者猜错,这一环节被渲染到所谓的背后的模型会精准预测到用户的心理,甚至去改变用户。换句话说用户赤裸地处在一个危机四伏的敌在暗他在明的毫无防备的世界里,随时可能为人鱼肉。假如剔除掉这些场景模拟,与传统产品的开发过程进行对比的话,其实所谓的监控本质就是记录和收集数据。记录与收集也让人很不舒服,因为这涉及到用户的知情权与隐私权,这都需要科技公司尊重,但这远没有被监控听起来那么让人不寒而栗。监控一词奠定了这个“纪录片”的基调,就是让人恐惧。为了让恐惧这一情绪可以更强烈,影片找了形形色色的人来讲述科技公司如何在做“人类期货”的交易。通常记录片为了公正客观,会采访众多不同角度的人,众多不同的观点相互碰撞的过程中就会暴露其中某一观点的局限与弊端,而这一局限可以被别的观点所解释和完善,同样这个观点的问题又会被别的观点修复等等。这样观众会看到一个比较完整的画面。

Netflix背后有一系列模型,这些模型计算着如何给潜在用户打广告,给用户推荐,以及让用户订阅等等。从这个层面来看,Netflix也是一家如这部影片中描述的科技公司。事实上,它就是一家科技公司,而且它还是一家顶尖科技公司。Netflix不同于其他科技公司的很大一点在于,其他科技公司作为一个平台,它的产品本身是不生产观点的,它的观点是来自于平台上不同用户的不同观点。但是Netflix是出产影片的,所以它是生产观点的,不止如此,它还在生产情绪。这部影片里Netflix的观点与情绪就是科技公司在监控你,而且这是非常可怕的。客观的记录被强调为主观的监控所以从一开始它就没有预留给用户自己思考的空间,而且在这个观点与情绪之外,这个影片作为Netflix的产品它并没有像其他平台一样引入多方的观点与情绪,给予用户自己判断的空间。相反地,Netflix深知恐惧和焦虑可以在用户中快速传播,从而成就它的产品,它反倒在利用这一点。所以Netflix在这个产品里站在道德制高点上抨击着其他科技公司的种种行为,而在暗处它其实在做着同样甚至更糟糕的事。

 3 ) 拿起手机,二十分钟没了;刷了几天手机,成傻逼了

《the social dilemma》(中译《社交陷阱》)里引用了一段儿新闻报道说,崔斯坦被认为硅谷里勉强有点儿良心的人。这部纪录片以他的一个项目为主线,讲了最近十年勃兴的社交软件对人类个体和整个人类文明的侵蚀。这些社交媒体公司(FB,twitter,wa,insta等,是不是应该感谢上帝,大部分在中国打不开^_^)只有一个目的就是盈利,赚最多的钱。在自由市场下,公平竞争的环境里,发展的硬道理是必须赚更多的钱。在这唯一指挥棒下,硅谷这几家大公司无所不用其极的利用人类的心理弱点,从个人身上攫取最大量的注意力和时间,打包卖给广告投放商以盈利,同时,连自己也没料到,无形中把人类社会推向非黑即白的两极。前半部分注重分析算法(人工智能+大数据)和经营策略对一个个体的影响。后半部分讲了对整体人类文明的影响:民主制度,人和人之间的关系,人和人之间的交流。

首先是人类个体部分。

其中一个硅谷投资人说,上一个世代,硅谷主要产生硬件和工具软件,例如苹果电脑,photoshop等等。她们是靠卖工具给你而盈利的,这个世代,主要收入靠广告投放,有产品吗?有,这个产品就是用户,每个人--你的时间,注意力,你任何的私隐--都被打包卖给了广告商。工具的特征是,工具会耐心的呆着,等你去用它,用完就关了,你用完Photoshop后不会再去把每个ps的菜单都看一遍过瘾的。现在的互联网产品(社交app)的特征是,不停的引诱你去用它,不停的抢占你的注意力,你的时间---简言之,让你上瘾,和烟酒毒品等其它上瘾品一样。结果也一样--短暂的快乐过后,你会感到疲惫空虚沮丧。

这里引述了几个前大厂主要技术和商业推广负责人,深度剖析这些产品的设计初衷,正如崔斯坦所言:一个邮件App的设计有二三十个人参与,大家对于字体,颜色等争论不休,从来没人想过它作为产品的伦理性--即会不会令人上瘾。twitter和FB的产品经理则直言他们背后的设计逻辑的理论基础就是心理学上的成瘾理论--让人上瘾,不停刷下去。trend(相当于微博里的热榜),话题推荐,都是为你量身定做的,目的都是为了把你留住,不停的刷下去。

这里有个值得争论的点,这些大厂可以为自己辩护:自控能力不行不是我的锅啊,和吸烟一样,你愿意吸烟吸死不是我卖烟的初衷啊。FB的产品经理说当初我们发明点赞按钮主要是想传播正能量,但有人因为获得的赞没有别人多得了抑郁症我们真的是没想到啊。其实这个争议正是崔斯坦和本纪录片想要推动的方向:立法。各国都有关于禁烟不同的条例,吸烟年龄,场合等立法积极干预。还有加税这种消极性的控制。社交网络也急需相应的立法。我记得是FB的一个人说,我觉得已经赚了这么多钱了,还干这样的事儿实在是不应该就辞职了--他可以辞职,但公司还必须往前开,别人会填补他位置继续干这种见不得人的事儿。

个人经验里,我记得刚有互联网时,web1.0时代,已经感受到互联网对时间和注意力的影响了。这种场景大家都不陌生,打开浏览器本来是为了查一个问题,最后半个小时过去了,你已经忘了当初为啥要打开浏览器。所以多年来我一直保持着一个习惯:去任何网站都是直接输入网址。google提供的界面也足够简洁,就是想你专心搜索你想要的东西,不要被任何事干扰。打开百度看看,首页已经一堆干扰了。

(以前google连这个也不会放,现在也蠢蠢欲动了)

百度的入口全是干扰,就是不想让你安静的搜你想要的东西

和现在相比,web1.0时代还没有人工智能,还是人类主导的互联网,网页体现的还是编辑意志,没法精确的猜你的好恶,更没法潜移默化的设置议程改变你的想法塑造你。你最后在网上流连忘返的最坏结果不过是杂乱无章的看了一些资讯而已,最多是浪费了点儿时间,没有其它伤害了。

而现在这个算法主导的世界里,你会发现你不仅浪费了时间,把自己的时间和注意力卖给了广告商。还潜移默化的被人工智能变成了个傻逼--这变化非常令人震惊,但的确是事实。把人变成傻逼其实并不难--该片举了”地平说“的例子,pizza门的例子。其实各种阴谋论都有人信的只要你能系统性的长期的接触同一类资讯最后都能自圆其说的被洗脑洗成个傻逼,完全不用逼迫,不用任何权力和金钱控制,就能做到。

后半部分主要说了对社会的影响--社会是由个体组成的,影响了个体必然会影响社会,这部分的展开有点弱,但结论是没问题的。AI导致了新闻农场,假消息的传播速度更快了。阴谋论盛行,人类的表达越来越诉诸情绪,走向非黑即白的极端,商业行为利用这些特点来卖货,政客利用这一点来拉票,这是一个比赛谁更极端的世界,稍微中性一点儿,温和一点儿的理性的声音已经被毁灭的差不多了。关于阴谋论片中举了个“pizza 门”事件,非常经典的阴谋论:指向政府高层(因此绝对保密,你不可能从正常媒体渠道看到),内部员工透露的资料(我是pizza店的XX, 这事儿是真的,我亲眼所见,但不敢说,说了会丢工作等等)。这种阴谋论传播的结果就是把水搅浑,大大削弱正常新闻的传播。这种玩意儿能大行其道主要还是因为社交媒体的”即刻性“属性,黑白两极的对立也是因为时效性--在一天几刷,一刷几个字(140字)的社交媒体上,人们已经失去了深究一个问题,一个人的耐性。诉诸情绪是最便捷的。当年论坛上盖几百层楼诉诸事实的争论不太可能存在了。

在web 2.0, blog,bbs时代,你点开一个人的ID,可以列出他所有的帖子,回复,你可以快速的对此人有个大致全面的认知(起码在一个小范围内比较全面),现在这个时代能翻翻他最近几条140字内的内容已经不错了。这种“活在当下”,是为消费主义,头脑一热买买买设计的,对于了解一件事一个人是有害无益的。以前网上的争论有最基本的几个共识基础:法律框架,逻辑推演框架。这两个框架下的争论又都必须建立在事实基础上。因此的确可以”真理越变越明“。现在的争论,这样的框架不存在了,因为不可能在140字内完成充分的论述以及完备的逻辑推理过程。事实究竟是什么就更没人关心了--搞清楚时间地点人物事件都需要花时间,需要动脑子,这正是社交媒体最不想用户做的。你一学会逻辑思考就会变得理智,不会那么冲动了,我怎么卖(骗)货(你)?

现在仍在发生的一个简单例子就是川粉和反川人士,两边都觉得对方是傻逼(而自己绝对正确),这是大数据和AI运作的结果之一,所谓的俄罗斯黑客助选其实指的就是这些手段。

从广告行业来看,从没见过这样的精确:你投了收效马上呈现,甚至是可控的。以前评定一个媒体广告的效果需要动用调查公司做抽样调查,放进数据模型里计算分析,勉强能得出一个也许大家心里都不是很有数的结论:这个广告投对了还是投砸了。毕竟那个时代,人们还生活在一个真实的社会,影响销售的元素太多了。而现在呢?几乎每个人都生活在自己的朋友圈儿,自己的社交网络上,整个社会已经是个幻象,想要控制幻象改几行代码就行了。像《黑客帝国》里的情节,你想偶遇一个红裙女孩儿吗?改几行代码就能实现--这已经不是天方夜谈和科幻片,只要取得她的地理位置,推送给你你就能“偶遇”。这种全知全能的控制是非常可怕的。

人类毕竟有反思的好习惯,这部纪录片算是揭开了反思的序幕吧,接下来对应的隐私保护立法,数据使用立法可能会艰难的推进。电视媒体刚走进千家万户时,波兹曼写了《娱乐至死》警惕作为大众媒体的电视对社会的影响。和电视时代的消极影响相比,今天主动操控人的网络社交媒体更进一步了。许多人对波兹曼这种批判嗤之以鼻--电视也没把我们怎么样嘛。是的,电视没把人类怎么样,所以,换了个更狠的办法来了。

对个人而言,生活在这个社交网络主导一切的年代,首先必须有自控能力,时刻记着是你在使用工具不是工具在奴役你。需要的时候才用,用完就放下。肤浅的快乐是有代价的,电视和网络都不会使你变得更快乐,更不会把你变成更完整的人而令你人生更有意义。很多时候每个人只不过是这个时代的噪音里微不足道的一个,与其画地为牢生活在社交媒体里,不如离开网络多看书多思考多写超过一百四十字的东西。成长是痛苦的,但成长的快乐也是结结实实的。

其次,珍爱生命远离网络吧,多交一些“真实”的朋友(无论这朋友是从网上来还是生活中来),真实的朋友需要花时间真正的交流,一个真实的朋友胜过一千个点赞之交。

 4 ) 作为在互联网公司搬砖的data scientist,我有话想说

挺讽刺的,看这部纪录片的时候手边正好摆着product manager必读书目 -- Hooked,讲的就是怎么创造出人人都上瘾的产品(speaking of dilemma,作者最近又写了一本新书讲如何保护自己的时间不被social media占据)

纪录片前三分之一正好讲的也是这个部分:互联网公司为了得到更多的用户从而实现盈利目的,投入了不计其数的资金去研究怎么能让用户上瘾。基本上呢,互联网公司的盈利模式正基于此,足够的screen time,足够的广告。纪录片本身没有什么新颖的观点,比较触目惊心的是美国青少年自残自杀人数自2010年开始增加,social media上许多功能带来的后果在初期没人能想得到。

当然,互联网不光影响了高中生的心理健康,由于各种算法只会通过点击来判定用户兴趣,在以增加screen time/stickiness为前提的商业模式下,许多假新闻阴谋论得以广泛传播 - 人们活在自己的世界里,目之所见全是相同的观点,每个人都有一套自己的是非体系,polarization越来越严重。

这和‘被困在系统的外卖小哥’那篇文章不谋而合。因为数据有限,算法仅能够根据用户有限的实时反馈:点击、点赞、用户时长等指标进行提高,而算法的设计者们往往不会也无法预料到可能产生的负面影响,导致了今天的局面。看到这个地方我很好奇导演会怎么来探讨可能的解决方法,毕竟大家都知道这是个问题,可真要解决起来太难了。

导演也知道,于是他只花了最多十五分钟(包括片尾鸣谢),即全片16%的时间,非常非常非常蜻蜓点水的讨论了一下。

监管制度是一定需要的,可是假新闻要怎么监管呢?没说。谁拥有最终的话语权可以为假新闻盖棺定论,是政府,是互联网公司,还是用户自己?任何一方如果直接干涉,那又该怎么保证不影响言论自由?说到底,作为用户,到底谁才能决定我看到什么?影片中把互联网公司的推荐算法跟人口贩卖(和许多我记不起来的黑色产业)对比,可问题在于,什么是真什么是假可比人口贩卖是好还是不好难鉴定许多许多。再加上监管制度成型中各种power play,最终成型的会是什么样子也挺难说的。

在我看来,互联网、科技、算法等等最大的难题在于,这个产业本身是高度分散的。由于互联网本身的特性,任何一个小小的产品改变能在上线的一瞬间影响上亿的用户。可是作为参与这一改变的人:设计师、码农、产品经理、数据分析师等等,他们和你我一样,都是普通人,无法预料到点赞功能会导致青少年焦虑,无法预料到优化送餐时间会导致外卖员的困境。如何在产品设计、算法设计的过程中考虑到可能产生的社会影响才是每个互联网人应该上的一堂课。

可是好遗憾,这部纪录片根本没有探讨可能的解决方法,唯一有点意思的是片尾鸣谢时每个人提到的自己对抗算法的方法 - 这明明是应该放进正片的内容!

总的来说,纪录片花了过多篇幅来讨论现象,有sensationalism之嫌,而对于立法的困难程度、互联网公司该如何自省方面的讨论少之又少(我很期待看到这些的!比如如何在算法中融入社会学)。最后吐槽一句,netflix的纪录片好像都有点煽动情绪大过摆事实讲道理,看看本片标题,也挺讽刺的。

 5 ) 社交媒体就是毒品。

与其说这是一篇《监视资本主义:智能陷阱》的影评,不如说是这几年,我关于社会观察的一次阶段性课题总结。 在进入正题之前,我必须要说,无论这部纪录片,或是我这篇影评,都是都只是这个社会病症的一部分。 所以,今天聚焦这一部分是——关于互联网科技和资本主义结合后,所创造出来的这个所谓【社交网络】,对人类个体以及整个社会所带来的负面影响。 一、 对于互联网,我在自己对社会观察的记录里(这本书之前取名叫《这个世界的bug》,老粉丝应该记得)最简短的概况就是: 科技在极速发展,社会制度在缓慢发展,局势在左右摇摆螺旋上升,没有发展,而人性不仅没有发展,反而在堕落。 要认同这一现状,我们必须学会且承认涂尔干的理论,就是社会变迁会影响个人的行为。 而随着人们行为路径的改变,又会反过来影响社会趋势。在这个理论中,我最爱用的例子就是,连环杀人犯。 在工业社会中早期,受压抑的连环杀人犯,都采取蛰伏的策略,以几年甚至几十年的时间来间续作案,通常都是忍不住了,就好像瘾来了,必须要杀一个人。作案一次后得到满足和舒缓,随后可以长时间——几周几个月甚至几年不作案,直到下一次杀人的瘾再发作。因为破案相关科技不发达,加上这种较为隐蔽的作案手法,所以他们可以多次作案而不被抓。比如最近几年才抓到的某国内著名案件,他最后一次作案是2002年,被抓是2016年。 而到了2010年之后,就少有连环杀人犯了。相反,一次性杀死多人,街头报复社会,同归于尽,甚至在人群密集的音乐节、酒吧、教堂用枪扫射的疯狂案件,在世界各地都开始变得多起来。前年甚至还看了一场甚至直播杀人过程。 是什么让杀人犯们改变了方式? 答案是社会的变化不仅影响了杀人犯的行为,其实也改变了每一个人的行为。 无可置疑,社会正在变化,而且越来越快。在科技发展缓慢的中世纪,人们的生活方式几乎是没有变化的。而如今,人们的生活方式每3年5年,就有新的改变。 尤其是在城市里,从2000年,到2020年,仅仅20年,已经是完全不同的生活方式和节奏了。 如果你是1960年生人,今年60岁,那么你见证的就是一场巨变,真真正正的沧海桑田。这不过这沧海桑田,基本都是在网上,在科技上。如果你是2020年出生,那么你出生就是一个互联网新世界。 从某些角度来讲,1960年出生的城市人,和2020年出生的城市人,压根就是两种人,代沟可能比太平洋还宽。 那么,这种社会变化对人们造成的影响,有没有负面存在? 当然是有的。 《监视资本主义:智能陷阱》开篇就提到,如今的科技发展,是存在某种问题的。科技发展的背后,显然是有某种道德隐患的。 无论是自然发展所酝酿的危机,又或者是人为的道德隐患,它势必促成一场社会危机,会造成巨大的可怕的后果。 然而,因为我们在一个最新的世界,面临的最新的问题和隐患,所以这个隐患,甚至没有一个名字。 (这也是之前我那本《这个世界的bug》没有写完的原因之一,它太新了,涉及太多方面,不好全面总结。我虽然在两三年前就列好了大纲,每个章节都对应一个环节,但在后续的写作中,不断的查询各个领域的资料和书籍,从而不断的有新的认识,有时候比原本设想的更广更深,有时候甚至推翻了之前的想法。 所以,这是一个没有权威定义的,没有名字的问题和隐患,是一个巨大的网,需要很长的时间才能总结全貌,而我正热衷于窥见每一个角落。 另一个原因,是我自己性格的原因。就算没有完全认识,其实也不妨碍先写出来。我不知道还有没有其他人,也在和我进行同样的工作和观察,但我知道我的一些观点是对的,也在网上经常看见同样的观点、趋势、现象、论证结果,符合推测和预言。 但因为社会这个话题实在太大,方方面面,根本无法全尽——这对喜欢绘画的我,或者说对于一个典型INTP性格的我,无疑是一个折磨。我喜欢看见所有的事所有的可能性之后再行动,或者说我压根不喜欢行动和成功,我只喜欢观察,只喜欢看见所有的现象,思考背后的原因。 但我不是佛祖,又怎么可能看见众生的每一个因果,怎么可能把整个世界全部画出来。我只能有一些较为深刻的感触和见解罢了。出于自己的性格,这不足以促使我行动,大家可以看一看INTP相关的东西,虽然我不太信mbti,但我真的是典型intp,也许我应该改一改性格,伪装一下intj。 不过,我们今天先不聊这么大,聊的大就容易聊的空。大而空疏,不是好词。我们今天只谈这个单独的话题:互联网科技。) 二、 借着《监视资本主义:智能陷阱》这部纪录片,我们看到主角其实试图做出改革的,并且获得了很多IT同行、公司内部员工的支持。但这个改革方案,几乎是一夜之间就被勒令叫停了。 毕竟,资本家的权利要比改革者的多。 这个纪录片,可以看做是改革失败数年后的一次揭露。 他首先揭露了一个令人震惊现象,我们的生活被互联网影响和控制,而控制互联网的,其实只有寥寥数人。 30个程序员,决定20亿人的态度,这个对比实在令人惊讶。 比较大的社交媒体平台,通过主页影响目标网民。 而要影响网民,首先要做到三件事。 第一,获取吸引力 第二,贩卖确定性 第三,确定性需要大数据支撑 为了更好的达到目的,公司开始监视窃取用户隐私。今年上半年,在公众号,写过《隐私大盗》,聚焦著名的脸书隐私事件罚款问题。 而在国内,其实也闹过这一出戏,关于用户的隐私,使用霸王协议,不同意不给用。 而面对这样不公平的霸王条款,人们就这么用了,根本没有反抗,连抗议都几乎称不上有。 人们,就是这样,迫不及待的要进入互联网,哪怕明知道它的危害,明知道它在侵犯隐私。 像我这样从来不用抖音和快手,以及如果不是为了赚钱,微博和知乎也不会用的人,可能越来越少。相反无数的人,正在毫无意识的进入互联网,社交媒体。 就像石油期货一样,互联网公司卖的是人类期货。用户是一种商品,正在被贩卖。 公司不止监控人们看了什么,而且监控你看了多久,精确到秒。他们知道你抑郁,知道你孤独,知道你的一切秘密。但他们不是为了帮你,而是为了把你卖掉赚钱。上万亿美元。 你内向外向,你的性格,不仅你喜欢看什么类型的电影,甚至你喜欢看什么类型的小电影。他们知道你凌晨几点看了你的前男友/女友,还知道你看了多久。我们说的不是抽象的,而是字面意义上的。真的存在一个电脑以及上面的软件在监控这些数据。而这些数据,我们的私人信息,是真实的、字面意义上的,存在于某个机房的硬盘里。无人看管,只有程序。 很多人误会的以为公司只是在卖我们的数据,其实他们是在存储,然后利用这些数据建立模型。谁建立更好的模型,谁就赢了。 基于这些数据和模型,公司比你更了解你的人格。你点过的每一个赞,认真读过的每一篇文章,都会化身为血肉,通过网线在另一端组成一个你的克隆娃娃人,就好像巫毒扎小人一样。根据你的模型,电脑会决定你身上的针,该扎在哪里。 甚至你阅读到最后会变慢的习惯,都会成为他们眼中放广告的好时机。他们可以通过预判,来预测你的行为,精准,并且反复测试。根据预测,他们可以精准投放你喜欢的视频,什么样的电影可以刺激你的情感,什么东西能击中你,能获取你的注意力,能引导你的思维,导向一种确定的结果。 公司有三个指标 一个是延长你的使用时间 一个是让你不断的拉新人加入 一个是广告目标,确定你的行为符合预期并给你投放有效的广告 也就是前面说的,贩卖确定性。 每一个目标都有一种算法,然后由程序驱动。最可怕的是他们可以调控这些算法,今天想多挣点钱,就把广告算法调一下;今天想多吸引点韩国用户,就把算法调高一点。人是商品,是被调控的数字。我们创立了全球整整一代人,他们的背景,成长环境,社交空间,文化的意义,就是傀儡。我们参与的每件事,背后都有操控和欺骗的影子。 三、行为劝服 要改编一个人的行为,把他塑造成更好的商品,需要修改用户的行为路径。 我们前面提到的社会变换影响人的行为变化,可以说是被动的。 而公司对人的改变,是主动的。 第一个方法,正积极强化 不仅是奖励,更绝的是随机性奖励,像赌博老虎机一样。 赌博为什么让人上瘾? 人类的社交以及虚构的能力,是人类进化最重要的一环。所以就是赌博这种随机性奖励,简直就是针对人类设计的bug。赌瘾是一种精神疾病,人在赌博的时候大脑内会产生一种叫做“内啡肽”的物质,它会让人产生愉悦感,渐渐地人就对赌博产生依赖,这感觉能使人上瘾,一般来说,当一个人嗜赌成性的程度越重,内啡肽的分泌就会处在越高水平,这些病人如吸了毒品一样。 感兴趣的朋友,可以看看关于赌博的论文。而其实上网,很多方面和赌博是一样的。 很多时候,我们打开手机,就是一种赌博。刷社交网络和新闻,其实就是寻找奖励。这也是为什么 ,那些肤浅的科普、简单的方法论、有毒的鸡汤、无聊的爽文等等中低质量的网络内容,极具传播力。反之越有深度,越需要成本的内容,除非有巨大的推力,否则越是难以传播。很简单,因为大多数人不觉得这是奖励,而觉得这是惩罚。 长期上网之后,上网这件事就会在你的大脑根部,植入一个潜意识行为,无意识决策。 形成一个习惯。你甚至没有意识到自己做了什么,你就已经打开手机了。 纪录片在这个地方,提出了一个名词叫:增长量黑客学。 也就是他们就在研究如何黑进你的内心,操控你的行为,甚至发展成一门学问。 你是不是感觉自己像小白鼠? 实际上,你就是一个小白鼠。 他们会做很多小规模实验,然后再把成功的实验扩大化。 而他们的成功,就是把用户变成傀儡,赚钱的机器,用人类的脆弱和缺陷赚钱。 四、科技的进步 没有人会说自行车的发明给我们造成了不好的影响,每个人都喜欢自行车。自行车是工具。而社交媒体并不是。并不全是。 它会对你有所求,会压榨你,会让你成瘾、会有各种各样的反应,而不是一个安静的工具。 自行车没有目标,你的目的地就是自行车的目的地。 但社交媒体,它有自己的目标,而且会利用你的心理去完成自己的目标。 你在玩它的时候也在被它玩,它不是工具,你才是工具。 城市生活其实是一种抽象生活,也是一种隐姓埋名的生活。人们确实保持联系,但不是以一种独立完整的人格出现,而是作为经济消费功能的化身出现。 (此处,必须要提到梭罗的《瓦尔登湖》:人们已经沦为他们工具的工具。这句话写于1847年,那个时候没有互联网,只有早期的资本主义和工业化社会,然而一些有远见有智慧的人,已经提出了人们正在成为金钱和物质的工具的看法。而如今的互联网与资本主义的结合,无疑正在加剧的把人们变成工具。 所以哲学家能领先世界一两百年,并不是一句空话大话。哲学家会通过观察现有的社会,来预测未来的社会。更可怕的是,哲学家们经常会做出正确的观点,预测到悲剧,有时候只要在发展的过程中,把这些可以预料到悲剧加以规范即可改变,但逐利的人们从来不会防范或者改变。功在千秋,利在当下。这也是我前段时间写的那篇文章里,伏尔泰那句名言的由来。推荐大家可以读一读梭罗等人的作品,会收获很多。) 只有两个行业把客人叫做“使用者”,毒品和社交媒体。高管自己造的软件,自己都忍不住刷,自己造了一个把自己当成猎物的机器,后来不得不写程序来让自己戒瘾。 所以,就算知道这些原理,一旦沾染互联网,哪怕是制造者自己,也没办法控制。 人的本能在控制行为,而互联网很多APP瞄准的就是人的本能。社交媒体其实就是毒品,它满足我们的生物学系统,直接影响我们的多巴胺,原理上很多地方就和毒品一样。我们几百万年进化出的缺陷,都被社交媒体拿去设计利用。它只是快感和刺激度没有赌博那么高而已,但原理是互通的——如果你经常上黄色网站,刺激和快感也很高,也很难戒除。 最恐怖的,是它在毁掉我们原本正常生活,本然生活的能力和习惯。拿掉手机,你发现自己已经不会生活了(如果你是2010年前后出生的城市人,那你甚至不知道没有互联网之前的生活应该是什么样的!) 纪录片中,使用了一个上锁的盒子,给手机倒计时上锁。作为一个赌局,看看青春期的孩子能不能一周不使用手机。最终,这个孩子经不起诱惑,把盒子砸烂了,报复性的刷了一整个晚上。所以互联网不仅仅是生活方式,它改变孩子们的习惯和价值观。 我们需要进化到一万个人关注我们,看我们吗?看我们的一举一动? 我们需要每隔几分钟就获得一次社交认可,短期信号吗 我们需要被放进一个陌生的上亿人的网络环境里,接受它的复杂化吗? (关于环境复杂化,关乎到我写的另一个话题,后现代生活态度。《这个世界的bug》《后现代生活态度》《进步方法》分别对应的我的世界观,人生观,价值观,事业观,是我现在正在写的三本书,算是我对社会观察和自我成长的总结。但这些并不是我想做出来表达的作品,只是记录和总结。) 我们的价值观被改造成短期的认可无论多肤浅廉价,只是因为空虚,而被社交媒体趁虚而入。 空虚的时候,手边正好有个手机来填补,于是没有任何余地的,互联网让人越来越空虚肤浅。当然,虽然大部分人原本就空虚肤浅,但这并不是给社交媒体洗地的借口。 美国研究表明,1996年后出生的一整代人更加容易抑郁,更脆弱。新一代人们处理情绪的能力无疑正在退化。 一切都是技术革命,从1960年至今,计算机的能力增长了几亿倍。没有任何东西的增长速度可以与之媲美。其他的一切与之相比都微不足道。人类的大脑?根本没有任何进化,不退化就不错了。人类的生物机制,这一套系统,基本不可能再有变化了。(除了未来的生物和基因工程改造) 所以,人类的大脑如果作为一个计算机硬件,加上一套算法来看,现在手机以及手机背后公司的一套算法,人脑电脑,面对面,谁会赢? 谁在操作谁? 如我开篇所说,科技在极速发展,社会制度在缓慢发展,局势在左右摇摆螺旋上升,没有发展,而人性不仅没有发展,反而在堕落。 你以为人工智能毁灭世界,就是控制核弹,造出终结者或者奥创这样的机器人吗?物理灭绝人类?需要复仇者联盟来战胜? 人工智能实际上已经在操纵世界了。不需要物理灭绝人类。谷歌这样的大公司,有一些超级大的房间,里面放着你一眼看不到边的计算机,互相连接着,然后运算着。基本上网络世界,就是被这些你不知道在哪的超级计算机操纵的。而网络世界在真实世界的占比,已经大到不可想象了。算法其实就是内嵌在代码里的观点,是有目标性的,而不是客观的。算法不是为人类服务的,而是为公司服务的。公司甚至有时候不为了赚钱,也丝毫不顾不良社会影响。 如果你想进入下一个热潮行业,那就是机器学习。给计算机一个目标,它会自动学习如何完成它。无情的,不计代价的,迅速的。它是一台会自动改变的“智能”,哪怕最初它是人写出来的。 很多公司管理者自己都无法预测计算机的行动,他们只知道计算机在帮助自己完成盈利的目标。计算机掌握着人类的信息数据,但却不被人类掌握,而是自主运行着。 计算机和媒体为了拉住用户,会没有下限的发送各种各样的新闻或者消息。譬如一件谋杀案火了,马上就会有十件同类型恶性犯罪被曝光。它们只是不停的,抓住你的注意力。 政治,八卦,恐慌,娱乐,色情,游戏,刺激,视频,你像一个傀儡一样,把自己的时间全部拿去让它操纵。它丝毫不担心这些东西对你造成的影响,对你的身体,行为,习惯和思想。给你灌输的意识形态,人际三观。 (此处很想放一张截图,前段时间在公主号有人评论杭州案之后的恶性案件,我告诉他关于媒体因素,他才恍然大悟自己原来被媒体操控,我们二人的对话。但是我懒得去找截图了) 它,就是操弄你,测试你,用信息流奖励诱惑你,然后赚钱,就这么简单。 甚至它背后都没有一个人来主动针对你,而全部都是有目标的程序而已。这才是最可怕的。 社会变得极端化,激进化,两极分化,愤怒化,急功近利,空虚迷茫。。。而这一切的原因,只是因为技术已经接近了人类的智慧并即将超越。技术何时全面反过来掌管人类还不知道,但是技术已经掌控了人类的弱点和bug,这是确定的。 很多人始终意识不到问题的严重性,没有一个明确的界限。就好像之前我举过一个例子,吸烟的人总说戒烟难,但是一旦你告诉他得了肺癌,十个有九个都会立刻戒烟。好像戒烟一瞬间变得也没那么难了。很多时候人就是这样,没有意识到事情的严重性。 他们喜欢在细枝末节上争吵,喜欢维护看上去有道理的观点,喜欢强调进步和发展的一面。进步和发展当然可喜可贺,但那些阴暗面却不该被忽视。 社会改变对人的改变是巨大的,不可忽视的。不是一两句话就能洗地的。洗地是因为他们原本就不关心这些问题,也没能力关心,也没知识去认识问题。毕竟这是一个全新的而且正在发生的,没有办法以全貌来下定义的问题,它的矛盾也是发展运动中的——所有模糊的没有明确定义的事情,都给人做文章的空间。很多时候我们一次只能讲清事物的一个部分或者一个面。讲科技发展带来的便利,就会忽视科技发展带来的负面。 但记住,无论有多少正面,负面存在就无法抹除。同样,正面也无法抹除。事物的发展就是运动的,需要辩证的去看问题。 社交媒体正在伤害人类的天性,多个角度多个层次的。就好像前几天关于外卖骑手的深层次报道一样,那只是一个角。但这个角,就覆盖了700万骑手。我为什么强烈推荐那篇报道,以及马逆的后续跟进节目,是因为它们真的是难得一见的又好又深刻的揭露了社会正在发生什么的媒体报道。 谷歌公司,会根据不同城市大部分人的观点,推送给他们喜欢看的内容。 比如: 你在某些城市,谷歌气候变化是,谷歌会跳出来,气候变化危机是骗局。 然后你换个城市换个电脑,搜索气候变化的是,第一条结果就变为:气候变化危机正在破坏自然环境。 你得到的结果,你检索的资料信息,取决于你所在的城市大部分人的观点,取决于大部分人想看到什么,而不取决于真相。 你想看到什么,他们就给你看什么。 现在搞市场下沉。什么叫市场下沉?很简单,两句话说清楚: 低素质,低收入,低学历的人,总体来说更多,也更好骗,更好激起他们的喜怒哀乐——更容易操弄他们。 所以,内容要下沉,要肤浅,要满足这一类人群。要给他们想看到的东西。 至于那些高水准的内容,和高水准的需求,以及这背后的一系列人群,你们爱咋咋滴,不爽就滚回家玩泥巴去——因为公司是资本家创立的,所以基本上互联网就是资本家的,而不是在乎好的、深的、对的、有益的,只在乎,赚钱的,比烂的。 市场下沉需要举例子吗?不需要了吧? 最好笑最讽刺的地方是,有很大一部分低素质低认知的人群,也不在乎市场下不下沉。它们反而赞成市场下沉,鼓吹市场变化。它们热衷娱乐,热爱肤浅的虚幻的刺激性的一切内容,并为其合理性找一切道德、政治上的理由。它们不在乎世界危机,不在乎社会癌症病入膏肓饮鸩止渴等等长远的担忧,它们只在乎,今天爽不爽。你说的话有没有让我爽。你有没有哄我开心。它们是市场下沉是算法的理想用户、目标用户。 反过来,一切娱乐社交媒体也是它们的最爱。 深层次的好内容,在原本就自带的距离感、学习成本、舆论的抹黑,人类天性的好逸恶劳、好喜不好忧的特点,在这些因素的合力推动下,这些好内容渐渐都被埋没了,消失于网络中。 人有百样,所以各个领域高水平的人不一定是符合道德标准的人。而高水平的内容,从一开始就不是它们在乎的,能企及的,能理解的东西,所以它们从来就没在乎过。无论这些东西怎么样保护、滋润它们,怎样维系文明,它们也不在乎。网络世界,最终属于数量庞大的乌合之众,这一点毋庸置疑。 我一直觉得【当愚昧是主流,清醒就是犯罪】这句话不够好。 应该把当和就两个字去掉。 俊9.22 市场下沉,内容下滑,平台变水,恶意广告,精准投放,娱乐至死,乌合之众,这些正在发生的现象,需要举例子吗?不需要吧。这些现象并没有全面爆发,但也足够触目惊心。很多人没意识到,是因为除非刀架在脖子上否则他们没能力意识到。 还有一些人意识不到,是因为他们被算法骗了,没有关注到很多触目惊心的东西。没有机会深入观察反思。 如果这些现象的存在都不重视,或者都不承认的话,就没必要和我交流了,那等于假装看不见房间里的大象。首先,不承认问题的人要么是装傻,要么是懦弱而选择自欺欺人的不去面对,也就是所谓的非蠢即坏,这就没有交流的必要了。 不要说独立思考,一千个人里难得有一个具备独立思考的能力。一百个人里甚至都没有几个人具有这种独立思考的机会和潜力。 比楚门的世界更可怕的,是有数不清的人,心甘情愿的活在楚门的世界。而它们的世界并没有一个大棚子和我们隔离开。所以小心,它们会一直来碰撞摩擦。网上对喷根本不算事,不拿刀砍人就不错了。记得之前详细写过《舆论》《社会性动物》,也推荐过这两本书。当事实太多时,人们就失去了客观思考的能力,只是被新闻和信息驱使操控的工具。 我们生活在一个之前从未存在过得世界,历史的新阶段,人性的缺点第一次被这样大规模的利用。人类社会也第一次如此分裂极端。前所未有的新时代。 每一个在网上试图观察,反思的人,一开始都会遇到一个问题,人怎么可以这么蠢?震惊,难以置信,是真的愿意去相信,很多人选择了不相信。 但事实就是,人是有弱点的,天性机制被利用后,就是如此。原本没这么蠢,被互联网和手机驯化后也开始变蠢了。 还有很多人觉得,网上很多人缺少大量的信息就做了判断,它们怎么可以忽视这么多信息? 事实就是,它们真的没看见那些信息。互联网太大了,让人难以看见全貌。 同时太坏了,它简直就是故意激起人们的极端化。 最后,人们原本就喜欢对自己并不了解的事发表观点和评论。 美国自从特朗普以来,政治新闻成为全球热点(全球免费戏院),美国的个人政治观念,分裂程度达到了历史最高。而社交媒体,是主犯之一。 社交媒体可以让美国人相信地球是平的,相信疫苗是有毒的。很多人觉得这么蠢的违反常识的想法,也有人信?事实上算法在变得更聪明,以至于真实数量多到你不敢想象。 很多人觉得,这些人信就信了,和自己无关。其实这就是没搞懂细枝末节和背后大问题的联系。全世界的社交媒体,都在更新算法,而他们是如此成功庞大,就算你不用互联网,你也不摆脱它的影响。它是新时代毒品,而且它的用户已经普及到绝大部分人。 早晚有一天,你也会被劝服,相信一个完全虚假错误的事,而且你还不知道自己错了。这和你够不够有联系? 人类行为都是一样的,上坡很难,下破滑滑梯。 社交媒体就是一个故意把下坡路放在你面前诱惑你,故意把上坡的,学习成本的,对你有益的东西弄得很难。最终你只能选那个下坡路。 不是因为你蠢到无可救药,而是因为你被针对性的利用操纵了。 你以为互联网公司只是做一些常规性的广告赚钱,无害的,你就太天真了。虚假医疗信息,虚假广告,制造焦虑等等这些不提。灰色产业,赌博,菠菜,色情,诈骗,犯罪等等各种东西,数不胜数。 很难想象吧,你的每一次上网,社交媒体互动,不经意间的点赞,其实都害得有人走向极端,有人被诈骗。两者之间居然存在联系? 是的,它们有联系,网络的力量之强,之复杂,超乎人的想象。只能说道可道,非常道。 特朗普说一句喝消毒水可以治新冠肺炎,就有十几个纽约人喝消毒水住院、死亡。美国这半年的花样新闻,丑态毕露的滑稽戏码,已经超出承受能力,甚至超出想象力。多到什么程度?多到网上的段子手都累了,都跟不上了,追不动了。 社交媒体会把人们变得极端化,还会让他们相信阴谋,有些美国人至今觉得新冠是阴谋。新冠病毒再快,也快不过互联网的传播速度。 特朗普为什么要推特治国?是因为好用,方便操控美国人,还是因为特朗普很潮? 在中东一些寡头,利用脸书制造屠杀和战争,造成几百万人流离失所。对你没看错,就是利用社交媒体去影响人。与这比起来,是不是觉得杀猪盘突然变的小儿科了。 再举个敏感的例子,还记得去年美国是怎么利用社交媒体挑逗小渔村废独闹事的吗?闹多大事?闹了多久? 如果还不信,就真的没话可说了。 五、未来 现在有一种新的理论非常流行。人们相信未来,每个人都只是一个单独的体验单元。而计算机会变成一个超级大脑,来分配人类资源,互相分享体验。 我第一次看到这个理论是2018年。 如今的世界,依然还有真相。互联网没有真相,只有观点,极端的愚蠢的,但是最终还是有些人能接触到真相。 然而到了那个新时代,真相不再存在,没有人能接触到真相,没有人能接触到自己生命体验之外的东西,每个人都被按照特定的目标洗脑,然后变成一个信息收集器,收集信息之后上传回主脑。你不重要,主脑才重要。 到了那个时候,人生就是一段被设计好的程序。 如今拿着手机的人,很难想象,我就玩个手机,我还要为世界末日负责? 很多看到社会发展便利的人,觉得技术无罪啊,为什么技术就一定是针对人群弱点的? 技术确实无罪的,只是如今的技术和资本和政治,和林林总总所有的元素互相影响,最终确实引起一些现象,这些现象的背后,是社会最黑暗的一面。而它正在发展壮大。 像开头所说,这个危机,连名字都没有。它是新的,正在发生的。但它确确实实存在。如果任由它发展,最终会酿成悲剧,就好像资本主义的发展引发世界大战一样。而且,最重要的是,现在没有一个好的办法去解决它。孤独,分歧,冷漠,疏离,肤浅,极端,这些难以自愈的社会问题。 如果你不知道你在黑客帝国的矩阵中,你怎么从矩阵中醒来? 现在的技术发展很多方面都是好的,我很感恩便利的技术,不仅好用而且真真实实的给我提供了学习渠道,娱乐交友平台。 如果不是互联网,如果没有社交媒体,我学习进步没有这么快,也会少认识很多朋友。 但现在的商业模式,目标,习惯,市场,是错的。 我并没有觉得技术都是坏的,一切都很悲观--我确实相信未来不会好,我很喜欢赛博朋克。但目前来说,我并不觉得技术进步都是邪恶的,商业资本都是该死的。我只是觉得市场需要管控。 前面说起外卖骑手那篇文章,马逆提出了一个人物的文章没有提出的问题: 是不是一个资本公司亿万富翁的利益,真的大过人民的利益? 我们的环境社会恶化,难道就是为了给资本家积累财富? 无节制的欲望,和无节制的自我认同,无节制的媚俗,和无节制的道德滑坡,最后引发灾难,只看是谁运气不好背黑锅。这就是网络时代在加速的东西。 其实人类社会一直这样,只是网络让其加速一百倍。 如果一些事情不改变,社会会继续恶化下去,互联网会继续下沉,政治会更加极端,恶性事件会越来越多,奇葩新闻会越来越多,自然环境也会越来越恶劣。人类会幡然醒悟吗? 一瞬间变好? 人们上网应该意识到,自己不是客户而是工具,自己的时间和注意力,是宝贵的财富,社交媒体正在利用你的注意力作为一种资源去开采贩卖。 你的注意力原本应该用来让你自己变得更好,更进步,更幸福,真正的幸福,关注你自己真正热爱的事情。你的注意力原本可以用来让世界变得更好。而不是,拿去刷社交媒体网络。短视频。 功在千秋,利在当下,社会能不能改变很难说,但你可以现在就改变。

 6 ) 你被抖音、微博等社交媒体卖掉的30个真相

无法放下手机是意志力薄弱吗?谷歌、脸书和自行车一样只是我们使用的工具吗?算法和技术是中立的吗?假新闻为什么无往而不胜?这个假期看完的第一个片子是奈飞新出的纪录片《监视资本主义:智能陷阱》,触目惊心,假期的末尾希望有空的话你也可以看看。

影片其中一条叙事线由谷歌、脸书的前员工、ins早期员工、推特高级副总工程师等一票国际互联网大厂的从业者面对镜头讲述,这里面不乏社交媒体上点赞功能的设计者,甚至还有帮助脸书建立商业模式的负责人,他们出于对行业道德伦理的担心纷纷离开,现在他们重新站出来讲出他们看到的真相并发出警告。下面我将摘选30条我觉得重要的观点,方便你快速了解。

1.进入凡人生活的一切强大之物,无不具有弊端——索福克勒斯

2.主角之一的特里斯坦·哈里斯是前谷歌员工,曾在谷歌邮箱团队工作,他觉得很疲惫,因为他们一直在讨论邮箱应该长什么样,用什么颜色,他坦承自己对邮件上瘾,但更有趣的是团队里每一个人都想让用户上瘾。但是大家有反思过这个现象吗?他认为谷歌有解决这个问题的道德责任。但讨论在谷歌内部却不了了之。

3.脸书商业化负责人说,他负责帮助脸书想出如何盈利,而彼时他认为广告模式可能是最优雅的模式。以前我们为硬件和软件付费,但现在这些互联网产品都是免费的,但其实并不真是免费,背后是广告商在付费,广告商是这些互联网产品的客户,而使用者其实是被销售的商品。经典的说法是,如果你没有花钱买产品,那你就是被卖的产品。

4.谷歌并不只是一个搜索工具,脸书并不只是一个你和朋友联系的社交工具,其实种种互联网产品,他们都是在抢夺我们的注意力。仔细想一下这些互联网公司是怎样运作的。用户免费,广告商付费,广告商为什么付费?他要花钱交换你看广告,我们的关注就是卖给广告商的产品。这样说可能过于简单了,产品其实是我们的行为和认知的逐渐的一点点未察觉的改变。这才是他们拿来赚钱的唯一的东西:改变你做的事,你的思维方式,改变你这个人。

5.每种商业都有个梦想:投放一个广告,有成功的保障,这就是广告平台的生意,出售确定性。为了这个商业成功,必须有预判的能力,而优秀的预判能力始于一个必要的条件那就是数据。

6.我们使用互联网社交产品的一切行为数据都被监控和记录,具体到你在某张图片停留多久,我们的孤独、抑郁时刻,我们爱看前任的信息,我们深夜做什么,这些系统统统知道。这些我们不经意流露出的数据,都被喂养给系统,而这几乎不需要人看管,系统会不断做出越来越好的预判,判断出我们是什么样的人,我们要做什么。

7.很多人有一个误解,认为被卖掉的是我们的数据,脸书的兴趣肯定不是卖掉数据,而是用数据建立一个可以预测我们行为的模型,拥有最优秀模型的公司就是最后的赢家。我们用互联网技术创造了全球一整代人,他们成长的背景中,彼此之间的交流,文化中都渗透着操纵的鬼影。

8.任何足够先进的技术都极其类似于魔术。

9.魔术师几乎是最早的神经学家和心理学家,他们是最先明白人们思想工作原理的人。魔术师懂得你思想中你自己都没有意识到的某一部分,这是让幻觉起作用的关键。

10. 特里斯坦·哈里斯在斯坦福大学的劝服技术实验室研究如何用心理学知识劝服人们,以及如何把这个运用到互联网技术中。很多硅谷的互联网公司的人都学过这样的知识。他们想修改一个人的行为,让人们按照他们的意愿去做,譬如不停的用手指滑动屏幕浏览信息。往下拉,最上面是新的内容,再往下拉,上面又是新的每次都一样,这在心理学上被称作积极正强化。你不知道什么时候能刷到,或者你能刷到什么。这其实和赌场里老虎机的原理一样。

11.无数工程师他们的工作就像黑客一样黑进人们的心里,然后获得更多产品数据的增长,更多的用户增长,更多的活跃。他们会做大量的AB测试,然后根据结果不断优化就可以让用户做他们想让用户做的事,这就是操纵。很多时候他们诉诸的是人的潜意识,你被影响时甚至根本没有意识到,因为这是在利用人心理中最脆弱的部分挣钱。

12.自行车问世的时候,没有人不满,没有人会说它毁灭了我们的社会,因为自行车拉远了父母和孩子之间的距离,毁灭了我们的民主,让我们无法分别消息的真假。如果一个东西是工具,它就会忠诚的坐在那里,耐心等待。如果一个东西它对你有所求,它想引诱你,操纵你,从你身上获利,它就不是工具那么简单了。

13.我们已经走过了以工具为基础的技术环境,来到了以致瘾和操纵为基础的技术环境。社交媒体不是在原地等待被使用的工具,它有自己的目标,有自己的方法去实现这些目标。利用你的心理来对付你,

14.社交媒体就是一种毒品,我们有着基本的生物学的欲望比如和别人保持联系,这直接影响着奖赏通路中多巴胺的释放,这背后是几百万年的进化,我们群居找到伴侣繁殖。毫无疑问,社交媒体会优化这种联系,自然会有致瘾的可能性。

15.这些技术产品不是由努力保护儿童的心理专家设计的,他们的设计是让算法非常善于给你推荐下一个视频,非常善于让你拍照加滤镜。这些东西不仅在控制我们注意力放在哪里,而且越来越深入到大脑的根部,夺走孩子的注意力和自我价值。我们进化出了在意社群中的其他人评价的机制,这很重要。但是,我们进化需要在意一万个人怎么看我们吗?我们的进化不需要每隔5分钟获得一次社交认可。

16.我们在训练、调节整个一代人,我们不自在、不确定、孤独、害怕时,有一个自己的数码安慰,这让我们处理自己情绪的能力退化了。

17.有一种说法是,我们应该去适应它。我们要学着与这些设备共存,就像我们学着与其它事物共存一样。但这个说法忽略的是,有些东西明显是全新的。这其中最危险的是,这是由技术驱动的成指数级向前发展的。计算机处理能力,从上世纪60年代至今,增长了亿万倍,我们身边没有任何东西以这个速率增长。而我们人类生理上,大脑根本没有丝毫进化。我们的大脑已经存在几百万年,然后出现了这样一块屏幕,屏幕的另一端是数千工程师和超级计算机,有着与你不同的目标,那么这个游戏谁会赢呢?

18.算法是内嵌在代码中的观点,算法并不是客观中立的,算法被某种成功的定义优化。你给AI一个目标,我想要这样一个结果,AI自己去学习怎样实现,这是机器学习概念的由来。没人真正明白,为了实现这个目标,他们在做什么。

19.算法有自己的思想,虽然它们是由人写的。它被写出来的目的,是建立一个机器,这个机器会自己改变。作为人类,我们几乎已经失去对这些系统的控制,因为使它们在控制我们看到的信息。

20.想象一下,你用脸书,你的对手是人工智能,它知道你的一切,能预测你未来的举动,而你对它一无所知,这根本不是公平的竞争。

21.我们都在担心这个时刻,技术什么时候超越人类的智慧和力量。但有更早的时刻,技术超越人类的弱点时,这个超越点就是上瘾。两极分化、激进化、激化愤怒,激化虚荣,它在压制人类的天性,挫伤人性。

22.脸书的推送方式非常错误。如果我们打开一个维基百科页面,你看到的和别人的是一样的。这是网络上少有的我们统一共享的东西。想象一下,如果维基百科说,我们要给每个人一个个性化的定义,有人给我们钱让我们这么做,维基百科会监视你,会计算要怎么做才能代表一些商业利益,让这个人产生一点改变,对吧?然后就会改变整个词条。你能想象吗?脸书就是这样,你的youtube推送就是这样。

23.看了这个片子我才知道,原来在不同地方用谷歌搜索我们得到的是不同的结果。譬如我们在搜索框输入“气候变化是”在某些城市你会看到自动填充的提示语是“气候变化是一场骗局”在其它地方你将会看到“气候变化是对自然的破坏”。这个功能提供的不都是气候变化的真相,而取决于你在哪里搜索,以及谷歌对你个人兴趣的了解(譬如如果你是个阴谋论者,它就会给你推送气候变化是一场骗局的内容)。

即使是两个很相似的朋友,看到的也是完全不同的内容,因为算法会按照怎样对一个人来说最完美来呈现内容。逐渐你会有一个错觉,所有人都赞同你,因为给你推送的新闻中,每个人都和你极其相似,一但达到这种状态,你就容易被操控了,和被魔术师操纵是同样的方式。

24.油管前算法推荐工程师坦承,他研究的一个算法增加了社会的两极分化。但从在线时间上看,这种两级分化的做法却极其有效的让人们一直在线观看。

25.著名篮球运动员凯里·欧文说他相信地球是平的,后来公开道歉时说,这是油管算法的锅。地球是平的这一言论被算法推荐了几亿次,我们很容易判断出大概只有几个笨蛋真的相信。但可怕的是,算法每天都在变得更聪明,今天它能说服少部分人相信地球是平的,明天它就能说服你相信一个完全虚假的事情。

26.推特上传播假新闻的速度比真新闻快6倍。当一个人比另一个人有6倍的优势,这个世界会如何?你可以想象,有些事情让人类的基本面倾斜了。让一些行为更难,一些行为更容易。虽然你总是可以自由的走上山坡,但这样的人越来越少。所以在更大的范围内,整个社会的基础倾斜了,改变了数十亿人的想法和行为。

我们创造了一个偏爱假信息的系统,并不是因为我们想这么做,而是假消息能让这些公司更容易赚到钱,你知道的,真实信息比较无聊。这是一个利用虚假信息牟利的商业模式,允许未受监管的信息推送给更多的人,卖出更好的价钱,以此来赚钱。

27.脸书每天推送万亿个新闻资讯,他们无法知道哪些信息是真的哪些是假的。从未有工具像脸书一样能够如此低成本又高效的影响如此广泛的人群。算法和政治家在学习如何激发我们的方面变得越来越专业,非常擅长制造我们容易接受的假新闻让我们信以为真。我们似乎对自己是怎样的人,自己的信仰越来越缺少控制权。如果每个人都有权执着于自己的真相,就没有必要妥协团结了。我们需要对现实有一些共同的理解,否则我们就不是一个国家了。

28.谷歌不知道真相,它只知道点击。如果我们不认同真相,我们就无法找到任何一个问题的解决办法。硅谷的很多人相信一种理论,我们正在建造一些全球的超级大脑,我们所有的用户都只是可交互的神经元,我们一点都不重要。它让人们服从于这样一个奇怪的角色,你就像一个小的编程元素,我们通过我们的行为操纵去编程,为了服务于这个巨型大脑,不会给你钱,不会让你看到真相,你没有自主权,因为你只是编程的一个节点,你根本不重要。

29.技术并不是人类存亡的威胁,只是技术能够把人类社会中最坏的东西带出来,社会中最坏的东西才是人类存亡的威胁。如果你不知道身处矩阵之中,你如何从矩阵中醒来。

30.在整个人类历史中,每一次有事物变得更好,都是因为有人站出来说,这太蠢了,我们可以做得更好。是批判者推动改进,批判者才是真正的乐观主义者。

影片的最后,画外音问特里斯坦·哈里斯,你觉得我们能改变这一切让他们变得更好吗?特里斯坦·哈里斯说,我们必须要实现。

 7 ) 《social dilemma》:除了迷茫、恐惧、愤怒,还有别的符合人类本性的东西,吗?

网飞的纪录片《social dilemma》真正揭开了科技(互联网)公司的神秘,让我们看到个人在一整套系统技术和盈利目标面前的脆弱。这种脆弱,有纯粹力量上的对比,但与历史上的技术变革影响相比,这一轮的科学技术利用人天性弱点的能力前无古人,助力背后操作者,甚至是操作者背后的人完成其目的。

在这部纪录片里,几个硅谷科技公司的早期员工、重要成员,相继表达了这样一个观点:“科技一开始是为了美好的目标,但走着走着就变了样子,我们根本没想到会这样。” 确实,google的提供信息,facebook的连接亲友,甚至美团的外卖速递,一开始都是为了满足人们正常的需求,让生活更美好。什么时候开始变糟了呢?

在这些互联网公司,所有的事物目标归根结底分为三类:engagement,growth,monetization。让用户停留尽量多的时间,让尽量多的用户加入,从他们身上尽量多的赚钱。再往前走一步,这其实就是从尽可能多的人身上长久地赚最多的钱,资本主义的典型状态。

然而这能怪资本主义吗?资本主义的逻辑是如此强大成熟,现代社会运行与之密不可分。与其从意识形态入手解决问题,不如降一格,从社会、政治、技术、制度层面尝试。

赚钱,本质上其实是一件中立的事,这个目的本身并不是罪恶的,或者对人有害的。目前来看,是商业模式只找到了最简单的赚钱方法,煽动人的情绪和本能来获取更多的注意力,并最终转化为赚钱。然而除了煽动情绪,难道没有别的选择吗?这确实是最便捷的路,但如果用更好的,稍微复杂的东西来代替它,是否可以一样保持赚钱,但同时又减少对社会和个人的伤害呢?

举个例子,约会软件。使用约会软件,人们很容易关注的是自己被多少人like,有多少match这些指标,但这些真的是人最需要的吗?被多少人like,match,背后是一种空洞的影响力和权力。相比之下,我觉得大部分人在约会软件上其实最想要得到的,是和真实的人的社交,无论是交朋友,还是情感,还是性。质比量重要。而约会软件大多把重点放在如何match人,match到了(或没match到)就不管了。就像爱情故事里结婚以后就happily ever after了,但真实的生活不是这样,产品应该帮助人更好地认识和应对真实的生活。

作为一个市场营销分析人士,我的日常工作就是计算用户购买商品的可能性,选出更有可能购买的用户,将邮件、信息推送给他们。在我做项目时,我看着千万级的用户,会把他们就当成数字,计算着销售额、购买率会有多少提升,不会想到这每一个数字背后都是一个个真实的家庭真实的人。

为了改变这种情况,当然可以用外部限制,比如政府立法。但有没有办法,企业自己找到别的对人有益的、更加理性的指标纳入考核标准?或者改变广告的商业模式,让企业明着支持广告,将自己的名字与社会责任联系起来?这需要多方面的改进。就像最近关于外卖骑手的讨论,算法只是中间的媒介,是投资者、消费者、经营者的思维传导媒介。要解决问题,需要社会各界的研究和努力。

我现在在和两个朋友尝试做一个线上辩论/讨论的app和插件,希望能改善互联网上的评论环境,通过将一个议题正反双方的观点同时展示在内容之下,减少有害言论,增强信息来源的展示以减少不实信息,根据成员发表的评论的复杂度和参与程度来进行engagement分层,来改善线上讨论的体验,让其更加理性,更加全面。

如果你想到什么相关的解决方法,或者相关的议题,欢迎讨论。

 短评

最后还是把问题还原到商业模式和经济上去了 也就是说 不是简单呼吁大家自己控制社交媒体的使用就可以解决根本问题的 不过很有意思的是… 看完片子之后 大家还是屁颠儿屁颠儿跑到社交媒体上来打分了😂 这和竞争关注的结果其实没有本质上的区别吧 人生而愚蠢...也是没办法的事

5分钟前
  • ripley
  • 力荐

可能是今年 Netflix 最好的一部纪录片,无论是 have no clue 的大众还是互联网业内工作人员,都能从中得到新的启迪。一段虚构故事结合湾区大佬们和学者们的访谈形式也耳目一新。Just fucking watch this right now!另外好多差评真是男言之瘾重灾区…

10分钟前
  • 椒盐豆豉
  • 力荐

在网飞纪录片序列中算不上惊艳,内容都能想得到,有个别地方倒是有启发。其实社交媒体不是重新发明了人性,只是顺应人性被发明出来。

13分钟前
  • frozenmoon
  • 还行

最讽刺的是你之所以能看到这部片子,多半也是因为它被网飞自己的大数据和算法推到了用户主页。这种感觉就像是有天迈克尔·贝跑出来拍了一部【电影艺术是如何被滥用CGI特效的好莱坞大片毁掉的】纪录片一样。

16分钟前
  • Laplace Demon
  • 推荐

某种existential crisis的压迫感沉重到可以将其归类恐怖片的程度:迫真humanity的一个至暗时刻。毋庸置疑新自由主义的放任默许了它们的野蛮生长。日渐两极化割裂的民主世界,中产的消亡,功绩社会里的精神暴力,抑郁及自杀率的攀升,ultra-right/left异军突起众多吊诡背后,总能追溯到科技巨头的鬼影。今年的BLM可谓一个高潮,空前的社会撕裂,内战的恐惧开始在北美大陆扩散,然而那种担忧早已经在太平洋对岸成为了现实,诸如废青和武统的呐喊此起彼伏,落入集权独裁手里的社交媒体正上演着数亿人的《楚门的世界》。

21分钟前
  • 帷野久
  • 力荐

影片翻译成”监视资本主义“太符合中国上层领导了,其实就是讲了社交网络怎样赚钱、怎样改变和监视用户、大数据统治的,其影响会延伸和触及到人性、进化、政治竞选等领域。但人类历史中的谎言、煽动、阴谋、阶级等现象,并不是网络时代就特有的,只是网络时代让这些现象具有更大规模、更快的反应而已,但不能把原罪归于网络。

25分钟前
  • 炸酱面
  • 还行

突然觉得,我如果能活到八十岁,说不定可以亲眼看到这颗星球毁灭……

29分钟前
  • 西决
  • 力荐

“是批判者推动社会变得更好,批判者才是真正的乐观主义者。”

31分钟前
  • 烟雨如花转
  • 力荐

能请到离职的脸书 谷歌 twitter高管或功能创始人来搞一部揭露社交APP之罪的纪录片确实牛逼!!看影片开头好多工程师已经在担心律师函了。 我们以为的AI危机(人工智能)是电影中类似机器人入侵的画面,其实,人类早已被AI奴役好几年了,它们以智能手机APP的面貌出现在我们生活中,吃掉我们的时间,夺取我们的注意力,令我轻信、空虚、偏执甚至被利用…… 就连创造出这些APP的工程师们——这个AI统治者的创造者们都承认有手机上瘾症。if you are not paying for the product, you are the product.You would not realize it's a Matrix if you Are in the Matrix.

33分钟前
  • 七姐Claudia
  • 力荐

“在整个人类历史中,每次有事情变好,都是因为有人站出来说:“这太蠢了,我们可以做的更好”。是批判者驱动了改进,他们才是真正的乐观主义者。我们正飞速走向毁灭,需要一个奇迹才能让我们回头,这个奇迹就是集体意识,再足够的公众压力出现之前,这台机器是绝对不会回头的。”

36分钟前
  • 亚比煞
  • 力荐

三星半吧。这个片子一边谴责社交媒体蛊惑人心,一边也通过背景音,模拟场景,动画,拼命传输自己想传达的意思。有点讽刺

41分钟前
  • C&TUTU
  • 还行

朋友圈已经关闭了好几年,也不用微博和fb的我感觉自己还是有点觉悟的。

46分钟前
  • 席德
  • 推荐

聚众吸牍哪家强 网飞找来这群人一个劲戳别人脊梁骨 没种把自己的5秒跳转下一个视频算进去

47分钟前
  • Robo Captain
  • 推荐

就提一个capitalism会死吗

50分钟前
  • soyoungsogone
  • 还行

通过海量的数据加上对用户个体的行为记录,最终用户个体不再特殊。你的行为可以被预测,你的心理已被掌握,你已经无所遁形。在IT巨头面前,你只是一个可被盈利的工具。 --你以为你想买的东西其实是巨头想卖的东西,你想做的事情是巨头暗示你做的。下篇讲述 在网络环境中,虚假的信息传播的更快,其中人工智能的推荐起到了加速作用。 推荐系统的智能化是的信息发送方变得极化,同时是的接受的信息变得不再全面的。。。。

55分钟前
  • W.史密斯
  • 力荐

互联网是人类文明的硕果还是浩劫?这是一个问题。互联网发展太快,而互联网用户运用它的智慧却太慢。它几乎成为现代人剪不断的脐带,每个人都以为这根脐带为我们输送养料,却很少发现它也在吞噬我们的时间,消耗我们的生命。互联网背后是不断将我们异化的数据和图形,是将用户打造成韭菜的智能工具,而你我是它们手中的行货。尼采说,“在自己身上,克服这个时代。”然而,这多么困难。最有意思的是,看完这部纪录片后,我发布的信息也会成为互联网内容的一部分,不小心浪费了别人的时间。

57分钟前
  • 尘飞扬
  • 推荐

一边抗拒一边沉迷,也是无解了。

1小时前
  • 桃桃林林
  • 推荐

前半段谈的是个人的成瘾性,后半段谈到了对社会和政治的影响,甚至还提到了香港问题受到了推荐算法的影响,实在是强烈推荐的纪录片。推荐算法让人类看到更多他想看到的信息,而不是正确的信息;当算法没有被操纵的时候,假象会被传播和放大的更快,社会群体的分化会更严重;当被操纵的时候,它会成为比以往更高效的舆论控制工具。

1小时前
  • 流浪四方
  • 力荐

中文翻译的标题线路很正确嘛

1小时前
  • 里拉
  • 力荐

我一直是更亲近Yuval Noal那种对社交网的防御心,最近他跟唐凤的对话中,唐女士更接近Bill Gates,她们对Code is law的信任是基于他们对科技的掌握,略傲慢的盲目。人类善于发明创造工具,却总是不能智慧的使用好它,socialmedia被创造出时的工具属性越来越模糊,连接一切变成绑定一切,我们都在失去个人专注力的同时被训练的自动贡献出时间来替科技公司创造价值。见惯了友邻放弃包容,讽刺刻薄的针对陌生人,哪怕对方只是没把咖啡馆当图书馆对待产生噪音。我们大部分人,都忘了我们用社交网的初衷了,我们只是停不下来了,这不对,要自省。

1小时前
  • 姜小白
  • 力荐

返回首页返回顶部

Copyright © 2023 All Rights Reserved