为了账号安全,请及时绑定邮箱和手机立即绑定

眼镜蛇效应现形记:我们是如何毁了互联网的

照片由 Godwin Angeline Benjo 拍摄,来自 Unsplash

我想说说我们是怎么把互联网彻底搞砸的。

这是典型的“科布拉理论”——一些自称的科技“天才”和少年奇才以为可以改进互联网,结果却让它变成了一个巨大的混乱垃圾堆,规模庞大。

什么是眼镜蛇理论?

据说,英国殖民者在印度,对德里地区蛇泛滥感到不满,便悬赏捉拿死蛇。不出所料,一些人看到了发财的机会,开始饲养蛇。当英国人察觉到这一计划后,便取消了悬赏,导致被饲养的蛇被大量释放,结果是比以前更多的蛇出现在了街头巷尾和各个角落。

这是一个很棒的故事。它值得引用,令人难忘,并且完美地体现了解决方案彻底失败了这一理念。它就像是学术界的都市神话——流传甚广,很少有人质疑其真实性,而且很难验证。

但不论是真是假,Cobra效应实际上都是一个真实存在的现象。历史上有许多这样的例子。

19世纪晚期的河内,处于法国殖民统治之下,面临着鼠患问题。有人想出了一项计划,支付人们老鼠尾巴。你能猜到接下来会发生什么吗?精明的当地人开始饲养老鼠,剪掉它们的尾巴,然后将这些无尾的老鼠放回下水道,让它们继续繁衍更多的老鼠。

富国银行简直就是“大棒加胡萝卜”策略的典型示范。他们制定了激进的销售目标,并提供丰厚的奖金。如果你是一名个人银行家,工资可能增加15-20%,而如果你只是个普通的出纳员,顶多增加3%。未达到这些目标?算了吧,未达成的目标还会被加到你明天的任务中。

现在,站在这些员工的角度。你得付账单,还得养家。你每天都得面对那些不可能完成的任务。那么,你该怎么做?若你是富国银行的一员,你可能会开始开设虚假账户。模仿签名。发放没人申请的信用卡。

结果?大约有210万个未经授权的账户。这并不是打字错误。数百万人突然多出了他们从未申请过的账户,有的账户还累积了费用,有的账户可能影响了持卡人的信用记录。这一切都是因为高层认为让员工推销二手车是个好主意。

当事情变得糟糕时,它狠狠地打击了他们。数十亿美元的罚款和赔偿,CEO 辞职,以及那种声誉损害,使美国富国银行至今仍在努力摆脱多年来的负面影响。美联储甚至对他们设定了资产上限,换句话说,“你们不能增长,直到证明你们不是一帮骗子为止。”

这一切始于当时可能看起来是个好主意的事情。激励员工,促进业务的发展。结果却是,它创造了一个扭曲的激励机制,鼓励了大规模的欺诈。

看看哥伦比亚的情况。问题:像 Bogotá 这样的城市交通拥堵和污染严重。解决方案: “Pico y Placa”(高峰和限行)。这就是所谓的基于车牌号码限制汽车使用的系统。某些日子,特定车牌的车不能上路。

天才吧?

错了。

人们没有减少路上的汽车,反而去买带有不同车牌的第二辆车。现在他们每天都能开车,管他环保规定呢。

结果呢?道路上的汽车更多了,而非减少。污染更严重,而非减少。这就像用汽油灭火,却在助燃,用水灭火却用了汽油。

接下来,他们引入了一个系统,你可以付费来绕过这个限制。这听起来挺公平的,对吧?花钱买污染额度。不过现在的情况是,有钱人可以轻易地花钱买通这条规定,而穷一点的人则不得不继续面对这些限制。而那些没钱的人就只能继续受限制。

而且因为人们为这项豁免支付了固定费用,实际上为了充分利用这个费用而开车更多。这就像汽车使用的不限量供应,反正都付了钱,多开开也没关系。

在所有这些情况下,我们看到同样的模式。有人识别了一个问题:蛇太多、老鼠太多、交叉销售不足、流量太大。他们想出了一个在纸上看起来很合理的解决方案。但他们没有考虑到人们会如何回应这些新的激励。结果,不仅没有解决问题,反而让情况变得更糟了。

这就是所谓的“Cobra效应”。当自以为聪明反害了自己,认为能够操纵人类行为而不考虑意外后果时,这种情况就会出现。

人类行为是复杂的、灵活的,并且常常以自我利益为导向。当我们实施政策或激励措施时,我们不仅是在解决问题,而是在构建一个新的体系。在这个体系中,人们会找到最大化自身利益的方法,即使这完全偏离了最初的设想。本想杀蛇,没想到却养育了一窝蛇。

这正是逆向激励的体现。当你设立的奖励系统适得其反,反而鼓励了你试图阻止的行为,这就会发生。

在互联网上,考伯效应比比皆是。

让我们从社交媒体说起。最初的构想是相当崇高的:让人们连接起来,分享想法,也许看看你当年的暗恋对象现在在忙些什么。但是,为了赚钱,它变得越来越商业化。注意力经济随之而起,在这个经济体系中,你的注意力成了广告商眼中的香饽饽。

所以这些技术天才们做了什么?他们设计了算法来让你留在平台上。你花在平台上的时间越长,广告收入就越多。这听起来似乎合情合理,直到你意识到真正让人们保持参与的是愤怒、争议和耸人听闻的内容。突然间,你开始不再看到你阿姨的猫咪照片了。它变成了一个不间断地推送最能引发争议和分裂的内容。

扭曲的激励机制?尽可能地引起争议和分歧。说你能想到的最离谱的话。挑起一场争吵。因为这就是能获得点击、评论和分享的方式。这就是算法奖励的。我们本想建立联系,却激励了分裂。

而且情况变得更糟(或者从另一个角度看,变得更糟了)。记得事实核查曾经很重要吗?那些日子真是好时光。现在我们有一个系统,成为第一个发布比报道准确更重要。新闻机构,在一个印刷业正在衰退的世界里,急于获得点击量,会在消息核实前就急于发布。这种扭曲的激励是:优先考虑速度而不是准确性。为什么?因为等真相大白时,大家已经转移到下一个热点上了。

我们告诉人们可以通过在线建立受众来谋生。实现媒体民主化等。但是为了建立这个受众,你需要按照算法的要求来做。算法真正想要的是什么呢?大量且一致的内容,一直要保持。

数量重于质量的扭曲激励?深度思考?细微差别?仔细研究?去这些吧。你需要每周制作三段视频才能保持相关性。所以我们最终产出大量肤浅、重复的内容。但嘿,至少这些内容是为吸引用户参与而优化的。

你还记得以前我们很在乎隐私吗?

然后我们被个性化服务的便利所吸引。免费邮箱、免费社交平台、免费的一切——只要我们愿意让公司收集我们的信息。扭曲的激励?提供更多个人信息来获得更好的服务。而现在我们震惊得说不出话来——我们的数据被用在我们从未想过的方面。

我们知道这一切,但我们似乎停不下来。我们被困在自己创造的系统中,就像斯金纳箱里的老鼠一样不停地按压杠杆。我们自己创造了一个利用我们心理弱点的数字环境,然后我们又开始疑惑,为什么我们会感到焦虑、沮丧和更加两极化。

那解决办法是什么呢

嘿,我怎么知道呢。

但我知道这一点:我们需要从认识到我们已经创造的扭曲的激励开始。我们都需要明白,每次我们点击或浏览点击诱饵,每次我们在未核实事实的情况下分享,每次我们为了方便而分享我们的数据,我们都在滋养这只怪兽。

也许这意味着我们需要重新考虑如何为线上内容实现货币化。也许这意味着对数据使用和算法透明实行更严格的监管。也许这意味着我们需要对我们的社交媒体平台进行根本性的重新设计。或者也许这意味着大量用户可能会逃离这些我们自己构建的数字行为操控工具。

无论解决方案是什么,它都将是一段不舒服的经历。因为解决这个烂摊子意味着放弃一些我们已经习惯的事物。这意味着重视真理而非便利,重视深度而非浅薄的参与,重视真正的连接而非肤浅的认可。

互联网仍然是一种非常神奇的工具。它仍然能够连接我们,告知我们信息,并以我们祖先想都想不到的方式拓宽我们的眼界。

但我们应该质疑我们奖励和惩罚的行为,避免因目光短浅的激励机制而搞砸一切。

直到我们开始拆除这些扭曲的激励——我们还是会不断冒出毒蛇。

告诉你哦,那帮人咬人可狠了。

加入成千上万的其他读者、创作者和思想家的行列,订阅 @Westenberg 账号 — 那里有很多关于科技、人类和哲学的文章
@Westenberg🍕 技术 + 经济 + 人性
点击查看更多内容
TA 点赞

若觉得本文不错,就分享一下吧!

评论

作者其他优质文章

正在加载中
  • 推荐
  • 评论
  • 收藏
  • 共同学习,写下你的评论
感谢您的支持,我会继续努力的~
扫码打赏,你说多少就多少
赞赏金额会直接到老师账户
支付方式
打开微信扫一扫,即可进行扫码打赏哦
今天注册有机会得

100积分直接送

付费专栏免费学

大额优惠券免费领

立即参与 放弃机会
意见反馈 帮助中心 APP下载
官方微信

举报

0/150
提交
取消