《小猪佩奇》突然发疯流血和死亡的内容是什么？

卧室角落里的声控设备突然狂笑起来，把你的枕边话录下来发给同事。您的孩子在 YouTube 上观看的小猪佩奇突然出现了鲜血和死亡。您用来与朋友保持联系的社交网络已成为影响选举和煽动政变的工具。

我们的思维方式发生了奇怪的事情，结果世界上发生了更奇怪的事情。我们开始认为一切都是可计算的，一切都可以通过应用新技术来解决。但这些技术并不是中立的推动者：它们体现了我们的政治立场和偏见，它们超越了国家和法律管辖范围的界限，并且越来越超出人们甚至他们的发明者的理解范围。结果，随着这些强大的技术越来越多地控制我们的日常生活，我们对世界的了解越来越少。

在科学和社会，在政治和教育，在战争和商业中，新技术不仅赋予我们力量，而且正在积极塑造和引导这些领域的发展，无论好坏。如果我们不了解复杂技术的工作原理，它们的潜力将更容易被自私自利的精英和企业所抓住。这样的例子在我们身边无处不在。我们每天都会遇到复杂的系统性不透明性，这种不透明性与不平等、暴力、民粹主义和原教旨主义等全球性问题之间存在因果关系。

我们似乎正在进入一个越来越奇异和不可预测的黑暗时代，而不是技术进步所照亮的乌托邦式未来。更广泛地传播更多信息是当下的启蒙思想，但它不但没有增加我们的相互理解与和平，反而似乎导致了社会分裂、不信任、阴谋论和所谓的后真相政治。后真相是无视真相、漠视事实的委婉说法）。要了解正在发生的事情，有必要了解我们的技术是如何形成的，以及我们是如何对它们充满信心的。

“云是互联网的核心隐喻：一个几乎无法控制的强大力量和能量的全球系统”

1950 年代，电气工程师制作的图表中开始出现一个新符号，用于描述他们构建的系统。它是一个模糊的圆圈，或者是一个巨大的蘑菇，或者是一个思想泡泡。最终，它的形状被固定为一朵云。无论工程师做什么，您都可以连接到这个云，这就是您需要知道的一切。另一个云可以是电力系统、数据交换机或其他计算机网络。不管是什么，都无所谓。这种云是一种降低复杂性并让您专注于手头问题的方法。随着时间的推移，网络变得越来越大，互联性越来越强，云也变得越来越重要。它变成了一个商业流行语，变成了一个卖点，它的含义超越了工程的首字母缩写词，它变成了一个隐喻。

今天，云是互联网的核心隐喻：一个强大的力量和能量的全球系统，保留了一些神秘的光环，几乎无法控制。我们在云中工作，我们将文件存储到云中并从中取回，我们一直在体验云，却不了解它是什么。但这个比喻有一个问题：云不是一个神奇而遥远的地方，一切由水蒸气和无线电波构成的地方都起作用。云是电话线、光纤、卫星、海底电缆和充满计算机的数据中心的物理基础设施，它们消耗大量的水和能源。社交空间中许多以前重要的行业已被云吸收：在哪里购物、在哪里银行、在哪里社交、在哪里借书和投票。因此，

位于美国爱荷华州的谷歌数据中心。

在过去的几十年里，随着人类交易员被一排排能够自动交易的计算机所取代，世界各地证券交易所的交易大厅都陷入了沉寂。数字化意味着证券交易所内部和证券交易所之间的交易可以以不断增加的速度进行。随着交易进入机器手中，可以立即做出反应。高频交易算法出现了，它是由一群物理博士生设计的，旨在利用毫秒。人类交易员给他们起名字，比如 Sharp Knives。这些算法每笔交易只赚不到一美分，而且它们每天进行数百万笔交易。

在这些急剧加速的不透明市场中，正在发生一些非常奇怪的事情。2010年5月6日，道琼斯指数受希腊债务危机影响低开，随后数小时道指缓慢下跌。但当天下午 2 点 42 分，道指开始快速下跌。不到5分钟，道指暴跌逾600点。在最低点，该指数比前一天的平均水平低近 1,000 点，较道指下跌 10%，创下有记录以来的最大盘中跌幅。到下午 3 点 07 分，仅用了 25 分钟，道琼斯指数就几乎收复了 600 点的全部涨幅，成为有史以来最大、最快的盘中波动。

在那 25 分钟的混乱中，价值 560 亿美元的 20 亿股股票易手。更令人担忧的是，许多交易是以 SEC 所谓的“非理性价格”执行的：低至 1 美分，高至 100,000 美元。该事件被称为“闪崩”（或简称闪崩），多年后仍在调查和辩论中。

“虽然经验丰富的市场参与者可能能够通过长期稳定崩溃，但当机器面临不确定性时，它会尽快退出”

监管机构的一份报告指出c语言实现神经网络算法，高频交易者加剧了股价波动。在各种高频交易程序中，很多都有一个硬编码的卖出水平：只要股票跌到这个水平，程序就会立即卖出股票。随着股价开始下跌，同时触发了一批程序出售股票。卖出水平被反复击穿，随后股价下跌触发另一批算法自动卖出股票，形成反馈效应。结果，股票价格下跌的速度比任何人类交易者的反应都快。虽然经验丰富的市场参与者可能能够通过长期来稳定崩盘，但是，当机器面临不确定性时，它会尽快退出。

其他理论将导致危机归咎于算法。在数据中发现的一种技术是，高频交易程序向交易所发送大量“无法执行”的订单——即以离谱的价格买卖股票，因此它们被忽略了。事实上，这些交易票的目的不是要价或赚钱，而是故意混淆系统，以便在混乱中执行其他更有价值的交易。在闪崩中，许多无意执行的订单被执行，从而造成了巨大的波动。

闪崩现在是增强型市场公认的特征，但我们对它们仍然知之甚少。2016 年 10 月，受英国退欧谈判负面消息影响，高频交易算法在不到 2 分钟的时间内将英镑兑美元汇率下跌了 6%，随后几乎立即收复失地。几乎不可能知道是哪条特定新闻或哪一种特定算法导致了闪崩。2012 年 10 月，当一个失控的算法放置和取消占美国股市总交易量 4% 的交易时，一位评论员笑着说：“算法的动机尚不清楚。”

2013 年 4 月 23 日下午 1 点 7 分，美联社的 Twitter 帐户向其 200 万追随者发布推文：“突发新闻：奥巴马总统在两次白宫爆炸事件中受伤。” 后来证实，这是在黑客组织叙利亚电子军入侵美联社账号后发布的。美联社和其他记者迅速在推特上发布警告称这是假新闻。然而，追踪突发新闻的算法没有这种辨别力。当天下午1点08分，道琼斯指数开始暴跌。在许多人有机会看到这条推文之前，道琼斯指数在不到两分钟的时间内下跌了 150 点，然后反弹回了之前的水平。在此期间，股市蒸发了 1360 亿美元。

作为智能家居助手c语言实现神经网络算法，华硕 Zenbo 使用摄像头防止撞墙，还通过扬声器和麦克风响应语音命令。

计算技术越来越多地被叠加和隐藏在我们日常生活中的每一个物体中，随着它的扩展，不透明性和不可预测性也随之增加。三星在 2015 年推出了“智能冰箱”，与谷歌日历服务的集成是该产品的营销点之一，该服务允许用户在厨房安排杂货配送。对于当时安全性较差的设备来说，这也意味着如果黑客成功获得访问权限，用户的 Gmail 密码就会被泄露。德国的研究人员发现了一种将恶意代码植入飞利浦 Hue 智能灯泡的方法，该灯泡可以快速关闭或打开安装在建筑物和城市中的这些灯。在极端情况下，它甚至可能引发某些人的光敏性癫痫。在托马斯·品钦的小说《地心引力》中 s Rainbow，“Byron the Lightbulb”也喜欢这种方法，各种小机器联合起来反对制造者的暴政。曾经只存在于科幻作品中的技术暴力，现在正在被物联网实现。

在金斯坦利罗宾逊的小说《极光》中，一艘载有人类船员的智能宇宙飞船从地球前往遥远的恒星。这一旅程将需要数百年，因此航天器的部分工作是确保人类能够照顾好自己。当脆弱的人类社会分崩离析，任务受到威胁时，飞船开始使用安全系统作为控制手段：它可以通过传感器看到一切，随意打开和关闭舱口，并使用通讯设备大声说话（和甚至导致船员的生理不适），以及在灭火系统的帮助下降低给定空间中的氧气水平。

如今，Google Home 及其合作伙伴可以做很多相同的事情：连接互联网的摄像头用于监控家庭安全，智能门锁安装在门上，恒温器可以升高或降低单个房间的温度，以及火灾和防盗系统能够发出尖锐的警笛声。任何经验丰富的黑客都可以控制极光船对其船员的控制，或灯泡拜伦对其所有者的控制。

当他处于狂热状态时，不要太快将这样的场景视为科幻作家的幻想。让我们再想想证券交易所中的流氓算法。这些不是孤立的事件，而是复杂系统中的常见事件。那么，问题来了：流氓算法或闪崩在更广泛的现实中会是什么样子？

例如，会不会像 Mirai 一样，在 2016 年 10 月 21 日让大部分互联网离线数小时的软件？当研究人员调查 Mirai 时，他们发现它针对的是安全性较差的互联网连接设备——例如安全摄像头和数字录像机——并将它们变成了一支“僵尸”机器人军队。Mirai 在短短几周内感染了 500,000 台设备，其中仅 10% 就能够发起攻击，导致主要网络瘫痪数小时。

2008 年，时任伊朗总统内贾德视察了该国在纳坦兹的核设施。

事实上，Mirai 看起来很像 Stuxnet，这是另一种 2010 年在水力发电厂和工厂装配线使用的工业控制系统中发现的计算机病毒。Stuxnet是一种军用级网络武器，研究人员分析后发现，它专门针对西门子离心机，当它遇到一定数量的此类机器时，就会发起攻击。这个特定的数字对应于一个特定的设施，即伊朗纳坦兹的核设施。激活后，震网会悄悄地攻击离心机的关键部件，导致它们发生故障，从而破坏伊朗的铀浓缩计划。

Stuxnet 的攻击在某种程度上显然是成功的，但我们还不知道它如何影响其他受感染的设施。直到今天，没有人知道 Stuxnet 是从哪里来的，尽管有明显的嫌疑人。没有人确切地知道谁开发了 Mirai，或者它的下一次迭代将出现在哪里。但现在，它可能就在那里，隐藏在办公室的闭路电视摄像机中，或者厨房角落的连接水壶中。

或者，现实生活中的闪电崩盘看起来就像是一系列迎合右翼阴谋论和生存主义幻想的大片，从准法西斯超级英雄（美国队长和蝙蝠侠系列）到为酷刑和暗杀辩护（“追捕本拉登”和“美国狙击手”）。在好莱坞，制片厂通过 Epagogix 的神经网络测试他们的剧本，该系统经过训练，可以使用数十年来数百万电影观众开发的偏好来预测哪个句子（Epagogix 没有具体说明）。线条可以触发“正确”的情绪按钮（其中“正确”意味着“最有利可图”）。算法引擎，加上来自 Netflix、Hulu、YouTube 和其他网站的数据，以前所未有的认知洞察力访问数百万视频观众的实时偏好。这个神经网络直接馈入消费者的追剧欲望，运行后可以反映、增强和加深系统固有的妄想。

一个准法西斯超级英雄……克里斯蒂安·贝尔在 2012 年的电影《黑暗骑士崛起》中扮演的蝙蝠侠。

游戏开发者通过 A/B 测试接口和对玩家行为的实时监控，不断升级和改进应用内购买。他们对玩家产生多巴胺的神经通路有如此精细的把握，以至于一些青少年在电脑前突然因疲劳而死去，无法自拔。

还是现实中的闪崩看起来就像一场真实的噩梦，正在直播让所有人看到？2015 年夏天，雅典一家治疗睡眠障碍的医院比以往任何时候都更加忙碌：该国的债务危机正处于最动荡的时期。包括高级政治家和公务员在内的患者在接受治疗时与监测呼吸、运动甚至梦话的机器相连，这些信息连同他们的个人医疗记录一起被发送到机器制造商的诊断数据中心在北欧。什么样的窃窃私语可能会从这样的设施中逸出？

“我们鼓励用户在晚上将手机放在床边，以记录他们的睡眠模式，这些数据去哪儿了？”

通过可穿戴技术，我们能够记录生活的方方面面，并说服自己，我们也可以像这些设备一样优化和升级。带有内置计步器和皮肤电反应监视器的智能手环和智能手机应用程序不仅可以跟踪我们的位置，还可以跟踪我们的每一次呼吸和心跳，甚至我们的脑电波模式。鼓励用户在晚上将手机放在床边，以记录他们的睡眠模式，这些数据去哪儿了，谁成为了他们的主人，什么时候发布？我们做的梦，晚上的心悸，早上的汗水，我们潜意识的现实，关于它的数据，都为那些冰冷而神秘的系统提供了燃料。

或者，现实中的闪电崩盘看起来就像我们现在正在经历的一切：经济不平等加剧、民族国家崩溃、边界军事化、全球监控兴起、个人自由衰落、跨国公司崛起、神经认知资本主义极右翼团体和本土主义意识形态，以及对自然环境的破坏。所有这一切都不是新技术的直接后果，但它们都是无法感知个人和企业行为的网络效应的产物，而这反过来又因增强技术的不透明性和复杂性而进一步加剧。

1997 年，国际象棋世界冠军加里·卡斯帕罗夫第二次与深蓝交手，这是 IBM 为击败他而制造的计算机。失败后，卡斯帕罗夫声称“深蓝”的一些动作非常聪明和有创意，一定是人为干预的结果。然而，我们知道深蓝为什么会做出这些走法：它选择走法的过程最终是一种蛮力形式，14,000 个定制国际象棋筹码形成了一个大规模并行架构，允许深蓝每秒计算 2 亿次走法。卡斯帕罗夫并没有被智取，而是被武力俘虏。

国际象棋世界冠军卡斯帕罗夫对战 IBM 电脑“深蓝”。

2016 年，当由 Google Brian 提供支持的 AlphaGo 软件与韩国职业围棋选手李世石对抗时，情况发生了变化。在五番棋的第二局中，AlphaGo 将棋子落在了棋盘的另一端，这一举动让李世石感到惊讶。“这是一个非常奇怪的举动，”一位评论员说。“我认为这是一个错误，”另一位评论员说。六个月前，老将范辉成为第一个输给 AlphaGo 的职业围棋选手，他说：“这不是人类的举动，我从未见过人类棋手这样下棋。”

AlphaGo 赢了第二局，然后赢了五局。当 AlphaGo 工程师开发该软件时，他们为神经网络输入了数百万专业棋手的棋步，然后让它自己玩数百万次游戏，以开发出一款在国际象棋上可以超越人类的游戏。手战略。然而，AlphaGo 的这些策略仍然难以捉摸：我们可以看到它落在哪里，但看不到它是如何决定的。

已故作者 Iain M Banks 将做出决策的地方称为“无限乐趣空间”。在他的科幻小说《文化》中，文明是由一个名为 Minds 的仁慈的超级智能人工智能 (AI) 运行的。虽然心智最初是由人类创造的，但它们早已重新设计并重建为无所不能的系统。在控制船只、管理行星、指挥战争和照顾数十亿人的同时，Minds 发现自己很开心。他们能够在自己的想象中模拟整个宇宙，因此一些思维会永久地退回到无限有趣的空间，这是一个只有超级智能人工智能才能进入的超数学可能性领域。

“2016 年，谷歌的三个网络开发了一种私有形式的加密。机器正在学习保守秘密”

很多人都熟悉 2006 年推出的谷歌翻译，它使用了一种叫做“统计语言推理”的技术。它不是试图理解语言是如何工作的，而是利用大量现有的翻译语料库，即用不同语言表达相同内容的平行文本。通过将一种语言的单词直接映射到另一种语言，它消除了翻译中的人类理解，并用数据驱动的相关性取而代之。

谷歌翻译在翻译方面闹了很多笑话，但在 2016 年，该系统开始使用谷歌大脑开发的神经网络，其翻译能力呈指数级提升。神经网络不是简单地交叉引用大量文本，而是建立自己的世界模型，其结果不是单词之间的二维连接，而是包含整个领域的地图。在这种新架构下，单词根据它们与另一个单词的接近程度进行编码，形成一个只有计算机才能理解的含义网络。

虽然可以很容易地在“坦克”和“水”之间划清界限，但在地图革命中画出“坦克”和“水”以及“水”和“流动性”之间的联系，并提取所有的情感和从这些联系中推断出来，那么它就变得不可能了。因此，地图是多维的，超出了人类思维的能力。正如一位 Google 工程师描述的系统：“我不喜欢在三维空间中可视化千维向量。” 这是机器学习系统产生意义的无形空间。它是视觉描述的，我们甚至无法理解。

同年，其他 Google Brain 研究人员创建了三个网络，分别名为 Alice、Bob 和 Eve，其任务是学习如何加密信息。Alice 和 Bob 都知道一个数字——在密码学中，这个数字是关键——但 Eve 不知道。Alice 想对一串文本执行一些操作并将其发送给 Bob 和 Eve。如果 Bob 可以解密消息，Alice 的分数就会增加；但如果 Eve 也能解密消息，Alice 的分数就会被扣除。

经过数千次迭代，Alice 和 Bob 学会了在没有 Eve 解密消息能力的情况下进行通信：他们开发了一种私有形式的加密，很像当今私人电子邮件中使用的加密。但重要的是，我们不知道这种形式的加密是如何工作的，而且它的操作被网络的深层所掩盖。夏娃不知道的信息，我们也不知道。机器正在学习保守秘密。

“我们无法撤消网络的想法；我们只能在网络中思考和思考”

我们如何理解和思考我们在世界上的位置以及我们彼此之间以及与机器的关系将最终决定技术将我们带向何方。我们无法撤销网络的想法；我们只能在网络中思考。让我们理解现实的技术，塑造我们对现实感知的技术不会消失，在很多情况下，我们不应该希望它们消失。在一个拥有 75 亿人口且还在不断增长的星球上，我们目前的生命支持系统依赖于这些技术。我们对这些系统的理解，以及我们在设计它们时有意识地做出的选择，仍然触手可及。我们并非无能为力，我们并非没有帮手。我们只需要思考、思考并继续思考。整个网络——我们、我们的机器，以及我们一起思考和发现的东西——都需要它。

作为工具，计算系统突出了人类最强大的方面之一：我们高效行动和随心所欲改变世界的能力。但是，揭示和表达这些愿望并确保它们不会贬低、推翻、消除或消除他人的愿望仍然是我们的特权。

1997年卡斯帕罗夫被击败时，他并没有放弃国际象棋。一年后，他以一种新的形式重返赛场：高级国际象棋，也被称为“半人马”国际象棋。在这盘棋中，人和机器不再竞争，而是合作。这种方法很快产生了一些非常有趣的结果。虽然中级国际象棋计算机可以横扫当今的大多数特级大师，但当一个平庸的棋手与一台平庸的计算机配对时，他们可以击败最先进的超级计算机——而且，这种思维方式组合所产生的游戏彻底改变了国际象棋。人类是否有可能与正在开发的复杂机器和治理系统合作——或者这种合作是否会被允许——还有待观察，但共同的理解和思考提供了一条比模棱两可和支配更有希望的途径。前进的道路。

我们的技术是我们自己的延伸，编码在机器和基础设施中，在知识和行动的框架中。计算机的意义不是给我们所有的答案，而是让我们以新的方式提出关于宇宙的新问题。