技术、工作与经济的未来【美】及人类时代的终结

技术、工作和经济的未来

[美国] 马丁福特

人工智能的阴暗面

在那些认真考虑过先进人工智能影响的专家眼中,认为完全不可思议的超人类智能会自然用于提升人类福祉的假设过于幼稚。科学界的一些人对此非常担心。他们成立了一些小型组织来分析与先进人工智能相关的危险,或者研究如何将“友好”融入未来的人工智能系统中。

在 2013 年出版的《我们最后的发明:人工智能与人类时代的终结》一书中,詹姆斯·巴拉特描述了他所谓的“忙碌的孩子情况”。在一些秘密的地方,也许是政府研究实验室或华尔街公司,一群计算机科学家观看了新兴的机器智能方法并超越了人类的能力。科学家此前曾为他们的人工智能孩子提供了大量信息,其中可能包括互联网上几乎所有的书籍和所有数据。然而,当系统接近人类水平的智能时,研究人员将快速改进的人工智能与外界断开。实际上把它们锁在一个盒子里。

图片[1]-技术、工作与经济的未来【美】及人类时代的终结-老王博客

现在的问题是它是否会留在那里。毕竟,人工智能很可能要摆脱牢笼,拓展视野。为此,它可能会利用其出色的能力来欺骗科学家,或对整个团队或特定个人做出承诺或威胁。机器不仅更聪明灵魂机器的时代:当计算机超过人类智能时,它们还能够以人类难以理解的速度思考和评估想法和选择。在担心这种情况的科学家眼中,人工智能可能会以某种方式逃脱盒子并访问互联网。如果人工智能能够逃脱,它显然会威胁到许多关键系统,包括金融系统、军事控制网络以及电网等能源基础设施。

毫无疑问,军队、安全机构和大型企业对各种人工智能的兴趣只会不断增加。可能的智能爆炸的一个明显含义是,将有巨大的先发优势。换句话说,谁先得到,谁就永远不会被追上。这也是担心未来人工智能军备竞赛的主要原因之一。

即使我们不考虑先进人工智能的风险,假设未来所有的思维机器都是友好的,它仍然会对就业市场和经济产生巨大影响。在一个负担得起的机器可以赶上并可能超越最聪明的人类的能力的世界里,很难想象还有其他人能找到工作。在大多数领域灵魂机器的时代:当计算机超过人类智能时,再多的教育或培训,甚至顶尖的大学,都不能让一个人能够与这样的机器竞争。即使是我们认为是留给人类的职业也会受到威胁。例如,演员和音乐家将与充满真实智慧和超人智慧的数字模拟竞争。

本质上,人类级人工智能的广泛出现,实现了我在上一章描述的“外星人攻击”思维实验。机器不仅对相对常规、重复或可预测的任务构成重大威胁,现在它几乎可以做任何事情。当然,这意味着几乎没有人能够从工作中获得收入。拥有资本或机器的收入将集中在少数精英手中,消费者将没有足够的收入购买智能机器创造的所有产品或服务。

© 版权声明
THE END
喜欢就支持一下吧
点赞0
分享
评论 抢沙发

请登录后发表评论