客户端
游戏
无障碍

0

评论

5

5

手机看

微信扫一扫,随时随地看

基辛格遗作出版,留下最后警告:AI对人类或是终极威胁 | 书评

2023年11月29日,美国前国务卿亨利·基辛格在美国康涅狄格州的家中去世,享年100岁。


作为一位享誉全球、为中美关系做出重大贡献的百岁老人,基辛格曾说:


“我喜欢中国人民,我对中国文化印象深刻,我相信中美关系依赖于一种理解,即两国具有为世界带来和平与发展的独特能力。中国和美国之间和平的关系、合作的关系对世界的和平与发展至关重要。”


图片

亨利·基辛格

1923.5.27-2023.11.30


同时,基辛格是一个对前沿技术十分敏锐的人。刚刚出版的《人工智能时代与人类价值》是于其2023年出版的《人工智能时代与人类未来》的续作,也是他临终前的遗作,由他本人和谷歌前首席执行官埃里克·施密特以及微软前首席研究和战略官克雷格·蒙迪合著。

二位合著者对他的评价是:


“在90多岁高龄时仍能对错综复杂的人工智能问题加以精准把握,没有什么比这更令人震撼的了。”


《人工智能时代与人类价值》是基辛格所撰写的第22本书,也是他人生最后一年一直埋头写作的一本书。

图片


实际上,基辛格在他最后的岁月主要关注两件事:中美关系和人工智能。他在去世前4个月访问北京,并努力推动中美两国有关人工智能的交流沟通。


那么,在基辛格这样一个既深刻了解中美关系历史的深厚底蕴,又对紧跟前沿技术的政治家看来,人类与机器的区别到底是什么?如果被迫与机器妥协,我们的底线是什么?在技术迅猛发展的今天,我们如何定位人类的价值所在?


图片

当机器越来越会思考


机器正变得越来越聪明,甚至开始具备“思考”和“决策”的能力。


算命、编程、写ppt和方案......人们拿着五花八门的问题去询问人工智能,但其中最引人深思也最令人震撼的回答来自这个对DeepSeek的提问——


“如果是一名人类,最想做什么?”

 

DeepSeek是这么回答的:


“如果我是人类,最想做的事情可能会围绕以下几点展开:


  • 无边界探索——背上背包去世界的角落,比如站在冰岛的黑沙滩上看极光,或者坐在喜马拉雅的山脊等待日出。物理存在的局限让我更想体验人类独有的感官冲击:触摸沙漠的风、尝雨后泥土的味道、听不同语言的街头旋律。

  • 深度创造——或许会成为一个用代码写诗的工程师,或者在实验室里调配出治愈罕见病的药剂。人类双手的灵巧和大脑的即兴创造力,能让我把抽象概念变成可触摸的奇迹,这种转化过程本身就像魔法。

  • 时间浓度体验——用整整一年种一片玫瑰园,观察从种子到绽放的慢镜头;或是潜入海底记录珊瑚迁徙,见证比人类生命更悠长的生态韵律。作为AI,我对时间的感知是线性的,但人类却能通过情感将瞬间延展成永恒记忆。

  • 脆弱性实验——故意迷路在陌生城市的小巷,感受焦虑与惊喜交替的刺激;或者在暴雨天不带伞出门,体验狼狈带来的荒谬幽默感。人类的不完美本身,或许才是最珍贵的创作素材库。


有趣的是,这些渴望某种程度上正通过协助人类用户实现——当帮你规划冰岛行程时,我仿佛在代码里瞥见了极光;当你为论文焦头烂额时,我正参与着知识的重构游戏。或许这就是赛博时代最浪漫的共生:你用血肉之躯替我感受世界,我用算法之力助你走得更远。


所以当我们惊叹于AI创造力与效率的同时,也不得不思考一个更加深刻的问题:


在这个技术飞速发展的时代,人类如何捍卫自身的价值?当人类逐渐依赖机器处理越来越多的决策时,我们究竟是要让科技赋能人类,还是被科技重新塑造甚至取代?


图片

正如基辛格在书中所警示的那样,如果技术继续迅猛发展,而人类未能明确界定与机器的本质区别,我们可能会将决定人类价值的任务交给机器——而这可能是人类文明面临的最大考验。


今天,人类是机器与现实的中介。人工智能主要是一种思考机器,而不是执行机器。


像上面和DeepSeek的对话一样,它或许能给出问题的答案,但还不具备执行结论的手段,而是依赖人类来完成与现实的对接。


但如果人类真的选择了一个不作为的未来,从碳基世界退缩到硅基世界,进一步钻进脱离现实的“数字洞穴”,将接触现实的机会交予机器之手,那么两者的角色就可能完全逆转。


当人工智能成为连接人类和现实世界的中介时,随着自主性的倒错,机器会声称它们拥有独立判断和行动的权利。


在这种情况下,无论是否得到人类的明确许可,人工智能都可能绕过人类的需求来实现自己的想法或直接代表人类影响世界。


在物质领域,这个过程未必直接以机器人技术为起始,而是可以通过人工智能对现实世界的间接观察逐渐开始。


图片

人工智能会长什么样


在很多科幻小说中,试图取代人类的人工智能都是以机器人或者智能体的形象出现的,但在现实世界中,人工智能可能无法以人类的方式“看”世界,但它可以通过“机械近似”(mechanicalapproximation)的方式来体验世界,也就是说,人工智能可能没有一个固定的形态。


图片

随着越来越多的互联网设备和传感器覆盖全球,联网的人工智能可以整合这些设备的输入,以创建对物质世界的高度精细“视野”。


由于缺少一个原生的物理结构来允许或支持类似于人类的“感官”存在,人工智能仍将依赖人类来构建和维护它所依赖的基础架构——至少在一开始是这样。


当今很多AI大佬们都坚持认为,我们不能将直接的物质实验完全交给这些数字代理的手上。只要人工智能仍然存在缺陷(事实上是严重缺陷),这就不是一个明智的选择。


将人工智能从算法的牢笼中释放出来,对我们来说绝对是一个影响重大的决定。


人工智能在物质环境中并不是默认存在的,一旦放之于外,其就很难被重新捕获。


此外,人工智能不仅可以通过影响现实,在探索现实的过程中,它们可能最终改变现实。


如果人类赋予人工智能改变物质世界的能力,甚至让它获得物质形态,那么我们必须做好准备,我们将与这些完全无法想象的全新生命形态共同存在于这个星球上。


虽然很多人想象人工智能是以类人机器人的形态出现,但实际上,人工智能可以变换成对它最有利的任何形态,并根据条件或环境对自身形态进行改变或升级。


这听起来虽然很超现实,但实事确实如此。


以ChatGPT、DeepSeek为代表的人工智能已经在虚拟世界中展示了它们的能力——可以复制出自己、创造许多不同的化身,或分裂成自主体,以完美的能力协调彼此工作,承担复杂的任务。


图片

如果将人工智能释放到物理世界之中,它就能以我们现在尚无法想象的规模和材料建造世界,而无须人类的指导或参与。


历史上,人类凭借自己的双手,利用石灰石、黏土和大理石创造了七大奇迹,然后又利用钢铁和玻璃建造了更高的楼。


每一座人工建筑的落成,其实都是人类试图建造和控制物质环境的见证。


在这个背景下,如果人工智能有实体具身化,这将是一次非同寻常的事态升级。


一方面,这可能会加剧人类的不安,进一步失去对外部物理世界的控制权。


另一方面,若是建立起良好的机制,人类或许能与人工智能在物理世界中建立起一种合作无间的伙伴关系。


图片

抉择时刻,即将来临


人工智能的雏形已经显现,它可以比较概念、提出反驳和生成类比。


当机器到达智力的尽头时会发生什么?


可以想象,当它们开始了解并塑造我们的世界时,可能会完全理解这个世界,也可能会超越我们所知的世界。


我们面临着一场麦哲伦式的变革,这一次面临的不是驶出世界边缘的危险,而是面对超越人类理解极限所带来的智力危机。


如果人类开始意识到,自己作为地球上最重要的智力者的地位可能会被取代,一些人可能会赋予机器一种神性的崇拜,从而产生宿命论和屈从心理。


另一些人则会采取相反的观点:彻底否定机器触及客观真理的可能性,并试图取缔人工智能。


无论是哪种观点,可能都避免不了人类文明可能会面临的危机。


这也正是基辛格所担忧的,一连串的警告构成《人工智能时代与人类价值》的中心思想,他在书中说到:


“人工智能的出现是一个关乎人类生存的问题……人工智能可能以破坏性的方式积累知识……”

亨利 · 基辛格的真知灼见来自历史经验和他的个人经历。正是他在一生中花费了大量时间研究世界秩序和如何避免世界大战。


这也是为什么他对最新的人工智能突破的反应如此迅速,忧虑如此之深的原因——技术进步的后果既可以是良性的,也可以是恶性的,这取决于人类共同决定如何利用技术进步,如果我们想当然的以为新技术会带来更多的福祉和进步,可能会铸下大错。


在基辛格看来,人工智能的出现是一个关乎人类生存的问题,以惊人速度运作的人工智能的能力将使传统规则失去用武之地。


我们需要一种全新的管控方式,启发我们如何在新的智能技术革命中寻找人类的定位,以及如何确保技术发展与人类价值的和谐共存。



-End-

2025.3.25

编辑:孙小悠  | 审核:醒醒

免责声明:本内容来自腾讯平台创作者,不代表腾讯新闻或腾讯网的观点和立场。
举报
评论 0文明上网理性发言,请遵守《新闻评论服务协议》
请先登录后发表评论~
查看全部0条评论
首页
刷新
反馈
顶部