基辛格谈ChatGPT：人类还没准备好本文来自微信公众号：
seesayso（ID：gh_7504995ab922）
，原文标题：《基辛格：ChatGPT预示着一场智能革命，而人类还没准备好》，题图来自：《终结者：创世纪》
2023年，ChatGPT引爆了全球对人工智能的广泛关注。科技界、知识界和产业界，围绕着AI
（人工智能）
的发展前景、影响冲击等发生激烈争论。而ChatGPT本身正引发一系列深刻的连锁反应，席卷至各个行业、企业、国家乃至个人。
著名外交家、美国前国务卿亨利·基辛格和谷歌前首席执行官埃里克·施密特、麻省理工学院苏世民学院院长丹尼尔·胡腾洛赫尔今年联名在华尔街日报发表文章《ChatGPT预示着一场智能革命》。文章中提出“一项新技术正试图改变人类认知过程，这是自印刷术发明以来从未经历过的震动。这项新技术被称为生成人工智能。OpenAI研究实验室开发的ChatGPT现在能够与人类交流。随着它的能力变得更广泛，它们将重新定义人类知识，加速我们现实构造的变化，并重组政治和社会。”
基辛格已经步入100岁高龄，但是他头脑依然很清醒，思路依然很清晰。一直非常关注人工智能的发展，他曾经说过“搞技术的人关心的是应用，我关心的是影响”。在这篇文章中他强烈呼吁“人类需要重新定义与AI这种新物种之间的关系，而且我们人类对于这一切还没有准备好”。
近期由基辛格、施密特和胡腾洛赫尔共同完成的新书《人工智能时代与人类未来》出版，从政治、经济、科技等维度探讨人工智能及其改变人类社会的方式，也提出了人类在未来几年所必须面对的问题以及解答工具。
人工智能可能导致启蒙运动的终结
1450年，德国美因茨市的金匠约翰内斯·谷登堡用借来的钱研制了一台试验性的印刷机。他的努力难言成功，因为他的生意一度陷入困境，债权人还起诉了他。但在1455年，欧洲的第一本印刷读物《四十二行圣经》问世了。最终，他的印刷机引发了一场革命，在西方乃至全球生活的各个领域都产生了强烈反响。
印刷机的发明使对经验知识的追求取代了礼仪教义，启蒙时代逐渐取代宗教时代。个人思想和科学知识取代信仰，成为人类意识的主要标准。信息通过图书馆的扩张得到存储和系统化。启蒙时代是塑造当代世界的诸多思想和行动的来源。
生成性人工智能提出了一个自启蒙运动开始以来从未经历过的哲学和实践挑战。
印刷机使学者们能够迅速复制彼此的发现并分享它们。信息的空前整合和传播产生了科学方法。原本密不透风的东西变成了加速查询的起点。以宗教信仰为基础的中世纪对世界的解释逐渐被削弱。宇宙的深处可以被探索，直到达到人类理解的新极限。
启蒙运动试图使传统的真理让位于解放后的人的分析理性。而互联网的目的是通过积累和操纵不断扩大的数据，获取知识。人类的认知失去了个体特征。个体变成了数据，而数据变成了统治者。
当信息被情境化时，它就变成了知识。当知识令人信服时，它就变成了智慧。然而，互联网让用户淹没在数以千计，甚至数以百万计的其他用户的意见中，剥夺了他们持续思考所需的独处感，而从历史上看，正是这种独处感催生了对知识的信念。随着独处感的消失，坚毅的精神也不复以往——须知不仅信念的形成需要坚韧不拔的毅力，保持对信念的忠诚也一样，当这种信念需要穿过未有前人踏足的，因此往往是孤独的道路才能获取时尤其如此。这种信念也只有与智慧相结合，人们才能进入和探索新的世界。
数字世界对智慧没有多少耐心，它的价值观是由赞许而不是自省塑造的。它从本质上挑战了启蒙运动认为理性是意识最重要因素的主张。数字世界消除了过去距离、时间和语言对人类行为的限制，它本身就提供了一种有意义的联系。
随着人工智能的崛起，对人类角色、人类愿望和人类成就的定义都将发生变化。在这个时代，人类的哪些品质值得颂扬？其指导原则是什么？人们有两种认识世界的传统方式：信仰和理性；如今又添上了第三种——人工智能。
在一个人工智能可以评估我们生活中的诸般事物，预测接下来会发生什么，并决定该做什么的时代，即一个现实可以被预测、近似和模拟的时代，人类理性的角色将会改变。我们对个人和社会的目标感也会随之改变。在某些领域，人工智能可能会增强人类的理性。在其他领域，人工智能则可能会让人类产生一种置身事外的感觉。
各个社会都有两个选择：一个是各自为战；另一个则是带着合作意向开始对话，举全人类的进步之力来界定人工智能的角色，同时明晰我们自己的角色。前一种路径是弃权式的默认，而后一种则需要领导人和哲学家、科学家和人文主义者，以及其他各种团体的清醒参与。
最终，个人和社会将不得不决定，生活的哪些方面应该留给人类智能，哪些方面则应交由人工智能或人类与人工智能的合作。人类与人工智能的合作并不是一种对等关系。归根结底，人工智能既由人类构建，也由人类指挥。但随着我们逐渐习惯和依赖人工智能，对其加以限制可能会导致更高昂的成本、更困难的心理挑战，甚至更复杂的技术。我们的使命将是了解人工智能给人类经验带来的变化、它对人类身份的挑战，以及这些发展变化的哪些方面需要由其他的人类义务来加以调节或制衡。人类未来将如何呈现，这取决于人类在人工智能时代的角色界定。
人工智能革命发生之迅猛，将超过大多数人的预期。除非我们发展出新的概念来解释、演绎和组织其所带来的转变，否则无论是对人工智能还是对其所产生的影响，我们都无法驾驭。在道德上、哲学上、心理上、实践上，可以说在各个方面，我们均发现自己正处于一个新时代的悬崖边，身后已无路可退。我们必须动用自己最根本的素养和资源，比如理性、信仰、传统和技术，来调整我们与现实的关系，从而让现实仍是人类的现实。
人工智能将引发教育革命
人工智能时代的到来将改变我们与他人，以及我们与自己的关系。正如今天的“数字原生代”和之前的几代人之间存在代沟一样，“人工智能原生代”和他们的前辈之间也会出现差异。
未来，孩子们可能在比Alexas和谷歌Homes更先进的人工智能助手的陪伴下长大，这个助手集保姆、导师、顾问、朋友等多种角色于一身。这样的助手几乎可以教孩子任何语言，也可以训练孩子学习任何科目，并根据每个学生的表现和学习风格来因材施教，使他们获得最佳的学习效果。当孩子感到无聊时，人工智能可以充当玩伴；当孩子的父母不在时，人工智能又可以成为监护者。随着由人工智能提供和量身定制的教育被引入，普通人的能力既会有所提高，也会面临挑战。
人类和人工智能之间的界限将会惊人地模糊。
如果孩子在年幼之时就用到了数字助手，他们就会对此习以为常。同时，数字助手将与它们的主人一起成长发展，并随着他们的成熟，将他们的喜好和偏见逐渐内在化。数字助手的任务是通过个性化最大限度地提高人类同伴的便利感或满足感，它们给出的建议和信息可能会被人类用户视为必不可少，即使人类用户无法准确解释为什么它们要好于其他任何替代资源。
长此以往，人们可能会更偏爱自己的数字助手，而不是人类。因为人类不懂得投其所好，而且更“令人讨厌”。结果，
我们对彼此的依赖、对人际关系的依赖，可能都会被削弱
。到那时，那些童年时代妙不可言的特质和无可替代的教训将变成什么样子呢？一种并不能感知或体验人类情感却给予无处不在陪伴的机器，将如何影响孩子对世界的感知及其社会化？它将如何塑造想象力？它将如何改变游戏的本质？它将如何改变交友或融入社会的过程？
可以这么说，数字信息的唾手可得已经改变了一代人的教育和文化体验。现在，世界正在开展另一项“伟大实验”，在这个实验中，孩子们将在机器的陪伴下成长，这些机器将在许多方面充当以前人类教师那样的角色，却没有人类的感觉、洞察力和情感。最终，实验参与者可能会问，他们的经历是否以他们未曾预料或不能接受的方式被改变了呢？
父母也许会因为担心这种接触会对孩子产生不确定的影响而排斥这种技术。
就像上一代的父母限制孩子看电视的时间，现在的父母限制孩子使用数码设备的时间一样，未来的父母可能会限制人工智能陪伴孩子的时间。但那些希望推动孩子取得成功的人，或者没有意愿或能力让孩子得到人类父母养育或人类导师教导而只能依赖人工智能的人，或者只是想满足孩子结交人工智能朋友愿望的人，可能会赞成让孩子与人工智能为伴。因此，这些尚处在学习与发展阶段、易受影响的孩子，可能通过与人工智能的对话形成他们对世界的印象。
具有讽刺意味的是，尽管数字化让越来越多的信息变得可用，但它却压缩了深入、专注思考所需的空间。今天几乎持续不断的媒体流增加了思考的成本，从而减少了思考的频率。算法为了回应人类对刺激的渴望而力推那些夺人眼球的事物，而能够夺人眼球的，往往也是戏剧性的、出人意料的和有感染力的。一个人能否在这种环境中找到思考的空间是一个问题，而如今占主导地位的交流形式不利于促进有节制的理性，这是另一个问题。
人类要对未来做好准备
机器学习系统已经超越了任何一个人的知识。在有限的情况下，它们已经超过了人类的知识，超越了我们所认为的可知边界。这已经在取得这种突破的领域引发了一场革命。人工智能已经改变了生物学中确定蛋白质结构的核心问题和高级数学家做证明的问题，以及其他许多问题。
随着模型从人类生成的文本转向更具包容性的输入，机器可能会改变现实本身的结构。
量子理论认为，观察创造了现实。在测量之前，没有任何状态是固定的，也没有任何东西可以说是存在的。如果这是真的，如果机器的观察也能固定现实，并且鉴于人工智能系统的观察具有超人的速度，定义现实的演变速度似乎会加快。对机器的依赖将决定并因此改变现实的结构，产生一个我们还不了解的新未来，我们必须为探索和领导这个未来做好准备。
传统的理性和信仰将在人工智能时代继续存在，但其性质和范围必将因为引入一种新的、强有力的、机器运作的逻辑形式而受到深刻影响。人类身份可能会继续停留在“生命智能”的顶峰，但人类理性将不再被视为致力于理解现实的智能的全部。为了厘清我们在这个世界上的地位，我们的侧重点可能需要从“以人类理性为中心”转移到“以人类尊严和自主性为中心”。
人工智能可能在探索和管理现实世界和数字世界方面发挥主导作用。
在特定领域，人类可能会对人工智能言听计从，更喜欢人工智能的数据处理过程，而非人类思维的局限性。这种遵从，可能使许多人甚至大多数人退回到一个个人的、过滤的、定制的世界。在这种情境下，人工智能的力量加上它的普遍性、隐蔽性和不透明性，将引发人们对自由社会甚至自由意志前景的怀疑。
在许多领域，人工智能和人类将成为探索事业中的平等伙伴。因此，人类的身份将反映出与新关系的和解，无论是与人工智能还是与现实。不同的社会将为人类领导权开辟不同的领域。同时，它们将形成必要的社会结构和习惯，以理解人工智能并与其有效互动。
为了与人工智能融洽相处，社会需要建立相应知识和心理基础设施，并运用其独特才智，尽可能地造福人类
。技术将迫使政治和社会生活的许多方面
（实际上是大多数方面）
做出调整。
一些社会和制度可能会逐步适应，然而，另一些却可能会发现，它们的基本假设与它们感知现实和自身的方式相冲突。由于人工智能促进了教育和信息获取，同时也增加了信息被夸大和操纵的可能性，这些冲突可能会愈演愈烈。个人的消息会更灵通、准备会更充分、观点会有更大影响力，他们可能据此对政府提出更多要求。
对此，可以给出一些原则。首先，为了确保人类的自主权，政府的核心决策应该脱离已被人工智能浸染的结构，并仅限于人类的管理和监督。我们社会固有的原则规定了对争端的和平解决。在这个过程中，秩序与正当性是互为关联的：
没有正当性的秩序只是力量而已。
确保人类对政府基本构成部分的监督和决定性参与，对于维持其正当性至关重要。例如，在司法行政过程中，提供解释和道德推理是其正当性的关键要素，这使参与者能够评估裁决的公平性，并在其结论不符合社会所坚持的道德原则时对其提出疑问。由此可见，在人工智能时代，当涉及重大问题时，决策者都应该是具备相应资质、能够为所做选择给出理由的非匿名人类。
每个社会必须首先确定人工智能在各个领域允许和不允许使用的全部范围。对某些强大的人工智能，如通用人工智能的使用权，需要严格把关，以防止被滥用。因为通用人工智能的构建成本可能相当高昂，只有少数组织能够负担得起，所以其使用可能会受到限制。某些限制可能违反一个社会关于自由企业和民主进程的理念。对于其他方面的限制，如限制在生物武器生产中使用人工智能，应该很容易达成一致，但需要国际合作。
机器的发展速度将远远超过我们的基因，造成国内的混乱和国际的分歧。我们必须做出相应的反应，特别是在国家和全球范围内的哲学和概念主义。正如伊曼纽尔·康德在三个世纪前所预言的那样，全球协调将需要通过感知或灾难来出现。
欧盟已经勾勒出监管人工智能的计划纲要，目标是加强对企业和政府使用数据和人工智能方式的管理，并促进欧洲人工智能公司的创建和发展。该监管框架包括对人工智能的各种用途进行风险评估，并限制甚至禁止政府使用某些被视为具有高风险的技术，如人脸识别
（尽管人脸识别有一些有益用途，如寻找失踪人口和打击人口贩运）
。毫无疑问，这些初步概念会面临广泛的争议和修改，但这也是一个社会决定限制人工智能范围，并相信此举能够使其推动生活方式进步和未来发展的先例。
ChatGPT对很多问题给出的答案之所以令人回味，是因为它们提出的问题多于结论。
目前，我们拥有一项新颖而壮观的成就——人工智能，它是人类思想的荣耀。我们还没有为它进化出一个目的地。当我们成为技术智人时，我们迫切需要定义我们物种的目的。现在，我们有责任提供真正的答案。
本文来自微信公众号：
seesayso（ID：gh_7504995ab922）
本内容为作者独立观点，不代表虎嗅立场。未经允许不得转载，授权事宜请联系 hezuo@huxiu.com
如对本稿件有异议或投诉，请联系tougao@huxiu.com
Source:
基辛格谈ChatGPT：人类还没准备好
Topic: 基辛格谈ChatGPT：人类还没准备好 (Read 109 times)
