观点

在2024亚布力论坛第二十四届年会【中国商业心灵】环节，亚布力中国企业家论坛轮值主席、新东方教育科技集团董事长俞敏洪，金沙江创业投资主管合伙人丁健，多点 DMALL创始人、物美集团创始人张文中，三位大咖围绕上述问题，共同探讨科技与人性的本质与关系。

 

张文中：丁健是中国最早让公司在纳斯达克上市（2000年）的企业家，他的合伙人是田溯宁，可以说，这些年他们一直在引领科技的未来，请丁健分享下这些年探索AI的体会。

丁健：的确，如今AI已成为大家在任何场合都在讨论的话题，这说明AI的影响之大。我很赞同周鸿祎说过的一句话：All in AI。AI对企业家来说已经不是一个选择项，而是一堂必修课。大约十年前，我开始接触AI，并且第一次听到Deep learning（机器学习领域中一个新的研究方向，它被引入机器学习使其更接近于最初的目标——人工智能）这个词，随后过了两三年，我在亚布力论坛做了一场闭幕演讲，标题很耸人听闻，叫“人工智能：下一场核战争”。那时我估计所有人都认为我的题目很夸张，但今天大家可以看到，AI的力量和威力已远超核武器。本场论坛的主题是“科技与人性”，敏洪一定也会提到AI。

俞敏洪：其实我认为，在某种意义上说，科技的发展已经在扭曲人性了。例如，手机是科技的成果，如果我们的手机突然找不到，会比丢了一个手提包还要着急，哪怕这个包是爱马仕。为什么会这样？一是因为手提包不会透露任何个人信息，可手机一旦被别人捡到和破译，就相当于我们会“裸奔”；二是因为手机已经代替了人们的思考功能，同时，人们在面对现实世界时也需要借其发泄。比如，去年我被网暴很多次，其实，那些网暴我的人并不是在骂我，他们只是想通过一个事件来发泄自己的情绪。当我理解这一点后，我选择心平气和地对待所有骂我的人。这个事件背后反映的问题是，在虚拟世界，人们不用面对面交流，不用遵循现实社会的传统习俗、社会礼仪，大家会表现出自己直率的一面，也会无所顾忌地表达，因为不会受到惩罚。

当然，上面是一个个例，我对此没有正面评价，也没有负面评价。但我前面说，我们如果弄丢了手机，会比丢了命还要着急，其实这意味着，科技在某种意义上参与了人性的重建，而我认为，科技参与人性重建，一方面它会弘扬人性中“善”的一面，但另一方面，它也会无限扩大人性中“恶”的一面，而我们又生活在一个时而虚拟、时而现实的世界中，这可能会使我们不再能那么真实地生活在现实世界中。

所以我特别在意“科技如何引导人往更温暖、更善意、更合作、更宽容的方向发展”这件事，我在社交平台发的每一个视频、每一段文字都希望能接近这个目标。既然科技给了人们力量，那么那些有能力利用科技的人，就必须把人类社会往好的方向去引导，这是天然的责任。

科技是中性的，人性也是中性的，我从不相信人天生为善或为恶，人在刚出生时都是一张白纸，是后天的坏境把人往善或恶的方向引导。我们要做的是，如何让科技掌握在真能为人类造福的人手里，以及如何让一个社会环境通过科技能引导人向善，而不是作恶。

丁健：我很赞同敏洪的观点。当年互联网诞生的时候，其实大家有过很多担心，我认为，科技的发展确实会产生问题，但这些问题最终还是要靠科技的进一步发展去解决，当然，前提是社会拥有好的法治体系和完善的道德教育体系。

埃隆·马斯克被很多人问到，孩子是否应该在AI时代学计算机？他的回答是，千万别去，因为第一个被取消掉的工作就是软件工程师。当时大家对这个答案感到不可思议，但如今这个现象在硅谷真实发生了。陆奇也曾和我讲过：这个世界最终只需要5%的人口就能满足全部人类的物质需要，因为很多事情可以被AI完成。我问他：那剩下的95%的人干吗？他说：Entertain each other（互相娱乐）。他们后来确实开始进入游戏领域，推进Xbox。

可见，以前所讲的科学对人类社会的影响与AI下一步对人类社会的影响相比，绝对是小巫见大巫。以前人们只是被科技取代了手脚，从未想到有一天会被科技取代大脑，所以，不管大家从事哪一个行业，面对AI时都要做好心理准备。

但从另外一个角度看，能让95%的人都闲着没事干总比让95%的人饿死要强很多。当人们不需要为生活焦虑时，我想犯罪率也应该会降低的。这也反映了我的立场。前段时间人们对Open AI的看法分为两个派别，一派认为应该合理加速，另一派认为要超级对齐，意思是不能让它太快，必须控制它的发展，因为害怕它有一天产生很糟糕的影响。我站加速派，我认为应该让AI适当加速发展。

总体来说，当科学和人性出现矛盾的时候，我认为我们还是要相信科学的力量。科学是中性的，当“矛”出来的时候，也可以造出“盾”去制约它，世界会在“矛”与“盾”的过程里得到发展。当年核武器的出现也让大家认为世界末日即将来临，但最终很多国家因此迎来了多年的和平。这就是所谓的“Mutual assure destroy”，即互相都能够摧毁对方时，谁也不敢轻举妄动。

我对科学的发展一直持比较乐观的态度，我相信人性在这个过程中会变得越来越好。

俞敏洪：我的观点是，个人的人性是不可靠的，但由社会结合起的整体人性是向善发展的，因为人是群体动物，想要生存下去，就需要建立某种群体规范。核武器之所以没有被引爆，是因为它有一个群体规范，如果它只掌握在一个人手里，那这事情就很悬了。所以我相信整个人类社会有向善发展的力量，但这种力量不基于任何个人，而是基于整个社会几乎不需要约定俗成的共同的人性原则，也就是说，大家都想活，所以要防范不让大家活下去的人出现。当科技掌握在群体手里，我认为绝大部分情况是，科技会让社会更好、更进步。

张文中：今天科技发展到这么高的水平，它带来了各方面的影响，这种影响的确值得认真研究，而且这方面的研究还不太够。一方面，对于已经发生的事，我们这种追踪研究不够，大家都在急着奔跑，继续让我们的科学走得更快。另一方面，预先性的研究可能就更难了，比如Open AI未遂的“政变”，也是有两派，大家有不同的观点，其实大家都是一帮好人，都是一帮科学家，每一个名字拿出来都是鼎鼎大名的。

当然，科学发展到今天，也处在一个非常关键的时刻。到底多少人真的懂transformer（谷歌云TPU推荐的参考模型）？我听专家说，不超过200个人，可能就100多个人。所以这也是我们现在面对的一个现实，当发生剧烈变化的时候，一些顶尖科学家在掌握着人类的未来，但我相信这些顶尖科学家不仅仅是智商高、创新能力强，他们的道德水准应该也是很高的。所以我们还是应该对科技向善、人性向善有信心，而且在这个过程中，大家也会不断探索出更有效的办法让科学技术推动人类更好、更有尊严地生活。这一点也是我们三人的共识。

俞敏洪：想问大家一个问题，假如未来某一天，人工智能的自我发展已经超出了人类本身可以掌控的范围，如果这个时候它仍然要受人类社会的掌控，此时人性还会不会对科技起到任何作用？

丁健：我和朋友经常聚在一起讨论有关AI的内容，有一次我们聊了两个半小时，其中只有一个小时在聊AI，而另外一个半小时在讲godship（神性）。我讲这个例子是想说，你怎么知道人类真正能掌握自己的命运？科学家张首晟有一句话令我印象深刻，他说：有人说“上帝创造了人”的说法和“进化论”是矛盾的，但这并不矛盾，因为上帝在创造这个世界的时候就决定让万物进化，进而创造了一些规律和元素。所以，我认为人们有时候过于操心自己完全控制不了的东西，即便是伊隆马斯克这样的科学家也曾坦言，人类99.999999%生活在虚拟世界里。

这个世界离失控还有很远，或者说，人类从未能真正控制自己。

AI也好，科学也好，它们让人类离真理越来越近，那人类就只需要去拥抱这样的事实，而不需要过于担心。就像马斯克，尽管他认为人类大概率活在虚拟世界里，但他仍专注于把人类弄到火星上。这听上去是矛盾的，但其实是他看穿了世界的本质，并选择顺着世界的设计往前走。人性和宇宙规律或者和神性相比，还处于一个相对比较低的层次，很多时候我们需要站在上帝视角去看世界，这会更加中性。世界没有人们想象的这么焦虑，人们需要一个乐观向上的氛围。

俞敏洪：文中的想法是什么？

张文中：我们的确不需要对AI何时能控制人类而操太多的心，这个发展过程会很漫长，但每个人都应该怀有敬畏之心，都要对自己所做的事有更多思考。奥本海默是上个世纪最伟大的科学家之一，他主导的曼哈顿工程动员了美国所有的科学家，最终研制了原子弹。他对这件事一直怀有敬畏之心，比如炸弹该不该做？做出来该不该用？二战结束后，当所有人都在欢欣鼓舞时，他仍在考虑原子弹的使用到底产生了什么效果。当时美国提出要搞氢弹，他作为原子弹之父旗帜鲜明地反对这件事，他也因此受到了麦卡锡主义的迫害。我认为这就是科学家的敬畏之心，如今企业家也在引领创新，他们同样也需要承担这样的责任。

俞敏洪：我认为科技控制人类的事其实已经在发生了，但除非科技最后能奴役人类，否则我觉得对人类的影响并不大。原因很简单，那就是人一直都在被控制。比如经过科学测试后发现，任何人自以为是自己所做的决定，但其实不是，因为在你做决定的前几秒，大脑中已经产生了相关电波。所以我们自以为的自由意志少得可怜，更多是身体中的某种因素在帮我们做出选择，但却让我们以为这是我们自己做的决定。

人能够掌控的东西很少，无论是天性，本能，还是意志，人们在做任何一个决定之前，都需要考虑到各种综合因素，比如由于环境的控制，我们对外讲话只能说出不会对自己产生危险的内容，不然说错了可能就会被网暴。

其实分析到最后，不管从科学方面，从环境方面，还是从其他方面，最后都会发现，我们之所以做这个决定，是受到了诸多因素的控制。换句话来说，我们一直是在被控制之中生活的，不管有没有科技，都是如此。但没关系，只要我们感觉自己在对自己的命运做主就行，即便这是一种虚幻的乐观、积极和自信。人本就是活在一种虚幻的自信和自我意志的表达之中，所以我觉得，无论未来科技怎么发展，无论人类是否会被未来的人工智能所控制，只要人类能保持这种我们自认为自己在主宰自己的命运的感觉就行。

丁健：至少到现在为止，科技还没意识到要控制你，可能真正想控制你的是其他人。

俞敏洪：那有没有可能未来某一天人工智能真的失控了，不管谁都控制不住了？

丁健：我倒认为人工智能反而很容易控制。比如我们可以做三个同样强大的AI，让它们彼此制约，它们只能同时做一件事，一旦其中一个机器人有其他想法，另外两个机器人就会把它干掉。同理，如果觉得三个制约度不够，可以做四个、五个，多重防护可以让系统变得更安全。其实，AI也没有吃、喝这些生存需求，它干嘛要控制人呢？我认为人作恶的可能性远远多于AI，控制AI比控制一个人要容易得多。

俞敏洪：所以你会支持Open AI里加速发展这一派的观点，因为你认为这是可控的？

丁健：对。其实这两派之间只有“度”的区别，一拨人认为要马上制约它，如果花一块钱推动AI，就要花五块钱去想如何制约，这样的操作会让AI的发展变慢；另一拨人认为要先花五块钱把AI往前推，再花一块钱用于纠正。其实我在想，现在是否有必要去制约这样的事，就像当核武器还没被引爆时，一帮人天天讨论核武器限制条约是讨论不明白的。但在一个市场化的社会中，本身也会出现一些制约相关的需求，比如有人拿AI诈骗时，马上就会有人发明出个东西去识破诈骗，而这个需求，可能来源于政府，也可能来源于个人。

俞敏洪：所以Check and Balance（制约与平衡）是人类发展的必然课题。

丁健：对。比如老师担心学生开卷考试会借助AI，那么未来好的AI生成器就会在产出内容的时候留下水印，这样就可以被识别出来。科技永远有更好的科技去制约它。

俞敏洪：科技互相之间的发展会把人性限制在正常发展的轨道上，而不至于到最后真正失控时，连同人性恶的一面，使整个世界失控。大家认为现代科技发展是使人类社会变得更加幸福了，还是使人性变得更加扭曲了？

张文中：现代科技会让人类向更好的方向发展，这没有什么疑问，但对于出现的问题，我们也要去正视。比如像iPad、电脑、手机这些电子设备，它们的确有积极作用，但也会导致孩子、成年人长期沉溺游戏。现在，人们就是要抓紧用技术去解决、规范技术所带来的问题，这也是“道高一尺、魔高一丈”。我想，只要我们有这个目标，这件事情总会比原来控制得更好，当然完全控制可能也比较难，这还是牵扯到人性的问题了。

丁健：现在社会上存在很多关于资本好与坏、人性好与坏、贫富分化和分配的争论。比如，美国的财富高度地集中于七大公司，但同时，这七大公司也做了很多对社会有益的事。再比如关于贫富分化，为什么非要允许贫富分化出现，平分不就好了？但如果这样，又会把人性其他的恶给调动起来，有人会觉得多干少干都一样，那何不少干一点。结果就是变成共同贫穷。

所以，无论往哪个方向走人性的恶都会出现，但是要通过一个制度，来引导人性的恶并产生善的结果。我们永远可以去讨论，如何在社会生产发展中进一步保证分配的合理性，实现共同富裕，这些都是非常重要的事情。但前提是，这一切不能阻碍经济的发展，不能阻碍做大蛋糕，一旦阻碍做大蛋糕，人性就开始往另一个不好的方向走了。社会的运行其实是一个很复杂的逻辑，我们需要深刻理解这个平衡。乌托邦式的逻辑很简单，也很容易被欢呼，但它造成的后果往往是很惨的。

事实上，科技发展到今天很大程度上利用了人性中的竞争和自私，但无论如何，它最终产生了对人类整体有益的结果。今天我们需要深度思考，我们应该大胆推动市场经济的发展，不要被简单的、乌托邦式的平等所蒙蔽眼睛，我们还应该鼓励人性中那些对于美好生活的追求和向往，同时要把这种竞争慢慢形成一个合理的机制，最终让财富进一步扩大。

俞敏洪：真的特别对。有一句话说，有时候人世间所发生最大的恶，是最大的善意所造成的。就像乌托邦这个美好的愿望，如果没有制度制约，极有可能走向愿望的反面。

我个人认为人性是固定的，尤其在有了人类社会文明以后，人性本身不存在进步和退步的说法。老子所说的 “小国寡民，鸡犬之声相闻，老死不相往来”是人类的一种美好幻想，人作为一种动物或者是一个部族，本身就要互相争夺资源。孟子说过“人皆有恻隐之心”，可成吉思汗带队打到中亚时，杀了几千个儿童。他这么做就是为了抢夺资源，抢夺生存的余地，抢夺统治地位，而这也体现了人性的恶。在今天的世界，如果没有一套国际社会互相平衡的运营规则，这种互相残杀依然存在。当然，现在国与国之间有了相互之间的威慑力，以及建立了国际规则等等，使得二战后没有真正出现过人类的互相残杀，这在某种程度上也代表了人类制度的进步。

科技的发展绝对不是今天才有的事，青铜器、铁器、战车，甚至马镫都源于科技的发展，更不要说火药、造纸术、指南针、印刷术了。所以，科技本身是不断发展的，它确实在造福于人类社会，但科技本身并不能决定人的平等、自由、幸福、苦难，这些是人来决定的。

今天的美好生活，一部分是科技带来的，但更重要的来源是科技背后的社会制度、分配体制、发展机制。所以人类社会对于某种可能产生恶的东西的制约能力也在不断加强，而且这种制约不仅局限于族群或国家之内，国际间也会存在。人性并没有变得更好，是科技的发展加上制度的建设，使我们越来越活得像个人，我觉得这是人类最伟大的地方。

前阵子，我读了经济学家陆铭的书《大国大城》。在我们的常规概念中，一个国家的各地区得平衡发展，但他在书中提出，越是资源往大城市集中的国家，效率越高，老百姓生活得越好。因为在大城市，那些经过资源集约和效率提高所带来的财富可以经过国家之手进行再分配。即使是那些偏远地区的人，也可以走进大城市谋取更好的生活，只是在这个过程中，国家要用一种调配机制去做好大城市和偏远地区之间的平衡。

我想用这个例子表明，有时候面对现实情况，我们的直觉有可能是错的。乌托邦会被追捧，是因为从普通直觉来说，这确实是一个美好的社会，但人们忘了，社会运行是一个复杂的体系。一个既能制约人性的恶，又能充分发挥人性的善，同时还能结合科技发展的制度和体制，才能使人类社会真正进入到理性、和平发展、共享财富、幸福生活的状态里。

最后一个问题，中国现在到了一个发展的关键时期，假如你们是中国发展的顾问，会从科技和发展的角度提出什么样的建议？

张文中：对于科技能够给中国人带来美好生活这一点，我们要高度肯定，同时也要认真想一想，如何才能真正有效地发展科技。首先，我们一定要跟上世界潮流，绝对不能陷入闭关锁国的状态，不管形势有多严峻，有多大挑战，都一定要开放，开放是中国科技发展的基础条件。如果中国科技不能够与世界一体，恐怕我们连评价自己科研水平的标准都没有，尽管现在有些专家也在思考，我们天天去考虑能在《Science》发多少文章，在《Nature》发多少文章，是不是有点走极端了？但毕竟这是一个金标准，所以还是相对可靠的。这就像高考一样，大家都说高考可能不科学，但是怎么办呢？GRE要考，GMAT要考，就得这么干。

此外，我们也要去相信，科学的标准是全世界共同认可的。比如生物的创新、化学的创新、医学的创新，等等，这些都是硬碰硬的标准。

丁健：现在世界顶级的AI研究员有29%来自中国，20%来自美国，18%来自欧洲，这说明来自中国的顶级AI研究人员要多于美国和欧洲。但这些顶级AI研究人员有60%在美国工作，11%在中国工作。所以我们应该反思，如何能够吸引这些人才回来？为什么他们会跑到别的国家去？坦率地说，今天回国发展的人才真的少了很多，我专门在硅谷做过调查，以前在那边学习人工智能的华人，10个人里会有8个选择毕业回国，而今天几乎一个没有。这里面涉及到国家之间的竞争，但我们也要去思考，如何创造一个能让大家自由创新的科研环境。

俞敏洪：制度这一块我们暂不讨论，但提到的人才问题，我觉得一个国家，只有能让全世界的人才能毫无顾忌地流入进来，并且这个国家能给他们足够的空间发挥、承认他们的成绩，这个国家才会真正的发展。

俞敏洪  亚布力论坛轮值主席、新东方教育科技集团董事长

丁健  金沙江创业投资主管合伙人

张文中  多点 DMALL创始人、物美集团创始人