3月26日至29日，博鳌亚洲论坛2024年年会在海南博鳌举行。在一场有关人工智能的分论坛上，中国工程院院士、清华大学智能产业研究院院长张亚勤，表达了他对未来人工智能的看法。

　　清华大学智能产业研究院院长 张亚勤：这个论坛谈到生成式人工智能本身的一些机会，也谈到它的一些风险和治理，我觉得人类有两种智慧，一个是创造新技术的智慧，另外一个是控制技术方向，引导技术方向的智慧。

　　无论在学术界、工业界，还是在人工智能前沿研究与产业应用领域，张亚勤都有着辉煌的履历，他曾在微软公司工作16年，历任微软亚洲研究院院长兼首席科学家、微软中国董事长；之后五年，担任百度公司总裁。2019年底，张亚勤正式受聘于清华大学，牵头组建清华大学智能产业研究院并担任院长。在AI大模型出现后，他不断透过媒体分享AI的应用前景。

　　记者：对于普通人来说，对于我们的改变就是生活中出现了两个新的名词ChatGPT和Sora。但是对你们专业人士来说，就这两个东西的出现意味着什么？

　　AI是人工智能的英文缩写，是一种由人制造出来的机器，这种机器可以模拟人的思想和行为，从而体现出一种智能反应。从小爱同学到小度，再到击败人类职业棋手的人工智能机器人阿尔法狗，AI早已走进人类的生活。但近期出现的以ChatGPT和Sora为代表的生成式AI，却带给人们前所未有的震撼。撰写文案、编写代码、根据文字生成视频，震撼之余，也不断有人发出警告。

　　张亚勤：比如说你在做内容产业，可能现在已经在影响你了。你做文字的、做图片的、做视频的、做广告业的现在已经开始在对你产生影响，这个影响可能是正面可能负面。但是对物理世界的影响，就大模型用到的，比如说机器人、无人驾驶，我们所有的设备上，还需要一点时间。然后生物世界，比如说人脑接口，新的生命体、新的生物体这个需要可能更长的时间。

　　张亚勤：我有一个大致的判断，我用图灵测试，图灵测试是做计算机和人工智能鼻祖艾伦·麦席森·图灵当时在50年代提出一个测试，就是说，我和你对话，一个是人一个是机器，我在很多轮对话之后，我搞不清这个是人还是机器的时候，就通过了我这个测试，人和机器基本上分不出来了。我觉得现在我们已经通过了在文字方面的图灵测试，在图像和视频方面很近了，可能两年到五年时间，这个时候我产生的图片和视频，你就看不出是AI产生的还是人产生的。再过五年，我们在机器人，特别是人型机器人，和无人车方面已经通过图灵测试，可能开得比人都好了，开车。

　　张亚勤：生物世界需要更长的时间。生物世界已经是个必然的趋势了，我们的机器，人工智能的大模型，和我们生物世界、生命世界会连在一块。通过比如说像脑机接口，可以是侵入式也可以是非侵入式的，这种生物芯片，或者是传感器。也可以帮助我们去制药，可以做医疗，这个已经在发生了。但真正大规模联动的线年的时间。我讲这个就是说，我们可能在20年左右，会看到人工智能在几乎所有的领域都会比我们人类的能力要强，这是件好事，由于给了我们特别强大的工具。

　　在ChatGPT出现之前，曾有不同机构对人工智能如何影响未来人们的就业情况进行预测，有一家著名管理咨询公司2016年的报告，预测未来将有众多的工作被人工智能取代。而ChatGPT的出现，似乎在加速这一进程。

　　张亚勤：我觉得整体来讲有三种人。任何一个技术来临的时候，有三种人。一种人是和我无关，我该做什么就做什么。另外一种是焦虑，我被淘汰了怎么办。还有第三种人，他会积极学习技术、了解技术，会拥抱它、会使用它。我们大部分人肯定不会知道大模型里面算法是什么样的，我们也不需要知道，但是我们要会使用这个工具。比如像ChatGPT，它里面怎么工作你也不需要知道，但是它能帮你什么你要知道，像Sora这样的图像视频的制作工具，你也不需要知道它里面的原理，但你要知道怎么用它，对你的业务、你的工作会有什么样的影响。我觉得可能正面是大部分的，但是会有一些行业，有一些工作也会消失的。但是整体来讲的话，社会的生产力会大幅度提高，所以现在讲到新质生产力其实很有道理的。“人工智能+”包括作为智能社会的基础设施的底座，它会大幅度改变改善我们生产力。

　　为人工智能欢呼的同时，张亚勤也同时在不断提示人工智能的风险。事实上，在很多人尚未熟悉人工智能时，风险已经降临。

　　张亚勤：这些风险一个是信息世界的风险，它给你生成虚假的信息，包括人为作假、深度伪造这些会给我们带来风险，比如说现在金融领域，在香港有一个财务人员他和公司开会，这里面有首席财务官还有别的财务人员。让他转账两个亿他就转了，最后发现他是唯一一个真的财务人员，别的人都是伪装的。

　　张亚勤所说的案例发生于香港，当地一家跨国公司的员工，在多位高管参加的视频会议中，接受指令将2亿港币转到不知名账户，5天之后才发现被骗了。香港警方在通报中称，以往的AI换脸，一般都是一对一的。这次骗子用视频电话会议的形式，伪造了一个高管团队，让可信度大幅上升。参与视频会议的都是真人，然后通过人工智能换脸，把骗子的脸和声音都换成了对应的高管的脸和嗓音，下达了转账的指令。

　　张亚勤：他每个人都是生成的，生成的样子就是那个人，讲话也是。过去早期要做这个东西很困难，现在就是普通人都可以使用工具生成数字人或者换脸，让你区分不出来到底是真人还是虚拟人。所以我在讲我们生成数字人需要有标识，在法律政策层面知道这个数字人不是真人。比如说董倩，我现在技术可以生成很多很多虚拟的“数字董倩”，我根本看不出来到底是真人还是数字人，这个时候首先数字人在复制时候需要经过本人的同意。

　　张亚勤：对。第二点就要有标识，但是坏人他不会有标识的，也不会经过同意。这个时候他要接受法律的制裁，但目前就没有这样的，或者至少法律没有实施。我们首先就是在技术层面要知道这个是数字人，第二点在政策层面、法律层面使用数字人的时候，什么样的限制、什么样的条件，需要一个规范。第三点就是他犯法了你怎么办？

　　人工智能技术在给人类带来憧憬的同时，也带来了抹不去的隐忧。如果有一天机器人变得和人一样聪明甚至比人还要聪明，那么，人类会不会受到人工智能的威胁？著名物理学家霍金就曾与多位科技界名人发表联署公开信，表示人工智能对人类的威胁更甚于核武器。特斯拉首席执行官马斯克也发文称，人工智能是人类最大的威胁之一，需要引导控制。

　　记者：因为我们知道在奥本海默他们研究的时候，当他们发明出来这样的一个武器，他们作为科学家意识到了，后来是什么，但是他们也仅仅是意识到了为止。对你们来说，意识到不做，可不可以？

　　张亚勤：不可以。技术也好，工具也好，最终要为人类服务。我们是唯一一个物种可以发明出、创造出比我们更强大、更聪明的工具，同时我们也是唯一的物种，可以发明摧毁我们自己的工具。我们希望不要再做出来了，我一直想说，我们要打造一个善良的AI，教育它让它做善事，为我们服务，而不是失去控制，而不是去对抗人类，或者控制人类。

　　张亚勤：会，AI不断去有更多的数据、有更多的算力、有更好的算法，它肯定会越来越强大，强大要善良的强大。

　　3月10日至11日，“北京AI安全国际对话”在北京举行，张亚勤和相关领域的三十多位专家围绕国际AI安全技术前沿研究、产业应用实践等话题展开深入探讨，共同拟定并签署了《北京AI安全国际共识》，提出人工智能风险红线及安全治理路线，呼吁“在人工智能安全研究与治理上的全球协同行动，是避免不受控制的前沿人工智能发展为全人类带来生存风险的关键。”

　　张亚勤：我们防坏人。人99.9%是善良的，但是当0.1%的人是的，我们必须让善良战胜。所以我是乐观的，但是乐观不等于什么都不做。

　　张亚勤：你讲得太好了，所以说我们要在一起。我们现在最近有几个机构，就是把技术的人和监管的人一开始就在对话，大家建设性对话，这样才能把风险在没有发生时候就控制住。我一直讲边界很重要，另外就是全世界要一起合作。

　　记者：没错，这正是我想问你的。这是不是每一个从事人工智能，在初期起步研究时候的科学家题中应有之意？

　　张亚勤：是，所以最近我们中国的科学家和英国的、美国的、欧盟的科学家一起开了好几次会，找出这个问题，然后来面对风险，然后来去化解它。所以我觉得这个对话的机制，特别是跨领域，包括跨国的，全球性的合作对话、合作机制特别重要。

　　在呼吁全球合作、建立人工智能风险对话机制的同时，中国还需在竞争中发展自己的AI技术，对此，张亚勤也多次公开表达自己的乐观情绪。2019年底，他接受清华大学邀请，组建人工智能产业研究院。在开启辉煌的职业生涯之前，张亚勤是公认的神童，1978年考入中国科技大学少年班的时候，他只有12岁。而53岁进入清华，则让他有了贯通教育、科研和产业的新机会。

　　张亚勤：我认为投身进去，培养人才也是投身，做科研也是投身。我博士之后正好工作了30年，在美国也好，后来到了微软、到了百度，对我来讲，我是希望能到第二线来培养人才，领导科研，为长期做更多的工作。

　　因为要面向产业，迎接正在到来的第四次产业，张亚勤主张“做有用的研究”，培养面向产业的人才。

　　张亚勤：你这个问题特别好，我觉得传统的院系里面只上课，教授也没有产业背景，是很难培养出未来的首席技术官和产业的领导者。所以我们在清华智能产业院里面，首先我们的老师要有产业背景，同时也有学术背景。第二点，我们要和企业合作起来做研究，我们大部分的项目是和像百度、滴滴、联想、小。