ChatGPT有哪些缺陷？AI无法模拟人的哪些特质？解答来了¶

2022年11月，总部位于旧金山的人工智能实验室OpenAI发布了ChatGPT智能聊天程序，引发极大关注。上线两个月内，ChatGPT的月活跃用户已经达到1亿，使其成为历史上增长最快的面向消费者的App。

ChatGPT的推出将开启互联网行业的巨大变革，微软目前已宣布要将ChatGPT的技术整合到最新版本的必应搜索引擎和Edge浏览器中，同时国内的百度、阿里等行业巨头也纷纷宣布各自版本的ChatGPT处于内测阶段，即将面向公众开放。

ChatGPT的诞生让不少人看到了未来商用的巨大潜力，但同时也引发了不少争论和担忧。为此，《中国东盟报道》记者采访了清华大学智能产业研究院副研究员李鹏，围绕ChatGPT的实际应用和影响进行解读。

李鹏副研究员曾供职于腾讯微信，担任专家研究员、组长，负责自然语言处理相关研究与应用。还曾供职于百度深度学习研究院，从事深度学习与自然语言处理相关的研究与应用工作。

中国东盟报道：ChatGPT的问世对于人工智能内容生产（AIGC）技术领域意味着什么？它是否代表了当下AIGC在应用领域的最高水平？

李鹏：ChatGPT的诞生不仅对于AIGC，对于整个人工智能（AI）而言都是颠覆性的突破。语言是每个人日常生活中大量使用的，可以说我们每个人都是精通者，智能应用一旦出现表达上的小错误，我们都会敏锐地发觉。但ChatGPT对语言的使用已超出了我们的预期，在它出现之前，很少有哪个应用可以在语言对话上给人留下如此深刻的印象。

目前微软宣布要将ChatGPT的技术整合到最新版本的必应搜索引擎和Edge浏览器中，百度方面也已确认将发布类ChatGPT项目“文心一言”（ERNIE Bot），计划3月完成内测，并面向公众开放，功能上会不会更强仍需要观察，但就目前而言，ChatGPT确实代表了AIGC在应用领域的最高水平。

中国东盟报道：与之前已经出现的聊天机器人（如苹果siri、微软小冰等）相比，ChatGPT出现了跨越式的提升，核心原因在哪里？ChatGPT是否存在缺陷？

李鹏：核心原因在于技术路线上的区别。之前的这些聊天机器人基本上采用的是小模型加有限数据的技术思路，而ChatGPT则是采用大数据+大模型+人工反馈数据这样一个创造性的思路，在学术思想方面具有独特性，同时有一个非常高质量的工程实现，最终产生量变到质变的飞跃，让ChatGPT在自然语言处理领域（如对话、翻译、摘要生成等）表现得超出预期。

尽管如此，ChatGPT也还存在不少缺陷：第一，它在知识的实时更新上还有问题。按照公开的资料，ChatGPT收集的数据是截至2021年，那么对于2021年以后新出现的知识和数据，它就不能很好地处理。第二，ChatGPT在内容生成的事实性上有问题，也就是说它会生成一些看似很通顺、很有可信度的文本，但其实是ChatGPT编造出来的，事实性存疑。第三，目前上线的这一版ChatGPT没有体现资料出处的功能，用户看不到原文，我们也很难去做内容核查，由此也引发了一定的版权问题和法律风险。第四，目前ChatGPT的训练成本——包括算力和数据标注等——是巨大的，而且ChatGPT的模型很大，部署起来成本高昂，所以未来如何降低成本提高收益，如何更好地商业化也是一个问题。

此外，还有比如垂直领域的知识欠缺，以及低资源领域的语言服务能力有待加强等。但毋庸置疑的是，ChatGPT的价值是非常巨大的，目前存在的这些缺陷，相信假以时日都会得到解决。

中国东盟报道：物理自动化浪潮加快了对体力劳动、低技能岗位的淘汰速度，而ChatGPT的大规模应用将导致更多行业面临颠覆性变化。我们应当怎样应对这种冲击？

李鹏：ChatGPT在自然语言处理方面是具有颠覆性的，甚至是一种破坏性的颠覆，会极大改变自然语言处理领域的研究样貌，它的未来应用领域是非常广阔的。这些领域具备一些共同特征，比如信息收集类、信息初级加工类的领域，以及低创造性的劳动场景都会受到冲击。

对于这些影响我们应当乐观看待，因为它是生产工具上的重大变化。一些岗位可能会被取代，但新的研究或应用领域也会出现。比如，之前提到ChatGPT生成的内容事实性存在缺陷，那么在应用中必然要对它发布的内容进行审核等，这就有新的工作岗位被创造出来。

再如，它在一些专业领域的应用，对普通用户而言，使用起来并不容易，这就存在着不少中间件开发的空间，举个例子，就像Photoshop这一制图软件在使用中需要很高的专业性，但美图秀秀出现后，普通用户也可以进行图片处理。这种中间件的市场还是很大的。

所以对于这种冲击，还是要辩证地看待。历史上，历次工业革命都导致了一些行业的消失，但也有新的行业会出现，而在过渡阶段，需要全社会采取系统性措施来应对挑战。

中国东盟报道：目前人工智能技术无法模拟人类的哪些特质？在AIGC技术研发方面，未来有哪些需要突破的难点？

李鹏：目前无法模拟的特质是人类的高创造性，比如创造新的知识、方法，以及深度思考，提出洞见性的观察、总结等，这是人类高于AI的竞争力。

关于要突破的难点，主要包括几个方面：第一，是刚才提到的一些缺陷，需要进一步加以解决；第二，目前ChatGPT主要是对本文进行处理，如何扩展到多模态内容的处理，比如图像处理，以及特殊文本，如化学、生物医学等方面的内容处理；第三，ChatGPT为代表的技术大规模应用后，在知识分享和创造方面可能面临风险。目前因为很多人愿意在互联网上分享知识和信息，这些分享推动了社会的发展，但如果人们过于依赖ChatGPT，那么人们生产、共享知识的意愿将会降低，这也是一种潜在风险。

中国东盟报道：作为AI领域的研究者，您认为在AI高度发达的社会中，人类与人工智能的理想关系是怎样的？

李鹏：我认为人与人工智能的关系，有点像我们发明一架飞机，一方面我们要了解飞机能够飞行的科学机制，另一方面，我们要通过制造飞机为人类创造更大的价值，为人类自身创造福祉。

AI技术将人从重复性、低创造性的劳动中解放出来，使更多人能够从事高创造性的工作，让人们有时间去享受生活，我认为这是人与AI最理想的关系。

李鹏 清华大学智能产业研究院副研究员

采编：袁亚楠（来源：中国东盟报道，侵删）