ChatGPT是“虚火”还是颠覆性技术革命？

　　最近，以ChatGPT为代表的人工智能技术风靡全球，它不仅能流畅地与用户对话，还能写诗、写文章、编码。今年全国两会上，ChatGPT同样引起了委员和代表们的关注与讨论。ChatGPT是人类的助手还是对手？如何注意科技伦理、趋利避害？

　　新京报记者邀请全国政协委员、中科院自动化所研究员赵晓光，清华大学计算机系教授、清华大学人工智能研究院视觉智能研究中心主任邓志东，国家新一代人工智能治理专业委员会委员、中科院自动化所研究员、人工智能伦理与治理研究中心主任曾毅，做客《两会三人谈》栏目进行解读。

　　人工智能进阶

　　ChatGPT意味人工智能发展到了什么程度？

　　ChatGPT近期引发了公众的广泛关注，有人觉得它具有颠覆性，也有人觉得它被“神话”了，这个语言大模型的出现意味着人工智能技术发展到哪一步了？

　　“这几天，全国政协科技界别很多委员特别关注ChatGPT的技术，尤其是这项技术在我国的发展和未来会给我们带来哪些启示。”赵晓光说，从技术角度来看，ChatGPT是一个自然语言处理模型，让计算机能跟人聊天。我国有很多研究机构也做了相关的技术，并一直在应用，比如大家熟悉的银行自动语音服务等。ChatGPT之所以受到广泛关注，是由于微软把ChatGPT的技术嵌入到搜索引擎“必应”中，受到用户人群欢迎并愿为其付费。ChatGPT带来了商业应用的巨大前景。

　　“这项技术给我们带来的启发就是未来人工智能技术如何跟场景更好地落地结合，如何培养更大的市场、挖掘更多的需求，通过满足用户的需求产生新应用，带来更多效益。”她认为，ChatGPT的出现和应用并不代表着通用人工智能时代的到来，“一些新闻报道称它会理解人类的语言，我认为理解应该打个引号。要模仿人类的理解恐怕还要走很多的路。”

　　邓志东认为，ChatGPT作为大型生成式语言模型，是NLP（自然语言处理）领域中某种意义上的通用人工智能，而且是颠覆性的。2012年以来，以深度学习为代表的人工智能在全球范围内得到迅猛发展，但都属于弱人工智能，对于人类而言是赋能的工具。ChatGPT则不同，它利用单一模型就能完成NLP领域中的多个任务，比如对话、翻译、生成、搜索、编程与调试等，这就有了文本语言领域中通用人工智能的主要特点。同时，它在完成多个任务时还接近人类的水平，与以前根据特征进行匹配或搜索的方法完全不同。

　　他说，随着ChatGPT的版本不断更新，全球上亿用户与其高频度交互，且其具有持续的学习能力，它的NLP多任务完成能力还将提升，可能会在较短时间内达到专家的水平，将非常具有颠覆性，给人类带来巨大进步。

　　在曾毅看来，ChatGPT是人工智能领域现有工程技术的组合创新，在用户体验上有显著提升，但并非科学的突破。它使用自然语言处理领域的几项关键技术，都是几年前学术界已验证有效、相对比较成熟的技术。但ChatGPT有数亿用户的反馈，其输出不是提供最优化的结果，而是最接近人类需求、合乎人类期望的结果，“它离1956年达特茅斯会议上提出的‘人工智能’实现智能的各个方面达到人类水平的畅想还有很大距离。”

　　人工智能应用

　　未来哪些职业可能会被人工智能取代？

　　一些网友在和ChatGPT聊天之后，担心自己的工作未来会被取代。那么，ChatGPT是人类的助手还是对手？未来哪些职业可能会被取代？

　　赵晓光称，人工智能确实取代了一些工作，是人类不愿意从事的艰苦、枯燥、繁重、有危险的工作。比如速记员的工作，现在很多可以通过自然语言识别将语言转变成文字，但计算机完成的工作依然需要人类校正，因为会存在一些错误。她以法律系统举例，ChatGPT可以审阅诉状，进行简单分类，做一些需要具备文化功底的简单的体力劳动，但不能替代法官做更多判断。所以目前来说，ChatGPT更多是提供了“方便”。

　　邓志东认为，ChatGPT不仅有文本理解能力，也有文本生成能力，“它的理解能力已经达到了相当高的水平，比如一些弯弯绕绕的表述，它都能理解，且给出合乎常识或价值观的回答。随着以ChatGPT为代表的生成式人工智能在短期之内大规模商业化落地，以及对各行各业全面渗透，在大幅度提高生产力和生产效率的同时，也将对就业市场带来影响，文案、新闻、翻译、会计、律师、教师、程序员、艺术创作等职业中的中低端岗位会受到冲击，尤其是不需要深入思考，仅完成简单重复性文字整理的岗位。”

　　曾毅称，科学技术的发明创造以及在社会上的应用，最初的目的就是部分替代人类劳动。信息技术与人工智能发明的初衷，不是让绝大多数人失业。但确实需要思考的是，人类在所从事的职业中发挥的不可替代作用是什么。

　　他以记者举例，记者要追求真相，但目前人工智能对于“真相”的了解还是存在很大困难的。相比人工智能写的稿件，媒体工作人员的作品中更能呈现人类对于世界的真正理解，也有背后的故事。

　　长期来看，必然会有一部分工作被暂时替代，此时需要人类重新思考工作的意义。比如做社会服务、养老助残等需要以情感出发去关怀他人的工作，很难被机器替代。如果你哭了，机器人也可以安慰你，但这是基于数据的情感分析，而不是对情感的真正理解。即使机器有能力去替代人类时，人类也未必相信机器，“这样的工作使得人类反思，人之所以为人，与其他没有情感的物体之间的差异，让人类回归本该回到的地方。对于人类反思的能力，机器人和人工智能暂时难以达到同样的高度。”

　　总体上，曾毅持乐观态度，认为真正需要和值得人投入精力的工作不会被替代，但他仍认为，人类应该为可能出现的部分领域的劳动替代做好准备。

　　人工智能伦理

　　如何注意科技伦理、趋利避害？

　　科技部部长王志刚日前在两会“部长通道”上表示，对人工智能的研究与运用，需要注意科技伦理、趋利避害。哪些科技伦理问题已经显现并值得我们关注？如何防范？

　　曾毅说，ChatGPT没有带来新的伦理挑战，但它在很多领域无限放大了大家认为可能还需很长时间才会到来的伦理挑战。比如统计生成模型需要发现大规模语料的统计显著性，但全球200多个国家和地区文化具有多样性，是不可以被统计的显著性吞噬的。这就是科技伦理中非常重要的一个维度。

　　另外，ChatGPT的责任和问责也值得关注，它对于所有的输出无法担责，权利和义务是相伴相生的，所以何谈版权问题。目前，人类构造看似智能的信息处理工具，人仍然是责任主体。同时，人工智能生成技术也需要关注用户知情同意的问题，研发方和服务方不能混淆它和人之间的边界，需要明确告诉用户是人工智能在服务，所带来的后果是人工智能没有办法承担的。

　　“我不同意让人工智能无处不在，它有适用领域，很多领域无需人工智能赋能。所以我们参与撰写的联合国教科文组织《全球人工智能伦理建议书》，其中明确指出人工智能的适度使用。”曾毅说。

　　邓志东认为，ChatGPT利用了全球约三分之二的海量文本数据，其中涉及数据安全、知识产权、隐私保护等问题。这些数据有可能还会存在种族和性别歧视、认知偏见、道德、伦理与价值导向等问题，甚至有违法数据，所以必须设立安全门。要通过全球合作的方式，提前采取有效的预防措施，制定相关国际伦理规范，而不是等问题发生了再去应对。目前，ChatGPT对人类还无法形成真正的威胁，在发展之初要以开放的心态看待新生事物，紧抓机遇，发展中国人工智能产业，赋能经济和社会的发展。

　　作为全国政协委员，赵晓光表示，自己是科技界的委员，也进行了机器人和人工智能的研究，未来将在这一领域提出意见和建议，希望人工智能在我国数字经济的发展和数据融通处理中发挥作用，为实体经济发展赋能，带来新的经济增长点和新的业态，“未来五年，我将着重关注人工智能技术的落地应用、新技术领域的创新，并在这些方面做更多调查研究工作。”

　　新京报记者 张璐