ChatGPT放大AI引爆将来可能！复旦邱锡鹏：AI一定要与人类价值观“对齐”

虽然引发了各种各样的“杂音”，但我们不得不供认的是，ChatGPT所展示出来的令人冷艳的对话了解与表达才能，让越来越多人认识到人工智能曾经迎来了全新的里程碑，并且有望作为一个至关重要的基座系统，以史无前例的速度浸透进各行各业，持续引爆将来世界的数字经济体系。

在由复旦大学管理学院日前主办的“复旦科创先锋论坛”上，复旦大学计算机科学技术学院教授、MOSS系统担任人邱锡鹏对ChatGPT的将来做出了如下判别：思索到ChatGPT已具有通用言语了解的才能，并能够进一步增加对外接口，成为通用人工智能的技术基座。这就意味着通用人工智能（Artificial General Intelligence，AGI）的加速完成关于现阶段的人类来说曾经不是幻想。以至悲观一点说，像科幻片里面的人工智能形象可能很快就会在我们的生活中呈现。

ChatGPT是2022年底由美国Open AI公司发布的一个人工智能模型，60天内月活用户直接破亿，成为了史上用户增长快的消费级应用，其主要的功用就是与人类直接对话。邱锡鹏表示，要想解析ChatGPT背后的技术原理，首先要解一下“言语模型”（Language Model），即应用计算机去重新建模人类言语，把自然言语转化为机器可以了解并判别的言语的一种机制，“我们迫使言语模型努力发现这些文字背后所包含的各种各样的规律，从而使这个模型更好了解人类言语和世界学问。”

目前，Transformer曾经在整个人工智能范畴成为了主流的言语模型架构体系。邱锡鹏透露，除了才能强之外，还有一个十分重要的缘由在于它的架构设计关于GPU运算特别友好。由于Transformer呈现在GPU之后，设计方面自然地充沛思索大限度应用GPU才能，更容易做到大范围言语模型的效果。

“要想模型的预测越精确，就势必需求大量的参数对其停止锻炼，以协助大范围言语模型可以充沛了解人类言语规则及其逻辑关系。目前在Transformer的加持之下，我们曾经能够把模型范围做到百亿级、千亿级，这就是往常的大型言语模型。在大型言语模型当中，我们能够经过输入一些上文，经过言语模型背后的仿人类神经元构成的Transformer神经网络加工处置，从而完成对下一个词的预测，并输出相应文本。”邱锡鹏引见说，在锻炼过程当中，科学家发现，计算量大约在10的22次方之后，模型才能会完成从质变到质变的飞跃，呈现出惊人的迸发式增长，通常也将其称之为“涌现才能”。

大型言语模型在到达百亿级范围后开端取得“涌现才能”，而涌现才能的背后，则进一步隐含着三个十分重要的技术：情形学习、思想链和指令学习，这也是ChatGPT得以在人工智能范畴叱咤风云的关键缘由。

ChatGPT的通用性放大了AI引爆将来的可能。邱锡鹏以为，以ChatGPT为代表的通用人工智能技术，能够引爆数字经济，充沛发挥数据和算力效能，并催生出海量的新商业形式；能够赋能产业数字化，并经过人机协同的方式处理行业专家资源缺乏的问题；能够以数字人、个人助理、搜索引擎等方式对数字经济新业态、新形式提供开展动能；更将深入改动教育、社会管理、司法等范畴的生态，大幅提升行业程度。

但他同时也指出，目前的通用人工智能技术尚且存在很多缺乏，包括随机性、不可控、容易“道貌岸然地胡说八道”等等，不过，置信这些问题随着时间的推移，都将在将来经过各种方式逐渐得到改良。

邱锡鹏表示，关于下一阶段的大型言语模型来讲，我们目前重点需求去做的事情就是让模型和理想世界以及人类的价值观停止“对齐”，成为一个真正的智能体，具有本身学习、跨模态学习、学问和工具应用等才能。毕竟假如AI的价值观和人的价值观南辕北辙，那将会是十分风险的。