OpenAI被曝取得重大技术突破，或威胁人类！马斯克：极度令人担忧

每经编辑 王月龙    

尽管随着山姆·奥特曼重返OpenAI担任CEO，这场震动科技界的“政变”大戏已经宣告落幕。但自始至终，一个谜团一直萦绕在人们心头：奥特曼究竟为何被解雇？

而现在，随着越来越多的消息被曝出，奥特曼被解雇的真相正在逐渐浮出水面。

据媒体援引知情人士的话报道，在奥特曼被罢免之前，几名公司研究人员向董事会发出了一封信，警告称一项强大的人工智能（AI）发现可能威胁人类。

据财联社报道，消息人士表示，这封此前未被报道的信件和AI算法，是导致OpenAI董事会罢免奥特曼的催化剂。他们称，董事会对奥特曼的诸多不满导致后者被解雇，而这封信是原因之一。

据其中一位消息人士透露，长期担任OpenAI高管的米拉·穆拉蒂周三告诉员工，一封关于名为Q*（发音为Q-Star）的AI突破的信件促使董事会采取了行动。

另一名消息人士表示，OpenAI在Q*上取得了进展，一些内部人士认为这可能是该初创公司在超级智能，也被称为通用人工智能（AGI）领域的突破。OpenAI将AGI定义为比人类更聪明的AI系统。

图片来源：视觉中国（图文无关）

该消息人士表示，鉴于庞大的计算资源，新模型能够解决某些数学问题。虽然Q*的数学成绩仅达小学生的水平，但研究人员对Q*未来的成功非常乐观。

据澎湃新闻，研究人员认为数学是生成式人工智能发展的前沿领域。目前，生成式人工智能擅长通过统计预测下一个单词来进行写作和语言翻译，而同一问题的答案可能会有很大差异。但征服数学的能力（只有一个正确答案）意味着人工智能将拥有类似于人类智能的更强推理能力。例如，人工智能研究人员认为，这可以应用于新颖的科学研究。

消息人士称，研究人员在给董事会的信中指出了人工智能的能力和潜在危险，但没有具体说明信中提到的具体安全问题。

值得注意的是，奥特曼被OpenAI董事会解雇前一天在旧金山出席亚太经合组织首席执行官峰会时，提到了OpenAI最近取得的一项技术进步。“在OpenAI的历史上已经有四次了，最近一次是在过去几周，当我们推开无知的面纱并向前推进发现的前沿时，我已经在房间里了，能够做到这一点是一生的职业荣誉。”他说。

随着后来OpenAI陷入混乱，这一神秘言论基本上没有引起注意。但一位知情人士表示，一些OpenAI员工认为，奥特曼的言论指的是该公司今年早些时候的一项创新，该创新将使他们能够开发出更强大的人工智能模型。这项技术突破由OpenAI首席科学家伊利亚·苏茨克维（Ilya Sutskever）牵头，一些员工担忧OpenAI在将这种先进的人工智能模型商业化时没有适当的保障措施。

马斯克就有关于OpenAI在AGI领域新突破的报道置评称，“极度令人担忧！”

编辑|王月龙 杜波 盖源源

校对|程鹏

每日经济新闻综合自财联社、澎湃新闻、公开信息