每日经济新闻
要闻

每经网首页 > 要闻 > 正文

OpenAI首席技术官:ChatGPT的火爆超出预期,将彻底改变学习方式,但必须受到更多监管

每日经济新闻 2023-02-06 15:34:09

◎OpenAI首席技术官Mira Murati呼吁监管介入,以防止ChatGPT等生成式AI系统对社会产生潜在负面影响。

每经记者 文巧    每经编辑 兰素英    

当地时间2月5日,OpenAI的首席技术官Mira Murati在接受《时代周刊》采访时表示,ChatGPT有可能真正彻底改变人类的学习方式,具有进行个性化教育的巨大潜力。

她同时表示,ChatGPT面临的核心挑战仍是“模型偏差”。对于人工智能,关键的问题在于如何以符合人类价值观的方式管理其使用。因此,需要监管机构进行介入,以防止ChatGPT等生成式AI系统对社会产生潜在负面影响。

Murati负责领导该公司旗下的DALL-E和ChatGPT项目。去年11月,ChatGPT在发布后迅速“引爆”全球,它不仅让所有人疯狂,也让科技巨头“慌了”——微软产品将全线接入ChatGPT,ChatGPT被亚马逊用于许多不同的工作职能中;而大受威胁的谷歌选择投资ChatGPT竞品公司Anthropic AI,并宣布将推出同类产品Apprentice Bard。

据瑞银分析师团队,自11月底发布以来,ChatGPT的月活跃用户已达到1亿,速度快于TikTok或Instagram。“在互联网领域发展的20年里,我们想象不到有哪个互联网应用发展得(比ChatGPT)更快。”

对于ChatGPT的大火,Mira Murati也称这超乎想象。“我们没有预料到将‘孩子’带到这个世界会带来这种程度的兴奋。事实上,我们甚至对它感到有些不安,我很好奇它会在哪些领域开始为人们带来效用,而不仅仅是新颖性和纯粹的好奇心,”她这样说道。

在采访中,Mira Murati也提到了ChatGPT面临的核心挑战:与所有的大型语言模型相似,它可能会以一种非常自信的方式编造事实。

她说道,“我们选择了对话的方式,因为对话不仅能与模型交互,并且能提供反馈。如果认为模型的答案不正确,你可以说,‘你确定吗? 我认为实际上......’。这样,模型就有机会与你来回交流,类似于我们与另一个人交谈的方式。”

当被问及这一突破性的技术旨在解决什么问题时,Mira Murati表示,“它有可能真正彻底改变我们的学习方式。借助ChatGPT等工具,你可以无休止地与模型对话,以符合你理解水平的方式进行学习,因此它具有帮助我们进行个性化教育的巨大潜力。”

在ChatGPT推出以后,越来越多的行业人士开始警告AI可能带来的风险。例如,为防止学术作弊,纽约和西雅图等最大的学区最近已禁止在其设备和网络中使用ChatGPT,许多大学也在考虑采取类似措施。

对此,Mira Murati称,“这是一个特别的时刻,我们有责任(引导)这项技术如何去塑造这个社会。它(带来的影响)是双向的,技术塑造我们,我们也要塑造它。”

Mira Murati同时承认,还有很多难题需要解决。“例如,你如何让模型做你想让它做的事情,以及你如何确保它符合人类意图并最终为人类服务。还有很多关于社会影响的问题,以及伦理和哲学问题。”她表示。“AI可能被滥用,也可能被坏人利用。关键的问题在于,如何在全球范围内管理该技术的使用,以及如何以符合人类价值观的方式管理AI的使用。

对于这一点,她认为,重要的是要引入不同的声音,比如哲学家、社会科学家、艺术家和人文学科人士(的看法)。

与此同时,Mira Murati还说道,对于OpenAI和像其一样的公司来说,以一种可控和负责任的方式将其引入公众意识非常重要。“但我们是一小群人,我们还需要对这个系统进行更多的投入,不仅仅是技术范围的投入,还需要包括监管机构、政府和社会各界的参与。”

当被问及监管机构现在介入是否为时过早时,Murati称,“现在介入并不早。考虑到这些技术将产生的影响,每个人都开始参与进来是非常重要的。”

封面图片来源:视觉中国-VCG41N1151660342

如需转载请与《每日经济新闻》报社联系。
未经《每日经济新闻》报社授权,严禁转载或镜像,违者必究。

读者热线:4008890008

特别提醒:如果我们使用了您的图片,请作者与本站联系索取稿酬。如您不希望作品出现在本站,可联系我们要求撤下您的作品。

欢迎关注每日经济新闻APP

每经经济新闻官方APP

0

0