每日经济新闻
要闻

每经网首页 > 要闻 > 正文

人工智能正改变人类发展轨迹 以跨国合作构建伦理治理框架势在必行

每日经济新闻 2019-05-22 12:27:32

每经记者 杨弃非    每经编辑 杨欢

_____20190522120354.thumb_head

图片来源:每经记者 韩阳 摄

“我晚上甚至难以入眠,满脑子都在思考如何推进人工智能伦理的全球合作。”作为ICGAI(国际人工智能治理大会)的发起人,已满头白发的耶鲁大学生物伦理学中心科技与伦理学科主任温德尔·瓦拉赫(Wendell Wallach)言辞恳切。在去年9月,主持了集结众多人工智能行业领袖的纽约峰会后,瓦拉赫又现身中国——推动更多利益相关方加入到构建全球人工智能伦理与治理的工作中来,是他此行的重要目的。

今年4月,欧盟出台《人工智能伦理导则》;在不久前举行的第三届世界智能大会上,全国政协副主席、中国科协主席万钢提出,将人工智能道德伦理研究列入中国人工智能发展的“新策略”。种种迹象表明,人工智能已掀起了伦理优先的全新发展模式,瓦拉赫等国内外学者进一步认为,应该将“战线”再拉至全球层面。

“尽管人工智能仍处于起步期,但发展速度惊人。” 5月21日,在太和智库主办的中国人工智能伦理与治理网络构建研讨会上,太和智库欧洲中心主任、高级研究员托斯登·耶里尼克指出,“人工智能将带来‘革命的终结’,进而影响全人类发展轨迹。为避免不可逆的灾难,有必要进行跨国的伦理治理。”

对于人工智能这样的新兴领域,多认为应审慎监管,但如何把握伦理治理的度?在各国争相抢占技术与产业应用制高点时,又如何建立合作的共识?在接受《每日经济新闻》记者的专访时,耶里尼克就上述人工智能领域的国际焦点话题,一一作出解答。

颠覆性的人工智能如何向善?

人工智能的发展有多快?数据显示,仅2017年,全球新成立人工智能创业公司1100家,人工智能领域共获得投资152亿美元,同比增长141%。而麦肯锡发布的一项研究报告指出,到2030年,约70%的公司将采用至少一种形式的人工智能,人工智能新增经济规模将达到13万亿美元。

被认为是第四次产业革命核心的人工智能,正在掀起新一轮产业的改造浪潮。 “人工智能+”接棒“互联网+”,成为经济新的赋能手段。但在耶里尼克看来,人工智能更大的影响将发生在整个社会领域。

“与以前的产业革命不同,人工智能不是一个阶段性的产业革命,它将带来一种‘革命的终结’。”耶里尼克指出,“在产业革命的过程中,人类始终处于主宰的位置,人类智力对产业革命的作用是无可替代的。但随着人工智能开始引领革命,将出现能够与人类智力相抗衡的事物。”

改变已经悄然上演。人工智能取代人力已不是新闻,与此同时,在人工智能技术的支持下,通过人脸识别改变照片甚至视频的做法引起更多人的关注。

“它改变的是人与人之间、人与技术之间的关系。”耶里尼克分析道,“比如,当机器把人从工作中解脱出来,人通过工作来实现自我认知的方式可能就会产生改变;对于一些普世标准,比如如何定义最低收入,在由人工智能主导和未得到人工智能改造的国家中,将产生巨大的观念差异。”

“人工智能实际上是在重新定义‘人’。”在接受《每日经济新闻》记者采访时,中国人民大学国际关系学院教授王义桅提到,当有了人工智能参与后,国家竞争力定义将受到根本影响,这实际上是对规则本身的重塑。

当一切回到原点,人类的发展轨迹就成为一个需要考虑的问题。“我们要避免走向错误的方向,必须要进行干预,并找到好的应对措施。这会是一个很长的过程,可能会直到所有‘改革’的结束。”耶里尼克说道。

制度建立与国际协作应前置

正因如此,人工智能的发展与以前的数次工业革命中的新技术都不相同——按照耶里尼克所说,尽管人工智能还处于发展的初级阶段,但关于伦理的讨论和制度的建设已被早早提上日程。

一个典型的例子发生在欧盟。欧盟于去年通过了《通用数据保护条例》后,又在今年4月快马加鞭地发布了《人工智能伦理导则》,据智库机构数据创新中心(Center for Data Innovation)的高级政策分析师艾琳·奇沃特(Eline Chivot)分析,该举动的目的是以伦理标准确定欧盟在全球人工智能发展中的地位。

领先科研与产业发展的伦理制定,亦成为越来越多国家的做法。中国科技部部长王志刚日前透露,正在加紧研究起草人工智能治理准则,近期将向全社会发布。而在美国,一些州已经发布了以州为单位的导则。

有观点指出,这种做法的效果存在两面性——在提供更稳定的政策土壤与可信赖的合作机制的同时,它也可能会限制企业和机构在该领域自然的创新本能与发展机遇。

“需要分清的是,是推进人工智能产业本身的发展,还是要促进全行业的创新能力。”耶里尼克认为,“不加以限制的后果是,一个‘巨无霸’公司可能很快就掌控了行业内的全部机会,难以形成企业共同成长、创新的健康环境。同时,科技也应该真正用于服务社会。”

他提到了一种自我监管的方式。“人工智能可以做到在设计层面拥有某种自我意识,帮助避免人类在为其制定制度时可能拥有的偏见;那么,也可以设计一种方式,让人工智能自己管理自己。”耶里尼克说。

而在研讨会现场,许多人也指出,作为一大国际议题,人工智能更需要来自国际层面的共同治理,特别是诸如气候变暖等全球性议题,由于各国国内缺乏变革动力时、难以进行有效国际合作,更应该提前部署在人工智能领域的国际合作,扬长避短。

“这实际上包含了一种多边主义的观念。”耶里尼克向记者解释称,“由于人工智能本身的‘跨界’属性,自然需要鼓励更多利益相关者和利益相关国参与。”

中、美、欧盟可构建“三角框架”

但与许多国际合作类似,在人工智能伦理治理上,尚未形成一个有约束力的、能够有效协调各国和地区间竞争关系的合作机制。

在2017年举行的“向善的人工智能”(Beneficial AI)会议上,由844名人工智能和机器人专家联合签署了一项“阿西洛马人工智能原则”,提出了全球人工智能领域发展的普世原则,这也是人工智能领域较早、较全面的国际合作指导原则。

此后,尽管也有其他的跨国人工智能合作框架诞生,但大都与此类似——提出的原则相似,管理也主要以一种松散的模式——即耶里尼克提到的“软治理”。

“由于政府的治理存在一定的滞后性,需要这种灵敏的治理方式,只提供治理框架,在治理过程中不断根据实际情况进行动态调整,以跟上科技与产业的变化速度。”耶里尼克向记者如是介绍。

而与灵活性同时存在的是,软治理难以弥合国家或地区间的不同点,这不仅体现在仍进行中的关于人工智能的竞争,同时,伦理层面的合作会更多牵动到文化差异。

“单独看中国、美国和欧盟,文化、价值观与伦理观的差异确实存在。”据耶里尼克观察发现,当谈到人工智能的伦理,美国倾向于谈利益、个人价值的实现,欧洲更关注社会融合和隐私保护的问题,而在中国,对和谐的强调以及如何治理则是讨论的共同点。

针对三方的差异,中国人民大学国际关系学院教授王义桅在接受《每日经济新闻》记者采访时,提出了一种合作模式:中国、美国与欧盟各施所长,构建一种三角形的合作框架。

在耶里尼克看来,在这种框架下,中国还可以发挥文化优势,比如将“利他主义”的思想贡献至有关人工智能伦理的大讨论中,供各方互学共鉴,使中国更好地加入人工智能全球发展议程的设置中。

如需转载请与《每日经济新闻》报社联系。
未经《每日经济新闻》报社授权,严禁转载或镜像,违者必究。

版权合作及网站合作电话:021-60900099转688
读者热线:4008890008

特别提醒:如果我们使用了您的图片,请作者与本站联系索取稿酬。如您不希望作品出现在本站,可联系我们要求撤下您的作品。

人工智能 太和智库

欢迎关注每日经济新闻APP

每经经济新闻官方APP

0

0