人工智能和全球变暖一样需警惕 AI伦理与监管引发业界热议

每经记者 刘春山    每经编辑 陈俊杰    

“人工智能帮助社会实现福祉，通过最终的自动化改变人类轨道，但这个轨道或许并不是我们预设的方向。一些快速颠覆性的技术，对于人类的决策产生巨大影响，这些都使得AI伦理、监管方面的问题变得非常关键。”太和智库欧洲中心主任Thorsten Jelinek，在5月22日举办的人工智能伦理与治理网络构建研讨会上说。

人工智能作为一种更高阶的计算机程序，越来越渗透进人类生活的方方面面。对于AI未来怀揣美好希望的同时，人类也对于这一新事物感到担忧。各国在不断寻求人工智能效益最大化时，如何应对其伦理和监管问题，使系统性风险和负面作用降至最低也备受热议。

“我们讲到伦理的时候，总是在讲最小化风险。”耶鲁大学生物伦理学中心科技与伦理学科主任温德尔·瓦拉赫这样强调AI伦理所追求的目标。

主办方供图

人类需要什么样的AI原则？

今年3月，中国新一代人工智能治理专业委员会召开了第一次会议，薛澜、曾毅作为这个组织的成员，此次也参与了太和智库主办的这场研讨会。清华大学苏世民书院院长、教授薛澜认为，中国往往对创新抱有极大的热情，中国实际上错过了前三次工业革命，而到了人工智能的变革时代，中国要一起承担风险，探讨AI原则。

“统一的AI的原则或者标准，这是不必要的，也不可能，因为没有人知道AI的未来到底能够发展到什么阶段。”中国科学院自动化研究所类脑智能研究中心副主任曾毅表示，现在大概42个不同的AI原则已经被提出来，甚至可以把它缩减到28个。但通过分析可以看到，实际上并没有一个AI的原则能够覆盖所有的内容。

上个月，欧盟发布了AI伦理指导方针，作为公司和政府机构未来开发AI时应遵循7大原则，呼吁“值得信赖的人工智能”。具体包括人类作用和监督、技术的稳健性和安全性、隐私和数据管理等等。

当大众在谈论AI治理时，安全、伦理、道德、隐私等词语被反复提及。而在一些研究者看来，人工智能时代来临以后，如何提高人工智能的透明度应当摆在第一位。温德尔·瓦拉赫就是持有这种观点的一员，其认为“我们现在创造出越来越复杂的系统，这些可能超越了我们的能力。”人工智能如同黑盒子一般，当务之急是尽可能的了解它。

在发言中，微软亚洲研究院副院长潘天佑把焦点放在了“人”身上。其认为人工智能终究是人类的工具，创造之初就是美好的，对于人工智能的治理终究要回到人自身。潘天佑同时倡导人工智能不应该被小部分人所享受，人工智能技术应取代重复性的劳动，释放人力。

建立共识需要全球协同

Thorsten Jelinek在研讨会上指出，气候变化是目前全球共同面对的挑战，人工智能的发展也大有这种趋势，它已经不是某个地区或者国家的问题，而是需要全球协同，建立一个被广泛认可的AI原则。

面对人工智能已经或者可能引发的伦理问题，国家层面之外，科技巨头们已经纷纷成立伦理委员会应对挑战。《每日经济新闻》记者注意到，亚马逊、微软、谷歌、IBM和Facebook此前联合成立了一家非营利性的人工智能合作组织（Partnership on AI），苹果公司于2017年加入该组织，同时各个企业也有自我的AI道德委员会。

今年初，《新京报》曾报道，刚刚成立一周的谷歌AI道德委员会居然就被解散了。香港科技大学计算机科学与工程系教授吴德恺是谷歌该组织八位成员之一，在此次的研讨会上，吴德恺澄清，“谷歌没有用过委员会这个词，用的不是治理是咨询，这其中存在传播误解。

“在AI当中，我们需要进行深入地翻译，并不是很浅层的翻译。需要没有任何偏见、没有立场进行描述，进行相互了解之后，才能够进行相互的学习。”吴德恺举例强调，必须听到不同的文化、不同的声音。

刘洋是来自剑桥大学未来智能中心的研究员，其另一个身份是哲学系的研究员。“中国在人工智能些创新方面是不可能忽视的力量，但在自己从事的工作中意识到，很多报道对中国人工智能发展是存在一些误解的，希望更多中国的声音被带到西方” 。

中国人民大学国际关系学院教授王义桅在讨论中表示，在人工智能方面的“贫富差距”未来可能会加大，人类未来更加依赖智能，这使得社会阶层固化加剧。另一方面，中国的文化更强调于和、和谐，强调互联互通与开放，而新一代的人工智能技术非常容易实现这样的目标。