月之暗面CEO杨植麟谈AI安全：不一定是当前最大的矛盾，但肯定是长期储备｜大模界

每经记者｜可杨    每经编辑｜梁枭    

今日（6月14日），AI行业盛会“2024北京智源大会”在中关村展示中心开幕。《每日经济新闻》在现场注意到，在全体大会中的“尖峰对话：通往AGI之路”环节，百川智能CEO王小川、智谱AI CEO张鹏、月之暗面CEO杨植麟、面壁智能CEO李大海展开对谈。

在对谈中，杨植麟谈到，AI安全非常重要，它可能不一定是当前最急迫，但是一个需要我们提前去准备的事情。因为随着模型不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘十倍，智能水平也得到提升，这是一个逐渐适应的过程。因此，AI安全不一定是当前最大的矛盾或者最紧急的事情，但它肯定是长期储备。

杨植麟认为，在这之中最重要的是两个方面，首先是模型会因为用户本身有些恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。其次是模型本身是否有自己的motivation（动机），这与训练方式相关，包括能否在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。