美国当地时间周四,OpenAI的首席执行官山姆·阿尔特曼在麻省理工Imagination in Action活动中通过Zoom接受了采访,首次对马斯克等人联名签署的公开信作出回应。
这位风口浪尖之上的OpenAI首席执行官表示,他对信中的部分主旨“真的同意”。
但他认为这封公开信缺失最为关键的技术细节,例如“到底我们需要在何处按下暂停键”,阿尔特曼透露了一个重要信息,他称公开信的更早期版本声称OpenAI目前正在训练GPT-5,但他们没有,并且在一段时间内不会,“所以从这个意义上说,这有点傻。”阿尔特曼坦言。
他还表示,OpenAI正在开发GPT-4的附加功能,这些功能带来了安全问题,需要加以解决,但公开信中并未提到。一般来说,“随着能力越来越高,安全标准也必须提高,”首席执行官在数分钟的Zoom采访中言辞温和审慎。
“我们在完成对GPT-4的训练和发布之间花了超过6个月的时间......这些时间都花在安全性研究上,”山姆·阿尔特曼认为,他非常高兴GPT-4发布后,人们评价说这是到目前为止最安全的和最强一致性的模型,“而非能力最强的模型”。
尤为关键的是,在这次麻省理工活动中,阿尔特曼强调,尺寸是衡量模型质量的错误标准,他认为业界正在接近大语言模型LLM规模的极限,为规模而规模。他直言,已经有太多的人关注参数数字,也许参数还会有上升趋势,但这让他想起了20世纪90年代的芯片千兆赫兹竞赛,“每个人都试图指向一个大数字。”
他进一步指出了小模型的重要性,他认为未来模型参数应该向更小的方向发展,以多个小模型协作的方式工作,人们应该把精力放在迅速提高模型能力上,而不是在这里为参数计数而自娱自乐。