大型语言模型
分类
架构
例如,Bengio正在探索如何创建与当今基于Transformer的大型语言模型架构不同的AI系统。
文章
构建
但是鉴于大型语言模型的构建和训练方式,一些研究人员表示,它们本身不足以实现AGI。
文章
广泛
局限性
效果
随着大型语言模型的规模增加,还出现了其他新能力,这提高了AGI也可能简单地出现的可能性,如果大型语言模型变得足够大的话。
文章
影响
还有迹象表明,大型语言模型随着规模增大所获得的收益并不像以前那么大,尽管尚不清楚这是因为数据中新颖性减少(因为现在已经使用了太多数据),还是其他原因。
文章
其它