突然资讯网
首页 >> 科技 >> 正文

Transformer模型,可学习模式,Tay在Google,交大AI实验室

日期:2020-09-22 09:24:58 来源:互联网 编辑:小狐 阅读人数:364

萧箫 发自 凹非寺

可高效处理长文本的模型Longformer、和堪称 “升级版”Transformer的BigBird模型,到底有什么区别?

Transformer模型,可学习模式,Tay在Google,交大AI实验室(图1)

Transformer的其他各种变体 (X-former)到底都长什么样、又有哪些新应用?

由于Transformer模型的发展速度日新月异,一天一个样,哪怕是隔段时间回来研究,模型可能也已经多了不少。

Transformer模型,是谷歌在2017年推出的NLP经典模型 (Bert就是用的Transformer)

在机器翻译任务上,Transformer表现超过了RNN和CNN,只需要编/解码器就能达到很好的效果,可以高效地并行化。

好是,这里有一篇Transformer模型的“最新动向”它集中探讨Transformer新模型对于自注意力机制 (Self-attention)的改进,并对这些模型进行对比。

此外,还有模型在NLP、计算机视觉和强化学习等各个领域的最新应用。

标准Transformer模型

首先来看看,标准的Transformer模型是什么样的。

Transformer模型,可学习模式,Tay在Google,交大AI实验室(图2)

Transformer的核心部分,是右边的两个黑色实线框圈起来的两部分,左边是编码器 (Encoder)右边是解码器 (Decoder)

可以看见,编/解码器主要由两个模块组合成:前馈神经网络 (图中蓝色的部分)和注意力机制 (图中玫红色的部分)解码器通常多一个 (交叉)注意力机制。

Transformer最重要的部分,就是注意力机制。

Transformer模型,可学习模式,Tay在Google,交大AI实验室(图3)

这其中,自注意力机制是定义Transformer模型特征的关键,其中一个重点难题就在于它的时间复杂度和空间复杂度上。

由于注意力机制直接将序列 sequence两两比较,导致计算量巨大 计算量变成On²。

最近,大量论文提出了新的Transformer“变种”它们的根本目的都是加速模型的效率,但如果一篇篇去看,可能有点眼花缭乱。

“变种”后的Transformer模型 2种分类方法

使用方法来分类的话,Transformer模型可以分成如下3类:

只用编码器:可用于分类

只用解码器:可用于语言建模

编码器-解码器:可用于机器翻译

但如果按这些变种的 提高效率的原理,也就是“高效方法”来分类,那么Transformer模型的这些“变种”则可以被分成如下几类:

Transformer模型,可学习模式,Tay在Google,交大AI实验室(图4)

Fixed Patterns(固定模式)将视野限定为固定的预定义模式,例如局部窗口、固定步幅块,用于简化注意力矩阵。

Learnable Patterns(可学习模式)以数据驱动的方式学习访问模式,关键在于确定token相关性。

Memory(内存)利用可以一次访问多个token的内存模块,例如全局存储器。

Low Rank(低秩)通过利用自注意力矩阵的低秩近似,来提高效率。

Kernels(内核)通过内核化的方式提高效率,其中核是注意力矩阵的近似,可视为低秩方法的一种。

Recurrence(递归)利用递归,连接矩阵分块法中的各个块,最终提高效率。

可以看见,近期Transformer相关的研究都被分在上面的图像中了,非常清晰明了。

了解完分类方法后,接下来就是Transformer模型的各种变体了。

17种经典“X-former”

1、Memory Compressed Transformer(2018)

这是让Transformer能更好地处理长序列的早期尝试之一,主要修改了两个部分:定位范围注意、内存压缩注意。

其中,前者旨在将输入序列分为长度相似的模块,并在每个部分中运行自注意力机制,这样能保证每个部分的注意力成本不变,激活次数就能根据输入长度线性缩放。

后者则是采用跨步卷积,减少注意力矩阵的大小、以及注意力的计算量,减少的量取决于跨步的步幅。

2、Image Transformer(2018)

这是个受卷积神经网络启发的Transformer变种,重点是局部注意范围,即将接受域限制为局部领域,主要有两种方案:一维局部注意和二维局部注意。

Transformer模型,可学习模式,Tay在Google,交大AI实验室(图5)

不过,这种模型有一个限制条件,即要以失去全局接受域为代价,以降低存储和计算成本。

3、 Set Transformer(2019)

这个模型是为解决一种特殊应用场景而生的:输入是一组特征,输出是这组特征的函数。

Transformer模型,可学习模式,Tay在Google,交大AI实验室(图6)

它利用了稀疏高斯过程,将输入集大小的注意复杂度从二次降为线性。

4、Sparse Transformer(2019)

这个模型的关键思想,在于仅在一小部分稀疏的数据对上计算注意力,以将密集注意力矩阵简化为稀疏版本。

不过这个模型对硬件有所要求,需要自定义GPU内核,且无法直接在TPU等其他硬件上使用。

5、Axial Transformer(2019)

Transformer模型,可学习模式,Tay在Google,交大AI实验室(图7)

这个模型主要沿输入张量的单轴施加多个注意力,每个注意力都沿特定轴混合信息,从而使沿其他轴的信息保持独立。

由于任何单轴的长度通常都比元素总数小得多,因此这个模型可以显著地节省计算和内存。

6、Longformer(2020)

Sparse Transformer的变体,通过在注意力模式中留有空隙、增加感受野来实现更好的远程覆盖。

在分类任务上,Longformer采用可以访问所有输入序列的全局token(例如CLS token)

7、Extended Transformer Construction(2020)

同样是Sparse Transformer的变体,引入了一种新的全局本地注意力机制,在引入全局token方面与Longformer相似。

但由于无法计算因果掩码,ETC不能用于自动回归解码。

8、BigBird(2020)

与Longformer一样,同样使用全局内存,但不同的是,它有独特的“内部变压器构造(ITC)”即全局内存已扩展为在sequence中包含token,而不是简单的参数化内存。

然而,与ETC一样,BigBird同样不能用于自动回归解码。

9、Routing Transformer(2020)

提出了一种基于聚类的注意力机制,以数据驱动的方式学习注意力稀疏。为了确保集群中的token数量相似,模型会初始化聚类,计算每个token相对于聚类质心的距离。

10、Reformer(2020)

一个基于局部敏感哈希 (LSH)的注意力模型,引入了可逆的Transformer层,有助于进一步减少内存占用量。

模型的关键思想,是附近的向量应获得相似的哈希值,而远距离的向量则不应获得相似的哈希值,因此被称为“局部敏感”

11、Sinkhorn Transformer(2020)

这个模型属于分块模型,以分块的方式对输入键和值进行重新排序,并应用基于块的局部注意力机制来学习稀疏模式。

12、Linformer(2020)

这是基于低秩的自注意力机制的高效Transformer模型,主要在长度维度上进行低秩投影,在单次转换中按维度混合序列信息。

13、Linear Transformer(2020)

这个模型通过使用基于核的自注意力机制、和矩阵产品的关联特性,将自注意力的复杂性从二次降低为线性。

目前,它已经被证明可以在基本保持预测性能的情况下,将推理速度提高多达三个数量级。

14、Performer(2020)

这个模型利用正交随机特征(ORF)采用近似的方法避免存储和计算注意力矩阵。

15、Synthesizer models(2020)

这个模型研究了调节在自注意力机制中的作用,它合成了一个自注意力模块,近似了这个注意权重。

16、Transformer-XL(2020)

17、Compressive Transformers(2020)

这个模型是Transformer-XL的扩展,但不同于Transformer-XL,后者在跨段移动时会丢弃过去的激活,而它的关键思想则是保持对过去段激活的细粒度记忆。

整体来说,这些经典模型的参数量如下:

Transformer模型,可学习模式,Tay在Google,交大AI实验室(图8)

Transformer模型,可学习模式,Tay在Google,交大AI实验室(图9)

论文一作Yi Tay,硕士和博士均毕业于新加坡国立大学计算机科学。

目前,Yi Tay在Google AI从事研究工作,主要方向是自然语言处理和机器学习。

传送门

好课推荐 0基础学Python

0基础可入门,限时开放体验课!扫码即刻开启Python学习之旅:

վ“ᴗ” ի 追踪AI技术和产品新动态

本文相关词条概念解析:

模型

模型是所研究的系统、过程、事物或概念的一种表达形式,也可指根据实验、图样放大或缩小而制作的样品,模型一般用于展览或实验或铸造机器零件等用的模子。对于现实世界的事物、现象、过程或系统的简化描述,或其部分属性的模仿。在一般的意义下是指模仿实物或设计中的构造物的形状制成的雏型,其大小可以分为缩小型、实物型和放大型。

网友评论