数据分布_迁移学习中如何利用权值调整数据分布？DATL、L2TL两大方法解析

青旅半醒 2022-11-19 12:38 75阅读 0赞

机器之心原创

**作者：仵冀颍编辑：Joni Zhong**

> 本文综述了两篇在迁移学习中利用权值调整数据分布的论文。通过这两个重要工作，读者可了解如何在迁移学习中进行微调的方法和理论。

深度神经网络的应用显著改善了各种数据挖掘和计算机视觉算法的性能，因此广泛应用于各类机器学习场景中。然而，深度神经网络方法依赖于大量的标记数据来训练深度学习模型，在实际应用中，获取足够的标记数据往往既昂贵又耗时。因此，一个自然的想法是利用现有数据集(即源域)中丰富的标记样本，辅助在要学习的数据集(即目标域)中的学习。解决这类跨领域学习问题的一种有效方法就是迁移学习：首先在一个大的标记源数据集(如 ImageNet)上训练模型，然后在目标数据集上进行模型调整更新，从而实现将已训练好的模型参数迁移到新的模型来帮助新模型训练。

基于深度神经网络的迁移学习主要有三种方式：一是迁移学习(Transfer Learning)，重新训练全连接层，其他预训练模型的卷积层不变；二是特征向量提取(Feature Vector Extraction)，利用预训练模型的卷积层提取源和目标数据集的特征向量，之后训练目标域中的全连接网络；三是微调(Fine-tune)，重新学习分类层的参数，而其余网络层参数则沿用预训练模型的初始化值。

研究人员发现，仅靠改进迁移学习的方式(如上述三种迁移学习方式)并不能进一步降低目标域中模型的损失值，而选择改进用作模型预训练的源数据集的丰富程度则是一种有效的方法。源数据集的丰富程度并不仅由数据集中数据量的大小决定，而同时取决于用于预训练的数据集是否能够有效捕获到与目标域中数据集相似的差异性特征(因素)。前期的方法主要是通过不同的度量方法找到源数据集与目标数据集中的相似样本数据，例如 \[1\] 使用滤波器组响应中的特征来选择源数据集中的最近邻样本，与使用整个源数据集相比，该方法具备更好的性能。\[2\] 利用土方运距(Earth Mover』s Distance，EMD)对源数据集和目标数据集之间的区域相似性进行量化计算，之后利用一个简单的贪婪子集生成选择准则提高目标测试集的性能。然而上述方法只是找到相似的样本数据，无法有效捕获目标数据集中的变化判别因素，因此迁移学习的效果改进有限。这种微调相当于对迁移学习的前两种步骤的改进，进一步提升了迁移学习的性能，因此本文探讨的是改善微调方式的迁移学习。

Ngiam et al. 提出了一种利用权值捕获源域和目标域中相似信息从而有效调整数据分布的方法，即基于目标数据集的重要权值域自适应迁移学习方法(Domain Adaptive Transfer Learning，DATL)\[1\]。DATL 利用概率形态识别源数据集中能够有效捕获目标数据集中变化判别因素的样本数据，使用 JFT 和 ImageNet 数据集作为源训练数据，并考虑一系列用于微调的目标数据集。在微调过程中，对网络中的分类层进行随机初始化训练。在这项工作的基础上，Zhu et al. 提出了共享权值的概念，即对源和目标任务模型之间共享权值联合优化的学习框架(Learning to Transfer Learn，L2TL)\[2\]，其中关于共享权值的计算是利用基于目标数据集的性能度量矩阵的强化学习模块(RL)实现的，从而保证自适应输出每个源数据集中类别的权值。L2TL 基于目标数据集中的测试性能自适应的推断域相似度。本文对 DATL 和 L2TL 进行详细的分析，目的是探讨在迁移学习中利用权值调整数据分布的有效性，以及计算权值的不同方式对迁移学习效果、计算成本等的影响。

**1、Domain Adaptive Transfer Learning with Specialist Models**