基于目标域的域自适应类型

01

如何理解域适应

域适应是计算机视觉的一个领域，我们的目标是在源数据集上训练一个神经网络，并确保在显著不同于源数据集的目标数据集上也有良好的准确性。为了更好地理解域适应和它的应用，让我们先看看它的一些用例。

我们有很多不同用途的标准数据集，比如GTSRB用于交通标志识别，LISA和LARA dataset用于交通信号灯检测，COCO用于目标检测和分割等。然而，如果你想让神经网络很好地完成你的任务，比如识别印度道路上的交通标志，那么你必须首先收集印度道路的所有类型的图像，然后为这些图像做标注，这是一项费时费力的任务。在这里我们可以使用域适应，因为我们可以在GTSRB(源数据集)上训练模型，并在我们的印度交通标志图像(目标数据集)上测试它。

在很多情况下很难收集数据集，这些数据集具有训练鲁棒神经网络所需的所有变化和多样性。在这种情况下，在不同的计算机视觉算法的帮助下，我们可以生成具有我们需要的所有变化的大型合成数据集。然后在合成数据集(源数据集)上训练神经网络，并在真实数据集(目标数据集)上测试它。

为了更好地理解，我假设我们对目标数据集没有可用的标注，但这不是唯一的情况。因此在域适应方面，我们的目标是在一个标签可用的数据集(源)上训练神经网络，并在另一个标签不可用的数据集(目标)上保证良好的性能。

分类pipeline

现在让我们看看如何实现我们的目标。考虑以上图像分类的例子。为了从一个域适应到另一个域，我们希望我们的分类器能够很好地从源数据集和目标数据集中提取特征。由于我们已经在源数据集上训练了神经网络，分类器必须在源数据集上表现良好。然而，为了使分类器在目标数据集上表现良好，我们希望从源数据集和目标数据集提取的特征是相似的。因此，在训练时，我们加强特征提取，为源和目标域图像提取相似的特征。

成功的域适应

02

基于目标域的域自适应类型

根据目标域提供的数据类型，域适应可分为以下几类:

监督 — 你已经标记了来自目标域的数据，目标域数据集的大小比源数据集小得多。

半监督 — 你既有目标域的标记数据也有未标记数据。

无监督的 — 你有很多目标域的未标记样本。

域适应技术

主要采用三种技术实现任意域适应算法。以下是域适应的三种技术：

基于分布的域适应

基于对抗性的域适应

基于重建的域适应

现在让我们逐个来看每种技术。

基于分布的域适应

基于散度的域适应原理是最小化源与目标分布之间的散度准则，从而得到域不变性特征。常用的分布准则有对比域描述、相关对齐、最大平均差异(MMD)，Wasserstein等。为了更好地理解这个算法，让我们先看看一些不同的分布。在最大平均差异(MMD)中，我们试图找出给定的两个样本是否属于相同的分布。我们将两个分布之间的距离定义为平均嵌入特征之间的距离。如果我们有两个在集合X上的分布P和Q，MMD通过一个特征映射来定义　　

      审核编辑：彭静