概述：迁移学习在NLP和CV中的应用实例

　　设想一下从事野生动植物保护工作中的情景，并且要分类出现在摄像头上的不同动物。特别是如果你正在尝试接近灭绝的监测物种，则可能无法收集大量标记的数据。由于训练有素的网络经常在广泛的概念领域（从食物到动物和物体）进行训练，因此使用预先训练好的网络作为特征或作为初始化者绝对是一种选择。

　　另一方面，想象一下你需要分析肿瘤科医师的放射照相图像。这些图像不是典型的猫狗图像，因为它们是在病人身上执行扫描的输出。这些图像虽然转换为RGB图像，但通常以灰色显示扫描结果。尽管预先训练的网络能够从RGB图像中检测形状和边缘，但是它们很可能难以检测放射线照相图像上的那些图像，因为那些图像不在预先训练的模型的训练数据中。另外，在医疗场景中，标签数据量通常较低。有几种技术可以利用（潜在丰富的）未标记的数据，但是他们通常需要更多的工作和微调。通常，这些技术试图通过迭代训练每个层来重构图像（使用卷积和去卷积层）来预训练分类网络的权重。这些技术和预先训练的网络的组合通常用于改善收敛性。

　　上述计算机视觉中的两种方法都依赖于一个重要的假设：原始数据集中提取的模式在新数据集的上下文中是有用的。这种用处很难量化，但这是一个重要的假设。地震、高光谱或甚至医学影像与ImageNet中的图像有一定的相似性。然而，确定图像包含哪些交通标志，依赖于相当相似的模式。了解计算机视觉问题领域是成功应用计算机视觉的关键。通过了解迁移学习中使用的模型（数据集，技术等）的背景，你就可以避免在实验过程中浪费时间，并专注于微调那些可能产生差异的模型上。

（编辑：核心网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!