少样本学习，在机器学习的过程中，如果训练样本数量比较少，有什么办法可以解决

学习能力 2023-12-20 22:19:29 62

少样本学习？Few-shot Learning （少样本学习）是 Meta Learning （元学习）中的一个实例 [1] ，所以在了解什么是Few-shot Learning之前有必要对Meta Learning有一个简单的认识。那么，少样本学习？一起来了解一下吧。

通常情况下小样本检验指的是

可以对样例进行一定程度的变化，如图片，可以做镜像，或者适当程度的放大，旋转，拉伸处理（前提是在合理范围内）

对于机器学习tensorflow 少量样本和很多样本训练得到的权重文件有什么差别？收敛速度的比较如何？

但这方面的数据供给非常有限，物理世界中是不同传感器获取的实时数据流，我们对大脑的工作原理还没有弄清楚），没有人能够准确预测何时何地会发生何种事故，模拟出来的数据与真实数据差距很大，Yann LeCun 表示，这是现有的深度学习很难做到的，Yann LeCun，同时又很难通过之前那些行之有效的方式去增加数据供给，我们还会遇到数据类型不一样的问题，所以这也是将深度学习现有的成功延伸到真实物理世界应用的一个底层障碍。

Bragi 从历史的角度分析了深度学习和神经科学的关系，那就无法发挥出深度学习的优势，Demiurge 专注于开发一种系统方法从源头解决真实世界诸多领域中数据量严重不足的问题——既然很难有效增加数据供给，从深度学习和神经科学没有太大关系的这一代（深度学习1，如今的神经科学已经是一个非常巨大的宝库，为何不设法大幅降低对数据的需求，他最不喜欢的对深度学习的定义就是「它像我们的大脑」，生物神经元所擅长的是从多模的实时数据流中提取多维度的时空信息来实现 one-shot learning，一方面研究深度学习的反向传播算法在生物神经元上是如何实现的，「现在的深度学习从神经科学中获得的灵感非常有限，人工神经网络则倾向于避免出现这些。

小样本数据能不能尝试用深度学习进行分类

可以了解一下迁移学习，最简单的方式就是fine-tuning，先在imagenet等大型数据集上训练好模型，再此基础上进行finetuning，一般来说效果还可以。目前也有不少研究few-shot（one-shot）的，可以看一看。

什么是Few-shot Learning

Few-shot Learning （少样本学习）是 Meta Learning （元学习）中的一个实例[1]，所以在了解什么是Few-shot Learning之前有必要对Meta Learning有一个简单的认识。不过在了解什么是Meta Learning之前还是要了解一下什么是Meta。因此，阅读本文后你将对如下知识有一个初步的了解。

比如照片，我们看到的是它呈现出来的数据，即Data，但它还含有许多描述它拍摄参数的数据，比如光圈、快门速度、相机品牌等，即Meta。

机器学习模型一般要求训练集样本量足够大，才能取得不错的预测效果。但对于人来说却不需要，对于一个从没有见过小猫和小狗的小朋友来说，给他几张照片他就能轻松的学会如何分辨两只动物。如果一个人已经掌握了如何骑自信车，那么学习如何骑摩托车对他来说会非常轻松。我们能否设计一个模型，让模型仅从一点点训练样本就能学会新的“知识”呢？即让模型“自己学会去学习”[1]。

举个简单的例子，一个小朋友去动物园，里面有些动物他没有见过所以不知道叫什么名字，然后你给他一些小卡片，卡片上有各个动物的照片和名称，小朋友就可以自己学习，从这些卡片中找出这些动物的名字。

深度学习在使用少量标记样本的情况下也能获得良好的识别和分类结

一般是50个以下，有时也可以30个以下。

拓展：小样本理论是由统计学家威廉.西利.戈塞特（William Sealy Gosset，1876-1937）于20世纪初叶创立的，其中小样本是指样本容量小于50（有些规定为小于等于30）。小样本分布在统计假设检验和区间估计等方面的应用，可以省人、省钱、省时间，因而，引起了工业、农业和科学研究等实际工作者的重视和欢迎；同时，也吸引更多的统计学家开拓这方面新的领域。