March 3, 2022 1 min to read

小样本学习

概念

基于少量样本生成好的模型
核心问题：如何在有限的样本下，最小化经验风险

优势

1. 降低数据采集/标注成本
   
2. 让机器智能更逼近人工智能
   
3. 有可能降低算法任务的整体成本（研发工作量、工程部署、人力、时间等）

关键技术

1. 基于度量的思路：迁移学习，利用辅助数据集，学习样本之间相似度的度量方法，然后应用于小样本上；

解决方案的分类：
数据：利用先验知识，增强监督信号；

• 数据增强
• 针对小样本的数据增强技术？？
  

模型：利用先验知识，缩小假设空间的大小

• 多任务学习
• 基于预训练的迁移学习

参数求解：利用先验知识，更改假设空间中对最优假设的搜索

参考资料

https://www.jiqizhixin.com/articles/2020-05-04