小样本学习登Nature!计算效率高170倍,彻底起飞

2024-04-23 20:52

本文主要是介绍小样本学习登Nature!计算效率高170倍,彻底起飞,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

中科院新提出的社会行为图谱SBeA登上Nature子刊!

SBeA是一个用于多动物3D姿势估计、身份识别和社会行为分类的小样本学习框架,能够全面量化自由群居动物的行为,使用较少的标记帧数(约 400 帧)进行多动物三维姿态估计。

结果显示SBeA成功地量化了社会行为模块的聚类性能,可以有效的分类社会行为。

在多动物身份识别方面,SBeA的准确率超过 90%。这类小样本学习方法能够在有限的数据情况下训练模型,降低收集和标注数据的成本,同时加快模型的开发和部署速度,让模型能够学习到更加泛化的特征,提高对新任务或类别的适应性和识别能力

因此,小样本学习一直是重要的研究方向。这次我整理了16个小样本学习创新方案,来自近一年高引用的顶会文章,原文以及开源代码已附,方便同学们复现。

论文原文以及开源代码需要的同学看文末

Multi-animal 3D social pose estimation, identification and behaviour embedding with a few-shot learning framework

方法:论文介绍了一种名为SBeA的多动物三维姿态跟踪和社交行为映射方法。该方法旨在全面量化自由社交动物的行为。除此之外,研究还提出了一种基于多视图几何的方法用于多动物的三维重建。通过该方法可以计算出多个动物的三维坐标。此外,研究还使用SBeA方法对Shank3B基因敲除小鼠进行了社交行为的识别。

创新点:

  • 通过使用多视角摄像机阵列进行视频捕获和人工标注,作者开发了一个名为SBeA的计算框架,用于多动物三维姿势估计、无标签识别和无监督动态学习等任务。

  • 作者提出了角度谱聚类的方法来减少社交行为模块的冗余,并通过基于特征角度分离的方式合并社交行为模块。

  • 作者利用SBeA成功鉴定了自闭症谱系障碍基因突变小鼠的异常社交行为表型,并发现了新的社交行为表型,如好奇行为和独立梳理行为。

GPr-Net: Geometric Prototypical Network for Point Cloud Few-Shot Learning

方法:论文提出了一种轻量级的几何原型网络(GPr-Net),利用局部几何特征和超几何空间来实现高效的点云少样本学习。在ModelNet40数据集上,GPr-Net相比现有方法具有5%更高的准确率和170倍较少的参数。

创新点:

  • 提出了一种轻量级的几何原型网络(GPr-Net),用于点云少样本学习。该方法利用手工设计的矢量化内在几何解释器和拉普拉斯向量来提取和评估点云的形态,从而改进了少样本学习的表示。此外,拉普拉斯向量使得可以从含有较少点的点云中提取有价值的特征。为了解决少样本度量学习中的分布漂移挑战,作者利用双曲空间,证明了他们的方法比现有的点云少样本学习方法更好地处理类内和类间方差。

  • 提出了一种新的视角来处理点云少样本学习,挑战了复杂的网络设计和训练策略的假设。他们的方法通过采用简单而有效的几何特征,包括内在几何解释器和拉普拉斯向量,来捕捉点云的内在拓扑结构,并在ModelNet40数据集上取得了优越的性能。

Frequency Guidance Matters in Few-Shot Learning

方法:在论文中,研究了不同频率成分对小样本学习任务的影响,并提出了一种新的频率引导的小样本学习框架(FGFL),该框架利用任务特定的频率成分来自适应地掩蔽相应的图像信息,采用了一种新颖的多级度量学习策略,包括原始图像、掩蔽图像和未掩蔽图像之间的三元损失,以及掩蔽和原始支持集和查询集之间的对比损失,以利用更具有判别性的信息。

创新点:

  • 频率引导的少样本学习(FGFL)框架:该框架利用任务特定的频率组件自适应地遮蔽相应的图像信息,包括原始、遮蔽和未遮蔽图像之间的三元损失以及遮蔽和原始支持和查询集之间的对比损失,以利用更有区分性的信息。

  • 多层度量学习策略:包括样本级三元损失和类级对比损失,能够更好地利用样本和任务级别的频率信息,并鼓励模型捕捉更多与任务相关的频率信息,从而提高空间域中的分类性能。

Multimodality Helps Unimodality: Cross-Modal Few-Shot Learning with Multimodal Models

方法:论文利用了最近的多模态基础模型,如CLIP,将不同模态映射到相同的表示空间,并提出了一种简单的跨模态适应方法,从不同模态的少样本示例中学习。通过利用额外的类别名称作为额外的一次训练样本,研究人员在视觉-语言适应中取得了最新的结果。

创新点:

  • 跨模态自适应是作者提出的最重要的创新之一。作者提出了一种简单的跨模态自适应方法,通过将不同模态的样本视为额外的少样本示例来实现。这种方法将原来的“n-shot”问题转化为“(n+1)-shot”问题,取得了令人瞩目的结果,并且可以应用于现有的微调方法或者其他模态。

  • 跨模态学习解决了少样本学习的不确定性问题。作者通过使用现有的文本标签作为免费的训练样本来证明了这一点。跨模态学习的一个吸引人的方面是,学习的模型自然适用于多模态的测试数据,如同时包含视觉和音频信号的视频的分类。

关注下方《学姐带你玩AI》🚀🚀🚀

回复“小样本创新”获取全部论文+代码

码字不易,欢迎大家点赞评论收藏

这篇关于小样本学习登Nature!计算效率高170倍,彻底起飞的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/929863

相关文章

一篇文章彻底搞懂macOS如何决定java环境

《一篇文章彻底搞懂macOS如何决定java环境》MacOS作为一个功能强大的操作系统,为开发者提供了丰富的开发工具和框架,下面:本文主要介绍macOS如何决定java环境的相关资料,文中通过代码... 目录方法一:使用 which命令方法二:使用 Java_home工具(Apple 官方推荐)那问题来了,

macOS彻底卸载Python的超完整指南(推荐!)

《macOS彻底卸载Python的超完整指南(推荐!)》随着python解释器的不断更新升级和项目开发需要,有时候会需要升级或者降级系统中的python的版本,系统中留存的Pytho版本如果没有卸载干... 目录MACOS 彻底卸载 python 的完整指南重要警告卸载前检查卸载方法(按安装方式)1. 卸载

一文详解MySQL索引(六张图彻底搞懂)

《一文详解MySQL索引(六张图彻底搞懂)》MySQL索引的建立对于MySQL的高效运行是很重要的,索引可以大大提高MySQL的检索速度,:本文主要介绍MySQL索引的相关资料,文中通过代码介绍的... 目录一、什么是索引?为什么需要索引?二、索引该用哪种数据结构?1. 哈希表2. 跳表3. 二叉排序树4.

Python实现精确小数计算的完全指南

《Python实现精确小数计算的完全指南》在金融计算、科学实验和工程领域,浮点数精度问题一直是开发者面临的重大挑战,本文将深入解析Python精确小数计算技术体系,感兴趣的小伙伴可以了解一下... 目录引言:小数精度问题的核心挑战一、浮点数精度问题分析1.1 浮点数精度陷阱1.2 浮点数误差来源二、基础解决

Python文本相似度计算的方法大全

《Python文本相似度计算的方法大全》文本相似度是指两个文本在内容、结构或语义上的相近程度,通常用0到1之间的数值表示,0表示完全不同,1表示完全相同,本文将深入解析多种文本相似度计算方法,帮助您选... 目录前言什么是文本相似度?1. Levenshtein 距离(编辑距离)核心公式实现示例2. Jac

Unity新手入门学习殿堂级知识详细讲解(图文)

《Unity新手入门学习殿堂级知识详细讲解(图文)》Unity是一款跨平台游戏引擎,支持2D/3D及VR/AR开发,核心功能模块包括图形、音频、物理等,通过可视化编辑器与脚本扩展实现开发,项目结构含A... 目录入门概述什么是 UnityUnity引擎基础认知编辑器核心操作Unity 编辑器项目模式分类工程

Python学习笔记之getattr和hasattr用法示例详解

《Python学习笔记之getattr和hasattr用法示例详解》在Python中,hasattr()、getattr()和setattr()是一组内置函数,用于对对象的属性进行操作和查询,这篇文章... 目录1.getattr用法详解1.1 基本作用1.2 示例1.3 原理2.hasattr用法详解2.

Python中经纬度距离计算的实现方式

《Python中经纬度距离计算的实现方式》文章介绍Python中计算经纬度距离的方法及中国加密坐标系转换工具,主要方法包括geopy(Vincenty/Karney)、Haversine、pyproj... 目录一、基本方法1. 使用geopy库(推荐)2. 手动实现 Haversine 公式3. 使用py

如何在Mac上彻底删除Edge账户? 手动卸载Edge浏览器并清理残留文件技巧

《如何在Mac上彻底删除Edge账户?手动卸载Edge浏览器并清理残留文件技巧》Mac上的Edge账户里存了不少网站密码和个人信息,结果同事一不小心打开了,简直尴尬到爆炸,想要卸载edge浏览器并清... 如果你遇到 Microsoft Edge 浏览器运行迟缓、频繁崩溃或网页加载异常等问题,可以尝试多种方

Python并行处理实战之如何使用ProcessPoolExecutor加速计算

《Python并行处理实战之如何使用ProcessPoolExecutor加速计算》Python提供了多种并行处理的方式,其中concurrent.futures模块的ProcessPoolExecu... 目录简介完整代码示例代码解释1. 导入必要的模块2. 定义处理函数3. 主函数4. 生成数字列表5.