小样本学习登Nature!计算效率高170倍,彻底起飞

2024-04-23 20:52

本文主要是介绍小样本学习登Nature!计算效率高170倍,彻底起飞,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

中科院新提出的社会行为图谱SBeA登上Nature子刊!

SBeA是一个用于多动物3D姿势估计、身份识别和社会行为分类的小样本学习框架,能够全面量化自由群居动物的行为,使用较少的标记帧数(约 400 帧)进行多动物三维姿态估计。

结果显示SBeA成功地量化了社会行为模块的聚类性能,可以有效的分类社会行为。

在多动物身份识别方面,SBeA的准确率超过 90%。这类小样本学习方法能够在有限的数据情况下训练模型,降低收集和标注数据的成本,同时加快模型的开发和部署速度,让模型能够学习到更加泛化的特征,提高对新任务或类别的适应性和识别能力

因此,小样本学习一直是重要的研究方向。这次我整理了16个小样本学习创新方案,来自近一年高引用的顶会文章,原文以及开源代码已附,方便同学们复现。

论文原文以及开源代码需要的同学看文末

Multi-animal 3D social pose estimation, identification and behaviour embedding with a few-shot learning framework

方法:论文介绍了一种名为SBeA的多动物三维姿态跟踪和社交行为映射方法。该方法旨在全面量化自由社交动物的行为。除此之外,研究还提出了一种基于多视图几何的方法用于多动物的三维重建。通过该方法可以计算出多个动物的三维坐标。此外,研究还使用SBeA方法对Shank3B基因敲除小鼠进行了社交行为的识别。

创新点:

  • 通过使用多视角摄像机阵列进行视频捕获和人工标注,作者开发了一个名为SBeA的计算框架,用于多动物三维姿势估计、无标签识别和无监督动态学习等任务。

  • 作者提出了角度谱聚类的方法来减少社交行为模块的冗余,并通过基于特征角度分离的方式合并社交行为模块。

  • 作者利用SBeA成功鉴定了自闭症谱系障碍基因突变小鼠的异常社交行为表型,并发现了新的社交行为表型,如好奇行为和独立梳理行为。

GPr-Net: Geometric Prototypical Network for Point Cloud Few-Shot Learning

方法:论文提出了一种轻量级的几何原型网络(GPr-Net),利用局部几何特征和超几何空间来实现高效的点云少样本学习。在ModelNet40数据集上,GPr-Net相比现有方法具有5%更高的准确率和170倍较少的参数。

创新点:

  • 提出了一种轻量级的几何原型网络(GPr-Net),用于点云少样本学习。该方法利用手工设计的矢量化内在几何解释器和拉普拉斯向量来提取和评估点云的形态,从而改进了少样本学习的表示。此外,拉普拉斯向量使得可以从含有较少点的点云中提取有价值的特征。为了解决少样本度量学习中的分布漂移挑战,作者利用双曲空间,证明了他们的方法比现有的点云少样本学习方法更好地处理类内和类间方差。

  • 提出了一种新的视角来处理点云少样本学习,挑战了复杂的网络设计和训练策略的假设。他们的方法通过采用简单而有效的几何特征,包括内在几何解释器和拉普拉斯向量,来捕捉点云的内在拓扑结构,并在ModelNet40数据集上取得了优越的性能。

Frequency Guidance Matters in Few-Shot Learning

方法:在论文中,研究了不同频率成分对小样本学习任务的影响,并提出了一种新的频率引导的小样本学习框架(FGFL),该框架利用任务特定的频率成分来自适应地掩蔽相应的图像信息,采用了一种新颖的多级度量学习策略,包括原始图像、掩蔽图像和未掩蔽图像之间的三元损失,以及掩蔽和原始支持集和查询集之间的对比损失,以利用更具有判别性的信息。

创新点:

  • 频率引导的少样本学习(FGFL)框架:该框架利用任务特定的频率组件自适应地遮蔽相应的图像信息,包括原始、遮蔽和未遮蔽图像之间的三元损失以及遮蔽和原始支持和查询集之间的对比损失,以利用更有区分性的信息。

  • 多层度量学习策略:包括样本级三元损失和类级对比损失,能够更好地利用样本和任务级别的频率信息,并鼓励模型捕捉更多与任务相关的频率信息,从而提高空间域中的分类性能。

Multimodality Helps Unimodality: Cross-Modal Few-Shot Learning with Multimodal Models

方法:论文利用了最近的多模态基础模型,如CLIP,将不同模态映射到相同的表示空间,并提出了一种简单的跨模态适应方法,从不同模态的少样本示例中学习。通过利用额外的类别名称作为额外的一次训练样本,研究人员在视觉-语言适应中取得了最新的结果。

创新点:

  • 跨模态自适应是作者提出的最重要的创新之一。作者提出了一种简单的跨模态自适应方法,通过将不同模态的样本视为额外的少样本示例来实现。这种方法将原来的“n-shot”问题转化为“(n+1)-shot”问题,取得了令人瞩目的结果,并且可以应用于现有的微调方法或者其他模态。

  • 跨模态学习解决了少样本学习的不确定性问题。作者通过使用现有的文本标签作为免费的训练样本来证明了这一点。跨模态学习的一个吸引人的方面是,学习的模型自然适用于多模态的测试数据,如同时包含视觉和音频信号的视频的分类。

关注下方《学姐带你玩AI》🚀🚀🚀

回复“小样本创新”获取全部论文+代码

码字不易,欢迎大家点赞评论收藏

这篇关于小样本学习登Nature!计算效率高170倍,彻底起飞的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/929863

相关文章

Python并行处理实战之如何使用ProcessPoolExecutor加速计算

《Python并行处理实战之如何使用ProcessPoolExecutor加速计算》Python提供了多种并行处理的方式,其中concurrent.futures模块的ProcessPoolExecu... 目录简介完整代码示例代码解释1. 导入必要的模块2. 定义处理函数3. 主函数4. 生成数字列表5.

Go学习记录之runtime包深入解析

《Go学习记录之runtime包深入解析》Go语言runtime包管理运行时环境,涵盖goroutine调度、内存分配、垃圾回收、类型信息等核心功能,:本文主要介绍Go学习记录之runtime包的... 目录前言:一、runtime包内容学习1、作用:① Goroutine和并发控制:② 垃圾回收:③ 栈和

Android学习总结之Java和kotlin区别超详细分析

《Android学习总结之Java和kotlin区别超详细分析》Java和Kotlin都是用于Android开发的编程语言,它们各自具有独特的特点和优势,:本文主要介绍Android学习总结之Ja... 目录一、空安全机制真题 1:Kotlin 如何解决 Java 的 NullPointerExceptio

一文彻底搞懂Java 中的 SPI 是什么

《一文彻底搞懂Java中的SPI是什么》:本文主要介绍Java中的SPI是什么,本篇文章将通过经典题目、实战解析和面试官视角,帮助你从容应对“SPI”相关问题,赢得技术面试的加分项,需要的朋... 目录一、面试主题概述二、高频面试题汇总三、重点题目详解✅ 面试题1:Java 的 SPI 是什么?如何实现一个

Java计算经纬度距离的示例代码

《Java计算经纬度距离的示例代码》在Java中计算两个经纬度之间的距离,可以使用多种方法(代码示例均返回米为单位),文中整理了常用的5种方法,感兴趣的小伙伴可以了解一下... 目录1. Haversine公式(中等精度,推荐通用场景)2. 球面余弦定理(简单但精度较低)3. Vincenty公式(高精度,

重新对Java的类加载器的学习方式

《重新对Java的类加载器的学习方式》:本文主要介绍重新对Java的类加载器的学习方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1、介绍1.1、简介1.2、符号引用和直接引用1、符号引用2、直接引用3、符号转直接的过程2、加载流程3、类加载的分类3.1、显示

windows和Linux使用命令行计算文件的MD5值

《windows和Linux使用命令行计算文件的MD5值》在Windows和Linux系统中,您可以使用命令行(终端或命令提示符)来计算文件的MD5值,文章介绍了在Windows和Linux/macO... 目录在Windows上:在linux或MACOS上:总结在Windows上:可以使用certuti

Java学习手册之Filter和Listener使用方法

《Java学习手册之Filter和Listener使用方法》:本文主要介绍Java学习手册之Filter和Listener使用方法的相关资料,Filter是一种拦截器,可以在请求到达Servl... 目录一、Filter(过滤器)1. Filter 的工作原理2. Filter 的配置与使用二、Listen

如何将Python彻底卸载的三种方法

《如何将Python彻底卸载的三种方法》通常我们在一些软件的使用上有碰壁,第一反应就是卸载重装,所以有小伙伴就问我Python怎么卸载才能彻底卸载干净,今天这篇文章,小编就来教大家如何彻底卸载Pyth... 目录软件卸载①方法:②方法:③方法:清理相关文件夹软件卸载①方法:首先,在安装python时,下

Java进阶学习之如何开启远程调式

《Java进阶学习之如何开启远程调式》Java开发中的远程调试是一项至关重要的技能,特别是在处理生产环境的问题或者协作开发时,:本文主要介绍Java进阶学习之如何开启远程调式的相关资料,需要的朋友... 目录概述Java远程调试的开启与底层原理开启Java远程调试底层原理JVM参数总结&nbsMbKKXJx