mediapipe中的人脸检测(java)代码初探

2024-03-23 10:32

本文主要是介绍mediapipe中的人脸检测(java)代码初探,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

1.android代码,从创建activity说起.

facedetectioncpu(我们暂时讲cpu版本) 下的MainActivity.java文件.

a. 毫无疑问,我们来看看.

protected void onCreate(Bundle savedInstanceState);

 

在创建activity的时候,做了些什么工作呢?

    super.onCreate(savedInstanceState);setContentView(R.layout.activity_main);previewDisplayView = new SurfaceView(this);setupPreviewDisplayView();// Initialize asset manager so that MediaPipe native libraries can access the app assets, e.g.,// binary graphs.AndroidAssetUtil.initializeNativeAssetManager(this);eglManager = new EglManager(null);processor =new FrameProcessor(this,eglManager.getNativeContext(),BINARY_GRAPH_NAME,INPUT_VIDEO_STREAM_NAME,OUTPUT_VIDEO_STREAM_NAME);processor.getVideoSurfaceOutput().setFlipY(FLIP_FRAMES_VERTICALLY);

以上是 部分代码.

b.加载了 layout文件夹下的 activity_main.xml 文件.

c.创建了 SurfaceView ..

然后设置一下 预览的视图 参数. 下面是代码:

    previewDisplayView.setVisibility(View.GONE);ViewGroup viewGroup = findViewById(R.id.preview_display_layout);viewGroup.addView(previewDisplayView);

只是 部分代码.

只是刚开始,控件是不可见的,

然后去xml 文件 去找这个控件,添加之.

Surface的 三种状态 回调代码就 不贴出了,  A.创建,B. 改变 C. 销毁 (这三个)

 

2.接着我们继续看

AndroidAssetUtil.initializeNativeAssetManager(this);

从 字面本意上看,是初始化本地assert 文件管理.

跟踪进去看,原来这个是静态函数,实际上调用的是 native 写的.

  public static boolean initializeNativeAssetManager(Context androidContext) {return nativeInitializeAssetManager(androidContext, androidContext.getCacheDir().getAbsolutePath());}

至于这个c/c++代码,实现了啥,这里暂时不跟下去.

 

3.接着我们继续往下看.

    eglManager = new EglManager(null);

哦,这个原来是 OpenGL 的 初始化地方.

那它做了神嘛呢?

点进去看了下.

原来 EglManager(null),只是它其中的一个构造函数.调用了下面这个

  public EglManager(@Nullable Object parentContext, @Nullable int[] additionalConfigAttributes) {singleIntArray = new int[1];egl = (EGL10) EGLContext.getEGL();eglDisplay = egl.eglGetDisplay(EGL10.EGL_DEFAULT_DISPLAY);if (eglDisplay == EGL10.EGL_NO_DISPLAY) {throw new RuntimeException("eglGetDisplay failed");}int[] version = new int[2];if (!egl.eglInitialize(eglDisplay, version)) {throw new RuntimeException("eglInitialize failed");}
....
}

这里,我们不过多介绍了,我们理解它 可以正确完成初始化就好.

 

4.继续往下看...

    processor =new FrameProcessor(this,eglManager.getNativeContext(),BINARY_GRAPH_NAME,INPUT_VIDEO_STREAM_NAME,OUTPUT_VIDEO_STREAM_NAME);

其中的 BINRAY_GRAPH_NAME 变量是:     facedetectioncpu.binarypb

从代码上看 是要加载这个文件.(估计这个是核心部分)

 

事实上,在我们创建app 时,bazel build的时候,做了一些预处理.

来看我么的BUILD 文件.

genrule(name = "binary_graph",srcs = ["//mediapipe/graphs/face_detection:mobile_cpu_binary_graph"],outs = ["facedetectioncpu.binarypb"],cmd = "cp $< $@",
)
android_library(name = "mediapipe_lib",srcs = glob(["*.java"]),assets = [":binary_graph","//mediapipe/models:face_detection_front.tflite","//mediapipe/models:face_detection_front_labelmap.txt",],
...)

 

在 graphs下的 face_detection下的BUILD 文件里

mediapipe_binary_graph(name = "mobile_cpu_binary_graph",graph = "face_detection_mobile_cpu.pbtxt",output_name = "mobile_cpu.binarypb",deps = [":mobile_calculators"],
)

恩?

那么face_detection_mobile_cpu.pbtxt 这个文件是干嘛的呢?

难道就是上面 两三段代码,将定义的 xx.pbtxt 与 xx_front.tflite 和 xx_front_labelmap.txt  相关联的?

 

5.进去看了看(face_detection_mobile_cpu.pbtxt)

定义了一些Node,还有算子,(包括配置算子参数等)

难道这里面 就是真正实现了 检测人脸算法的过程?(一系列,甚至包括,人脸检测出来信息,框体位置转化,甚至绘制在表面都在这里完成? )

 

然后 就初始化了,跑起来了?

(是这样的,看完代码之后才知道,原来检测速度流畅是有原因的)

后面没什么代码了 (就是打开摄像头.(如果权限有的话,就打开摄像头...))

代码是:

  @Overrideprotected void onResume() {super.onResume();converter = new ExternalTextureConverter(eglManager.getContext());converter.setFlipY(FLIP_FRAMES_VERTICALLY);converter.setConsumer(processor);if (PermissionHelper.cameraPermissionsGranted(this)) {startCamera();}}

 

作者对加载过程还是不太明白,如有正在研究这框架的伙伴,欢迎 各位大佬 指点迷津:

留言即可.谢谢啦

这篇关于mediapipe中的人脸检测(java)代码初探的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/838031

相关文章

使用Python实现IP地址和端口状态检测与监控

《使用Python实现IP地址和端口状态检测与监控》在网络运维和服务器管理中,IP地址和端口的可用性监控是保障业务连续性的基础需求,本文将带你用Python从零打造一个高可用IP监控系统,感兴趣的小伙... 目录概述:为什么需要IP监控系统使用步骤说明1. 环境准备2. 系统部署3. 核心功能配置系统效果展

Java 实用工具类Spring 的 AnnotationUtils详解

《Java实用工具类Spring的AnnotationUtils详解》Spring框架提供了一个强大的注解工具类org.springframework.core.annotation.Annot... 目录前言一、AnnotationUtils 的常用方法二、常见应用场景三、与 JDK 原生注解 API 的

Java controller接口出入参时间序列化转换操作方法(两种)

《Javacontroller接口出入参时间序列化转换操作方法(两种)》:本文主要介绍Javacontroller接口出入参时间序列化转换操作方法,本文给大家列举两种简单方法,感兴趣的朋友一起看... 目录方式一、使用注解方式二、统一配置场景:在controller编写的接口,在前后端交互过程中一般都会涉及

Java中的StringBuilder之如何高效构建字符串

《Java中的StringBuilder之如何高效构建字符串》本文将深入浅出地介绍StringBuilder的使用方法、性能优势以及相关字符串处理技术,结合代码示例帮助读者更好地理解和应用,希望对大家... 目录关键点什么是 StringBuilder?为什么需要 StringBuilder?如何使用 St

使用Java将各种数据写入Excel表格的操作示例

《使用Java将各种数据写入Excel表格的操作示例》在数据处理与管理领域,Excel凭借其强大的功能和广泛的应用,成为了数据存储与展示的重要工具,在Java开发过程中,常常需要将不同类型的数据,本文... 目录前言安装免费Java库1. 写入文本、或数值到 Excel单元格2. 写入数组到 Excel表格

Java并发编程之如何优雅关闭钩子Shutdown Hook

《Java并发编程之如何优雅关闭钩子ShutdownHook》这篇文章主要为大家详细介绍了Java如何实现优雅关闭钩子ShutdownHook,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起... 目录关闭钩子简介关闭钩子应用场景数据库连接实战演示使用关闭钩子的注意事项开源框架中的关闭钩子机制1.

Maven中引入 springboot 相关依赖的方式(最新推荐)

《Maven中引入springboot相关依赖的方式(最新推荐)》:本文主要介绍Maven中引入springboot相关依赖的方式(最新推荐),本文给大家介绍的非常详细,对大家的学习或工作具有... 目录Maven中引入 springboot 相关依赖的方式1. 不使用版本管理(不推荐)2、使用版本管理(推

Java 中的 @SneakyThrows 注解使用方法(简化异常处理的利与弊)

《Java中的@SneakyThrows注解使用方法(简化异常处理的利与弊)》为了简化异常处理,Lombok提供了一个强大的注解@SneakyThrows,本文将详细介绍@SneakyThro... 目录1. @SneakyThrows 简介 1.1 什么是 Lombok?2. @SneakyThrows

在 Spring Boot 中实现异常处理最佳实践

《在SpringBoot中实现异常处理最佳实践》本文介绍如何在SpringBoot中实现异常处理,涵盖核心概念、实现方法、与先前查询的集成、性能分析、常见问题和最佳实践,感兴趣的朋友一起看看吧... 目录一、Spring Boot 异常处理的背景与核心概念1.1 为什么需要异常处理?1.2 Spring B

如何在 Spring Boot 中实现 FreeMarker 模板

《如何在SpringBoot中实现FreeMarker模板》FreeMarker是一种功能强大、轻量级的模板引擎,用于在Java应用中生成动态文本输出(如HTML、XML、邮件内容等),本文... 目录什么是 FreeMarker 模板?在 Spring Boot 中实现 FreeMarker 模板1. 环