Skip to content

Latest commit

 

History

History
224 lines (179 loc) · 8.18 KB

README-云信采集.md

File metadata and controls

224 lines (179 loc) · 8.18 KB
Raw

FUNIMDemoDroid 快速接入文档

FUNIMDemoDroid 是集成了 FaceUnity 美颜贴纸功能和 云信音视频通话 的 Demo。

本文是 FaceUnity SDK 快速对接云信即时通讯的导读说明，SDK 版本为 7.2.0。关于 SDK 的详细说明，请参看 FULiveDemoDroid。

快速集成方法

一、添加 SDK

将 faceunity 模块添加到工程中，下面是对库文件的说明。

  • assets/sticker 文件夹下 *.bundle 是特效贴纸文件。
  • assets/makeup 文件夹下 *.bundle 是美妆素材文件。
  • com/faceunity/nama/authpack.java 是鉴权证书文件，必须提供有效的证书才能运行 Demo，请联系技术支持获取。

通过 Maven 依赖最新版 SDK：implementation 'com.faceunity:nama:7.2.0'，方便升级，推荐使用。

其中，AAR 包含以下内容：

    +libs
      -nama.jar                        // JNI 接口
    +assets
      +graphic                         // 图形效果道具
        -body_slim.bundle              // 美体道具
        -controller.bundle             // Avatar 道具
        -face_beautification.bundle    // 美颜道具
        -face_makeup.bundle            // 美妆道具
        -fuzzytoonfilter.bundle        // 动漫滤镜道具
        -fxaa.bundle                   // 3D 绘制抗锯齿
        -tongue.bundle                 // 舌头跟踪数据包
      +model                           // 算法能力模型
        -ai_face_processor.bundle      // 人脸识别AI能力模型，需要默认加载
        -ai_face_processor_lite.bundle // 人脸识别AI能力模型，轻量版
        -ai_hand_processor.bundle      // 手势识别AI能力模型
        -ai_human_processor.bundle     // 人体点位AI能力模型
    +jni                               // CNama fuai 库
      +armeabi-v7a
        -libCNamaSDK.so
        -libfuai.so
      +arm64-v8a
        -libCNamaSDK.so
        -libfuai.so
      +x86
        -libCNamaSDK.so
        -libfuai.so
      +x86_64
        -libCNamaSDK.so
        -libfuai.so

如需指定应用的 so 架构，请修改 app 模块 build.gradle：

android {
    // ...
    defaultConfig {
        // ...
        ndk {
            abiFilters 'armeabi-v7a', 'arm64-v8a'
        }
    }
}

如需剔除不必要的 assets 文件，请修改 app 模块 build.gradle：

android {
    // ...
    applicationVariants.all { variant ->
        variant.mergeAssetsProvider.configure {
            doLast {
                delete(fileTree(dir: outputDir, includes: ['model/ai_face_processor_lite.bundle',
                                                           'model/ai_hand_processor.bundle',
                                                           'graphics/controller.bundle',
                                                           'graphics/fuzzytoonfilter.bundle',
                                                           'graphics/fxaa.bundle',
                                                           'graphics/tongue.bundle']))
            }
        }
    }
}

二、使用 SDK

1. 初始化

调用 FURenderer 类的 setup 方法初始化 SDK，可以在工作线程调用，应用启动后仅需调用一次。

在 MeetingActivity类 根据是否启用美颜sdk来调用该方法。

2.创建

调用 FURenderer 类的 onSurfaceCreated 方法在 SDK 使用前加载必要的资源。

在 MeetingActivity 注册 NERtcEx.getInstance().setVideoCallback

在第一次回调 onVideoCallback 方法时，执行FURenderer.onSurfaceCreated();

NERtcEx.getInstance().setVideoCallback

NERtcEx.getInstance().setVideoCallback(new NERtcVideoCallback() {
    @Override
    public boolean onVideoCallback(NERtcVideoFrame neRtcVideoFrame) {
        if (isFirstInit) {
            isFirstInit = false;
            mHandler = new Handler(Looper.myLooper());
            mFURenderer.onSurfaceCreated();
            return false;
        }
        int texId = mFURenderer.onDrawFrameSingleInput(neRtcVideoFrame.textureId, neRtcVideoFrame.width,neRtcVideoFrame.height);
        if (mSkipFrame -- > 0) {
            return false;
        }
        neRtcVideoFrame.textureId = texId;
        return true;
    }
}, false);

3. 图像处理

调用 FURenderer 类的 onDrawFrameXXX 方法进行图像处理，有许多重载方法适用于不同数据类型的需求。

在 MeetingActivity 类中，执行美颜操作的代码（代码见上一小节）。

onDrawFrameSingleInput 是单输入，输入图像buffer数组或者纹理Id，输出纹理Id

在这个demo中，获取到buffer数据会影响性能（网易官网得知），所以采用单输入，Texture

4. 销毁

调用 FURenderer 类的 onSurfaceDestroyed 方法在 SDK 结束前释放占用的资源。

在MeetingActivity 中离开房间时，调用destroyFU方法。

private void destroyFU() {
    if (mHandler == null) {
        return;
    }
    CountDownLatch countDownLatch = new CountDownLatch(1);
    mHandler.post(new Runnable() {
        @Override
        public void run() {
            mFURenderer.onSurfaceDestroyed();
            countDownLatch.countDown();
        }
    });
    try {
        countDownLatch.await();
    } catch (InterruptedException e) {
        e.printStackTrace();
    }
}

5. 切换相机

调用 FURenderer 类 的 onCameraChanged 方法，用于重新为 SDK 设置参数。

在 R.id.img_camera_flip 按钮的点击事件中调用。

if (NERtcEx.getInstance().switchCamera() == 0) {
    if (mFURenderer == null) {
        return;
    }
    mSkipFrame = 5;
    mCameraFacing = IFURenderer.CAMERA_FACING_FRONT - mCameraFacing;
    mFURenderer.onCameraChanged(mCameraFacing, CameraUtils.getCameraOrientation(mCameraFacing));
    if (mFURenderer.getMakeupModule() != null) {
        mFURenderer.getMakeupModule().setIsMakeupFlipPoints(mCameraFacing == IFURenderer.CAMERA_FACING_FRONT ? 0 : 1);
    }
}

6. 旋转手机

调用 FURenderer 类 的 onDeviceOrientationChanged 方法，用于重新为 SDK 设置参数。

1. implements SensorEventListener
2. private void onCreate() {
        sensorManager = (SensorManager) getSystemService(Context.SENSOR_SERVICE);
        Sensor sensor = sensorManager.getDefaultSensor(Sensor.TYPE_ACCELEROMETER);
        sensorManager.registerListener(this, sensor, SensorManager.SENSOR_DELAY_NORMAL);
   }

3.
    @Override
    protected void onDestroy() {
        if (sensorManager != null) {
            sensorManager.unregisterListener(this);
        }
        super.onDestroy();
    }
  4.
  	//实现接口
    @Override
    public void onSensorChanged(SensorEvent event) {
        //具体代码见 MeetingActivity  类
    }

上面一系列方法的使用，具体在 demo 中的 MeetingActivity ，请参考该代码示例接入。

三、接口介绍

  • IFURenderer 是核心接口，提供了创建、销毁、处理等功能。使用时通过 FURenderer.Builder 创建合适的 FURenderer 实例即可。
  • IModuleManager 是模块管理接口，用于创建和销毁各个功能模块，FURenderer 是其实现类。
  • IFaceBeautyModule 是美颜模块的接口，用于调整美颜参数。使用时通过 FURenderer 拿到 FaceBeautyModule 实例，调用里面的接口方法即可。
  • IStickerModule 是贴纸模块的接口，用于加载贴纸效果。使用时通过 FURenderer 拿到 StickerModule 实例，调用里面的接口方法即可。
  • IMakeModule 是美妆模块的接口，用于加载美妆效果。使用时通过 FURenderer 拿到 MakeupModule 实例，调用里面的接口方法即可。
  • IBodySlimModule 是美体模块的接口，用于调整美体参数。使用时通过 FURenderer 拿到 BodySlimModule 实例，调用里面的接口方法即可。

至此快速集成完毕，关于 FaceUnity SDK 的更多详细说明，请参看 FULiveDemoDroid。