交互一直是VR/AR体验中最为重要也是最难实现的一块,手柄、力反馈、能模拟冷热痛感的装置、体感、手势……交互的纷繁复杂也给内容开发者增添了更多的工作量和开发难度。

    其中手势被称为最自然的交互方式,但截止到目前,几乎所有的手势都是依靠双目红外和深度相机实现的三维骨骼识别,成本相对较高,对性能要求也更高。

    如何基于单目RGB摄像头实现更精准的手势识别,成为了诸多企业努力的方向。

    总部位于杭州的uSens凌感科技一直致力于手势识别的研发和迭代,其提供的手势识别技术在AR、VR业界已经有一定知名度。但前几年凌感的手势识别主要是使用双目红外和深度相机上实现的三维骨骼识别,应用在头显和汽车等一些智能硬件上。

    最近凌感公司发布了可以运行在单目彩色摄像头上的三维骨骼手势跟踪识别,可识别手部全部22个关节点的26DOF(26自由度)信息,关节点包括3D位置信息和3D旋转信息。实现了在最简单的单目RGB相机的3D手势骨骼识别技术

    这个技术可以用于各种带有普通RGB相机的场景,从所有智能手机内置的相机,到AR、MR、VR HMD到工业控制、IOT等多个领域,已经达到了产品级的性能,并应用在多个工业客户的产品里。

    凌感基于RGB相机的3D手势骨骼技术可识别手部全部22个关节点的26DOF(26自由度)信息,关节点包括3D位置信息和3D旋转信息。  

    26个自由度,对手部3D状态实现最全面的解析,对用户所有自然手部运动都有良好识别,对上百万个连续交互状态进行跟踪。从简单固定的几个手势,到连续自然状态的全面识别跟踪,该技术的实现是一个巨大飞跃。

    凌感的手势算法适应日常各种光照、环境、各类人群和所有的自然手部运动,无需初始化,只要有一个摄像头,任何人立刻上手使用,系统立刻开始识别,可以跟踪快速运动,包括移动、转动、各种快速手指状态变化。

    另外手势识别领域的另一个难点,对遮挡部分的跟踪识别也通过最先进的人工智能算法得到突破。

    视觉算法会需要很高的芯片计算能力,以前对运行平台要求较高,uSens凌感公司在性能上做了大量优化,适配于各种中、高、低端移动平台,即便在中低端手机也能运行良好。

    对于我们今年最关注的AR Glass来说,用自带的RGB相机,加上自然的3D手势骨骼交互,可以实现最好的交互体验,随心所欲得用双手操作。

    当然,如果大家都愿意多花成本,用深度相机或双目的话,凌感的手势识别效果会更震撼哦。