Meta:将不断优化Body Tracking API,以支持更逼真虚拟化身

🤖 由 文心大模型 生成的文章摘要

Meta身体追踪API(Body Tracking API)作为运动SDK的一部分已于上周四发布,该SDK还包括了Quest Pro眼动追踪API(Eye Tracking API)和面部追踪API(Face Tracking API)。

Oculus开发者官方Twitter宣布了该版本的发布,文档中的插图显示了用户的全身姿势,这一消息正被广泛分享——导致许多人认为Quest已获得了身体追踪支持——但其实该API 名称和插图都具有误导性。

Meta手部跟踪API可支持手部和手指的实际位置追踪,其眼动追踪API和面部追踪API则提供了实际注视方向和面部肌肉运动,由 Quest Pro 的内向摄像头跟踪。但Meta发言人证实,身体追踪API仅提供基于头部和手部位置的“模拟上身骨架”,这并不是真正的追踪(也不包括腿部)。

我们认为Body Tracking API更好名称应为“身体态势预估”(Body Pose Estimation),发言人将这项技术描述为逆运动学(IK)和机器学习(ML)的结合。IK是指根据已知位置估计骨骼(或机器人)各部分未知位置的一类方程。这些方程式为当今应用程序中的所有全身VR化身提供了动力。开发者不需要实现(甚至理解)IK背后的数学原理,因为Unity和 Unreal等游戏引擎都内置了IK,而流行的Final IK等软件包以不到100美元的价格出提供了完整实现。

除非你使用身体追踪硬件,例如HTC Vive Trackers,否则IK for VR往往是不准确的——对于每组给定的头部和手部位置,都有许多潜在解决方案。Meta的卖点在于,它的机器学习模型可以免费生成更准确的身体姿势。以下演示视频似乎支持了这一说法,尽管没有下半身——而且支持仅限于Quest——大多数开发者可能不会接受这个提议。

不过,Meta Connect 2022期间,Meta给出的提示以及该公司的研究表明,未来身体追踪将增加腿部支持。

Body Tracking产品经理Vibhor Saxena在针对开发者的一次演讲中表示:

“未来几年身体追踪的新改进将通过相同的API提供,肯定的是,用户可以确保获得更优质的身体追踪体验,而无需切换不同的界面。”

另外,在主要主题演讲中,扎克伯格宣布Meta Avatars将获得腿部支持,这同样也是一个误导性演示,据悉虚拟化身腿部支持将在今年晚些时候上线Horizon,然后在明年引入其他应用SDK。Saxena证实身体追踪API利用了支持Meta Avatars的相同底层技术——这似乎表明该API也将获得支持。

你可能想知道:如果身体追踪API只是基于头部和手部位置的估计,它怎么可能包含腿部?上个月,Meta采用机器学习技术最新进展演示了这方面的研究,尽管显示的系统并不完全准确(延迟为160毫秒,在72Hz下超过11帧),这种计时速度太慢,输出也不完美,对此,Meta首席技术官评论,Meta可能会采用类似技术在其他人虚拟化身展示腿部:

“在自身化身上出现与真实腿部不匹配的腿会让人们感到不安,于是,我们可以把腿部显示表现在其他化身身上,这样就可以解决用户的困扰。”

“因此,我们正在研究对旁观者来说看起来自然的腿部显示——因为他们不知道你真正的腿部实际上是如何定位的,这是我们目前的策略。”

来源:UploadVR

「93913原创内容,转载请注明出处」