据外媒报道,Meta Reality Labs的研究人员已经成功研发了一款VR头戴设备原型机,该原型机不仅支持Codec Avatars项目的渲染,而且还配备了专门用于AI处理的定制加速器芯片。这一重大突破对于实现“如照片般逼真的”虚拟化身至关重要。
早在Facebook更名为Meta之前,该公司就一直致力于Codec Avatars项目。该项目旨在通过结合AI处理和设备上的眼动追踪、嘴巴追踪等传感器,将使用者的脸以最接近真实的方式投射进虚拟世界。尽管早期版本得到了NVIDIA Titan X GPU强大算力的支持,但在Meta最新的Quest 2一体机等设备上,这些功能无法完全发挥其作用。
为了解决这一问题,Meta正在开发一个采用7nm工艺的定制芯片,以作为 Codec Avatars 的加速器。此前,Meta已开始其造芯计划,并且已经招募了经验丰富的人才,如Shahriar Rabii,他曾参与Google Pixel手机Visual Core等芯片开发。
研究人员表示,他们正在努力将这项技术从论文转变为现实,并且他们设计时考虑到了生成Codec Avatars模型所需的大量数据。该测试芯片采用7nm制程,包括1024乘法累加阵列、2MB片上SRAM和32位RISC-V CPU。为了配合该芯片特定的架构,还进行了对部分AI模型的一次重构,以降低能耗和延迟。
通过这种加速技术,加快工作负载较重部分,不仅提高了运行速度,还减少了功率消耗和发热。在功率控制方面,该定制芯片比通用CPU更加高效。此外,该技术已能够实现每秒30帧运行 Codec Avatars 模型,同时保持低功耗和小巧外形。
虽然我们尚未了解如何在非一体机上运行此模型,以及如何呈现出如此详细而复杂的用户建模扫描,但可以预见,这种专门设计的加速芯片将能够实现XR中的各种特定功能,比如空间音频增强沉浸感,或是位置跟踪与手势跟踪提升性能。但同时,我们也要意识到这些额外功能可能会增加成本并影响续航时间。