苹果欲为苹果眼镜带来类似Zoom背景替代物

苹果一直在研究如何让 “Apple Glass ”风格的头显进行色度抠像，或者用苹果AR图像替换纯色背景。一项名为“低延迟色度键控嵌入头戴式显示器，用于混合现实”的苹果美国专利申请，于2020年2月提交，但本周才披露。我们现在都很熟悉用其他图像，如徽标或海滩场景来取代办公室和家庭的背景。我们也很熟悉这些东西很少有好的效果，特别是当发言人移动时。

这在一定程度上是因为即使做得不是很有效，这种背景替换也需要大量的处理能力。在2020年7月的更新之前，微软Skype iOS版本甚至不能像Mac或PC版本那样模糊背景。这种模糊是一个复杂的过程，但其中一部分涉及确定一个人的头部结束和背景开始的位置。Chroma key让这一过程变得非常简单，因为人物被放置在一个单一的纯色背景前。这和电影中使用的绿屏或蓝屏过程是一样的。

当视频会议画面的哪一部分是说话的人，哪一部分是他们的背景非常明显时，像Zoom或Skype这样的系统可以更容易地替换背景。不过那些都是2D系统，而 “苹果眼镜 ”的目标是用3D的方式来实现，这样当佩戴者四处走动时，背景就可以被替换掉，而不是仅仅看着一个平面屏幕。因此，苹果的专利申请同时涉及到为苹果AR制作3D立体版背景替换，以及让它的工作速度足够快。其中一部分与头显处理能力有关，但也与将数据返回用户视野的速度有关。苹果表示，需要一个可穿戴式沉浸式头显（HMD），利用嵌入式立体RGB摄像头捕捉环境，做实时的颜色键控，还有一个显示系统来显示增强了虚拟内容的真实世界图像。该系统以高帧率（通常为75帧/秒或更多）运行，通过捕捉图像并将其格式化以在头显本身中显示，它实现了小于一帧的延迟。

所以，苹果的提案所说的是，头显拥有相机传感器，在混合现实环境中执行Chroma key，并且要在对佩戴者来说最小延迟情况下完成。低延迟是通过在头显本身嵌入处理来实现的，具体来说，就是将摄像头图像格式化，检测所选颜色范围，并与虚拟内容进行合成。该专利申请并没有解决替换图像来自哪里的问题。在Zoom或Skype会议中，这将由演讲者自己进行选择。