如果你還是分不清AR與VR，那你真的out了。這兩項(xiàng)技術(shù)將左右人類生活的未來(lái)。

 (一)Magic Leap和HoloLens是什么?

Magic Leap和HoloLens都是Augmented Reality (AR)眼鏡的代表，有一個(gè)相關(guān)的概念也很火爆：Virtual Reality (VR)。

1、AR 和VR眼鏡的區(qū)別是什么?

AR眼鏡是透明的，讓你能同時(shí)看到現(xiàn)實(shí)世界，和疊加在上面的虛擬成像。應(yīng)用例子：趕不上Lady Gaga的演唱會(huì)?沒關(guān)系，戴上眼鏡她就在你家里開一個(gè)。代表產(chǎn)品原型：Magic Leap和微軟的HoloLens。

VR眼鏡是不透明的，只顯示虛擬世界，把物理世界完全擋住。應(yīng)用例子：坐在家里也能去大溪地“潛水”。代表產(chǎn)品/原型：三星的Gear VR，谷歌的Cardboard VR，和臉書的Oculus Rift。

2、Magic Leap和Microsoft為什么要做透明AR眼鏡?

總的來(lái)說(shuō)，這是計(jì)算機(jī)的必然發(fā)展趨勢(shì)。2007年蘋果推出iPhone以來(lái)，手機(jī)發(fā)展太迅猛，用戶隨時(shí)隨地帶著它，各項(xiàng)使用數(shù)據(jù)毫無(wú)懸念地都在超越PC 端。所以，人機(jī)交互界面的未來(lái)主要在于移動(dòng)。但現(xiàn)在的手機(jī)局限在于，(1)既然要便于攜帶屏幕就做得小，屏幕小了某些功能就得受限;(2)顯示屏幕是平面 也就是二維(2D)的，而真實(shí)世界是三維(3D)的。

未來(lái)的透明AR眼鏡有望實(shí)現(xiàn)大突破，就是既能讓用戶隨身攜帶，又能 在她眼前顯示超大屏幕，還能把以假亂真的3D內(nèi)容渲染到她看到的真實(shí)世界里(想象你坐在教室里聽課，你的老師看起來(lái)真實(shí)無(wú)比，但其實(shí)就是在你的眼鏡上虛擬 出來(lái)的)。這樣的眼鏡大概不會(huì)完全取代手機(jī)，但毫無(wú)疑問潛力無(wú)窮。

跟VR比較，AR的應(yīng)用場(chǎng)景也更廣闊(你總不能帶著VR頭盔大街上走吧)。本質(zhì)上，AR是VR的超集，鏡片前面一擋就成了VR(前提是視角能做到差不多大)。

3、但是戴眼鏡好麻煩，為什么不直接像《星球大戰(zhàn)》一樣在空氣中顯示全息圖(Hologram)?

Image credit： ibtimes

Holography是人類的美好愿景，有一天也許能做成，但近期看離實(shí)用還早?，F(xiàn)在有一些大學(xué)實(shí)驗(yàn)室在研究裸眼光場(chǎng)顯示器(light field display)，但需要很復(fù)雜笨重昂貴的設(shè)備，還只能在安裝了的地方用。相對(duì)而言，眼鏡的可行性要大得多。如果能做成輕便的AR眼鏡，將是移動(dòng)人機(jī)交互 界面上也是計(jì)算機(jī)發(fā)展的重大革新。

Image credit： kym-cdn

4、在VR頭盔上加個(gè)前視攝像頭不也就成AR了嗎?為什么非要透明的?

好問題。說(shuō)起來(lái)AR有兩種，一種是前面所說(shuō)的透明AR(optical see-through)——現(xiàn)實(shí)世界是透過(guò)鏡片直接看到的。另一種就是“視頻疊加”(video see-through或者video overlay)——現(xiàn)實(shí)世界是通過(guò)攝像頭捕捉，然后以視頻的方式呈現(xiàn)給用戶(在上面再渲染一些東西)。事實(shí)上，現(xiàn)在手機(jī)和平板上已經(jīng)出現(xiàn)了很多 video overlay的應(yīng)用，比如看星空，求翻譯，選家具等。

Image credit： rafaelgrossmann and thetecholic

那為什么不用VR頭盔加攝像頭實(shí)現(xiàn)這種AR呢?當(dāng)然可以，現(xiàn)在很多VR頭盔都在試探這種做法。它和透明AR相比各有優(yōu)劣，比如優(yōu)勢(shì)在于用視頻實(shí)現(xiàn)的虛擬和現(xiàn)實(shí)的疊加(overlay)要比透明AR簡(jiǎn)單得多，這也是為什么它已經(jīng)開始在移動(dòng)端商用的原因。

但劣勢(shì)也可想而知，用戶看到的畢竟只是一個(gè)2D視頻，質(zhì)量跟眼睛直接看到的世界還是差很大的。而且視頻從采集到顯示總歸是有延遲的，如果跟體感信號(hào)不一 致的話會(huì)造成身體不適。所以不管怎樣都還是會(huì)有公司前仆后繼地去做透明AR的，Magic Leap和Microsoft HoloLens就是例子。

5、Magic Leap為什么那么牛能融到500+M?(最近的Series C在融800+M)

前面說(shuō)的應(yīng)用潛力無(wú)窮肯定是助力，同時(shí)還有技術(shù)，創(chuàng)始人，團(tuán)隊(duì)的原因。

Image credit： [1]

Magic Leap的核心技術(shù)是來(lái)自華盛頓大學(xué)前研究員Brian Schowengerdt的，他導(dǎo)師Eric Seibel是光纖掃描內(nèi)窺鏡(Scanning Fiber Endoscope)的專家。大家都知道內(nèi)窺鏡就是醫(yī)生們做手術(shù)時(shí)用來(lái)體內(nèi)成像的，本質(zhì)是個(gè)微小攝像頭。Brian呢很聰明地逆轉(zhuǎn)光路把這個(gè)技術(shù)用到了顯 示上，這樣通過(guò)極細(xì)的光纖用激光就可以打出彩色的圖像(如左圖所示)。這個(gè)技術(shù)十幾年前就發(fā)表了[2]，后來(lái)又不斷改進(jìn)，生成了一堆專利。Magic Leap很大程度上是基于Brian的這些專利。(可惜這么重要的技術(shù)骨干既沒有成為創(chuàng)始人，也沒有被列為“核心人員”，不過(guò)這是題外話了。)

那這種技術(shù)為什么重要呢?我們后面留成一個(gè)專門的問題講。

然而光有技術(shù)牛是不夠的，AR眼鏡這種東西，要想做好可想而知是需要投入巨大的人力物力的，軟件硬件都得有重大突破。蘋果、微軟、谷歌這樣的公司可能有 財(cái)力去做這個(gè)事，為什么會(huì)相信一個(gè)初創(chuàng)小企業(yè)能做成?我覺得猶太人創(chuàng)始人Rony Abovitz起的作用很大。Rony之前是MAKO Surgical的聯(lián)合創(chuàng)始人。這家公司知道的人不多，但他們做的東西說(shuō)出來(lái)就嚇人了——人是做機(jī)器人手術(shù)(robotic surgery)的，主要是骨科手術(shù)精準(zhǔn)定位。聽起來(lái)科幻吧超前吧，可是人2004年創(chuàng)建，2008年就上市了，2013年以16.5億美元賣給了 Stryker Medical。這種track record他拉不到投資誰(shuí)能拉到。

除了創(chuàng)始人兼CEO，團(tuán)隊(duì)也不是 蓋的，計(jì)算機(jī)視覺部分拉到了Gary Bradski和Jean-Yves Bouguet這樣的大牛。合作的Weta Workshop是在好萊塢給電影做特效的，《指環(huán)王》就是他們做的。所以Magic Leap當(dāng)年用來(lái)拉投資用的概念視頻就像一個(gè)微型電影一樣。

6、現(xiàn)在該回到前面的問題了，為什么Magic Leap的光場(chǎng)顯示技術(shù)很重要?

首先，它是基于極細(xì)的光纖的，可以讓眼鏡做得輕薄。但更重要的是因?yàn)锽rian證明了用這種技術(shù)不僅可以投射出一個(gè)2D圖片(上圖)，還能顯示出一個(gè)光場(chǎng)(Light Field)。

現(xiàn)代的近眼眼鏡為了實(shí)現(xiàn)3D有兩種主要的技術(shù)：Stereoscopic(中文翻譯成“立體”，但其實(shí)不夠準(zhǔn)確)，和Light Field(光場(chǎng))。Stereoscopic眼鏡早已商化(比如所有3D影院里用的，還有市面上幾乎所有AR和VR眼鏡/原型——包括 Microsoft HoloLens，Epson Moverio，Lumus DK-40， Facebook Oculus——都是Stereoscopic)。而Light Field還只在實(shí)驗(yàn)室里有雛形(Magic Leap大概是做得最好的一個(gè))。什么是Stereoscopic 3D呢?為什么它不夠好還要做Light Field呢?什么又是Light Field呢?

Stereoscopic 3D是假3D

3D圖像比2D 圖片多了一個(gè)維度，這個(gè)維度就是景深(depth)，看過(guò)3D電影和2D電影的同學(xué)知道感官上有明顯的區(qū)別(只有少數(shù)人有雙盲癥不能看到)。大家知道人眼 感知景深有很多機(jī)制，包括單眼(monocular)和雙眼(binocular)的。單眼能感知的景深信號(hào)很多，比如：一個(gè)東西遮擋了另一個(gè) (occlusion)，熟悉的物體的大小(relative size/height)，物體移動(dòng)的變化(遠(yuǎn)的物體變化慢近的物體變化快，即motion parallax)。在此基礎(chǔ)上，雙眼的景深信號(hào)也非常強(qiáng)烈(所以遠(yuǎn)古的我們能更好地判斷對(duì)面的老虎或者鹿到底離多遠(yuǎn))。兩只眼睛看到同一個(gè)場(chǎng)景會(huì)有細(xì)微 差別，這讓大腦能通過(guò)三角計(jì)算(triangulation)來(lái)得到物體景深。

Stereoscopic 3D就是利用這個(gè)原理給雙眼分別顯示不同的圖片(如下圖)，它們很相似，只在水平方向上有細(xì)微差別。而這兩張圖片拍攝的時(shí)候，就是用兩個(gè)并排的相機(jī)模擬人眼的位置拍的，現(xiàn)在的3D電影都是基于這個(gè)原理。

Image credit： lightfield-forum

但這樣的Stereoscopic 3D有什么問題呢?簡(jiǎn)單講它會(huì)引起用戶身體不適如頭暈、惡心等。為什么呢?這又涉及到人眼的一個(gè)有意思的機(jī)制。當(dāng)我們?cè)诳匆粋€(gè)現(xiàn)實(shí)世界中的物體時(shí)，眼睛其實(shí)有兩種自然反應(yīng)：

(1)聚焦(Accommodation/Focus)。眼睛的晶狀體就像一個(gè)凸透鏡，它會(huì)調(diào)節(jié)凸度來(lái)讓那個(gè)物體在咱們視網(wǎng)膜上清楚成像。

Image credit： eyetec

(2) “會(huì)聚”(Convergence)。在每只眼睛聚焦的同時(shí)，兩只眼球還會(huì)有旋轉(zhuǎn)運(yùn)動(dòng)來(lái)一起指向那個(gè)物體。

Image credit： sinauer

很自然地，這兩種反射運(yùn)動(dòng)在神經(jīng)上是聯(lián)接的(neurally coupled)，也就是說(shuō)任意一種運(yùn)動(dòng)會(huì)自動(dòng)引發(fā)另一種運(yùn)動(dòng)。這也意味著，在人眼看真實(shí)物體的時(shí)候，聚焦和會(huì)聚的距離總是相等的(vergence distance = accommodation distance，參見下圖A)。

那么Stereoscopic 3D的問題就來(lái)了。因?yàn)镾tereoscopic的投射距離總是固定的(也就是accommodation distance不變)，而圖片的disparity會(huì)讓眼睛會(huì)聚在不同的距離(vergence distance)以產(chǎn)生景深3D效果(見下圖B)。所以，這兩種距離經(jīng)常是不一致的(vergence distance ≠ accommodation distance)，會(huì)造成這兩種神經(jīng)相連的運(yùn)動(dòng)強(qiáng)行分離(neurally decoupled)。

從另一個(gè)角度講，在自然世界里，當(dāng)人眼聚焦并會(huì)聚到一個(gè)物體時(shí)，別的距離的物體應(yīng)該都是模糊的(下圖C)。而在Stereoscopic 3D里，不管人眼聚焦到哪兒，別的距離的物體成像都是清楚的(下圖D)。

這些都不符合自然界人眼的規(guī)律，因此大腦會(huì)產(chǎn)生混亂，長(zhǎng)時(shí)間就會(huì)引起惡心暈眩等癥狀[4]。所以Stereoscopic其實(shí)是用了一個(gè)小伎倆讓人能看到3D效果，但它并不是真3D。

Image credit： arvojournals [4]

光場(chǎng)(light field)是真3D

光場(chǎng)顯示跟Stereoscopic 3D比的一個(gè)很大不同就是它有本事能讓人眼聚焦到不同的距離，從而和會(huì)聚的距離保持一致。這是最符合人眼觀察自然世界規(guī)律的做法，因此被稱為true-3D。

可以想象要實(shí)現(xiàn)這樣的光場(chǎng)顯示，并不是那么簡(jiǎn)單?，F(xiàn)在主要是兩種方法：空間復(fù)用(space multiplexing)和時(shí)間復(fù)用(time multiplexing)。“空間復(fù)用”簡(jiǎn)單說(shuō)就是把一個(gè)像素當(dāng)幾塊用來(lái)實(shí)現(xiàn)不同的聚焦距離。Nvidia在SIGGRAPH上展示的那個(gè)原型就屬于這 種。這個(gè)方法最大的問題就是分辨率大打折扣。我曾經(jīng)試戴過(guò)，基本就是霧里看花。

“時(shí)間復(fù)用”呢，就是用高速原件來(lái)快速產(chǎn) 生不同的聚焦距離，讓人眼以為它們是同時(shí)產(chǎn)生的。這樣的好處就是分辨率不損失。大家知道人眼的速度感知是有限的，很多顯示器都是60Hz的，因?yàn)槿搜勰芊? 辨的極限值一般就是60Hz(在某些高速內(nèi)容比如游戲里可能達(dá)到90-120Hz)。這意味著什么呢，如果利用高速顯示360Hz，就可以實(shí)現(xiàn)6個(gè)不同的 聚焦距離。而有研究表明用6個(gè)聚焦距離加上一種線性混合(linear blending)的渲染算法就基本能實(shí)現(xiàn)從約30厘米到無(wú)窮遠(yuǎn)讓人眼自然對(duì)焦[5]。

Magic Leap的技術(shù)是哪種呢?它最近demo用的哪種技術(shù)沒有公開，但很有可能還是基于Brian的高速激光光纖掃描(scanning fiber)技術(shù)，也是一種時(shí)間復(fù)用的辦法。Brian當(dāng)年先試過(guò)只用一根光纖掃描不同聚焦距離，這樣做明顯對(duì)速度要求太高，后來(lái)用一個(gè)光纖束 (fiber bundle/array)，比如16根，每個(gè)光纖有一點(diǎn)位置差，然后同時(shí)掃描得到不同聚焦距離。

這樣的光場(chǎng)受現(xiàn)實(shí)系統(tǒng)的局限肯定不可能是連續(xù)的，都是被采樣的(downsampled)。但是，即使是這樣的光場(chǎng)投射到眼睛里也在理論上是跟真實(shí)世界物體光線 進(jìn)入眼睛是一個(gè)道理，因此可以實(shí)現(xiàn)true-3D?；氐阶畛醯膯栴}，這也是為什么Magic Leap的技術(shù)重要的原因?，F(xiàn)在你也理解了為什么Rony說(shuō)“HoloLens會(huì)讓人惡心”了吧?

(二)透明AR眼鏡面臨哪些挑戰(zhàn)

Botao同學(xué)談到了一些重要挑戰(zhàn)，比如3D感知和定位，手勢(shì)識(shí)別，眼動(dòng)跟蹤，計(jì)算量，電池的問題等，我再補(bǔ)充幾個(gè)。

1、顯示

首先能實(shí)現(xiàn)近眼光場(chǎng)顯示就很難，現(xiàn)在的公司除了Magic Leap還都是用古老的Stereoscopic 3D的方法，用戶戴長(zhǎng)了就會(huì)眼困頭暈惡心。而Magic Leap所用的近眼顯示技術(shù)理論上成立，現(xiàn)實(shí)中也還有很多問題要解決。比如：

系統(tǒng)大?。?Magic Leap現(xiàn)在還沒有公開過(guò)它的原型照片，據(jù)報(bào)道都還是像一個(gè)冰箱一樣大的，離可穿戴還有很長(zhǎng)的路要走。

光場(chǎng)采樣：既然是采樣就一定有損失，比如對(duì)比度清晰度上，如何才能最優(yōu)采樣?

聚焦和會(huì)聚(Accommodation-vergence matching)：即便聚焦距離對(duì)了，也要保證會(huì)聚距離始終與其保持一致。Magic Leap現(xiàn)在的demo視頻還只是從單眼攝制的，還沒有證據(jù)表明他們很好地解決了雙眼問題。

室外顯示：現(xiàn)在大家的demo都是室內(nèi)的。當(dāng)用戶在室外時(shí)，太陽(yáng)光強(qiáng)度比顯示光高幾個(gè)數(shù)量級(jí)。至少鏡片需要有自動(dòng)調(diào)光的技術(shù)。

捕捉內(nèi)容：雖然現(xiàn)在可以用計(jì)算機(jī)圖形來(lái)做demo，但以后的應(yīng)用一定會(huì)需要相機(jī)采集的內(nèi)容，而光場(chǎng)的拍攝本身還有很多問題要解決。

散熱：是一個(gè)容易被忽視的問題。當(dāng)年Google Glass出來(lái)的時(shí)候有人說(shuō)用著用著臉就像要燒起來(lái)了?，F(xiàn)在還沒有證據(jù)表明HoloLens和Magic Leap的眼鏡能長(zhǎng)時(shí)間保持涼爽。

2、鏡片

Image credit： androidautority

近眼顯示有兩個(gè)關(guān)鍵部件：顯示器和鏡片?，F(xiàn)在大部分的AR眼鏡鏡片都是基于分光鏡(beamsplitter prism)的，比如Google Glass，HoloLens，Epson Moverio。如圖左，簡(jiǎn)單的分光鏡就是45度角，把顯示器產(chǎn)生的光從眼鏡框反射進(jìn)人眼，也同時(shí)讓現(xiàn)實(shí)世界的光透進(jìn)來(lái)。這樣做簡(jiǎn)單便宜，但是鏡片厚。一 個(gè)以色列公司Lumus做出了一個(gè)光導(dǎo)(waveguide)技術(shù)讓鏡片變得很薄，可惜工藝復(fù)雜成本太高。后來(lái)也有一些便宜的光導(dǎo)產(chǎn)品出現(xiàn)，但質(zhì)量還遠(yuǎn)不 如Lumus。所以，鏡片也還有很長(zhǎng)的路要走，不僅要做到視角(Field-of-View)大，還要輕薄，透光性好，在折射/反射顯示光的時(shí)候也要盡量 保持光的屬性并做到盡量小的光損失。

3、視角(FoV)和分辨率(Resolution)

視角直接決定了用戶體驗(yàn)。現(xiàn)在的很多AR眼鏡視角還在20°-40°之間，不少試戴了HoloLens的記者都對(duì)它的視角表示失望。而人眼的橫向視角雙眼差不多有200°，縱向有130°。視角大意味著總的分辨率也要很大才能覆蓋，8K*8K才會(huì)比較理想。

4、遮擋(Occlusion)

前面說(shuō)到過(guò)單眼的景深感知有一個(gè)很重要的信號(hào)就是物體之間的遮擋。在用透明AR眼鏡時(shí)，一個(gè)關(guān)鍵問題就是虛擬物體和現(xiàn)實(shí)物體之間的遮擋怎么實(shí)現(xiàn)。

如果是現(xiàn)實(shí)物體在前面，虛擬物體在后面，還相對(duì)比較好辦，就是要自動(dòng)探測(cè)現(xiàn)實(shí)物體的距離，再計(jì)算出虛擬物體哪些部位需要遮擋從而不渲染。但是如果反過(guò) 來(lái)，虛擬物體需要遮擋現(xiàn)實(shí)物體，就沒那么直接了，因?yàn)槔碚撋闲枰熏F(xiàn)實(shí)物體的光從眼鏡上選擇性地濾掉。從Magic Leap最近的demo看，在虛擬物體明亮?xí)r，它本身的亮度會(huì)自然遮擋后面的真實(shí)物體，但當(dāng)虛擬物體比較暗時(shí)，還是有所謂的“鬼影效果”(ghost effect)，不符合自然規(guī)律，又會(huì)讓大腦產(chǎn)生混亂。

如果想實(shí)現(xiàn)完全正確的遮擋效果，只能在鏡片上做實(shí)時(shí)的像素級(jí)的濾光機(jī)制(per-pixel shutter)，但現(xiàn)在的技術(shù)都還不成熟。

Image source： Magic Leap demo (youtube)

5、渲染黑色

透明AR眼鏡現(xiàn)在還沒辦法渲染黑色。因?yàn)樗f(shuō)到底是虛擬光和自然光的疊加。如果畫黑色，用戶是看不到的，只會(huì)看到后面的背景真實(shí)物體的光。類似的暗色都有這個(gè)問題。

6、延遲

透明AR眼鏡還有一個(gè)很大的挑戰(zhàn)就是延遲。把虛擬物體疊加到真實(shí)物體上(比如放一個(gè)虛擬水杯到一個(gè)真實(shí)桌子上)涉及到一系列計(jì)算：探測(cè)真實(shí)物體→計(jì)算它 的空間位置和方向→計(jì)算疊加位置→渲染虛擬物體等。這一切都必須在一眨眼內(nèi)發(fā)生，讓用戶感覺不到延遲。比如在那個(gè)水杯例子里，我們的頭可能是一直在動(dòng)的， 隨著我們頭動(dòng)，我們看到的那個(gè)水杯應(yīng)該在桌上原來(lái)的位置不動(dòng)才對(duì)。而如果系統(tǒng)延遲過(guò)大，我們看到的那個(gè)水杯的位置可能就總是不對(duì)，大腦就又混亂了。這對(duì)透 明AR挑戰(zhàn)尤其大，因?yàn)檎鎸?shí)世界我們是直接看到的，幾乎沒有任何延遲，而虛擬物體的渲染得能跟上這個(gè)速度才顯得自然。在video overlay里，就沒有這個(gè)問題，因?yàn)槲覀兛吹降恼鎸?shí)世界的視頻已經(jīng)是延遲的了，這樣在上面的物體疊加就比較容易跟它保持同步。

7、激光

Magic Leap以前的技術(shù)專利是用激光直接打到人眼里，雖然據(jù)說(shuō)很安全，但還沒有確切的科學(xué)證據(jù)。所以用戶接受度是個(gè)問題，很多人估計(jì)一聽到這個(gè)就望而卻步了。

說(shuō)了這么多，這下一代移動(dòng)人機(jī)交互界面到底什么時(shí)候能做成呢?我個(gè)人感覺要做成人民群眾喜聞樂見的版本至少要5年時(shí)間，也許更長(zhǎng)。因?yàn)橐陨狭谐龅倪@些挑 戰(zhàn)，每一個(gè)都還需要很多努力才能解決。目前它們很多都還不到量變(只是需要優(yōu)化)的階段，而是需要大的質(zhì)的飛躍。所以，路漫漫而修遠(yuǎn)兮。但既然這是計(jì)算機(jī) 發(fā)展的必然方向，拭目以待吧。