本發(fā)明涉及用于跟蹤頭戴式顯示器(HMD)的位置和定向的方法和系統(tǒng)以及用于所述HMD的頭帶調(diào)整所進(jìn)行的校準(zhǔn)。
背景
2.相關(guān)技術(shù)的描述
視頻游戲產(chǎn)業(yè)多年以來(lái)經(jīng)歷了很多改變。隨著計(jì)算機(jī)能力的不斷擴(kuò)大,視頻游戲的開(kāi)發(fā)者同樣也制作了充分利用計(jì)算能力的這些增強(qiáng)的游戲軟件。為此目的,視頻游戲開(kāi)發(fā)者一直以來(lái)都在編碼結(jié)合復(fù)雜操作和數(shù)學(xué)運(yùn)算的游戲以產(chǎn)生非常逼真的游戲體驗(yàn)。
示例性游戲服務(wù)和系統(tǒng)可能包括由Sony所提供的那些服務(wù)和系統(tǒng),所述服務(wù)和系統(tǒng)目前作為游戲機(jī)、便攜式游戲裝置進(jìn)行銷(xiāo)售,并且作為云服務(wù)進(jìn)行提供。眾所周知的是,游戲機(jī)被設(shè)計(jì)成連接至監(jiān)視器(通常是電視),并且能夠利用手持式控制器來(lái)實(shí)現(xiàn)用戶互動(dòng)。游戲機(jī)被設(shè)計(jì)成具有專(zhuān)門(mén)的處理硬件和其它膠合硬件、固件和軟件,所述專(zhuān)門(mén)處理硬件包括:CPU;用于處理集中圖形操作的圖形處理器;用于執(zhí)行幾何變換的向量單元。游戲機(jī)還被設(shè)計(jì)成具有用于容納游戲壓縮盤(pán)的光盤(pán)托盤(pán),以便利用所述游戲機(jī)在本地玩游戲。也可以是在線游戲,其中用戶可以通過(guò)互聯(lián)網(wǎng)與其他用戶以互動(dòng)方式比賽或一起進(jìn)行游戲。由于游戲的復(fù)雜性不斷激起玩家的興趣,游戲和硬件制造商不斷進(jìn)行創(chuàng)新以啟用額外的互動(dòng)性和計(jì)算機(jī)程序。
計(jì)算機(jī)游戲行業(yè)的發(fā)展趨勢(shì)是開(kāi)發(fā)提高用戶與游戲系統(tǒng)之間的互動(dòng)性的游戲。實(shí)現(xiàn)更豐富的互動(dòng)體驗(yàn)的一個(gè)方法是使用無(wú)線游戲控制器,游戲系統(tǒng)對(duì)所述控制器的移動(dòng)進(jìn)行跟蹤以便跟蹤玩家的移動(dòng)并將這些移動(dòng)用作游戲的輸入。一般而言,手勢(shì)輸入表示使用諸如計(jì)算系統(tǒng)、視頻游戲機(jī)、智能家電等電子裝置對(duì)由玩家做出并且被電子裝置采擷的一些手勢(shì)做出反應(yīng)。
實(shí)現(xiàn)更為沉浸的互動(dòng)式體驗(yàn)的另一種方法是使用頭戴式顯示器。頭戴式顯示器由用戶穿戴,并且可以被配置來(lái)呈現(xiàn)各種圖形,諸如虛擬空間的視圖。呈現(xiàn)在頭戴式顯示器上的圖形可以覆蓋用戶的大部分或甚至全部視野。因此,頭戴式顯示器可以為用戶提供沉浸的體驗(yàn)。當(dāng)前用于HMD的位置和定向的跟蹤技術(shù)仍然需要改進(jìn),以促成HMD的改進(jìn)的內(nèi)容呈現(xiàn)。
本發(fā)明的實(shí)施方案在該背景下出現(xiàn)。
概要
本發(fā)明的實(shí)施方案提供當(dāng)用戶正在穿戴頭戴式顯示器(HMD)并且查看和/或與多媒體內(nèi)容互動(dòng)時(shí)使得所述HMD能夠改進(jìn)對(duì)HMD的位置和移動(dòng)的跟蹤的方法和系統(tǒng)。所述系統(tǒng)和方法使得動(dòng)態(tài)校準(zhǔn)能夠?qū)MD的頭帶中的調(diào)整納入考慮,以使得可以準(zhǔn)確地估計(jì)正面跟蹤LED燈與背面跟蹤LED燈之間的距離間隔??梢圆粫r(shí)地對(duì)校準(zhǔn)進(jìn)行更新,諸如當(dāng)用戶在不同游戲階段之間調(diào)整頭帶大小時(shí),當(dāng)傳感器確定調(diào)整已經(jīng)發(fā)生時(shí),以及當(dāng)其他用戶調(diào)整頭帶以更好地匹配時(shí)。應(yīng)了解,本發(fā)明可以多種方式實(shí)現(xiàn),諸如計(jì)算機(jī)可讀媒體上的過(guò)程、設(shè)備、系統(tǒng)、裝置或方法。下面描述本發(fā)明的若干創(chuàng)造性實(shí)施方案。
在一個(gè)實(shí)施方案中,提供了一種方法。所述方法包括使用攝像機(jī)采擷視頻幀。所述視頻幀被配置來(lái)采擷頭戴式顯示器(HMD)上的標(biāo)記,并且在采擷的視頻幀中分析HMD上的所述標(biāo)記以確定HMD的位置和定向,用于處理在由HMD顯示的多媒體內(nèi)容的呈現(xiàn)期間生成的場(chǎng)景的改變。所述方法還包括估計(jì)HMD的正面單元上的標(biāo)記與HMD的背面區(qū)段上的標(biāo)記之間的間隔距離。正面單元和背面區(qū)段由可調(diào)整頭帶耦接在一起。估計(jì)包括分析多個(gè)視頻幀和當(dāng)采擷了視頻幀時(shí)采擷的慣性數(shù)據(jù),并且所述分析產(chǎn)生HMD的正面單元上的標(biāo)記與HMD的背面區(qū)段上的標(biāo)記之間的估計(jì)的間隔距離。隨著從采擷的視頻幀采擷和分析正面單元和背面區(qū)段上的標(biāo)記,在進(jìn)一步跟蹤HMD的位置和定向期間使用所述估計(jì)的間隔距離。
在另一實(shí)施方案中,提供了一種系統(tǒng)。所述系統(tǒng)包括計(jì)算系統(tǒng)和與所述計(jì)算系統(tǒng)通信的頭戴式顯示器(HMD)。HMD包括正面單元,其具有用于顯示多媒體內(nèi)容的屏幕。正面單元具有在其上安置的標(biāo)記,以及慣性傳感,其用于生成指示HMD的位置和定向中的改變的慣性數(shù)據(jù)。在一個(gè)實(shí)施方案中,慣性數(shù)據(jù)產(chǎn)生一組值,其量化HMD的旋轉(zhuǎn)中的改變和HMD的位置中的改變??梢杂成渌鲆唤M值以識(shí)別在多個(gè)采擷的視頻幀的圖像數(shù)據(jù)中的HMD的標(biāo)記的位置。HMD還包括HMD的由可調(diào)整頭帶耦接至正面單元的背面區(qū)段。背面區(qū)段具有安置在其上的標(biāo)記。所述系統(tǒng)還包括與計(jì)算系統(tǒng)通信的攝像機(jī)。所述攝像機(jī)被配置來(lái)在使用的階段期間采擷HMD的視頻幀。采擷的視頻幀不時(shí)地被配置來(lái)包括正面單元的標(biāo)記和背面區(qū)段的標(biāo)記。計(jì)算系統(tǒng)處理采擷的視頻幀,以針對(duì)生成的慣性數(shù)據(jù)識(shí)別正面單元和背面區(qū)段的標(biāo)記。所述處理產(chǎn)生正面單元的標(biāo)記與背面區(qū)段的標(biāo)記之間的估計(jì)的間隔。所述估計(jì)的間隔用于使用期間的改進(jìn)的跟蹤。
在另一實(shí)施方案中,提供了頭戴式顯示器(HMD)。所述HMD包括用于與計(jì)算系統(tǒng)通信的電路,所述計(jì)算系統(tǒng)處理用于在HMD中顯示的多媒體內(nèi)容。還包括所述HMD的正面單元,其具有用于顯示多媒體內(nèi)容的屏幕,并且所述正面單元具有一組LED。所述HMD包括加速度計(jì)和陀螺儀,其安置在所述HMD的所述正面單元中。所述HMD的背面區(qū)段設(shè)有一組LED。包括將所述正面單元連接至所述背面區(qū)段的頭帶,以使得所述頭帶的調(diào)整改變所述正面單元的所述一組LED中的至少一個(gè)與所述背面區(qū)段的所述一組LED中的至少一個(gè)之間的間隔距離。其中,不時(shí)地執(zhí)行所述間隔距離的校準(zhǔn),以產(chǎn)生估計(jì)的間隔距離用于在使用期間跟蹤所述HMD。
當(dāng)結(jié)合附圖理解以下借助于舉例的方式說(shuō)明本發(fā)明的原理的詳細(xì)描述時(shí),本發(fā)明的其它方面將變得明顯。
附圖簡(jiǎn)述
參考結(jié)合附圖進(jìn)行理解的以下描述可最好地理解本發(fā)明。
圖1A圖示根據(jù)本發(fā)明的實(shí)施方案的用于視頻游戲的互動(dòng)式游戲過(guò)程的系統(tǒng)。
圖1B圖示根據(jù)本發(fā)明的實(shí)施方案的頭戴式顯示器(HMD)。
圖2圖示根據(jù)本發(fā)明的實(shí)施方案的使用耦接至HMD的客戶端系統(tǒng)的游戲過(guò)程的一個(gè)實(shí)例。
圖3A至圖3B圖示根據(jù)本發(fā)明的實(shí)施方案的用戶穿戴HMD的實(shí)例,其中攝像機(jī)位于所述HMD的固定位置處。
圖3C-1至圖3G-3圖示根據(jù)本發(fā)明的實(shí)施方案的穿戴經(jīng)由頭帶捆綁到用戶的頭部的HMD的用戶以及針對(duì)其采擷的圖像數(shù)據(jù)的實(shí)例。
圖4A圖示根據(jù)本發(fā)明的實(shí)施方案的HMD和攝像機(jī)的俯視圖,所述攝像機(jī)被定位以能夠識(shí)別與所述HMD相關(guān)聯(lián)的標(biāo)記(例如,LED)。
圖4B至圖4C圖示根據(jù)本發(fā)明的實(shí)施方案的HMD的俯視圖和相關(guān)聯(lián)處理的實(shí)例,其中對(duì)所述HMD的間隔進(jìn)行物理調(diào)整。
圖4D提供根據(jù)本發(fā)明的實(shí)施方案的可以執(zhí)行來(lái)識(shí)別HMD上的正面標(biāo)記與和所述HMD的頭帶相關(guān)聯(lián)的可見(jiàn)背面標(biāo)記之間的間隔距離的操作的示例性流程圖。
圖4E圖示根據(jù)本發(fā)明的實(shí)施方案的另一流程圖實(shí)例,所述實(shí)例被利用來(lái)對(duì)HMD的正面單元的LED與和所述HMD背面部分相關(guān)聯(lián)的LED之間的間隔距離進(jìn)行校準(zhǔn)。
圖4F圖示根據(jù)本發(fā)明的實(shí)施方案的另一實(shí)施方案,其中視頻幀和慣性數(shù)據(jù)的檢查被執(zhí)行用于識(shí)別HMD的正面標(biāo)記與背面標(biāo)記之間的間隔距離。
圖5A提供根據(jù)本發(fā)明的一個(gè)實(shí)施方案的HMD的俯視圖的實(shí)例。
圖5B和圖5C圖示根據(jù)本發(fā)明的一個(gè)實(shí)施方案的當(dāng)慣性傳感器被添加至背面區(qū)段時(shí)(即,補(bǔ)充僅正面單元中具有慣性傳感器)的實(shí)例和處理。
圖6A至圖6C圖示根據(jù)一個(gè)實(shí)施方案的當(dāng)穿戴在個(gè)人用戶的頭部上的HMD的各種視圖。
圖7示出根據(jù)一個(gè)實(shí)施方案的HMD的側(cè)視圖,示出頭帶有時(shí)可以被扯下和/或扭曲,這可以觸發(fā)對(duì)估計(jì)的間隔距離進(jìn)行再校準(zhǔn)的需要。
圖8圖示根據(jù)一個(gè)實(shí)施方案的在使用(例如,游戲過(guò)程)期間穿戴HMD的用戶。
圖9是根據(jù)本發(fā)明的實(shí)施方案的圖示頭戴式顯示器102的示例性部件的圖解。
圖10圖示根據(jù)本發(fā)明的實(shí)施方案的頭戴式顯示器的部件。
詳述
在一個(gè)實(shí)施方案中,本文所描述的系統(tǒng)和方法用于當(dāng)用戶正在穿戴頭戴式顯示器(HMD)并且查看和/或與多媒體內(nèi)容互動(dòng)時(shí)對(duì)HMD的位置和位置移動(dòng)進(jìn)行跟蹤。所述系統(tǒng)和方法使得校準(zhǔn)能夠?qū)?duì)HMD的頭帶的調(diào)整納入考慮,以使得準(zhǔn)確地估計(jì)安置在HMD和頭帶上的標(biāo)記(例如,LED燈)的距離。如下面所描述,可以不時(shí)地更新校準(zhǔn),諸如當(dāng)用戶在使用的階段期間、不同游戲階段之間調(diào)整頭帶大小時(shí),當(dāng)傳感器確定調(diào)整已經(jīng)發(fā)生時(shí),以及當(dāng)其他用戶調(diào)整頭帶以更好地匹配時(shí)。用于執(zhí)行校準(zhǔn)的方法和系統(tǒng)因此將確保將標(biāo)記之間的估計(jì)的距離被更新成盡可能接近HMD上的實(shí)際當(dāng)前物理距離,這提供在使用期間對(duì)HMD的位置和移動(dòng)的更為準(zhǔn)確的跟蹤。然而,對(duì)于本領(lǐng)域技術(shù)人員將明顯的是,可實(shí)踐本發(fā)明而無(wú)需這些特定細(xì)節(jié)中的一些或全部。在其它情況下,未詳細(xì)描述熟知的過(guò)程操作,以免不必要地模糊本發(fā)明。
在一個(gè)實(shí)例中,使用者穿戴的HMD提供查看豐富多媒體內(nèi)容的用戶訪問(wèn),所述多媒體內(nèi)容可以包括視頻游戲、電影、互聯(lián)網(wǎng)內(nèi)容和其它類(lèi)型的互動(dòng)和非互動(dòng)性內(nèi)容。對(duì)HMD的跟蹤使用系統(tǒng)的組合執(zhí)行。所述系統(tǒng)包括但不限于HMD中的慣性傳感器以及使用一個(gè)或多個(gè)攝像機(jī)的光學(xué)跟蹤。光學(xué)跟蹤中使用的攝像機(jī)可以采擷穿戴HMD的用戶的視頻,因此當(dāng)用戶圍繞HMD移動(dòng)時(shí),可對(duì)視頻幀進(jìn)行分析以確定HMD的位置、定向和移動(dòng)。一般來(lái)說(shuō),由HMD呈現(xiàn)的一些內(nèi)容動(dòng)態(tài)地取決于HMD的移動(dòng)。
例如,如果HMD提供對(duì)場(chǎng)景的視圖,那么用戶能夠自然移動(dòng)其頭部以查看所述場(chǎng)景的其它部分。在視頻游戲?qū)嵗?,穿戴HMD的用戶可以在任何方向上移動(dòng)他或她的頭部,以圍繞虛擬場(chǎng)景的內(nèi)部和周邊移動(dòng)。在一個(gè)實(shí)施方案中,虛擬場(chǎng)景以豐富的三維(3D)格式呈現(xiàn)。因此,為了流暢地呈現(xiàn)HMD中的內(nèi)容,將使用高保真度跟蹤HMD的移動(dòng)。在一個(gè)配置中,HMD被配置來(lái)與客戶端系統(tǒng)106通信,所述客戶端系統(tǒng)106對(duì)呈現(xiàn)給HMD的內(nèi)容進(jìn)行呈現(xiàn)。在一些實(shí)施方案中,可使用云游戲基礎(chǔ)設(shè)施從一個(gè)或多個(gè)遠(yuǎn)程服務(wù)器對(duì)所述內(nèi)容(例如,游戲、電影、視頻、音頻、圖像、多媒體等)進(jìn)行流式傳輸。在一些實(shí)例中,所述內(nèi)容被下載到客戶端系統(tǒng)106進(jìn)行呈現(xiàn)并且然后被傳遞至HMD。
如上所述,跟蹤可包括使用被安置在HMD內(nèi)的慣性傳感器。示例性慣性傳感器包括一個(gè)或多個(gè)加速度計(jì)和一個(gè)或多個(gè)陀螺儀。一些實(shí)施方式可能包括更多或更少的慣性傳感器。除了慣性傳感器以外,可以使用攝像機(jī)跟蹤HMD。在一個(gè)實(shí)施方案中,HMD配置有充當(dāng)標(biāo)記的若干燈(例如,發(fā)光二極管(LED))。然后可以通過(guò)由客戶端系統(tǒng)106對(duì)攝像機(jī)采擷的一個(gè)或多個(gè)視頻幀進(jìn)行分析來(lái)容易地識(shí)別所述標(biāo)記。在一個(gè)配置中,HMD包括正面單元102a(例如,本文中也稱(chēng)作光學(xué)塊)的四個(gè)轉(zhuǎn)角上的四個(gè)LED和背面區(qū)段(例如,帶調(diào)整單元102b)上的兩個(gè)LED。
在一個(gè)實(shí)例中,正面單元102a包括每一側(cè)上的正面和側(cè)面,其中所述正面和側(cè)面限定大致連續(xù)的表面。在本文提供的各種實(shí)例中,正面LED被限定在正面單元102a的外殼中,并且安置有當(dāng)打開(kāi)LED時(shí)可以照明的透明塑料。另外,在一些實(shí)施方案中,正面LED被配置成部分安置在正表面上且部分在側(cè)表面上,以限定部分L形狀或彎曲L形狀或飛鏢形狀或彎曲矩形或曲線或點(diǎn)或圓圈或圖案或其的組合。
該形狀允許當(dāng)用戶直接面向攝像機(jī)108時(shí)以及當(dāng)用戶從直接面向攝像機(jī)108開(kāi)始轉(zhuǎn)變方向時(shí)對(duì)正面單元102a進(jìn)行跟蹤。隨著用戶面向側(cè)面并且進(jìn)一步遠(yuǎn)離直接面向攝像機(jī)的位置,正面LED將可見(jiàn),直至僅正面的一側(cè)上的LED可見(jiàn)并且背面上的LED中的一個(gè)可見(jiàn)。這是從正面LED向正面和背面LED的過(guò)渡。由于如上所述的該過(guò)渡,需要正面LED與背面LED之間的間隔距離,以使得可以進(jìn)行準(zhǔn)確的跟蹤。
另外,當(dāng)穿戴HMD的用戶面向攝像機(jī)時(shí),攝像機(jī)應(yīng)能夠查看所有四個(gè)LED。四個(gè)正面LED的間隔對(duì)于客戶端系統(tǒng)106是已知的。例如,HMD的幾何模型可以由在客戶端系統(tǒng)106上執(zhí)行的程序訪問(wèn),以確定當(dāng)用戶穿戴HMD時(shí)頭部的深度(相對(duì)于攝像機(jī))和定向。舉例來(lái)說(shuō),因?yàn)樵谝粋€(gè)實(shí)施方案中,四個(gè)LED安置在轉(zhuǎn)角(例如,描畫(huà)出矩形形狀)上,所以可以根據(jù)采擷的視頻幀確定用戶是向下看、向上看或向側(cè)面看。
然而,因?yàn)榭梢栽贖MD中呈現(xiàn)的互動(dòng)性內(nèi)容可以幾乎是無(wú)界限的,所以用戶能夠查看幾乎每一個(gè)維度中的虛擬場(chǎng)景并且與所述虛擬場(chǎng)景互動(dòng)。因此,穿戴HMD的用戶可決定在任何方向上轉(zhuǎn)動(dòng)其頭部,不一定始終是在相對(duì)于攝像機(jī)的前向。實(shí)際上,根據(jù)所呈現(xiàn)的內(nèi)容(例如,沉浸互動(dòng)式視頻游戲、移動(dòng)、虛擬游覽、片段、音頻和其的組合),用戶將會(huì)多次面向攝像機(jī)的側(cè)面以及直接遠(yuǎn)離攝像機(jī)。
在所述互動(dòng)式階段期間,跟蹤HMD的攝像機(jī)將從查看正面四個(gè)LED變成有時(shí)查看正面LED中的兩個(gè)的側(cè)面以及背面LED中的一個(gè)。雖然正面四個(gè)LED維持在固定的相對(duì)定向,但是基于HMD的幾何模型,背面LED可根據(jù)HMD的頭帶的調(diào)整的安置改變位置。舉例來(lái)說(shuō),如果頭部較小的用戶調(diào)整頭帶進(jìn)行匹配,那么相對(duì)于另一頭部較大的用戶的調(diào)整安置,正面LED與背面LED之間的距離(例如,當(dāng)從側(cè)面查看時(shí))將更近。
為了將頭帶調(diào)整的變化納入考慮,過(guò)程被配置來(lái)對(duì)HMD的幾何模型進(jìn)行校準(zhǔn),以使得正面LED與背面LED之間的間隔(例如,當(dāng)用戶轉(zhuǎn)動(dòng)其頭部離開(kāi)與攝像機(jī)正交的位置時(shí))可以用來(lái)準(zhǔn)確地呈現(xiàn)場(chǎng)景內(nèi)容至HMD以及從所需的視角、角度和/或定向提供場(chǎng)景。在一個(gè)實(shí)施方式中,幾何模型是存儲(chǔ)/包含HMD 102的尺寸和/或三維輪廓的計(jì)算機(jī)模型,所述尺寸和/或三維輪廓與計(jì)算機(jī)輔助設(shè)計(jì)(CAD)繪圖可以展示的尺寸和/或三維輪廓類(lèi)似。然而,幾何模型并未作為圖紙顯示,而是存儲(chǔ)為游戲或電影或軟件或固件或硬件或其的組合可訪問(wèn)的數(shù)據(jù)集,以實(shí)現(xiàn)準(zhǔn)確的跟蹤。
繼續(xù)舉例來(lái)說(shuō),在一個(gè)實(shí)施方案中,HMD 102的三維輪廓可以包括HMD的每一形狀和LED區(qū)域的形狀的輪廓,LED相對(duì)于輪廓中的形狀的位置,HMD的物理結(jié)構(gòu)的角度和廓線,以及定義HMD的特征和構(gòu)造的測(cè)量結(jié)果的數(shù)據(jù)集。確切地說(shuō),幾何模型可能包括限定LED在正面單元102a上的確切相對(duì)布置的維度數(shù)據(jù)。然而,因?yàn)楸趁鍸ED耦接至可調(diào)整頭帶,所以在校準(zhǔn)期間必須對(duì)間隔距離進(jìn)行更新,以使得可以利用正面LED與背面LED之間的更加準(zhǔn)確的距離更新幾何模型。
在一個(gè)實(shí)施方案中,校準(zhǔn)過(guò)程被配置來(lái)在視頻幀的分析確定背面LED中的一個(gè)可見(jiàn)之后啟動(dòng)(例如,從當(dāng)僅正面LED可見(jiàn)時(shí)開(kāi)始)。例如,在階段(例如,游戲過(guò)程或互動(dòng)階段)開(kāi)始時(shí),常見(jiàn)的是用戶將朝向攝像機(jī)面對(duì)HMD。在一些點(diǎn)處,用戶將使其頭部轉(zhuǎn)動(dòng)遠(yuǎn)離攝像機(jī),這將暴露背面LED中的至少一個(gè)。在該點(diǎn)處,對(duì)視頻幀的持續(xù)分析將檢測(cè)背面LED的出現(xiàn)。
在一個(gè)實(shí)施方案中,所述過(guò)程將隨著用戶繼續(xù)移動(dòng)對(duì)若干幀進(jìn)行分析,以將可見(jiàn)背面LED和可見(jiàn)正面LED與慣性數(shù)據(jù)相關(guān)聯(lián)。針對(duì)每一幀呈現(xiàn)的慣性數(shù)據(jù)(例如)用來(lái)關(guān)聯(lián)可見(jiàn)背面LED與可見(jiàn)正面LED之間的估計(jì)的間隔距離。在一個(gè)實(shí)例中,來(lái)自HMD的陀螺儀數(shù)據(jù)被用于隨著HMD移動(dòng)確定用戶的頭部的旋轉(zhuǎn)運(yùn)動(dòng)。另外,舉例來(lái)說(shuō),來(lái)自HMD的加速度計(jì)數(shù)據(jù)被用于確定諸如位置(例如,傾斜/俯仰)和旋轉(zhuǎn)等的移動(dòng)。
因此,使用來(lái)自HMD的采擷的視頻幀的圖像數(shù)據(jù)(即,當(dāng)背面LED和正面LED可見(jiàn)時(shí)),與圖像數(shù)據(jù)結(jié)合的慣性數(shù)據(jù)將針對(duì)HMD的頭帶的當(dāng)前大小安置呈現(xiàn)正面LED與背面LED之間的估計(jì)的間隔距離。該數(shù)據(jù)然后被用于校準(zhǔn)HMD的包括估計(jì)的間隔距離的幾何模型。在一個(gè)實(shí)施方案中,可以不時(shí)地對(duì)校準(zhǔn)進(jìn)行更新,并且還可以獨(dú)立地對(duì)HMD的每一側(cè)進(jìn)行校準(zhǔn)。
在HMD的幾何模型的校準(zhǔn)完成后,用戶可在所述階段期間進(jìn)行互動(dòng)。然而,在所述階段完成后,可能不同的用戶可希望訪問(wèn)HMD。在此時(shí),也可能的是,新的用戶會(huì)將HMD的頭帶調(diào)整為另一大小,這將引起正面LED與背面LED之間的實(shí)際間隔距離改變。在一個(gè)實(shí)施方案中,可以使用現(xiàn)有更新的校準(zhǔn)或來(lái)自原始幾何模型的尺寸開(kāi)始新的階段。
開(kāi)始時(shí),游戲過(guò)程或互動(dòng)性階段將流暢地進(jìn)行,其中HMD中呈現(xiàn)的場(chǎng)景將基于用戶的頭部移動(dòng)呈現(xiàn)。當(dāng)穿戴HMD的用戶正面向著攝像機(jī)時(shí)將是這種情況,其中HMD的正面中的四個(gè)LED之間的固定間隔是已知的。然而,在用戶轉(zhuǎn)身遠(yuǎn)離攝像機(jī)并且找到背面LED后,無(wú)自動(dòng)校準(zhǔn)的系統(tǒng)將會(huì)在HMD中呈現(xiàn)的內(nèi)容中出現(xiàn)跳動(dòng)或彈跳。會(huì)出現(xiàn)這種情況是因?yàn)閷?duì)HMD的跟蹤將會(huì)與HMD的真實(shí)位置不同步,所述對(duì)HMD的跟蹤利用對(duì)LED的標(biāo)記跟蹤來(lái)識(shí)別位置。
在一個(gè)實(shí)施方案中,每當(dāng)用戶面向HMD的側(cè)面時(shí),執(zhí)行是否需要再校準(zhǔn)的確定,其中正面LED和背面LED變得可見(jiàn)(即,從僅正面LED或僅背面LED可見(jiàn)轉(zhuǎn)變而來(lái))。在一個(gè)實(shí)例中,如果當(dāng)前階段出現(xiàn)校準(zhǔn),并且正在對(duì)所述階段進(jìn)行當(dāng)前校準(zhǔn),所述系統(tǒng)將在后臺(tái)運(yùn)行校準(zhǔn)以確定當(dāng)前校準(zhǔn)是否仍然在預(yù)定義的容差界限內(nèi)。例如,如果同一個(gè)用戶在游戲過(guò)程期間對(duì)頭帶進(jìn)行調(diào)整,或者取下HMD進(jìn)行小尺寸調(diào)整,或者一些其他人臨時(shí)試戴所述HMD,那么正面與背面之間的實(shí)際間隔將與初始校準(zhǔn)期間用于估計(jì)間隔的間隔不同。
對(duì)容差界限進(jìn)行配置或選擇,以使得如果新的后臺(tái)校準(zhǔn)顯示出呈現(xiàn)干擾、跳轉(zhuǎn)或彈跳很可能會(huì)發(fā)生(例如,發(fā)生在呈現(xiàn)在HMD中的視頻圖像中),那么新的校準(zhǔn)會(huì)變成當(dāng)前校準(zhǔn)。
在另一實(shí)施方案中,HMD將包括將安置標(biāo)志的頭帶調(diào)整檢測(cè)器??梢酝ㄟ^(guò)系統(tǒng)和/或游戲執(zhí)行讀取標(biāo)志,所述標(biāo)志可以用來(lái)要求對(duì)幾何模型的再校準(zhǔn)。舉例來(lái)說(shuō),如果用戶在HMD的使用期間調(diào)整頭帶,那么可以經(jīng)由所述標(biāo)志提醒系統(tǒng)應(yīng)重新運(yùn)行校準(zhǔn)。如果調(diào)整因?yàn)榱硪挥脩粼嚧鱄MD而發(fā)生,那么即使同一階段正在進(jìn)行可能也是如此。在更多實(shí)施方案中,當(dāng)啟動(dòng)新的階段或當(dāng)系統(tǒng)檢測(cè)出HMD已經(jīng)靜止或不移動(dòng)一段時(shí)間時(shí),可以生成標(biāo)志。所述指標(biāo)可以視為存在以下可能性:在新的階段發(fā)生之前或者甚至在階段期間已經(jīng)對(duì)頭帶進(jìn)行了調(diào)整。
圖1A圖示根據(jù)本發(fā)明的實(shí)施方案的用于視頻游戲的互動(dòng)式游戲過(guò)程的系統(tǒng)。示出穿戴頭戴式顯示器(HMD)102的用戶100。HMD 102以與眼鏡、護(hù)目鏡或頭盔類(lèi)似的方式穿戴,并且被配置來(lái)向用戶100顯示視頻游戲或其它內(nèi)容。HMD 102被配置來(lái)憑借靠近用戶的眼睛提供顯示機(jī)構(gòu)(例如,光學(xué)器件和顯示屏幕)以及遞送至HMD的內(nèi)容的格式向用戶提供沉浸式體驗(yàn)。在一個(gè)實(shí)例中,HMD 102可以向用戶的每一只眼睛提供顯示區(qū)域,所述顯示區(qū)域占據(jù)用戶的大部分或甚至全部視野。
在一個(gè)實(shí)施方案中,HMD 102可以連接至計(jì)算機(jī)106。至計(jì)算機(jī)106的連接可以是有線的或無(wú)線的。計(jì)算機(jī)106可以是任何通用或?qū)S糜?jì)算機(jī),包括但不限于:游戲機(jī)、個(gè)人電腦、筆記本電腦、平板電腦、移動(dòng)裝置、移動(dòng)電話、平板、瘦客戶端、機(jī)頂盒、流媒體裝置等。在一些實(shí)施方案中,HMD 102可以直接連接至互聯(lián)網(wǎng),這樣可允許在無(wú)需單獨(dú)本地計(jì)算機(jī)的情況下進(jìn)行云游戲。在一個(gè)實(shí)施方案中,計(jì)算機(jī)106可以被配置來(lái)執(zhí)行視頻游戲(和其它數(shù)字內(nèi)容),以及從視頻游戲輸出視頻和音頻以由HMD 102進(jìn)行呈現(xiàn)。計(jì)算機(jī)106在本文中也被稱(chēng)作客戶端系統(tǒng)106a,所述客戶端系統(tǒng)106a在一個(gè)實(shí)例中是視頻游戲機(jī)。
在一些實(shí)施方案中,計(jì)算機(jī)可能是本地或遠(yuǎn)程計(jì)算機(jī),并且所述計(jì)算機(jī)可運(yùn)行仿真軟件。在云游戲?qū)嵤┓桨钢校?jì)算機(jī)是遠(yuǎn)程的并且可由可在數(shù)據(jù)中心進(jìn)行虛擬化的多個(gè)計(jì)算服務(wù)表示,其中游戲系統(tǒng)/邏輯可以被虛擬化以及通過(guò)網(wǎng)絡(luò)分配給用戶。
用戶100可操作控制器104以提供用于視頻游戲的輸入。在一個(gè)實(shí)例中,攝像機(jī)108可以被配置來(lái)采擷其中定位有用戶100的互動(dòng)性環(huán)境的圖像??梢詫?duì)這些采擷的圖像進(jìn)行分析,以確定用戶100、HMD102和控制器104的位置和移動(dòng)。在一個(gè)實(shí)施方案中,控制器104包括燈(或多個(gè)燈),可以對(duì)其進(jìn)行跟蹤以確定其位置和定向。另外,如下面進(jìn)一步詳細(xì)描述,HMD 102可能包括一個(gè)或多個(gè)燈,可將所述一個(gè)或多個(gè)燈作為標(biāo)記進(jìn)行跟蹤,以在游戲過(guò)程期間大致實(shí)時(shí)地確定HMD 102的位置和定向。
攝像機(jī)108可以包括一個(gè)或多個(gè)麥克風(fēng),以從所述互動(dòng)性環(huán)境采擷聲音。可處理由麥克風(fēng)陣列采擷的聲音,以識(shí)別聲音源的位置??梢赃x擇性地利用或處理來(lái)自識(shí)別的位置的聲音,以排除并非來(lái)自所述識(shí)別的位置的其它聲音。另外,攝像機(jī)108可以被限定成包括多個(gè)圖像采擷裝置(例如,一對(duì)立體攝像機(jī))、IR攝像機(jī)、深度攝像機(jī)和其的組合。
在一些實(shí)施方案中,計(jì)算機(jī)106可以在計(jì)算機(jī)106的處理硬件上本地執(zhí)行游戲??梢垣@得呈諸如物理媒體形式(例如,數(shù)字光盤(pán)、磁帶、卡、指狀驅(qū)動(dòng)器、固態(tài)芯片或卡等)等任何形式的游戲或內(nèi)容,或者經(jīng)由網(wǎng)絡(luò)110從互聯(lián)網(wǎng)下載。在另一實(shí)施方案中,計(jì)算機(jī)106充當(dāng)經(jīng)由網(wǎng)絡(luò)與云游戲供應(yīng)商112通信的客戶端。云游戲供應(yīng)商112可維護(hù)和執(zhí)行用戶100正在玩的視頻游戲。計(jì)算機(jī)106從HMD 102、控制器104和攝像機(jī)108傳輸輸入至云游戲供應(yīng)商,所述云游戲供應(yīng)商處理輸入以影響正在執(zhí)行的視頻游戲的游戲狀態(tài)。來(lái)自正在執(zhí)行的視頻游戲的輸出被傳輸至計(jì)算機(jī)106,所述輸出諸如視頻數(shù)據(jù)、音頻數(shù)據(jù)和觸覺(jué)反饋數(shù)據(jù)。計(jì)算機(jī)106可在傳輸之前進(jìn)一步處理數(shù)據(jù),或可將所述數(shù)據(jù)直接傳輸至相關(guān)裝置。例如,將視頻流和音頻流提供至HMD 102,而將振動(dòng)反饋命令提供至控制器104。
在一個(gè)實(shí)施方案中,HMD 102、控制器104和攝像機(jī)108本身可能是網(wǎng)絡(luò)連接裝置,所述網(wǎng)絡(luò)連接裝置連接至網(wǎng)絡(luò)110以與云游戲供應(yīng)商112通信。例如,計(jì)算機(jī)106可能是諸如路由器等本地網(wǎng)絡(luò)裝置,其不會(huì)另外執(zhí)行視頻游戲處理,但是有助于通過(guò)的網(wǎng)絡(luò)流量。HMD102、控制器104和攝像機(jī)108至網(wǎng)絡(luò)的連接可能是有線的或無(wú)線的。在一些實(shí)施方案中,在HMD 102上執(zhí)行的或可在顯示器107上顯示的內(nèi)容可以從任何內(nèi)容源120獲得。示例性內(nèi)容源可以包括例如提供可下載內(nèi)容和/或流內(nèi)容的互聯(lián)網(wǎng)站。在一些實(shí)例中,所述內(nèi)容可以包括任何類(lèi)型的多媒體內(nèi)容,諸如電影、游戲、靜態(tài)/動(dòng)態(tài)內(nèi)容、圖片、社交媒體內(nèi)容、社交媒體網(wǎng)站等。
如下面更加詳細(xì)地描述,玩家100可能正在HMD 102上玩游戲,其中所述內(nèi)容是沉浸式3D互動(dòng)性內(nèi)容。當(dāng)玩家正在玩時(shí),HMD 102上的內(nèi)容可以分享給顯示器107。在一個(gè)實(shí)施方案中,分享給顯示器107的內(nèi)容可以允許接近玩家100或遠(yuǎn)距離的其他用戶一起看用戶玩游戲。在更多實(shí)施方案中,在顯示器107上查看玩家100的游戲過(guò)程的另一玩家可互動(dòng)地參與玩家100。例如,在顯示器107上查看游戲過(guò)程的用戶可控制游戲場(chǎng)景中的角色,提供反饋,提供社交互動(dòng),和/或提供評(píng)論(經(jīng)由文本、經(jīng)由語(yǔ)音、經(jīng)由動(dòng)作、經(jīng)由手勢(shì)等),這樣允許未穿戴HMD 102的用戶與玩家100、游戲過(guò)程或HMD 102中呈現(xiàn)的內(nèi)容進(jìn)行社交互動(dòng)。
圖1B圖示根據(jù)本發(fā)明的實(shí)施方案的頭戴式顯示器(HMD)。如圖所示,HMD 102包括多個(gè)燈200A至200H、200J和200K(例如,其中200K和200J定位朝向HMD頭帶的背面或背側(cè))。這些燈中的每一個(gè)可被配置成具有特定形狀和/或位置,并且可以被配置來(lái)具有相同或不同的顏色。燈200A、200B、200C和200D布置在HMD 102的正表面上。燈200E和200F布置在HMD 102的側(cè)表面上。并且燈200G和200H布置在HMD 102的轉(zhuǎn)角處,以便跨越HMD 102的正表面和側(cè)表面。應(yīng)了解的是,可以在用戶使用HMD 102的互動(dòng)環(huán)境的采擷的圖像中識(shí)別所述燈。
基于對(duì)所述燈的識(shí)別和跟蹤,可以確定HMD 102在互動(dòng)環(huán)境中的位置和定向。應(yīng)進(jìn)一步了解的是,所述燈中的一些可能是可見(jiàn)的或者可能不可見(jiàn),取決于HMD 102相對(duì)于圖像采擷裝置的特定定向。而且,不同的燈部分(例如,燈200G和200H)可被暴露用于圖像采擷,取決于HMD 102相對(duì)于圖像采擷裝置的定向。在一些實(shí)施方案中,慣性傳感器安置在HMD 102中,所述慣性傳感器可在無(wú)需燈的情況下提供關(guān)于位置的反饋。在一些實(shí)施方案中,燈和慣性傳感器一起工作,以允許位置/運(yùn)動(dòng)數(shù)據(jù)的混合和選擇。
在一個(gè)實(shí)施方案中,燈可以被配置來(lái)將HMD的當(dāng)前狀態(tài)指示給附近的其他人。例如,所述燈中的一些或全部可被配置成具有特定顏色布置、強(qiáng)度布置;被配置成閃爍,具有特定開(kāi)/關(guān)配置或指示HMD102的當(dāng)前狀態(tài)的其它布置。舉例來(lái)說(shuō),所述燈可以被配置來(lái)在相對(duì)于視頻游戲的其它非活躍游戲過(guò)程方面的視頻游戲的活躍游戲過(guò)程期間(大體上是在游戲的活躍時(shí)間線期間或場(chǎng)景內(nèi)發(fā)生的游戲過(guò)程)顯示不同的配置,諸如導(dǎo)航菜單界面或配置游戲安置(期間游戲時(shí)間線或場(chǎng)景可能不活躍或暫停)。所述燈還可以被配置來(lái)指示游戲過(guò)程的相對(duì)強(qiáng)度等級(jí)。例如,當(dāng)游戲過(guò)程的強(qiáng)度提高時(shí),燈的強(qiáng)度或閃爍的速度可能提高。
HMD 102可能另外包括一個(gè)或多個(gè)麥克風(fēng)。在說(shuō)明的實(shí)施方案中,HMD 102包括限定在HMD 102的正表面上的麥克風(fēng)204A和204B,以及限定在HMD 102的側(cè)表面上的麥克風(fēng)204C。通過(guò)利用麥克風(fēng)陣列,可以處理來(lái)自麥克風(fēng)中的每一個(gè)的聲音,以確定聲音的來(lái)源的位置??梢愿鞣N方式來(lái)利用該信息,包括排除不需要的聲音源,將聲音源與視覺(jué)識(shí)別相關(guān)聯(lián)等。
HMD 102可能還包括一個(gè)或多個(gè)圖像采擷裝置。在說(shuō)明的實(shí)施方案中,示出HMD 102包括圖像采擷裝置202A和202B。通過(guò)利用一對(duì)立體圖像采擷裝置,可以從HMD 102的視角采擷環(huán)境的三維(3D)圖像和視頻??梢詫⑺鲆曨l呈現(xiàn)給用戶,以在用戶穿戴HMD 102的同時(shí)向用戶提供“視頻透明”能力。也就是,雖然從嚴(yán)格意義上來(lái)說(shuō)用戶無(wú)法看穿HMD 102,但是由圖像采擷裝置202A和202B采擷的視頻可以仍然提供相當(dāng)于能夠看到HMD 102的外部環(huán)境就如同看穿HMD 102的功能。
所述視頻可以使用虛擬要素進(jìn)行增強(qiáng),以提供增強(qiáng)的實(shí)景體驗(yàn),或者所述視頻可以其它方式與虛擬要素組合或混合。雖然在說(shuō)明的實(shí)施方案中,示出HMD 102的正表面上有兩個(gè)攝像機(jī),但是應(yīng)了解的是,可能存在任何數(shù)量的面向外部的攝像機(jī),或者單個(gè)攝像機(jī)可以安裝在HMD 102上并且定向在任何方向上。例如,在另一實(shí)施方案中,可能有攝像機(jī)安裝在HMD 102的側(cè)面上,以提供對(duì)環(huán)境的額外全景圖像采擷。
圖2圖示使用客戶端系統(tǒng)106的游戲過(guò)程的一個(gè)實(shí)例,所述客戶端系統(tǒng)106能夠?qū)⒁曨l游戲內(nèi)容呈現(xiàn)給用戶100的HMD 102。在該圖示中,提供給HMD的游戲內(nèi)容是豐富的互動(dòng)式3-D空間。如上面所討論,游戲內(nèi)容可以下載至客戶端系統(tǒng)106,或者在一個(gè)實(shí)施方案中可由云處理系統(tǒng)執(zhí)行。云游戲服務(wù)112可以包括用戶數(shù)據(jù)庫(kù)140,允許所述用戶數(shù)據(jù)庫(kù)140訪問(wèn)特定游戲,與其他朋友分享體驗(yàn),發(fā)表評(píng)論以及管理其賬號(hào)信息。
云游戲服務(wù)還可以存儲(chǔ)特定用戶的游戲數(shù)據(jù)150,所述游戲數(shù)據(jù)150可在游戲過(guò)程期間、未來(lái)游戲過(guò)程期間使用,可分享至社交媒體網(wǎng)絡(luò),或者用于存儲(chǔ)獎(jiǎng)品、獎(jiǎng)項(xiàng)、狀態(tài)、排名等。社交數(shù)據(jù)160也可以由云游戲服務(wù)112進(jìn)行管理。社交數(shù)據(jù)可以由可經(jīng)由互聯(lián)網(wǎng)110與云游戲服務(wù)112接口連接的單獨(dú)社交媒體網(wǎng)絡(luò)進(jìn)行管理。經(jīng)由互聯(lián)網(wǎng)110,可以連接任何數(shù)量的客戶端系統(tǒng)106以用于訪問(wèn)內(nèi)容以及與其他用戶互動(dòng)。
繼續(xù)參考圖2的實(shí)例,在HMD中查看到的三維互動(dòng)式場(chǎng)景可以包括游戲玩法,諸如3D視圖中圖示的角色。例如P1的一個(gè)角色可以由穿戴HMD 102的用戶100控制。該實(shí)例示出兩個(gè)玩家之間的籃球場(chǎng)景,其中在3-D視圖中,HMD用戶100正在將球扣到另一角色身上。另一個(gè)角色可以是游戲的AI(人工智能)角色,或者可以由另外一個(gè)或多個(gè)玩家(Pn)控制。示出穿戴HMD 102的用戶100正在圍繞使用的空間移動(dòng),其中HMD可基于用戶的頭部移動(dòng)和身體位置移動(dòng)。示出攝像機(jī)108定位在房間中的顯示屏幕上方,然而,為了使用HMD,可以將攝像機(jī)108放置在可以采擷HMD 102的圖像的任何位置處。為此,示出用戶102從攝像機(jī)108和顯示器107轉(zhuǎn)身約90度,因?yàn)镠MD 102中呈現(xiàn)的內(nèi)容可以取決于從攝像機(jī)108的視角而言HMD 102的定位方向。當(dāng)然,在HMD使用期間,用戶100將移動(dòng),轉(zhuǎn)動(dòng)其頭部,在各種方向上觀看,以致可能需要利用由HMD呈現(xiàn)的動(dòng)態(tài)虛擬場(chǎng)景。
圖3A圖示穿戴HMD 102的用戶的實(shí)例,其中安置在固定位置處的攝像機(jī)108指向用戶。在一個(gè)實(shí)施方案中,攝像機(jī)108將具有將能夠查看用戶的位置,以使得在采擷的視頻幀中可以看到HMD 102和控制器104。在一個(gè)實(shí)例中,控制器104可能包括諸如LED燈等標(biāo)記,可以在跟蹤HMD 102的同時(shí)跟蹤所述標(biāo)記。在側(cè)視圖中,攝像機(jī)108正在采擷HMD 102的側(cè)面。出于說(shuō)明的目的,正面單元102a上的那些LED標(biāo)記被編號(hào)為標(biāo)記1、2、3和4。帶調(diào)整單元102b上的LED標(biāo)記未在側(cè)視圖中示出,但是俯視圖示出攝像機(jī)108將能夠從正面單元102a采擷至少標(biāo)記2和標(biāo)記4,并且從帶調(diào)整單元102b采擷標(biāo)記6。在一個(gè)實(shí)施方案中,對(duì)正面標(biāo)記與背面標(biāo)記之間的間隔進(jìn)行估計(jì)。
如上所述,在采擷的視頻中檢測(cè)到圖3A的側(cè)視圖后,基于對(duì)視頻幀的分析,執(zhí)行對(duì)估計(jì)的距離d1的校準(zhǔn)。如果使用的當(dāng)前階段尚未出現(xiàn)校準(zhǔn),那么將執(zhí)行校準(zhǔn),其中對(duì)若干視頻幀進(jìn)行分析并將其與從HMD慣性傳感器獲得的HMD的實(shí)際運(yùn)動(dòng)數(shù)據(jù)進(jìn)行比較。運(yùn)動(dòng)數(shù)據(jù)與圖像數(shù)據(jù)的組合產(chǎn)生距離d1的估計(jì)。在一個(gè)實(shí)施方案中,如上面所討論,HMD與幾何模型相關(guān)聯(lián),所述幾何模型是有關(guān)標(biāo)記中的每一個(gè)的定位和形狀數(shù)字信息。
使用校準(zhǔn)數(shù)據(jù),利用估計(jì)的間隔d1的計(jì)算結(jié)果對(duì)當(dāng)前使用階段的幾何模型進(jìn)行更新。隨著用戶繼續(xù)玩游戲或與HMD 102互動(dòng),如圖3B中所示,距離數(shù)據(jù)被利用來(lái)跟蹤HMD的空間中的移動(dòng)和空間定位,以及HMD的傾斜和相對(duì)于攝像機(jī)108的角度。例如在圖3B中,所述圖解以俯視圖方式示出用戶已將頭部轉(zhuǎn)回朝向攝像機(jī)108。在所述時(shí)間點(diǎn),攝像機(jī)可能夠看到正面單元102a上的所有標(biāo)記1至6。在該實(shí)例中,間隔d1假設(shè)用戶可能已經(jīng)在某一時(shí)刻調(diào)整了頭帶102c,以使得HMD將貼合用戶的頭部。貼合安置是優(yōu)選的,因?yàn)檫@避免HMD 102在用戶的臉上移動(dòng)。另外,在一個(gè)實(shí)施方案中,當(dāng)透過(guò)HMD 102查看時(shí),HMD 102的移動(dòng)也會(huì)改變至場(chǎng)景中的場(chǎng)景查看點(diǎn)。
例如,如果對(duì)頭帶102c進(jìn)行調(diào)整,那么正面標(biāo)記與背面標(biāo)記之間的實(shí)際間隔將改變,所述改變可能會(huì)(取決于調(diào)整的量)引起由游戲或程序(例如,庫(kù)文件)的代碼所利用的幾何模型所預(yù)期的標(biāo)記之間的不一致,并且HMD 102的移動(dòng)可能不會(huì)很好地轉(zhuǎn)化成HMD 102中所呈現(xiàn)的場(chǎng)景中的改變。舉例來(lái)說(shuō),當(dāng)僅跟蹤正面標(biāo)記(即LED)1至4時(shí),HMD 102的移動(dòng)將不會(huì)改變,因?yàn)镠MD 102的幾何模型保持靜止,因?yàn)樗鰳?biāo)記處于固定位置處。然而,當(dāng)攝像機(jī)在正面LED與背面LED之間移動(dòng)時(shí),如果頭帶發(fā)生調(diào)整(將其調(diào)大或調(diào)小),那么實(shí)際間隔與幾何模型或校準(zhǔn)的幾何模型可能不匹配。在所述情況下,如果一個(gè)階段期間發(fā)生改變,或者頭帶的一些改變或者彎曲使得實(shí)際間隔移動(dòng),那么所述系統(tǒng)可以檢測(cè)出需要校準(zhǔn)或再校準(zhǔn)。
圖3C-1、圖3C-2和圖3C-3圖示穿戴利用頭帶102c捆綁到用戶的頭部的HMD 102的用戶的實(shí)例,所述頭帶連接至正面單元102a和帶調(diào)整單元102b。在一個(gè)實(shí)施方案中,帶調(diào)整單元102b包括調(diào)整器。在一個(gè)實(shí)例中,所述調(diào)整器可以是允許繃緊(使得大小變小)或松開(kāi)(使得大小變大)頭帶的旋轉(zhuǎn)輪。也可以使用其它調(diào)整器,因?yàn)椴粦?yīng)限制為使用示例性旋轉(zhuǎn)輪。
在對(duì)頭帶進(jìn)行調(diào)節(jié)后,用戶可以開(kāi)始在游戲階段中使用HMD。在該實(shí)例中,用戶面向攝像機(jī)108,如從俯視圖中示出。雖然用戶正在游戲階段中互動(dòng),但是攝像機(jī)被用于跟蹤HMD 102的移動(dòng)和位置。如上所述,慣性傳感器也在HMD 102的跟蹤期間使用,并且所述慣性數(shù)據(jù)可以用來(lái)增強(qiáng)攝像機(jī)108的光學(xué)跟蹤。另外,慣性傳感器在校準(zhǔn)期間使用,其中結(jié)合在視頻圖像中識(shí)別的標(biāo)記對(duì)圖像數(shù)據(jù)進(jìn)行分析。
例如,慣性傳感器生成HMD 102的位置數(shù)據(jù)、旋轉(zhuǎn)數(shù)據(jù)和一般移動(dòng)數(shù)據(jù),在一些實(shí)施方案中,所述數(shù)據(jù)在一個(gè)視頻幀的生成期間多次生成。因?yàn)樯傻膽T性數(shù)據(jù)非常豐富且具有高保真度,所以可以對(duì)若干個(gè)幀時(shí)間段上識(shí)別的圖像標(biāo)記或目標(biāo)之間的距離進(jìn)行估計(jì)。為此,校準(zhǔn)將產(chǎn)生對(duì)例如HMD 102的正面LED與背面LED之間的標(biāo)記之間的實(shí)際距離的估計(jì)。在示例性采擷的幀302中,示出HMD 102的正面單元102a的正面是可見(jiàn)的。
圖3D-1、圖3D-2和圖3D-3圖示用戶已經(jīng)將其頭部從圖3C中示出的起始位置旋轉(zhuǎn)離開(kāi)約45度的實(shí)例。應(yīng)理解的是,旋轉(zhuǎn)不必是完美旋轉(zhuǎn),因?yàn)檎H说男D(zhuǎn)移動(dòng)可以包括旋轉(zhuǎn)的同時(shí)面朝上和面朝下(例如,傾斜)。出于舉例的目的,示出簡(jiǎn)單的旋轉(zhuǎn),并且假設(shè)也發(fā)生了其它運(yùn)動(dòng)(例如,在旋轉(zhuǎn)期間的不同時(shí)間點(diǎn)上/下傾斜)。在運(yùn)轉(zhuǎn)中,移動(dòng)在一些時(shí)間段上發(fā)生,所述移動(dòng)可響應(yīng)于用戶希望探索游戲中的不同場(chǎng)景或者查看虛擬空間中的不同內(nèi)容或者查看電影或視頻內(nèi)的不同場(chǎng)景區(qū)域而發(fā)生(在任何時(shí)間點(diǎn))。在一個(gè)時(shí)間點(diǎn)上,如圖3D-3中所示,采擷的幀303將包括圖像數(shù)據(jù),所述圖像數(shù)據(jù)包括標(biāo)記2、4和6。出于舉例的目的,隨著對(duì)圖像數(shù)據(jù)進(jìn)行了分析,假設(shè)這是第一次在幀中采擷背面標(biāo)記6。如果當(dāng)前階段尚未發(fā)生校準(zhǔn),或者確定距離上一次校準(zhǔn)已經(jīng)過(guò)去一段時(shí)間,那么系統(tǒng)將執(zhí)行校準(zhǔn)操作,其中對(duì)正面LED與背面LED之間的距離進(jìn)行了計(jì)算。
如上面所討論,這通過(guò)對(duì)來(lái)自HMD 102的慣性傳感器(例如,陀螺儀和加速度計(jì))的旋轉(zhuǎn)數(shù)據(jù)和位置數(shù)據(jù)進(jìn)行分析完成。該分析將呈現(xiàn)用于進(jìn)一步跟蹤的估計(jì)的間隔距離。在一個(gè)實(shí)施方案中,該初始估計(jì)的距離被保存至HMD 102的幾何模型,所述幾何模型包含關(guān)于LED的空間間隔和幾何形狀的信息以及模型化的HMD 102的其它特征。在其它實(shí)施方案中,使用包括估計(jì)的距離的校準(zhǔn),直至進(jìn)一步檢查指示改變已經(jīng)發(fā)生(即,新的檢查生成與當(dāng)前校準(zhǔn)的幾何模型中使用的間隔距離不同的間隔距離)。
該改變可能在以下情況下發(fā)生:當(dāng)用戶調(diào)整頭帶時(shí),或者取下HMD 102并且另一用戶進(jìn)行了調(diào)整并且試戴HMD 102,或者頭帶102在游戲階段期間變得彎曲或移動(dòng)。如果新估計(jì)的間隔距離超出預(yù)定義的界限,那么新估計(jì)的間隔距離被添加至校準(zhǔn)的幾何模型。如上面所提及,校準(zhǔn)的幾何模型可以被應(yīng)用和/或系統(tǒng)用來(lái)提供對(duì)HMD 102的移動(dòng)和位置的準(zhǔn)確跟蹤,以及用來(lái)提供與穿戴HMD 102的用戶做出的方向、移動(dòng)和運(yùn)動(dòng)一致的內(nèi)容至HMD 102。
通過(guò)維持幾何模型的校準(zhǔn)更新為任何識(shí)別的距離改變或頭帶大小的實(shí)際調(diào)整,防止提供至HMD 102的內(nèi)容在HMD 102中顯示時(shí)出現(xiàn)跳動(dòng)、彈跳或不準(zhǔn)確的抖動(dòng),尤其當(dāng)用戶將HMD 102移動(dòng)至側(cè)面時(shí)(即,不再大致上與攝像機(jī)108正交)。
圖3E-1、圖3E-2和圖3E-3圖示用戶已經(jīng)從圖3C-1和圖3C-2中示出的位置移動(dòng)離開(kāi)約90度。在該點(diǎn)處,如果尚未做出調(diào)整,并且校準(zhǔn)似乎在界限內(nèi)(如與更多后臺(tái)校準(zhǔn)相比,但是未應(yīng)用至所述模型),那么系統(tǒng)將繼續(xù)使用正面LED與背面LED之間的估計(jì)的距離來(lái)呈現(xiàn)內(nèi)容至HMD 102。
圖3F-1、圖3F-2和圖3F-3圖示游戲階段中用戶已經(jīng)從圖3E-1的位置旋轉(zhuǎn)約180度的時(shí)間。在該實(shí)例中,攝像機(jī)108正在生成采擷的幀302,其中標(biāo)記1、3和5是可見(jiàn)的。如上所述,可繼續(xù)使用間隔距離的原始校準(zhǔn)直至下一游戲階段,直至用戶停止移動(dòng)并且然后重新開(kāi)始,或者當(dāng)用戶調(diào)整頭帶時(shí)。在另一實(shí)施方案中,所述系統(tǒng)可以再次通知正面LED和背面LED可查看,但是也通知現(xiàn)在是對(duì)側(cè)可查看。換句話說(shuō),圖3E-3的可查看LED是圖3F-3中的那些可查看LED的相對(duì)側(cè)LED。
因此,系統(tǒng)可以要求獨(dú)立地對(duì)每一側(cè)進(jìn)行校準(zhǔn)。因此,雖然已經(jīng)對(duì)圖3E-3中的側(cè)面進(jìn)行校準(zhǔn),并且在幾何模型中使用估計(jì)的距離間隔,但是系統(tǒng)可以獨(dú)立地運(yùn)行對(duì)另一側(cè)的校準(zhǔn),并且估計(jì)被添加至幾何模型的另一間隔距離。以該方式,兩側(cè)的單獨(dú)校準(zhǔn)可以解決以下情況:其中對(duì)頭帶的一側(cè)進(jìn)行調(diào)整而未對(duì)頭帶的另一側(cè)進(jìn)行調(diào)整,或者如果頭帶中的扭結(jié)在背面LED與正面可見(jiàn)LED之間產(chǎn)生不同的實(shí)際間隔。
圖3G-1、圖3G-2和圖3G-3圖示HMD 102的背面在采擷的幀302中可見(jiàn)的實(shí)例。在該實(shí)例中,使用HMD 102的原始幾何模型可以發(fā)生LED 5和LED 6的跟蹤,因?yàn)長(zhǎng)ED 5和LED 6位于不會(huì)改變的固定結(jié)構(gòu)上。在其它實(shí)施方案中,如果背面LED未相對(duì)于彼此固定,那么也可以隨著用戶的頭部在不同的時(shí)間旋轉(zhuǎn)將背面LED中的一個(gè)校準(zhǔn)為正面LED并且然后將背面LED校準(zhǔn)為其它LED。
圖4A圖示HMD 102和攝像機(jī)108的俯視圖,所述攝像機(jī)108被定位以能夠識(shí)別與HMD 102相關(guān)聯(lián)的標(biāo)記(LED)。HMD 102的俯視圖示出借助于頭帶102c連接的正面單元102a和帶調(diào)整單元102b。正面單元102a包括HMD 102的光學(xué)塊區(qū)段。光學(xué)塊被配置來(lái)可由調(diào)整間隙402進(jìn)行調(diào)整。為此,當(dāng)附接至用戶的頭部時(shí),光學(xué)塊可以移動(dòng)朝向用戶的面部以及從用戶的面部移動(dòng)離開(kāi)。在一個(gè)實(shí)施方案中,調(diào)整間隙402是可調(diào)整的從而為HMD 102用戶提供舒適,并且還在用戶的眼睛與光學(xué)塊中的結(jié)構(gòu)之間提供額外空間。額外空間可以被利用來(lái)容納用戶的眼鏡。如圖所示,帶調(diào)整單元102b包括旋轉(zhuǎn)輪404,所述旋轉(zhuǎn)輪404可用于調(diào)整頭帶,以使得所述頭帶收縮到帶調(diào)整單元102b中或者擴(kuò)張到帶調(diào)整單元102b以外。
如上所述,也可以使用其它調(diào)整器,因?yàn)椴粦?yīng)限制為使用示例性旋轉(zhuǎn)輪。舉例來(lái)說(shuō),其它調(diào)整器可以包括皮帶調(diào)整器、切口調(diào)整器、帶上的銷(xiāo)孔調(diào)整器、卡扣式或咬合式調(diào)整器、維可牢調(diào)整器、膠帶調(diào)整器、帶扣調(diào)整器、繩子調(diào)整器、鏈連接器調(diào)整器、彈性調(diào)整器或各種類(lèi)型的調(diào)整器的組合以及夾子和鎖。
進(jìn)行調(diào)整從而為已經(jīng)將HMD放置到其頭部上的用戶提供貼合匹配或舒適匹配。因?yàn)樵摽烧{(diào)整性,所以從HMD 102的正面到背面之間的實(shí)際間隔距離D將基于做出的調(diào)整而變化。出于說(shuō)明目的,如果將光學(xué)塊完全推向用戶面部,并且對(duì)旋轉(zhuǎn)輪404進(jìn)行調(diào)整以使得頭帶的大小為其可能的最小大小,那么間隔距離將是dC。然而,鑒于用戶做出的自定義調(diào)整,間隔dA將針對(duì)光學(xué)塊中的調(diào)整而出現(xiàn)變化,并且間隔dB將針對(duì)帶調(diào)整單元102b中的調(diào)整而出現(xiàn)變化。在任何一個(gè)時(shí)間點(diǎn),光學(xué)塊的正面單元中的LED與帶調(diào)整單元102b中的背面LED之間的實(shí)際物理間隔D將會(huì)變化,并且因此執(zhí)行如上所述的校準(zhǔn),以基于當(dāng)前調(diào)整識(shí)別正面LED與背面LED之間的估計(jì)的間隔距離。
如圖所示,間隔距離等于:D=dC+/-dA+/-dB。HMD的使用期間的校準(zhǔn)將因此識(shí)別對(duì)可見(jiàn)背面LED與可見(jiàn)正面LED之間的實(shí)際間隔的密切近似估計(jì),因此限定間隔距離。然后將所述間隔距離添加至HMD 102的幾何模型,所述幾何模型被利用以基于使用期間HMD的位置、旋轉(zhuǎn)、移動(dòng)和定向呈現(xiàn)內(nèi)容至HMD。
圖4B圖示HMD 102的俯視圖的實(shí)例,其中間隔d1被物理地安置用于物理HMD。所述物理安置可以由于對(duì)HMD的頭帶102c做出的調(diào)整而發(fā)生。當(dāng)分析視頻幀410時(shí)將示出基于對(duì)多個(gè)幀的分析以及對(duì)由HMD 102中的傳感器產(chǎn)生的慣性數(shù)據(jù)的同時(shí)分析對(duì)間隔距離d1的估計(jì)。
相比之下,圖4C圖示對(duì)HMD 102進(jìn)行調(diào)整以使得頭帶102c更大之后的俯視圖。該過(guò)程還將包括對(duì)采擷的視頻幀的分析,以識(shí)別背面LED與正面LED的當(dāng)前位置,以及然后運(yùn)行校準(zhǔn)操作來(lái)確定得到的估計(jì)的間隔是否與先前對(duì)圖4B的大小進(jìn)行的校準(zhǔn)相同。在一個(gè)實(shí)施方案中,系統(tǒng)將確定所述大小現(xiàn)在大了Δd,換句話說(shuō)大小是d1+Δd,現(xiàn)在是d2。如果差值Δd大于系統(tǒng)可接受的界限,那么將維持原始校準(zhǔn)。
如果新估計(jì)的距離d2與估計(jì)的距離d1不同,那么對(duì)幾何模型中的校準(zhǔn)數(shù)據(jù)進(jìn)行更新以包括距離d2。在另一實(shí)施方案中,代替依賴(lài)于額外校準(zhǔn)步驟來(lái)識(shí)別新校準(zhǔn)是否生成比原始估計(jì)的距離更大的估計(jì)的距離,對(duì)旋轉(zhuǎn)輪404或任何其它調(diào)整機(jī)構(gòu)的調(diào)整可以觸發(fā)信號(hào),諸如指示頭帶102c的大小改變的標(biāo)志或數(shù)據(jù)。
因此,可以將該信號(hào)傳達(dá)回到系統(tǒng),所述系統(tǒng)然后將要求執(zhí)行新的校準(zhǔn)以識(shí)別正面LED與背面LED之間的新估計(jì)的間隔。在其它實(shí)施方案中,當(dāng)系統(tǒng)確定HMD的不活躍或不移動(dòng)已經(jīng)發(fā)生一段時(shí)間時(shí)可以執(zhí)行再校準(zhǔn)。這將是正面LED與背面LED之間的距離需要新校準(zhǔn)數(shù)據(jù)的指示信號(hào),因?yàn)榉浅?赡艿氖切掠脩粢呀?jīng)戴上HMD 102以開(kāi)始新的游戲階段或參與現(xiàn)有游戲階段。
舉例來(lái)說(shuō),在第一玩家享受游戲階段期間,附近的第二玩家可以希望查看HMD中呈現(xiàn)的內(nèi)容,并且所述第一玩家可以或可能移除HMD使得第二玩家可以在短時(shí)間內(nèi)查看內(nèi)容。在該分享期間,可能的是可能已經(jīng)對(duì)HMD頭帶進(jìn)行了調(diào)整。實(shí)際上,對(duì)于發(fā)生的調(diào)整可能的是:用于第二玩家臨時(shí)穿戴HMD的第一調(diào)整和第二調(diào)整,以使得第一玩家可以在從第二玩家拿回HMD之后重新開(kāi)始游戲階段。
圖4D提供可以執(zhí)行用來(lái)識(shí)別HMD上的正面標(biāo)記與和所述HMD的頭帶相關(guān)聯(lián)的可見(jiàn)背面標(biāo)記之間的間隔距離的操作的示例性流程圖。操作420包括當(dāng)正在與多媒體內(nèi)容互動(dòng)的用戶穿戴頭戴式顯示器時(shí)采擷所述頭戴式顯示器的視頻幀。如上所述,所述多媒體內(nèi)容可能包括各種類(lèi)型的媒體。媒體的類(lèi)型可以包括視頻游戲、電影、網(wǎng)站內(nèi)容、視頻片段、音頻內(nèi)容、視頻和音頻的組合、視頻會(huì)議、社交媒體互動(dòng)式通信和/或其的組合。
在當(dāng)穿戴HMD的用戶正在與多媒體互動(dòng)的時(shí)間期間,將內(nèi)容提供給HMD進(jìn)行呈現(xiàn)以及由用戶進(jìn)行查看。在一個(gè)實(shí)施方案中,還提供攝像機(jī)用于查看HMD的位置和定向以及移動(dòng)。在一個(gè)實(shí)施方案中,攝像機(jī)產(chǎn)生呈視頻幀形式的多個(gè)圖像。然后在操作422中,可以檢查視頻幀,以識(shí)別安置在HMD上的標(biāo)記。如上面所提及,標(biāo)記可以包括LED。
在其它實(shí)施方案中,標(biāo)記可以包括以下標(biāo)記:不照明、形狀、反向反射表面、不同顏色的表面、不同顏色區(qū)域或表面、LED和表面的組合、LED的組合、反向反射帶、反射漆、反射表面、數(shù)值數(shù)據(jù)、QR代碼數(shù)據(jù)、圖案、圖像和其的兩個(gè)或更多個(gè)的組合。為此,雖然一個(gè)實(shí)施方案利用使用顏色照亮HMD的區(qū)域的LED,但是所述顏色可以改變,并且被照明的LED表面或區(qū)域的形狀和定向也可以改變。在一些實(shí)施方案中,HMD可以使用多個(gè)不同的顏色,以使得特定顏色識(shí)別位置。在其它實(shí)施方式中,當(dāng)跟蹤多個(gè)HMD時(shí),可以在HMD的不同部分或不同HMD上利用不同的顏色。如果跟蹤多個(gè)HMD用戶,那么可以分配不同的顏色至不同的玩家。LED還可以被配置來(lái)間歇地以不同模式照亮,或者借助于由系統(tǒng)采擷和分析的圖像數(shù)據(jù)有規(guī)律地傳達(dá)代碼或數(shù)據(jù)。
在一些實(shí)施方案中,可對(duì)LED進(jìn)行配置以改變照明強(qiáng)度??梢灾T如響應(yīng)于檢測(cè)環(huán)境光照動(dòng)態(tài)地控制照明的改變。如果房間中的光照明亮,那么可以強(qiáng)化照明或者可以選擇不同的顏色以改進(jìn)或增強(qiáng)跟蹤。在一些其它實(shí)施方案中,選擇的顏色可能是不同的顏色,或者可能是提供與房間、環(huán)境、人的衣服或其的組合的周?chē)h(huán)境更高對(duì)比度的顏色。
在操作424中,可以通過(guò)分析由攝像機(jī)采擷的圖像數(shù)據(jù)來(lái)跟蹤識(shí)別的標(biāo)記。在正面光學(xué)塊上識(shí)別的標(biāo)記有助于對(duì)HMD的跟蹤,所述標(biāo)記以一種布置定向,以使得允許對(duì)HMD的正面光學(xué)塊的位置和定向進(jìn)行識(shí)別。在圖示的實(shí)例中,當(dāng)從攝像機(jī)108直接查看時(shí),所述標(biāo)記定位在大致矩形光學(xué)塊的正面轉(zhuǎn)角處。因此,當(dāng)分析視頻幀中的圖像數(shù)據(jù)時(shí),當(dāng)用戶將其頭部向下移動(dòng)時(shí)兩個(gè)上部LED和兩個(gè)底部LED在由系統(tǒng)采擷的圖像中似乎變得更近。可以做出類(lèi)似的處理,以確定用戶何時(shí)向左轉(zhuǎn),向右轉(zhuǎn),向左傾斜,向右傾斜或諸如旋轉(zhuǎn)和傾斜等移動(dòng)的組合。在一個(gè)實(shí)施方案中,操作426確定頭帶調(diào)整單元上的標(biāo)記在采擷的視頻幀中是否可見(jiàn)。
如上所述,當(dāng)使用和穿戴HMD時(shí),帶調(diào)整單元大致上朝向用戶頭部的背面安置。為此,帶調(diào)整單元上的標(biāo)記在當(dāng)正面標(biāo)記中的至少兩個(gè)也可見(jiàn)的時(shí)間點(diǎn)將是可見(jiàn)的。在該點(diǎn)處,操作428中可以發(fā)生校準(zhǔn)操作,以識(shí)別正面LED與背面LED之間的距離。在該操作中,對(duì)幀中的至少一個(gè)進(jìn)行檢查并且對(duì)慣性數(shù)據(jù)進(jìn)行檢查,以估計(jì)正面光學(xué)塊上的可見(jiàn)標(biāo)記與帶調(diào)整單元上的可見(jiàn)標(biāo)記之間的間隔距離。如上所述,可以對(duì)多個(gè)幀進(jìn)行分析,以識(shí)別HMD的移動(dòng)以及圖像數(shù)據(jù)中的移動(dòng)改變,所述移動(dòng)和改變被一起映射以識(shí)別估計(jì)的間隔距離。
在一個(gè)實(shí)施方案中,將可以包括陀螺儀數(shù)據(jù)和加速度計(jì)數(shù)據(jù)的慣性數(shù)據(jù)與不同時(shí)間點(diǎn)相關(guān)聯(lián),在所述不同時(shí)間點(diǎn)各種幀相對(duì)于其它幀示出LED的移動(dòng)。在一些實(shí)施方式中,所利用的陀螺儀可以每幀多次的速度提供樣本,所述樣本是允許對(duì)正面LED與背面LED之間發(fā)生的移動(dòng)量進(jìn)行非常準(zhǔn)確的估計(jì)的一組豐富的數(shù)據(jù),所述數(shù)據(jù)允許對(duì)間隔距離的準(zhǔn)確估計(jì)。在一些實(shí)施方案中,加速度計(jì)可以最高約2000幀/秒的速度提供樣本,并且該信息也可用于識(shí)別HMD的位置和旋轉(zhuǎn)。
在一個(gè)實(shí)施方案中,操作430被處理用于確定是否已經(jīng)檢測(cè)到指示帶調(diào)整單元的大小變化的標(biāo)志。例如,帶調(diào)整單元中的電路可以觸發(fā)信號(hào)、標(biāo)志,或者可以傳達(dá)指示對(duì)頭帶做出的改變和/或改變的量的數(shù)據(jù)。如果尚未檢測(cè)到標(biāo)志,那么操作移動(dòng)到432,其中HMD使用可以繼續(xù)檢查額外幀和慣性數(shù)據(jù)以確定是否有必要對(duì)估計(jì)的距離進(jìn)行更新,同時(shí)將估計(jì)的間隔距離保持在適當(dāng)位置并且與HMD的幾何模型相關(guān)聯(lián)。如果在操作430中檢測(cè)出已經(jīng)安置標(biāo)志,那么方法移動(dòng)到操作434,前提是已經(jīng)在頭帶中安置了不同的距離,這將要求對(duì)間隔距離進(jìn)行新的估計(jì)。在對(duì)新的間隔距離進(jìn)行估計(jì)后,將新的間隔距離添加至HMD 102的三維模型,然后在游戲階段、新的游戲階段或者HMD的進(jìn)一步使用中使用所述新的間隔距離。
圖4E圖示另一流程圖實(shí)例,所述實(shí)例被利用來(lái)對(duì)HMD 102的正面單元的LED與和所述HMD的背面部分相關(guān)聯(lián)的LED之間的間隔距離進(jìn)行校準(zhǔn)。在該實(shí)例中,在操作440中,對(duì)HMD的視頻幀進(jìn)行檢查,以識(shí)別用于光學(xué)位置和定向跟蹤的標(biāo)記。在操作442中,確定正面標(biāo)記和背面標(biāo)記在視頻幀中是否可見(jiàn)。如果所述標(biāo)記不可見(jiàn),那么所述方法繼續(xù)識(shí)別并且將HMD的正面單元上的標(biāo)記用于跟蹤,因?yàn)檎鎲卧系臉?biāo)記在正面單元上具有固定定向,所以其間隔不會(huì)改變。因?yàn)樗鰳?biāo)記固定在正面單元上,所以HMD的幾何模型與HMD的正面單元上的已知間隔相一致。
在操作444中,在正面標(biāo)記和背面標(biāo)記在至少一個(gè)幀中可見(jiàn)后,所述操作根據(jù)視頻幀數(shù)據(jù)和HMD慣性數(shù)據(jù)執(zhí)行對(duì)HMD的正面標(biāo)記與背面標(biāo)記之間的距離的估計(jì)。通過(guò)以下方式對(duì)間隔進(jìn)行估計(jì):檢查視頻幀數(shù)據(jù)并將其與當(dāng)用戶移動(dòng)其頭部時(shí)的慣性數(shù)據(jù)相聯(lián)系,因此以特定速度、定向和距離移動(dòng)可見(jiàn)LED的位置。在確定估計(jì)的距離后,將所述估計(jì)的距離間隔添加至HMD的原始幾何模型。
通過(guò)將估計(jì)的距離添加至模型,所述模型現(xiàn)已被校準(zhǔn)為正面可見(jiàn)標(biāo)記與背面可見(jiàn)標(biāo)記之間的估計(jì)的間隔距離。在操作446中,確定游戲階段是否已經(jīng)結(jié)束。在以下情況下可以確定游戲階段已經(jīng)結(jié)束:當(dāng)HMD不再移動(dòng)達(dá)到一段時(shí)間時(shí);HMD放置在表面上且已經(jīng)不再移動(dòng)達(dá)到一段時(shí)間;HMD不再出現(xiàn)與可在圖像數(shù)據(jù)中檢測(cè)到的用戶一起移動(dòng);傳感器指示器生成指示游戲階段結(jié)束的標(biāo)志;游戲代碼已經(jīng)結(jié)束與游戲的互動(dòng)性;用戶已經(jīng)關(guān)閉單元;用戶已經(jīng)將單元安置為睡眠模式;或者用戶正在與顯示數(shù)據(jù)互動(dòng)或者瀏覽屏幕或無(wú)需對(duì)HMD進(jìn)行運(yùn)動(dòng)跟蹤的安置等。因此,當(dāng)游戲階段已經(jīng)結(jié)束時(shí),應(yīng)確定的是必需對(duì)正面標(biāo)記與背面標(biāo)記之間的距離進(jìn)行更新以用于下一用戶或下一游戲階段。
如果操作446確定游戲階段尚未結(jié)束,那么操作448中做出決定來(lái)確定是否已經(jīng)安置指示頭帶被調(diào)整的標(biāo)志。如果已經(jīng)調(diào)整頭帶且安置了標(biāo)志,那么系統(tǒng)將要求應(yīng)對(duì)正面標(biāo)記與背面標(biāo)記之間的距離進(jìn)行更新以用于下一游戲階段或繼續(xù)玩游戲或使用。如果操作448中未安置標(biāo)志,那么系統(tǒng)可以進(jìn)行在使用期間對(duì)估計(jì)的距離進(jìn)行改進(jìn)。如上所述,這可以周期性發(fā)生或者每當(dāng)用戶將HMD的側(cè)面暴露于攝像機(jī)時(shí)發(fā)生,即僅將正面LED暴露于攝像機(jī)之后發(fā)生。
在一些實(shí)施方案中,可以計(jì)算估計(jì)的距離,但是校準(zhǔn)不會(huì)被自動(dòng)更新到幾何模型中。在該實(shí)例中,校準(zhǔn)可以繼續(xù)連續(xù)地發(fā)生,直至校準(zhǔn)中的一個(gè)識(shí)別出估計(jì)的距離顯著不同或者超出容許的界限,因此新校準(zhǔn)的估計(jì)的距離應(yīng)添加至幾何模型以供繼續(xù)使用。
在一個(gè)實(shí)施方案中,已經(jīng)確定的是,最大約50mm的估計(jì)的間隔距離改變?cè)诮缦迌?nèi)(或者最大約30mm在界限內(nèi),或最大約20mm在界限內(nèi),或者最大約15mm在界限內(nèi),或者最大約10mm在界限內(nèi),或者最大約5mm在界限內(nèi)),并且將不會(huì)不利地影響跟蹤和多媒體內(nèi)容至HMD的遞送。在一些實(shí)施方案中,如果估計(jì)的間隔距離已改變超過(guò)約一些預(yù)定義的mm值(例如,1mm、2mm、3mm、4mm、5mm、6mm、7mm、8mm、9mm、10mm、15mm、20mm等),那么應(yīng)將新估計(jì)的間隔距離添加至幾何模型,以避免跟蹤位置與軟件和系統(tǒng)預(yù)期HMD所在的位置的不一致性。當(dāng)所述不一致發(fā)生時(shí),可能的是,HMD上呈現(xiàn)的圖像或內(nèi)容可以顯示出不正常的干擾、彈跳或某種跳動(dòng)。如果估計(jì)的間隔距離的差異最小,小于預(yù)定義的mm值(例如,1mm、2mm、3mm、4mm、5mm、6mm、7mm、8mm、9mm、10mm、15mm、20mm等),那么確定的是不必要對(duì)幾何模型進(jìn)行更新,因?yàn)閳D像將在無(wú)明顯品質(zhì)損耗的情況下呈現(xiàn)。
在一些實(shí)施方案中,間隔距離改變的界限或量可以根據(jù)HMD102中所顯示的內(nèi)容而變化。如果內(nèi)容要求更高的精確性,諸如在復(fù)雜或非常豐富的圖形密集型游戲中,那么界限可能較低。如果內(nèi)容是網(wǎng)絡(luò)數(shù)據(jù)、網(wǎng)頁(yè)或不會(huì)經(jīng)常改變或大致上固定或較少互動(dòng)的其它內(nèi)容,那么界限可以較大。
圖4F圖示另一實(shí)施方案,其中視頻幀和慣性數(shù)據(jù)的檢查被執(zhí)行用于識(shí)別HMD的正面標(biāo)記與背面標(biāo)記之間的間隔距離。在該實(shí)例中,操作460識(shí)別HMD的幾何模型和HMD上的標(biāo)記。HMD上的標(biāo)記包括正面標(biāo)記和背面標(biāo)記。如上面所提及,正面標(biāo)記固定在相對(duì)于HMD的正面單元的一組定向上。背面標(biāo)記耦接至可調(diào)整頭帶。因此,通過(guò)調(diào)節(jié)頭帶,背面標(biāo)記將被調(diào)整成距離HMD的正面單元的標(biāo)記更遠(yuǎn)或更近。
必須對(duì)二者之間的間隔距離進(jìn)行估計(jì),以使得可以將所述距離校準(zhǔn)為HMD的幾何模型。在操作462中,當(dāng)用戶穿戴HMD時(shí)采擷所述HMD的視頻幀。在操作464中,確定正面標(biāo)記和背面標(biāo)記在游戲階段或使用期間采擷的視頻幀中是否可見(jiàn)。如果所述標(biāo)記不可見(jiàn),那么在操作462中方法利用來(lái)自安置在HMD的正面單元上的標(biāo)記的位置和定向信息繼續(xù)采擷HMD的視頻幀,所述標(biāo)記的間隔距離和相對(duì)定向以及形狀從幾何學(xué)上看是已知的。
在操作466中,確定當(dāng)檢查來(lái)自HMD的加速度計(jì)數(shù)據(jù)和陀螺儀數(shù)據(jù)時(shí),必須檢查HMD的一個(gè)或多個(gè)幀。然后將由攝像機(jī)采擷的HMD的一個(gè)或多個(gè)幀與加速度計(jì)數(shù)據(jù)和陀螺儀數(shù)據(jù)相關(guān)聯(lián)。通過(guò)結(jié)合慣性數(shù)據(jù)分析連續(xù)幀和相關(guān)聯(lián)的圖像幀,估計(jì)在圖像幀中可見(jiàn)的正面標(biāo)記與背面標(biāo)記之間的間隔距離。在操作468中,確定是否已經(jīng)執(zhí)行校準(zhǔn)。如果尚未執(zhí)行校準(zhǔn),那么方法移動(dòng)到操作472。在操作472中,對(duì)HMD的幾何模型進(jìn)行校準(zhǔn)。
為此,幾何模型將包括如在操作466中確定的正面標(biāo)記與背面標(biāo)記之間的估計(jì)的距離。如果確定校準(zhǔn)已在過(guò)去發(fā)生,那么方法從操作468移動(dòng)到操作470。在操作470中,確定校準(zhǔn)是否準(zhǔn)確。如上所述,在以下情況下校準(zhǔn)可能變得不準(zhǔn)確:如果已經(jīng)對(duì)頭帶進(jìn)行調(diào)整;頭帶中已經(jīng)引入扭結(jié);或者已經(jīng)將HMD與已經(jīng)對(duì)頭帶進(jìn)行調(diào)整或者對(duì)HMD進(jìn)行操縱以產(chǎn)生不同的估計(jì)的間隔的另一用戶分享。
如果已經(jīng)通過(guò)當(dāng)正面標(biāo)記和背面標(biāo)記可見(jiàn)時(shí)再次檢查視頻幀而對(duì)不同的估計(jì)的間隔進(jìn)行了確定,并將所述不同的估計(jì)的間隔與慣性數(shù)據(jù)進(jìn)行比較,并且所述新估計(jì)的間隔距離大于允許的界限,那么在操作472中對(duì)校準(zhǔn)進(jìn)行更新。如果校準(zhǔn)保持準(zhǔn)確,或者保持在界限內(nèi),那么HMD的校準(zhǔn)的幾何模型將繼續(xù)與正面標(biāo)記與背面標(biāo)記之間初始確定的間隔距離一起使用。
因此,當(dāng)跟蹤時(shí)以及當(dāng)呈現(xiàn)多媒體內(nèi)容時(shí)將繼續(xù)使用校準(zhǔn)的幾何模型以確定HMD的位置和定向,所述多媒體內(nèi)容至少會(huì)存在由用戶對(duì)HMD的移動(dòng)和/或位置的改變。如上所述,所述方法可以繼續(xù)執(zhí)行校準(zhǔn),所述校準(zhǔn)未添加至幾何模型但是被用于確定何時(shí)需要響應(yīng)于對(duì)HMD的頭帶的某些改變或調(diào)整對(duì)間隔距離進(jìn)行更新。
圖5A提供根據(jù)本發(fā)明的一個(gè)實(shí)施方案的HMD 102的俯視圖的實(shí)例。在該實(shí)例中,示出的是,與HMD的正面單元102a相關(guān)聯(lián)的光學(xué)塊包括各種部件。在不詳述光學(xué)塊內(nèi)所包含的所有部件的情況下,具有跟蹤和確定正面LED與背面LED之間的估計(jì)的間隔距離的用途的一些部件以舉例方式示出。
在塊502中,示例性部件可以包括加速度計(jì)510、陀螺儀512和LED控制電路514、圖像處理電路516、光學(xué)器件518、顯示屏幕520以及當(dāng)與客戶端系統(tǒng)106通信時(shí)用于呈現(xiàn)內(nèi)容至HMD的其它部件和電路系統(tǒng)。如上面所提及,HMD可以直接與本地客戶端系統(tǒng)106通信,并且可借助于有線或無(wú)線連接進(jìn)行連接。在一個(gè)實(shí)施方案中,HMD包括用于與HMD通信的電路。所述電路可以用于傳輸信號(hào)和/或數(shù)據(jù)至計(jì)算系統(tǒng)以及從計(jì)算系統(tǒng)接收信號(hào)和/或數(shù)據(jù)。呈無(wú)線配置的電路可以包括無(wú)線通信鏈路。呈有線構(gòu)造的電路可以包括用于HMD與計(jì)算系統(tǒng)之間的接通、連接、延伸和/或接口連接的電纜連接器和接口。
在一些實(shí)施方式中,HMD 102的用戶也可以使用控制器104或另一輸入技術(shù)與HMD中呈現(xiàn)的內(nèi)容互動(dòng)。在另一實(shí)施方案中,HMD102可以包括用于直接與路由器或網(wǎng)絡(luò)部件通信的電路系統(tǒng),所述路由器或網(wǎng)絡(luò)部件允許與云基礎(chǔ)設(shè)施的通信。
如進(jìn)一步示出,HMD 102可以包括由頭帶部分102d限定的額外頭帶。所述額外頭帶可能包括襯墊,并且可以與頭帶102c分開(kāi)進(jìn)行調(diào)整。HMD 102的俯視圖設(shè)有用戶頭部的圖解,所述用戶頭部上定位有HMD。進(jìn)一步圖示的是任選部件504,所述任選部件504可集成或包含在帶調(diào)整單元102b內(nèi)。在一些實(shí)施方式中,所述部件可以包括塊504a中示出的部件。
塊504 80包括加速度計(jì)522、陀螺儀524、頭帶調(diào)整檢測(cè)器526,所述頭帶調(diào)整檢測(cè)器526被配置來(lái)生成標(biāo)志530。在一個(gè)實(shí)施方案中,當(dāng)檢測(cè)出已經(jīng)諸如通過(guò)調(diào)整旋轉(zhuǎn)輪404對(duì)頭帶做出調(diào)整時(shí)對(duì)標(biāo)志530進(jìn)行安置。在另一實(shí)施方案中,塊504b可能安置在帶調(diào)整單元102b內(nèi)。在該實(shí)例中,帶調(diào)整單元102b不包括電路系統(tǒng),但是包括將安置在光學(xué)塊(502)中的電路系統(tǒng)連接至LED 5和LED 6的簡(jiǎn)單接線。
在另一實(shí)施方案中,塊504c可以包括加速度計(jì)522并且任選地包括被利用來(lái)生成標(biāo)志530的頭帶調(diào)整檢測(cè)器526。因此,應(yīng)理解的是,在本文中被稱(chēng)作帶調(diào)整單元102b的頭帶的背面區(qū)段可以不包括電路系統(tǒng),或者可以包括額外電路系統(tǒng)以允許憑借來(lái)自慣性傳感器的輸出對(duì)位置進(jìn)行進(jìn)一步確定。
圖5C圖示穿戴HMD 102的用戶的側(cè)視圖的實(shí)例,其中正面單元102a安置在用戶臉部和眼睛上方,同時(shí)連接至頭帶102c和帶調(diào)整單元102b。圖5C圖示HMD 102的側(cè)視圖,以示出包括正面單元102a的光學(xué)塊的相對(duì)定位以及連接至頭帶102c的帶調(diào)整單元102b的定位。
如圖所示,當(dāng)HMD 102定位在用戶頭部上方時(shí),光學(xué)塊和帶調(diào)整單元102b的定位將具有大致上已知的相對(duì)定向。如果帶調(diào)整單元102b被配置成包括背面加速度計(jì)和陀螺儀,那么可以從HMD的背面和HMD的正面二者收集數(shù)據(jù),所述HMD已經(jīng)包括正面加速度計(jì)和陀螺儀。在一個(gè)實(shí)施方案中,可以對(duì)從來(lái)自HMD的正面和來(lái)自背面HMD的慣性傳感器獲得的數(shù)據(jù)進(jìn)行標(biāo)繪,以確定部件的相對(duì)定位,諸如相對(duì)于HMD的中心點(diǎn)(例如,用戶頭部將駐留的近似中心)的定位。
例如,正面加速度計(jì)和背面加速度計(jì)可以生成有關(guān)旋轉(zhuǎn)力和相對(duì)于重力的旋轉(zhuǎn)角度的數(shù)據(jù)。在大致正常或靜止位置處,光學(xué)塊將大致上平行于由正面加速度計(jì)確定的重力。在相同位置處,背面加速度計(jì)可能會(huì)出現(xiàn)相對(duì)于重力的旋轉(zhuǎn)角度。因此可以對(duì)從正面加速度計(jì)和背面加速度計(jì)接收的位置和定向數(shù)據(jù)進(jìn)行映射或監(jiān)測(cè),以確定何時(shí)已在頭帶中進(jìn)行調(diào)整,所述調(diào)整將要求對(duì)正面LED與背面LED之間的間隔距離進(jìn)行再校準(zhǔn)。在另一實(shí)施方案中,通過(guò)檢查正面LED與背面LED之間的相對(duì)慣性數(shù)據(jù),通過(guò)簡(jiǎn)單地使用HMD的正面區(qū)段與背面區(qū)段的慣性數(shù)據(jù)對(duì)間隔距離進(jìn)行估計(jì),無(wú)需依賴(lài)于對(duì)由攝像機(jī)采擷的視頻幀的檢查。
因此,可以檢查正面加速度計(jì)數(shù)據(jù)與背面加速度計(jì)之間的俯仰和傾斜,以識(shí)別HMD的正面區(qū)段與背面區(qū)段之間的近似中心點(diǎn)間隔。因此,頭帶的調(diào)整將改變至中心的距離,這然后將表明需要對(duì)HMD的幾何模型中的估計(jì)的間隔距離進(jìn)行調(diào)整,以允許在使用期間對(duì)HMD進(jìn)行準(zhǔn)確跟蹤。另外,通過(guò)將陀螺儀包括在正面和背面中,可以減少陀螺儀數(shù)據(jù)中的錯(cuò)誤,進(jìn)而可以隨著時(shí)間推移抵消或改進(jìn)差異。
因此,在一些實(shí)施方式中,如果背面頭帶中存在加速度計(jì),那么可以確定背面與正面的傾斜度。這可能表明例如帶中存在撓曲。然后可以借助于建議將該信息傳達(dá)給用戶,例如像通過(guò)HMD的屏幕中的消息。
另外,在具有正面加速度計(jì)和背面加速度計(jì)以及陀螺儀的情況下,可以估計(jì)頭帶距離正面加速度計(jì)的距離。因?yàn)楸趁婕铀俣扔?jì)將出現(xiàn)較大的向心加速度(例如,因?yàn)槠湓诒日婕铀俣扔?jì)更長(zhǎng)的“手臂”上行進(jìn)),所以這是可能的。并且,因?yàn)镠MD的旋轉(zhuǎn)(例如,使用陀螺儀)有多快是已知的,所以可以確定或估計(jì)加速度計(jì)彼此相距多遠(yuǎn)。該信息可以用來(lái)確定估計(jì)的間隔距離,所述估計(jì)的間隔距離然后可作為校準(zhǔn)添加至HMD 102的幾何模型,并且被用于在內(nèi)容的呈現(xiàn)期間進(jìn)行跟蹤。
另外,因?yàn)榧铀俣扔?jì)和陀螺儀二者均安置在背面頭帶上,所以可以運(yùn)行兩個(gè)獨(dú)立跟蹤“裝置”,以及將結(jié)果平均化,或者執(zhí)行額外估計(jì)或混合。在一個(gè)實(shí)施方案中,正面LED與背面LED之間的該估計(jì)的間隔將是所述LED之間的差異。在更多實(shí)施方案中,如果在HMD的兩側(cè)對(duì)正面LED與背面LED之間的間隔進(jìn)行估計(jì)(例如,單獨(dú)地),那么可以將結(jié)果混合或融合在一起以得到在幾何模型的兩側(cè)上使用的更優(yōu)化的估計(jì)的間隔距離。
圖6A至圖6C圖示根據(jù)一個(gè)實(shí)施方案的當(dāng)穿戴在個(gè)人用戶的頭部上的HMD 102的各種視圖。在圖6a中,示出LED 2可以圍繞HMD102的正面和側(cè)面包裹。對(duì)于LED 4,可以發(fā)生相同的情況。以此方式,LED 2和LED 4從正面和從側(cè)面二者可見(jiàn)。當(dāng)用戶轉(zhuǎn)向側(cè)面時(shí),LED 6將也可見(jiàn),并且LED 2和/或LED 4中的至少一個(gè)也將可見(jiàn)(例如,取決于角度、傾斜度、定向和/或位置)。背面區(qū)段102b也被示出連接至頭帶102c。
圖6B示出當(dāng)正面單元面向攝像機(jī)時(shí)的HMD 102。在該實(shí)例中,如果用戶面向下,那么可能的是有時(shí)僅LED 1和LED 2可見(jiàn)。然而,如果用戶鎖住,那么LED 3和LED 4將與LED 1和LED 2可見(jiàn),取決于用戶的頭部相對(duì)于攝像機(jī)108的定向。圖6C示出俯視圖,其中LED 1和LED 2以及LED 6和LED 5可能是可見(jiàn)的。也示出背面區(qū)段102b上的調(diào)整器。另外示出頭帶部分102d,所述頭帶部分102d可能是用于提供額外支撐和舒適度的第二頭帶。頭帶部分102d具有其自身調(diào)整器,但是所述調(diào)整器可能通常不會(huì)影響背面LED相對(duì)于正面LED的空間物理位置。
圖7示出HMD的側(cè)視圖。在該實(shí)例中,示出具有調(diào)整器404的背面區(qū)段102b,所述背面區(qū)段102b有時(shí)可以被扯下或者可以扭曲。所述改變可以會(huì)引起對(duì)背面LED相對(duì)于正面LED的校準(zhǔn)的定位的調(diào)整。在此種情況下,可以對(duì)校準(zhǔn)的間隔距離進(jìn)行調(diào)整或更新,并且也對(duì)HMD的幾何模型進(jìn)行更新。
圖8圖示根據(jù)一個(gè)實(shí)施方案的在使用期間穿戴HMD 102的用戶。在該實(shí)例中,示出使用從由攝像機(jī)108采擷的視頻幀獲得的圖像數(shù)據(jù)對(duì)HMD進(jìn)行跟蹤802。另外,示出也可以使用從由攝像機(jī)108采擷的視頻幀獲得的圖像數(shù)據(jù)對(duì)控制器進(jìn)行跟蹤804。也示出HMD經(jīng)由電纜806連接至計(jì)算系統(tǒng)106的配置。在一個(gè)實(shí)施方案中,HMD從同一電纜獲得電力,或者可以耦接至另一電纜。在另一實(shí)施方案中,HMD可以具有可充電電池,以便避免額外的電源線。
參考圖9,示出圖示根據(jù)本發(fā)明的實(shí)施方案的頭戴式顯示器102的示例性部件的圖解。應(yīng)理解,從HMD 102可以包括或排除更多或更少的部件,取決于啟用的配置和功能。頭戴式顯示器102可包括用于執(zhí)行程序指令的處理器900。存儲(chǔ)器902被提供用于存儲(chǔ)目的,并且可能包括易失性和非易失性存儲(chǔ)器二者。包括顯示器904,其提供用戶可進(jìn)行查看的可視界面。
顯示器904可以由一個(gè)單個(gè)顯示器限定,或者呈針對(duì)每一眼睛的獨(dú)立顯示屏幕的形式。當(dāng)提供兩個(gè)顯示屏幕時(shí),可以分開(kāi)提供左眼視頻內(nèi)容和右眼視頻內(nèi)容。視頻內(nèi)容分開(kāi)呈現(xiàn)至每一眼睛例如可以提供對(duì)三維(3D)內(nèi)容的更好沉浸式控制。如上所述,在一個(gè)實(shí)施方案中,通過(guò)使用針對(duì)一個(gè)眼睛的輸出將HMD 102的第二屏幕內(nèi)容提供給第二屏幕107,并且然后對(duì)內(nèi)容進(jìn)行格式化以呈2D格式顯示。在一個(gè)實(shí)施方案中,一個(gè)眼睛可以是左眼視頻饋送,但是在其它實(shí)施方案中,其可以是右眼視頻饋送。
可以將電池906提供作為頭戴式顯示器102的電源。在其它實(shí)施方案中,電源可以包括至電力的輸出連接。在其它實(shí)施方案中,可提供至電力的出口連接和電池906。運(yùn)動(dòng)檢測(cè)模塊908可能包括各種類(lèi)別的運(yùn)動(dòng)敏感硬件中的任何一個(gè),諸如磁力計(jì)910、加速度計(jì)912和陀螺儀914。
加速度計(jì)是用于測(cè)量加速度和重力引起的反應(yīng)力的裝置。單軸線模型和多軸線(例如,六個(gè)軸線)模型能夠檢測(cè)幅值和不同方向上的加速度方向。加速度計(jì)被用于感測(cè)傾角、振動(dòng)和沖擊。在一個(gè)實(shí)施方案中,三個(gè)加速度計(jì)912被用于提供重力的方向,其給出用于兩個(gè)角度(世界空間俯仰和世界空間滾轉(zhuǎn))的絕對(duì)參考。
磁力計(jì)測(cè)量頭戴式顯示器附近的磁場(chǎng)的強(qiáng)度和方向。在一個(gè)實(shí)施方案中,在頭戴式顯示器內(nèi)使用三個(gè)磁力計(jì)910,從而確保用于世界空間偏轉(zhuǎn)角的絕對(duì)參考。在一個(gè)實(shí)施方案中,設(shè)計(jì)磁力計(jì),以跨越±80微特斯拉的地球磁場(chǎng)。磁力計(jì)受金屬影響,并且提供與實(shí)際偏轉(zhuǎn)單調(diào)的偏轉(zhuǎn)測(cè)量結(jié)果。由于環(huán)境中的金屬的緣故,磁場(chǎng)可能會(huì)扭曲,這引起偏轉(zhuǎn)測(cè)量結(jié)果的偏離。如果必要,則可以使用來(lái)自諸如陀螺儀或攝像機(jī)等其它傳感器的信息來(lái)校準(zhǔn)該偏離。在一個(gè)實(shí)施方案中,加速度計(jì)912和磁力計(jì)910一起使用以獲得頭戴式顯示器102的傾角和方位角。
陀螺儀是基于角動(dòng)量的原理測(cè)量或維持定向的裝置。在一個(gè)實(shí)施方案中,三個(gè)陀螺儀914基于慣性傳感提供關(guān)于越過(guò)相應(yīng)軸線(x、y和z)的移動(dòng)的信息。陀螺儀有助于檢測(cè)快速旋轉(zhuǎn)。然而,陀螺儀可以隨著時(shí)間漂移而無(wú)需存在絕對(duì)參考。這要求周期性地重置陀螺儀,可以使用諸如基于對(duì)象的視覺(jué)跟蹤、加速度計(jì)、磁力計(jì)等的位置/定向確定的其它可用信息來(lái)完成。
提供攝像機(jī)916用于采擷真實(shí)環(huán)境的圖像和圖像流。頭戴式顯示器102中可以包括一個(gè)以上攝像機(jī)(任選地),包括背向攝像機(jī)(當(dāng)用戶正在查看頭戴式顯示器102的顯示器時(shí)遠(yuǎn)離用戶的指向)和正向攝像機(jī)(當(dāng)用戶正在查看頭戴式顯示器102的顯示器時(shí)朝向用戶的指向)。另外,可以在頭戴式顯示器102中包括深度攝像機(jī)918,用于感測(cè)對(duì)象在真實(shí)環(huán)境中的深度信息。
頭戴式顯示器102包括用于提供音頻輸出的揚(yáng)聲器920。而且,可包括麥克風(fēng)922用于從真實(shí)環(huán)境采擷音頻,所述音頻包括來(lái)自周?chē)h(huán)境的聲音,由用戶做出的語(yǔ)音等。頭戴式顯示器102包括用于提供觸覺(jué)反饋給用戶的觸覺(jué)反饋模塊924。在一個(gè)實(shí)施方案中,觸覺(jué)反饋模塊924能夠引起頭戴式顯示器102的移動(dòng)和/或振動(dòng),以便提供觸覺(jué)反饋給用戶。
提供LED 926作為頭戴式顯示器102的狀態(tài)的視覺(jué)指示器。例如,LED可以指示電池量、電源通電等。提供讀卡器928以使得頭戴式顯示器102能夠從存儲(chǔ)器卡讀取信息和向存儲(chǔ)器卡寫(xiě)入信息。USB接口930被包括作為接口的實(shí)例,所述接口用于啟用至外圍裝置的連接或至諸如其它便攜式裝置、計(jì)算機(jī)等其它裝置的連接。在頭戴式顯示器102的各種實(shí)施方案中,可包括各種類(lèi)別的接口中的任何一個(gè),以啟用頭戴式顯示器102的更大的連接性。
可包括WiFi模塊932用于經(jīng)由無(wú)線網(wǎng)絡(luò)技術(shù)啟用至互聯(lián)網(wǎng)的連接。而且,頭戴式顯示器102可能包括用于啟用至其它裝置的無(wú)線連接的藍(lán)牙模塊934。可能也包括通信鏈路936用于至其它裝置的連接。在一個(gè)實(shí)施方案中,通信鏈路936利用紅外傳輸進(jìn)行無(wú)線通信。在其它實(shí)施方案中,通信鏈路936可利用各種無(wú)線或有線傳輸協(xié)議中的任何一個(gè)來(lái)與其它裝置通信。
包括輸入按鈕/傳感器938以向用戶提供輸入接口。可能包括各種類(lèi)別的輸入接口中的任何一個(gè),諸如按鈕、手勢(shì)、觸摸板、操縱桿、軌跡球等。超聲通信模塊940可能包括在頭戴式顯示器102中,用于促進(jìn)經(jīng)由超聲技術(shù)與其它裝置進(jìn)行通信。
包括生物傳感器942以啟用對(duì)來(lái)自用戶的生理數(shù)據(jù)的檢測(cè)。在一個(gè)實(shí)施方案中,生物傳感器942包括一個(gè)或多個(gè)干電極,所述一個(gè)或多個(gè)干電極用于經(jīng)由用戶的皮膚、聲音檢測(cè)、眼睛視網(wǎng)膜檢測(cè)以識(shí)別用戶/外形等來(lái)檢測(cè)用戶的生理信號(hào)。
已經(jīng)將頭戴式顯示器102的前述部件僅描述成可能包括在頭戴式顯示器102中的示例性部件。在本發(fā)明的各種實(shí)施方案中,頭戴式顯示器102可能包括或可能不包括各種前述部件中的一些。頭戴式顯示器102的實(shí)施方案可能另外包括本文未描述但本領(lǐng)域已知的其它部件,以用于促進(jìn)如本文所描述的本發(fā)明的方面的目的。
本領(lǐng)域技術(shù)人員將了解,在本發(fā)明的各種實(shí)施方案中,前面提及的手持式裝置結(jié)合顯示器上顯示的互動(dòng)式應(yīng)用來(lái)利用,以提供各種互動(dòng)功能。本文所描述的示例性實(shí)施方案僅以舉例且不受限制的方式提供。
在一個(gè)實(shí)施方案中,本文所稱(chēng)的客戶端和/或客戶端裝置可能包括頭戴式顯示器(HMD)、終端、個(gè)人電腦、游戲機(jī)、平板電腦、電話、機(jī)頂盒、公用電話間、無(wú)線裝置、數(shù)字板、獨(dú)立裝置、手持式玩游戲裝置等等。通常來(lái)說(shuō),客戶端被配置來(lái):接收編碼的視頻流;對(duì)視頻流進(jìn)行解碼;以及將得到的視頻呈現(xiàn)給用戶,例如游戲的玩家。接收編碼的視頻流和/或?qū)σ曨l流進(jìn)行解碼的過(guò)程通常包括在客戶端的接收緩沖器中存儲(chǔ)個(gè)別視頻幀??稍谂c客戶端成一體的顯示器上或者諸如檢測(cè)器或電話燈單獨(dú)裝置上將視頻流呈現(xiàn)給用戶。
客戶端被任選地配置來(lái)支持一個(gè)以上游戲玩家。例如,游戲機(jī)可被配置來(lái)支持兩個(gè)、三個(gè)、四個(gè)或更多個(gè)同時(shí)玩家(例如,P1,P2,…Pn)。這些玩家中的每一個(gè)可以接收或分享視頻流,或者單個(gè)視頻流可能包括幀的區(qū)域,所述幀專(zhuān)門(mén)針對(duì)每一玩家生成,例如基于每一玩家的視角生成。任何數(shù)量的客戶端可以是本地的(例如,協(xié)同定位的)或者是地理上分散的。包括在游戲系統(tǒng)中的客戶端數(shù)量可能變化擊打,從一個(gè)或兩個(gè)到數(shù)千個(gè)、好幾萬(wàn)或更多。如本文所使用,術(shù)語(yǔ)“游戲玩家”被用于指代玩游戲的人,并且術(shù)語(yǔ)“玩游戲的裝置”被用來(lái)指代用于玩游戲的裝置。在一些實(shí)施方案中,玩游戲的裝置可能指代協(xié)作以遞送游戲體驗(yàn)至用戶的多個(gè)計(jì)算裝置。
例如,游戲機(jī)和HMD可以與視頻伺服系統(tǒng)協(xié)作,以利用HMD遞送查看的游戲。在一個(gè)實(shí)施方案中,游戲機(jī)從視頻伺服系統(tǒng)接收視頻流,并且游戲機(jī)傳送視頻流,或者將視頻流更新至HMD和/或電視以進(jìn)行呈現(xiàn)。
另外,HMD可以用來(lái)查看和/或與產(chǎn)生或使用的任何類(lèi)型的內(nèi)容互動(dòng),諸如視頻游戲內(nèi)容、電影內(nèi)容、視頻剪輯內(nèi)容、網(wǎng)絡(luò)內(nèi)容、廣告內(nèi)容、比賽內(nèi)容、賭博游戲內(nèi)容、會(huì)議呼叫/會(huì)議內(nèi)容、社交媒體內(nèi)容(例如,郵件、消息、媒體流、友員事件和/或游戲過(guò)程)、視頻部分和/或音頻內(nèi)容,以及被制作用于經(jīng)由互聯(lián)網(wǎng)利用瀏覽器和應(yīng)用從來(lái)源消耗的內(nèi)容以及任何類(lèi)型的流內(nèi)容。當(dāng)然,前述內(nèi)容列表并不受限,因?yàn)榭梢猿尸F(xiàn)任何類(lèi)型的內(nèi)容,前提是所述內(nèi)容可在HMD中查看,或者可以呈現(xiàn)至屏幕或HMD的屏幕。
客戶端可能但不要求還包括被配置來(lái)修改接收的視頻的系統(tǒng)。例如,客戶端可以被配置來(lái)執(zhí)行進(jìn)一步呈現(xiàn),以將一個(gè)視頻圖像重疊在另一視頻圖像上,從而收獲視頻圖像等。例如,客戶端可以被配置來(lái)接收諸如I幀、P幀和B幀等各種類(lèi)型的視頻幀,以及將這些幀處理成用于顯示給用戶的圖像。在一些實(shí)施方案中,客戶端中的一個(gè)成員被配置來(lái)執(zhí)行進(jìn)一步呈現(xiàn)、遮蔽、轉(zhuǎn)換成3-D、轉(zhuǎn)換成2D、失真消除、調(diào)整大小或視頻流上的類(lèi)似操作??蛻舳酥械某蓡T被任選地配置來(lái)接收一個(gè)以上音頻或視頻流。
客戶端的輸入裝置可能包括例如單手游戲控制器、雙手游戲控制器、手勢(shì)識(shí)別系統(tǒng)、目光識(shí)別系統(tǒng)、語(yǔ)音識(shí)別系統(tǒng)、鍵盤(pán)、操縱桿、指向裝置、力反饋裝置、運(yùn)動(dòng)和/或位置感測(cè)裝置、鼠標(biāo)、觸摸屏、神經(jīng)接口、攝像機(jī)、待開(kāi)發(fā)的輸入裝置等。
視頻源可能包括呈現(xiàn)邏輯,例如硬件、固件和/或存儲(chǔ)在諸如存儲(chǔ)裝置等計(jì)算機(jī)可讀媒體上的軟件。該呈現(xiàn)邏輯被配置來(lái)基于游戲狀態(tài)創(chuàng)建視頻流的視頻幀。呈現(xiàn)邏輯的全部或一部分任選地安置在一個(gè)或多個(gè)圖形處理單元(GPU)內(nèi)。呈現(xiàn)邏輯通常包括處理階段,所述處理階段被配置來(lái)確定物體之間的三維空間關(guān)系和/或用于基于游戲狀態(tài)和觀點(diǎn)應(yīng)用適當(dāng)結(jié)構(gòu)。呈現(xiàn)邏輯可以產(chǎn)生編碼的原始視頻。例如,可以根Adobe標(biāo)準(zhǔn)、HTML-5、.wav、H.264、H.263、On2、VP6、VC-1、WMA、Huffyuv、Lagarith、MPG-x、Xvid、FFmpeg、x264、VP6-8、realvideo、mp3等。編碼過(guò)程產(chǎn)生視頻流,其被任選地包裝用于遞送至裝置上的解碼器。視頻流的特征在于幀大小和幀速度。典型的幀大小包括800x 600、1280x 720(例如,720p)、1024x 768、1080p,盡管可以使用任何其它幀大小。.幀速度是每秒鐘的視頻幀數(shù)量。視頻流可能包括不同類(lèi)型的視頻幀。例如,H.264標(biāo)準(zhǔn)包括“P”幀和“I”幀。I幀包括用于刷新顯示裝置上的所有宏塊/像素的信息,而P幀包括用于刷新其子集的信息。P幀的數(shù)據(jù)大小通常小于I幀的數(shù)據(jù)大小。如本文所使用,術(shù)語(yǔ)“幀大小”意在指代幀內(nèi)的像素?cái)?shù)量。術(shù)語(yǔ)“幀數(shù)據(jù)大小”被用于指代存儲(chǔ)幀所要求的字節(jié)數(shù)。
在一些實(shí)施方案中,客戶端可以是通用計(jì)算機(jī)、專(zhuān)用計(jì)算機(jī)、游戲機(jī)、個(gè)人電腦、筆記本電腦、平板電腦、移動(dòng)計(jì)算裝置、便攜式游戲裝置、移動(dòng)電話、機(jī)頂盒、流媒體接口/裝置、智能電視或網(wǎng)絡(luò)顯示器,或者能夠被配置來(lái)完成如本文所定義的客戶端的功能性的任何其它計(jì)算裝置。在一個(gè)實(shí)施方案中,云游戲伺服器被配置來(lái)檢測(cè)用戶正在利用的客戶端裝置的類(lèi)型,以及為用戶的客戶端裝置提供適當(dāng)?shù)脑朴螒蝮w驗(yàn)。例如,圖像安置、音頻安置和其它類(lèi)型的安置可被優(yōu)化用于用戶的客戶端裝置。
圖10圖示信息服務(wù)供應(yīng)架構(gòu)的實(shí)施方案。信息服務(wù)供應(yīng)商(ISP)1070遞送大量信息服務(wù)至地理上分散的且經(jīng)由網(wǎng)絡(luò)1086連接的用戶1082。ISP可以遞送僅一種類(lèi)型的服務(wù),諸如股票價(jià)格更新或者多種服務(wù),諸如廣播媒體、新聞、運(yùn)動(dòng)、游戲等。另外,由每一ISP提供的服務(wù)是動(dòng)態(tài)的,也就是,可在任何時(shí)間點(diǎn)添加服務(wù)或解除服務(wù)。因此,提供特定類(lèi)型的服務(wù)至特定個(gè)體的ISP可以隨時(shí)間改變。例如,當(dāng)用戶在其當(dāng)?shù)貢r(shí),可由極為靠近用戶的ISP對(duì)用戶進(jìn)行服務(wù),并且當(dāng)用戶旅行到不同城市時(shí),可由不同的ISP對(duì)用戶進(jìn)行服務(wù)。當(dāng)?shù)豂SP將遞送所需的信息和數(shù)據(jù)至新的ISP,以使得用戶信息“跟隨”用戶去往新的城市,使得數(shù)據(jù)更為接近用戶并且更易于訪問(wèn)。在另一實(shí)施方案中,可以在主ISP與伺服ISP之間建立主-伺服關(guān)系,所述主ISP管理用戶的信息,并且伺服ISP在來(lái)自主ISP的控制下與用戶直接交流。在另一實(shí)施方案中,隨著客戶端在全球移動(dòng)而將數(shù)據(jù)從一個(gè)ISP遞送至另一ISP,以使得處于最好的位置以服務(wù)于用戶服務(wù)的ISP成為提供這些服務(wù)的ISP。
ISP 1070包括應(yīng)用服務(wù)供應(yīng)商(ASP)1072,其經(jīng)由網(wǎng)絡(luò)提供基于計(jì)算機(jī)的服務(wù)至客戶。使用ASP模型提供的軟件有時(shí)也被稱(chēng)作按需軟件或軟件即服務(wù)(SaaS)。提供至特定應(yīng)用程序(諸如客戶關(guān)系管理)的訪問(wèn)的簡(jiǎn)單形式是通過(guò)使用諸如HTTP等標(biāo)準(zhǔn)協(xié)議。應(yīng)用程序駐留在銷(xiāo)售商的系統(tǒng)上,并且由用戶通過(guò)銷(xiāo)售商提供的專(zhuān)用客戶端軟件或諸如瘦客戶端等其它遠(yuǎn)程接口使用HTML利用網(wǎng)絡(luò)瀏覽器進(jìn)行訪問(wèn)。
在廣泛的地理區(qū)域上遞送的服務(wù)常常使用云計(jì)算云計(jì)算是一種風(fēng)格的計(jì)算,其中動(dòng)態(tài)可擴(kuò)展的且常常是虛擬化的資源被提供作為互聯(lián)網(wǎng)上的服務(wù)。用戶無(wú)需是“云”中對(duì)用戶進(jìn)行支持的技術(shù)基礎(chǔ)設(shè)施的專(zhuān)家。云計(jì)算可以劃分成不同的服務(wù),諸如基礎(chǔ)設(shè)施即服務(wù)(IaaS)、平臺(tái)即服務(wù)(PaaS)和軟件即服務(wù)(SaaS)。云計(jì)算服務(wù)常常提供從網(wǎng)頁(yè)瀏覽器進(jìn)行訪問(wèn)的在線常見(jiàn)業(yè)務(wù)應(yīng)用,同時(shí)軟件和數(shù)據(jù)存儲(chǔ)在伺服器上。術(shù)語(yǔ)“云”被用作互聯(lián)網(wǎng)的比喻(例如,使用服務(wù)器、存儲(chǔ)裝置和邏輯),基于互聯(lián)網(wǎng)在計(jì)算機(jī)網(wǎng)絡(luò)圖中是如何被描繪的,并且是其所隱藏的復(fù)雜基礎(chǔ)設(shè)施的抽象化。
另外,ISP 1070包括游戲處理伺服器(GPS)1074,其被游戲客戶端用來(lái)玩單個(gè)玩家和多玩家視頻游戲。在互聯(lián)網(wǎng)上玩的大多數(shù)視頻游戲經(jīng)由至游戲伺服器的連接進(jìn)行操作。通常來(lái)說(shuō),游戲使用專(zhuān)用伺服器應(yīng)用,所述專(zhuān)用伺服器應(yīng)用從玩家收集數(shù)據(jù)并將其分配給其它玩家。這比對(duì)等布置更加高效和有效,但是其要求單獨(dú)的服務(wù)器來(lái)托管伺服器應(yīng)用。在另一實(shí)施方案中,GPS在玩家與其相應(yīng)游戲過(guò)程裝置之間建立通信,以在無(wú)需依賴(lài)集中式GPS的情況下交換信息。
專(zhuān)用GPS是獨(dú)立于客戶端運(yùn)行的伺服器。所述伺服器通常在定位于數(shù)據(jù)中心中的專(zhuān)用硬件上運(yùn)行,從而提供更多帶寬和專(zhuān)用處理能力。對(duì)于大多數(shù)基于PC的多玩家游戲來(lái)說(shuō),專(zhuān)用伺服器是托管游戲服務(wù)器的優(yōu)選方法。大規(guī)模多玩家在線游戲在專(zhuān)用伺服器上運(yùn)行,所述專(zhuān)用伺服器通常由擁有游戲標(biāo)題的軟件公司托管,從而允許所述專(zhuān)用伺服器對(duì)內(nèi)容進(jìn)行控制和更新。
廣播處理伺服器(BPS)1076將音頻或視頻信號(hào)分配給觀眾。至非常窄范圍的觀眾的廣播有時(shí)稱(chēng)作窄播送。廣播分配的最終回合使得信號(hào)抵達(dá)收聽(tīng)者或觀看者,并且所述信號(hào)可以與無(wú)線電臺(tái)或電視臺(tái)一樣在空中傳播至天線或接收器,或者可經(jīng)由電臺(tái)或直接從網(wǎng)絡(luò)進(jìn)入電纜電視或電纜廣播(或“無(wú)線電纜”)。互聯(lián)網(wǎng)還可以將收音機(jī)或電視帶給接收者,尤其是使用允許信號(hào)和帶寬被共享的多信道廣播。在過(guò)去,廣播一直受到諸如地理區(qū)域的間隔,諸如國(guó)家廣播或區(qū)域廣播。然而,隨著互聯(lián)網(wǎng)的迅速擴(kuò)散,廣播不再由地理進(jìn)行限定,因?yàn)閮?nèi)容可以到達(dá)世界上幾乎任何國(guó)家。
存儲(chǔ)服務(wù)供應(yīng)商(SSP)1078提供計(jì)算機(jī)存儲(chǔ)空間和相關(guān)管理服務(wù)。SSP還提供周期性備份和歸檔。通過(guò)提供存儲(chǔ)即服務(wù),用戶可以視需要訂購(gòu)更大的存儲(chǔ)空間。另一主要優(yōu)點(diǎn)在于,SSP包括備份服務(wù),并且當(dāng)用戶的計(jì)算機(jī)的硬盤(pán)損壞時(shí)用戶將不會(huì)丟失其數(shù)據(jù)。另外,多個(gè)SSP可以具有用戶數(shù)據(jù)的全部或部分副本,從而允許用戶高效地訪問(wèn)數(shù)據(jù),獨(dú)立于用戶所在地或用于訪問(wèn)數(shù)據(jù)的裝置。例如,用戶可以訪問(wèn)家用計(jì)算機(jī)中的個(gè)人文件,以及當(dāng)用戶移動(dòng)時(shí)可以訪問(wèn)移動(dòng)電話中的個(gè)人文件。
通信供應(yīng)商1080提供連接至用戶。一種類(lèi)別的通信供應(yīng)商是互聯(lián)網(wǎng)服務(wù)供應(yīng)商(ISP),其提供對(duì)互聯(lián)網(wǎng)的訪問(wèn)。ISP使用數(shù)據(jù)傳輸技術(shù)連接其客戶,所述數(shù)據(jù)傳輸技術(shù)適合于遞送互聯(lián)網(wǎng)協(xié)議數(shù)據(jù)報(bào),諸如撥號(hào)上網(wǎng)、DSL、纜線數(shù)據(jù)機(jī)器、光纖、無(wú)線或?qū)S酶咚倩ミB。通信供應(yīng)商還可以提供訊息服務(wù),諸如電子郵件、即時(shí)通訊和SMS短信。另一種類(lèi)型的通信供應(yīng)商是網(wǎng)絡(luò)服務(wù)供應(yīng)商(NSP),其通過(guò)提供至互聯(lián)網(wǎng)的直接主干網(wǎng)訪問(wèn)來(lái)出售帶寬或網(wǎng)絡(luò)訪問(wèn)。網(wǎng)絡(luò)服務(wù)供應(yīng)商可由以下組成:電信公司、數(shù)據(jù)載體、無(wú)線通信供應(yīng)商、互聯(lián)網(wǎng)服務(wù)供應(yīng)商、提供高速互聯(lián)網(wǎng)訪問(wèn)的有線電視運(yùn)營(yíng)商等。
數(shù)據(jù)交換1088將ISP 1070中的若干模塊互連,并且經(jīng)由網(wǎng)絡(luò)1086將這些模塊連接至用戶1082。數(shù)據(jù)交換1088可以覆蓋小區(qū)域,其中ISP 1070的所有模塊很靠近,或者當(dāng)不同的模塊在地理上分散時(shí)可以覆蓋大的地理區(qū)域。例如,數(shù)據(jù)交換1088可能包括若干數(shù)據(jù)中心內(nèi)的快速吉比特以太網(wǎng)(或更快)或者周即虛擬局域網(wǎng)(VLAN)。
用戶1082使用客戶端裝置1084訪問(wèn)遠(yuǎn)程服務(wù),所述客戶端裝置1084包括至少CPU、顯示器和I/O。客戶端裝置可以是PC、移動(dòng)電話、上網(wǎng)本、平板、游戲系統(tǒng)、PDA等。在一個(gè)實(shí)施方案中,ISP 1070識(shí)別客戶端所使用的裝置類(lèi)型,并且對(duì)所采用的通信方法進(jìn)行調(diào)整。在其它情況下,客戶端裝置使用諸如html等標(biāo)準(zhǔn)通信方法來(lái)訪問(wèn)ISP1070。
本發(fā)明的實(shí)施方案可使用各種計(jì)算機(jī)系統(tǒng)配置來(lái)實(shí)踐,所述計(jì)算機(jī)系統(tǒng)配置包括:手持式裝置、微處理器系統(tǒng)、基于微處理器的或者可編程消費(fèi)性電子產(chǎn)品、小型計(jì)算機(jī)、主計(jì)算機(jī)等。本發(fā)明還可以在分布式計(jì)算環(huán)境中實(shí)踐,在所述分布式計(jì)算環(huán)境中任務(wù)由遠(yuǎn)程處理裝置執(zhí)行,所述遠(yuǎn)程處理裝置經(jīng)由有線或無(wú)線網(wǎng)絡(luò)進(jìn)行鏈接。
考慮到以上實(shí)施方案,應(yīng)理解本發(fā)明可以采用涉及存儲(chǔ)在計(jì)算機(jī)系統(tǒng)中的數(shù)據(jù)的各種計(jì)算機(jī)實(shí)現(xiàn)的操作。這些操作是那些要求物理量的物理操縱的操作。本文所描述的形成本發(fā)明的操作的任何一個(gè)操作是有用的機(jī)器操作。本發(fā)明還涉及用于執(zhí)行這些操作的裝置或設(shè)備??梢詫?zhuān)門(mén)構(gòu)造所述設(shè)備用于所要求的目的,或所述設(shè)備可以是選擇性地啟動(dòng)或由存儲(chǔ)在計(jì)算機(jī)中的計(jì)算機(jī)程序配置的通用計(jì)算機(jī)。確切地說(shuō),各種通用機(jī)器可以與根據(jù)本文的教示寫(xiě)入的計(jì)算機(jī)程序一起使用,或者可更方便的構(gòu)造更專(zhuān)門(mén)的設(shè)備來(lái)執(zhí)行所要求的操作。
本發(fā)明還可以體現(xiàn)為計(jì)算機(jī)可讀媒體上的計(jì)算機(jī)可讀代碼。計(jì)算機(jī)可讀介質(zhì)是可以存儲(chǔ)數(shù)據(jù)且此后可由計(jì)算機(jī)系統(tǒng)讀取的任何數(shù)據(jù)存儲(chǔ)裝置。計(jì)算機(jī)可讀媒體的實(shí)例包括硬盤(pán)驅(qū)動(dòng)器、網(wǎng)絡(luò)附加存儲(chǔ)裝置(NAS)、只讀存儲(chǔ)器、隨機(jī)存取存儲(chǔ)器、CD-ROM、CD-R、CD-RW、磁帶和其它光學(xué)和非光學(xué)數(shù)據(jù)存儲(chǔ)裝置。計(jì)算機(jī)可讀媒體可以包括分布在網(wǎng)絡(luò)耦接的計(jì)算機(jī)系統(tǒng)上的計(jì)算機(jī)可讀有形媒體,以使得計(jì)算機(jī)可讀代碼呈分布式方式存儲(chǔ)和執(zhí)行。
雖然以特定順序描述方法操作,但是應(yīng)理解的是可在操作之間執(zhí)行其它整理操作,或者可調(diào)整操作使得其在稍有不同的時(shí)間發(fā)生,或者可以分布在允許處理操作在與處理相關(guān)聯(lián)的各種間隔發(fā)生的系統(tǒng)中,只要是以所需的方式執(zhí)行疊加操作的處理。
雖然出于理解的清晰性的目的已經(jīng)在一定詳細(xì)程度上對(duì)上述發(fā)明進(jìn)行描述,但是應(yīng)明白,可以在所附權(quán)利要求的范圍內(nèi)實(shí)踐特定改變和修改。因此,本實(shí)施方案應(yīng)被視為是說(shuō)明性而不是限制性的,并且本發(fā)明并不限于本文給出的細(xì)節(jié),而是可以在所述權(quán)利要求的范圍和等效形式內(nèi)進(jìn)行修改。