一種用于人機(jī)交互的電子設(shè)備的制造方法
【技術(shù)領(lǐng)域】
[0001] 本發(fā)明涉及計(jì)算機(jī)技術(shù)，尤其涉及一種用于人機(jī)交互的電子設(shè)備。
【背景技術(shù)】
[0002] 隨著移動(dòng)計(jì)算設(shè)備從筆記本電腦到手機(jī)、平板電腦的演化，移動(dòng)計(jì)算設(shè)備的操控 方式也經(jīng)歷了從鍵盤、鼠標(biāo)到手機(jī)按鍵、手寫板，再到觸摸屏、虛擬鍵盤的進(jìn)化，可以看到， 移動(dòng)設(shè)備的操控方式是朝著越來(lái)越直觀、簡(jiǎn)便，并且符合人的自然習(xí)慣的方向進(jìn)化的。
[0003]目前在移動(dòng)計(jì)算設(shè)備上廣泛使用的基于觸摸屏的操控方式，技術(shù)上是將一塊透明 的觸摸感應(yīng)屏和顯示屏貼合在一起，觸摸感應(yīng)屏實(shí)質(zhì)上是一個(gè)定位裝置，能夠捕捉到屏幕 上的觸摸動(dòng)作并獲取其位置，同時(shí)結(jié)合時(shí)間軸信息，將動(dòng)作識(shí)別其為點(diǎn)觸、長(zhǎng)觸、滑動(dòng)等動(dòng) 作之一。進(jìn)而將位置和動(dòng)作信息作為指令傳遞給移動(dòng)計(jì)算設(shè)備，移動(dòng)計(jì)算設(shè)備基于該指令 做出相應(yīng)的操作反應(yīng)。由于觸摸感應(yīng)屏與顯示屏是疊加在一起的，因此帶給使用者"所點(diǎn)即 所想"的使用感受，相比鼠標(biāo)、觸控板等定位設(shè)備需要通過(guò)光標(biāo)反饋位置的輸入方式，屏幕 觸控方式帶來(lái)更好的使用體驗(yàn)。
[0004] 屏幕觸控方式相比鍵盤加鼠標(biāo)的方式，更加符合人的直觀反應(yīng)、更容易學(xué)習(xí)，但是 屏幕觸控方式畢竟只捕捉到了人體手指的動(dòng)作，在一些需要更多使用者本體信息輸入的場(chǎng) 合，比如運(yùn)動(dòng)游戲、模擬訓(xùn)練、復(fù)雜操控、遠(yuǎn)距離操控等，屏幕觸控方式就顯示出其捕獲人體 信息過(guò)于單一的局限性了。從人機(jī)交互的角度，更多的使用者信息的獲取，將能夠傳達(dá)更豐 富、更精準(zhǔn)的使用者操作意圖，因此必然能夠帶來(lái)更便利的操控方法和更好的使用體驗(yàn)。然 而，目前的人機(jī)交互技術(shù)中的手勢(shì)識(shí)別處理所采用的算法較為復(fù)雜、耗費(fèi)時(shí)間且識(shí)別精度 低。

【發(fā)明內(nèi)容】

[0005] 在下文中給出了關(guān)于本發(fā)明的簡(jiǎn)要概述，以便提供關(guān)于本發(fā)明的某些方面的基本 理解。應(yīng)當(dāng)理解，這個(gè)概述并不是關(guān)于本發(fā)明的窮舉性概述。它并不是意圖確定本發(fā)明的 關(guān)鍵或重要部分，也不是意圖限定本發(fā)明的范圍。其目的僅僅是以簡(jiǎn)化的形式給出某些概 念，以此作為稍后論述的更詳細(xì)描述的前序。
[0006] 鑒于此，本發(fā)明提供了一種用于人機(jī)交互的電子設(shè)備，以至少解決現(xiàn)有的人機(jī)交 互技術(shù)中的手勢(shì)識(shí)別處理所采用的算法較為復(fù)雜、耗費(fèi)時(shí)間且識(shí)別精度低的問(wèn)題。
[0007] 根據(jù)本發(fā)明的一個(gè)方面，提供了一種用于人機(jī)交互的電子設(shè)備，該電子設(shè)備包括： 3D攝像頭接口單元，用于連接外部的3D攝像頭，以接收3D攝像頭采集的含有深度信息的使 用者手部的待測(cè)圖像序列；輪廓檢測(cè)單元，用于根據(jù)圖像深度信息和圖像顏色信息，在待測(cè) 圖像序列的每幀圖像中檢測(cè)出使用者的手部輪廓；特征點(diǎn)序列確定單元，用于針對(duì)使用者 的每只手，利用預(yù)設(shè)的手部結(jié)構(gòu)模板，在待測(cè)圖像序列的每幀圖像中確定該只手的待測(cè)特 征點(diǎn)序列；動(dòng)作識(shí)別單元，用于針對(duì)使用者的每只手，在多個(gè)預(yù)設(shè)特征點(diǎn)序列中確定該只手 的待測(cè)特征點(diǎn)序列的匹配序列，以根據(jù)匹配序列確定該只手的動(dòng)作名稱和位置；手勢(shì)識(shí)別 單元，用于在預(yù)設(shè)手勢(shì)表中選擇與使用者雙手的動(dòng)作名稱和位置相匹配的手勢(shì)，作為已識(shí) 別手勢(shì)；指令確定單元，用于根據(jù)預(yù)設(shè)操作指令表，確定與已識(shí)別手勢(shì)對(duì)應(yīng)的操作指令；執(zhí) 行單元，用于對(duì)與確定的操作指令相關(guān)的設(shè)備進(jìn)行與該操作指令對(duì)應(yīng)的操作。
[0008] 進(jìn)一步地，特征點(diǎn)序列確定單元包括：模板存儲(chǔ)子單元，用于存儲(chǔ)預(yù)設(shè)的手部結(jié)構(gòu) 模板；模板匹配子單元，用于針對(duì)使用者的每只手，利用預(yù)設(shè)的手部結(jié)構(gòu)模板，在待測(cè)圖像 序列的每幀圖像的手部輪廓中確定該只手的預(yù)定數(shù)目個(gè)特征點(diǎn)；序列生成子單元，用于針 對(duì)使用者的每只手，利用該只手在待測(cè)圖像序列的各幀圖像中對(duì)應(yīng)的預(yù)定數(shù)目個(gè)特征點(diǎn)， 獲得該只手的待測(cè)特征點(diǎn)序列。
[0009] 進(jìn)一步地，輪廓檢測(cè)單元用于：針對(duì)待測(cè)圖像序列丨斗(X, "V) 1中的每幀圖像 OCkV)，結(jié)合顏色信息刪除該幀圖像中的噪聲點(diǎn)及非膚色區(qū)域，利用邊緣檢測(cè)算 子E(_)對(duì)刪除噪聲點(diǎn)和非膚色區(qū)域后所得到的圖像進(jìn)行邊緣檢測(cè)，得到邊緣圖像 4(x,"v): 4(x,y) = E(4(.r,_y))，邊緣圖像ICt5W即為僅包含使用者手部輪廓的圖像。
[0010] 進(jìn)一步地，模板匹配子單元包括：定位基點(diǎn)確定模塊，其用于針對(duì)待測(cè)圖像序列的 每幀圖像，根據(jù)該圖像中的輪廓線的曲率找到該輪廓線中的指尖點(diǎn)和指根關(guān)節(jié)點(diǎn)，以將指 尖點(diǎn)作為定位基點(diǎn)；縮放基準(zhǔn)確定模塊，其用于針對(duì)定位基點(diǎn)確定模塊處理后的每幀圖像， 基于該幀圖像中已找到的定位基點(diǎn)，匹配每個(gè)單指的指根關(guān)節(jié)點(diǎn)，得到各單指的長(zhǎng)度來(lái)作 為尺度縮放的基準(zhǔn)；縮放及形變模塊，其用于針對(duì)縮放基準(zhǔn)確定模塊處理后的每幀圖像，基 于已找到的指尖點(diǎn)和指根關(guān)節(jié)點(diǎn)的位置以及各單指的長(zhǎng)度來(lái)對(duì)相應(yīng)的手部結(jié)構(gòu)模板進(jìn)行 縮放和形變，通過(guò)匹配得到每只手的各指關(guān)節(jié)特征點(diǎn)和手腕中點(diǎn)特征點(diǎn)；其中，模板存儲(chǔ)子 單元存儲(chǔ)的手部結(jié)構(gòu)模板包括左手結(jié)構(gòu)模板和右手結(jié)構(gòu)模板，左手結(jié)構(gòu)模板和右手結(jié)構(gòu)模 板各自包括：各手指的指尖特征點(diǎn)、各指關(guān)節(jié)特征點(diǎn)、各指根關(guān)節(jié)特征點(diǎn)、手腕中點(diǎn)特征點(diǎn) 以及各特征點(diǎn)之間的拓?fù)潢P(guān)系。
[0011] 進(jìn)一步地，動(dòng)作識(shí)別單元包括：分割子單元，用于針對(duì)每只手的待測(cè)特征點(diǎn)序列， 根據(jù)預(yù)定時(shí)間窗將該待測(cè)特征點(diǎn)序列分割為多個(gè)子序列，并獲得每個(gè)子序列對(duì)應(yīng)的平均位 置；匹配序列確定子單元，用于針對(duì)每只手對(duì)應(yīng)的每個(gè)子序列，將該子序列與多個(gè)預(yù)設(shè)特征 點(diǎn)序列中的每一個(gè)分別進(jìn)行匹配，在多個(gè)預(yù)設(shè)特征點(diǎn)序列中選擇與該子序列的匹配程度高 于預(yù)設(shè)的匹配閾值、并且最大的預(yù)設(shè)特征點(diǎn)序列，作為該子序列的匹配序列；關(guān)聯(lián)子單元， 用于將每個(gè)子序列對(duì)應(yīng)的平均位置與該子序列的匹配序列對(duì)應(yīng)的動(dòng)作名稱相關(guān)聯(lián)；動(dòng)作名 稱確定子單元，用于針對(duì)每只手，將該只手對(duì)應(yīng)的各子序列的匹配序列作為該只手對(duì)應(yīng)的 多個(gè)匹配序列，并將該多個(gè)匹配序列各自對(duì)應(yīng)的動(dòng)作名稱作為該只手的多個(gè)動(dòng)作名稱。
[0012] 進(jìn)一步地，手勢(shì)識(shí)別單元包括：手勢(shì)表存儲(chǔ)子單元，用于存儲(chǔ)如下映射列表來(lái)作為 預(yù)設(shè)手勢(shì)表：該映射列表中的每個(gè)映射的左端是一組動(dòng)作名稱對(duì)及每個(gè)動(dòng)作名稱對(duì)的位 置；該映射列表中的每個(gè)映射的右端是一個(gè)手勢(shì)；手勢(shì)表匹配子單元，用于將預(yù)設(shè)手勢(shì)表 中的每個(gè)映射的左端與使用者雙手的動(dòng)作名稱和位置進(jìn)行匹配，其中，動(dòng)作名稱的匹配執(zhí) 行嚴(yán)格匹配，而位置則是通過(guò)使用者雙手各自的平均位置計(jì)算得到相對(duì)位置信息，進(jìn)而計(jì) 算該相對(duì)位置信息與映射左端的位置之間的相似度來(lái)實(shí)現(xiàn)的。
[0013] 進(jìn)一步地，用于人機(jī)交互的電子設(shè)備還包括：實(shí)時(shí)顯示單元，用于基于使用者每只 手的位置在設(shè)備的屏幕上顯示使用者手部的模擬圖形。
[0014] 進(jìn)一步地，實(shí)時(shí)顯示單元用于：根據(jù)使用者每只手對(duì)應(yīng)的待測(cè)特征點(diǎn)序列，通過(guò)連 接骨骼后外延得到該只手的外輪廓圖形，作為該只手的模擬圖形；通過(guò)對(duì)使用者雙手的相 對(duì)位置進(jìn)行平移校準(zhǔn)和比例縮放，確定使用者的每只手在屏幕中的顯示位置；基于使用者 每只手的模擬圖形和顯示位置來(lái)在屏幕中顯示使用者手部的模擬圖形。
[0015] 進(jìn)一步地，電子設(shè)備為以下之一：手機(jī)、多媒體播放設(shè)備、臺(tái)式機(jī)、筆記本電腦以及 平板電腦。
[0016] 上述根據(jù)本發(fā)明實(shí)施例的用于人機(jī)交互的電子設(shè)備，先識(shí)別單手動(dòng)作、再通過(guò)雙 手動(dòng)作識(shí)別手勢(shì)，進(jìn)而根據(jù)已識(shí)別手勢(shì)來(lái)執(zhí)行對(duì)應(yīng)操作，在人機(jī)交互過(guò)程中能夠準(zhǔn)確識(shí)別 使用者的手勢(shì)，識(shí)別精度較高，而且識(shí)別速度較快。
[0017] 此外，由于本發(fā)明實(shí)施例能夠通過(guò)外接深度攝像頭來(lái)獲取使用者的人體動(dòng)作作 為操作移動(dòng)計(jì)算設(shè)備的輸入操控指令，因此能夠令使用者使用更加直觀、便利的自然動(dòng)作 實(shí)現(xiàn)對(duì)移動(dòng)計(jì)算設(shè)備的非接觸式操控，為移動(dòng)計(jì)算設(shè)備在諸如運(yùn)動(dòng)游戲、模擬訓(xùn)練、復(fù)雜操 控、遠(yuǎn)距離操控等領(lǐng)域中的應(yīng)用提供更加便捷精準(zhǔn)的輸入、控制。
[0018] 本發(fā)明的上述用于人機(jī)交互的電子設(shè)備采用層次化設(shè)計(jì)算法，算法復(fù)雜度低，便 于實(shí)現(xiàn)。
[0019] 此外，應(yīng)用本發(fā)明的上述用于人機(jī)交互的電子設(shè)備，當(dāng)需要改變（例如修改、增加 或減少等）對(duì)動(dòng)作和/或手勢(shì)的定義時(shí)，可以僅通過(guò)調(diào)整模板（即，通過(guò)修改預(yù)設(shè)特征點(diǎn)序 列對(duì)應(yīng)的動(dòng)作名稱來(lái)改變動(dòng)作的定義，通過(guò)增加或減少預(yù)設(shè)特征點(diǎn)序列及其對(duì)應(yīng)動(dòng)作名稱 來(lái)增、減動(dòng)作）以及預(yù)設(shè)手勢(shì)表（即，通過(guò)修改預(yù)設(shè)手勢(shì)表中手勢(shì)對(duì)應(yīng)的多個(gè)動(dòng)作來(lái)改變手 勢(shì)的定義，通過(guò)增加或減少預(yù)設(shè)手勢(shì)表中的手勢(shì)及其對(duì)應(yīng)動(dòng)作來(lái)增、減手勢(shì)），而不需改變 算法或者重新訓(xùn)練分類器，大大提高了算法的適應(yīng)性。
[0020] 此外，本發(fā)明的上述用于人機(jī)交互的電子設(shè)備的實(shí)時(shí)性強(qiáng)，能夠適合即時(shí)交互需 求的場(chǎng)合。
[0021] 通過(guò)以下結(jié)合附圖對(duì)本發(fā)明的最佳實(shí)施例的詳細(xì)說(shuō)明，本發(fā)明的這些以及其他優(yōu) 點(diǎn)將更加明顯。
【附圖說(shuō)明】
[0022] 本發(fā)明可以通過(guò)參考下文中結(jié)合附圖所給出的描述而得到更好的理解，其中在所 有附圖中使用了相同或相似的附圖標(biāo)記來(lái)表示相同或者相似的部件。所述附圖連同下面的 詳細(xì)說(shuō)明一起包含在本說(shuō)明書中并且形成本說(shuō)明書的一