Pat

J-GLOBAL ID：200903039344009294

ロボット視聴覚システム

Inventor： 中臺 一博 ,  日台 健一 ,  奥乃 博 ,  北野 宏明
Applicant, Patent owner： 科学技術振興事業団
Agent (1)： 平山 一幸 (外1名)
Gazette classification：公開公報
Application number (International application number)：2001067848
Publication number (International publication number)：2002264052
Application date： Mar. 09, 2001
Publication date： Sep. 18, 2002
Summary：

【要約】【課題】 対象に対する視覚及び聴覚の追跡を行なうためのリアルタイム処理を可能にすると共に、このリアルタイム処理を視覚化するようにした、ロボット視聴覚システムを提供する。【解決手段】 聴覚モジュール20がマイクの音響信号から話者の音源を同定して聴覚イベント28を抽出し、視覚モジュール30が話者の顔識別と定位により視覚イベント39を抽出し、モータ制御モジュール40がモータイベント49を抽出し、アソシエーションモジュール60が聴覚イベント,視覚イベント及びモータイベントから聴覚ストリーム65及び視覚ストリーム66を生成し、これらを関連付けてアソシエーションストリーム67を生成して、アテンション制御モジュール64が、駆動モータ制御のプランニングのアテンション制御を行なうと共に、聴覚情報,視覚情報及びモータ情報、そしてストリーム情報の少なくとも一部を表示する表示部27,37,48,68を備える。

Claim (excerpt)：

外部の音を集音する少なくとも一対のマイクを含む聴覚モジュールと、ロボットの前方を撮像するカメラを含む視覚モジュールと、ロボットを水平方向に回動させる駆動モータを含むモータ制御モジュールと、前記聴覚モジュール,視覚モジュール及びモータ制御モジュールからのイベントを統合してストリームを生成するアソシエーションモジュールと、アソシエーションモジュールにより生成されたストリームに基づいてアテンション制御を行なうアテンション制御モジュールと、を備えているロボット視聴覚システムであって、前記聴覚モジュールが、マイクからの音響信号に基づいて、ピッチ抽出,音源の分離及び定位から、少なくとも一人の話者の音源を同定してその聴覚イベントを抽出し、前記視覚モジュールが、カメラにより撮像された画像に基づいて、各話者の顔識別と定位からその視覚イベントを抽出し、前記モータ制御モジュールが、駆動モータの回転位置に基づいてモータイベントを抽出することにより、前記アソシエーションモジュールが、聴覚イベント,視覚イベント及びモータイベントから、聴覚ストリーム及び視覚ストリームと、これらを関連付けたアソシエーションストリームを生成して、前記アテンション制御モジュールが、これらのストリームに基づいてモータ制御モジュールの駆動モータ制御のプランニングのためのアテンション制御を行なうと共に、前記聴覚モジュールによる聴覚情報,視覚モジュールによる視覚情報及びモータモジュールによるモータ情報、そしてアソシエーションモジュールによるストリーム情報の少なくとも一部を表示する表示部を備えていることを特徴とする、ロボット視聴覚システム。

IPC (15)：

B25J 9/10 ,  B25J 5/00 ,  B25J 19/02 ,  G06T 1/00 340 ,  G06T 7/60 150 ,  G10L 11/04 ,  G10L 13/00 ,  G10L 15/28 ,  G10L 17/00 ,  G10L 15/00 ,  G10L 15/20 ,  G10L 21/02 ,  G10L 15/02 ,  H04N 7/18 ,  H04N 13/00

FI (14)：

B25J 9/10 A ,  B25J 5/00 C ,  B25J 19/02 ,  G06T 1/00 340 A ,  G06T 7/60 150 B ,  H04N 7/18 Z ,  H04N 13/00 ,  G10L 3/00 C ,  G10L 3/00 Q ,  G10L 3/00 511 ,  G10L 3/00 545 F ,  G10L 3/00 551 H ,  G10L 3/02 301 C ,  G10L 9/00 301 A

F-Term (48)：

3C007AS34 ,  3C007AS36 ,  3C007CS08 ,  3C007JS03 ,  3C007KS04 ,  3C007KS08 ,  3C007KS18 ,  3C007KS39 ,  3C007KT01 ,  3C007KT11 ,  3C007KT15 ,  3C007LT08 ,  3C007NS01 ,  3C007WA02 ,  3C007WA03 ,  3C007WB19 ,  3C007WC07 ,  5B057AA05 ,  5B057BA02 ,  5B057CA12 ,  5B057CA16 ,  5B057DA06 ,  5B057DB02 ,  5C054CC05 ,  5C054CD03 ,  5C054CG02 ,  5C054FC12 ,  5C054FD01 ,  5C054FE16 ,  5C054FF07 ,  5C054HA04 ,  5C061AA06 ,  5C061AA21 ,  5C061AA25 ,  5C061AB01 ,  5C061AB08 ,  5C061AB12 ,  5C061AB14 ,  5C061AB17 ,  5D015AA03 ,  5D015DD02 ,  5D015KK01 ,  5D015KK04 ,  5D045AB11 ,  5L096BA05 ,  5L096CA02 ,  5L096FA69 ,  5L096HA09