対話システムに対するトラスト形成阻害要因の特定および抑制技術の研究開発

近年、ロボット・AI技術を用いた対話システムは社会に急速に浸透しつつあり、普及した対話システムには、ユーザーとの間でトラストを形成することが求められる。対話システムに対するトラスト形成は、心理学や認知科学の知見を応用したユーザーのトラスト形成を促進する技術の研究が一般的であるとされるが、システムへトラストを形成したくないと思っているユーザーに対して、当人の意志とは無関係にトラストを形成することは、倫理的な観点から懸念がある。 そこで、本研究開発プロジェクトでは、上記の懸念を考慮し、対話システムに対するトラスト形成を直接的に促進する技術ではなく、トラスト形成の阻害要因に注目し、それを特定した上で、ロボット・AI技術を用いた対話システムに対してトラスト形成阻害要因を抑制する技術の研究開発を実施する。 まず、対話モデルに対するユーザーのトラスト形成を阻害する要因に関する文献を調査する。具体的には、哲学・倫理学的観点から不信に関する要因を抽出し、また法学・社会哲学的観点から対話における不均等・非対称を分析して、対話システムに対するトラストに応用可能な要素を抽出して仮説を立てる。立てた仮説に関して、対話コーパスを作成して定量的分析を行う。並行して実験用対話システムを開発する。開発したシステムを用いて、対話コーパスの分析結果に基づいた実験を実施し、実験結果を分析する。そして、これらの分析結果を取りまとめ対話システムに対するユーザーのトラスト形成阻害要因を特定し、その要因がどのようにトラスト形成を阻害するのかをモデル化する。それを対話システムに反映させ、トラスト形成阻害要因を抑制する技術の開発を行う。

国立研究開発法人科学技術振興機構