信頼されるAIの基盤技術

ネットワークやビッグデータ等の情報環境の広がりと、数理科学と情報技術の急速な発展によって、人工知能(AI)技術を用いたシステムやサービスが社会に広がりつつあります。このようなAI技術の利活用により、あらゆる人々が適切で高品質なサービスを受け、社会と調和しつつ個人の能力を発揮して暮らしていける人間中心のAI社会の実現が期待されています。その一方で、人と共に社会の重要なタスクをこなす「信頼されるAIシステム」の実現において、深層学習に代表される現在のAI技術には、説明性や納得性、安定性、公平性等に関するさまざまな弱点や限界があることが判明してきました。また、AI技術を組み込んだいわゆるAIシステム全体やデータの信頼性・安全性・品質保証に関して、さらに、人間を基点として社会と調和したAIの利活用に関する方策も必要です。 本研究領域では、人間中心のAI社会の実現に向け、現在のAI技術の限界を突破する次世代AI技術の基盤となる革新的な理論・技術の創出を目指します。従来のAI技術の単なる延長ではなく、現在のAI技術やAIシステムが持つ本質的な問題点に取組み、解くべき問題を新たな視点で概念化・定式化し、その解決を目指す挑戦的な研究を推進します。 具体的には、1)現在のAI技術の弱点や困難を克服するための新しい数理・計算・解析手法に関する基礎技術や、2)AIシステムの信頼性・頑健性・透明性・公平性等、社会における新たなAI応用タスクの概念化・定式化と新しい構成原理・実現技術、3)これらを支えるデータや情報基盤の信頼性・安全性・プライバシーの保証技術、4)多様なデータやタスクに対するAI技術の拡張、5)AIシステムの設計・開発・運用の方法論、等の研究に取り組みます。 なお、本研究領域は文部科学省の人工知能/ビッグデータ/IoT/サイバーセキュリティ統合プロジェクト(AIPプロジェクト)の一環として運営します。

国立研究開発法人科学技術振興機構

• 学習過程における価値観の多様化と性能保証の両立
• 与えられた指示文章に従い言語で判断を説明するAI
• 信頼される資源配分メカニズムの構築
• 脳情報に基づいたAIの信頼性評価技術の開発
• リライアブルな意思決定のための時空間因果推論モデルの研究

もっと見る