トラスト可能な生成AIと法制度およびAIガバナンス体制の構築の研究

生成AIの利用が現実性を帯びる中、トラストできる生成AIの生成物とは何なのか、どのような形で社会にフィットし共存するのか、どのように社会の中に組み込んでデジタル社会を構築していくのか、といった課題に対して、利便性が高く、正確な情報を提供するAIシステムの設計とその利用の在り方が求められている。本研究開発プロジェクトでは、社会調査を通じた実体把握を経た上で、生成AIのアーキテクチャ設計、法制度の整備、ビジネスモデルの構築、社会環境の形成を考慮した構築すべきAIガバナンス体制を提案する。 研究開発の内容としては、生成AIを利用者に使用してもらうなどの実態把握調査を社会調査として継続的に行い、具体的な課題を明確にする。生成AIの透明性を向上させつつ、収集したフィードバックを基にシステムの透明性を向上するための検討を行い、ユーザーの信頼を高めるガバナンスモデルを提案する。また、説明可能なAIを導入し、出力した情報の根拠説明機能を追加することでユーザーが理解しやすい仕組みとするための検討を行う。さらに、個人情報保護や著作権法などの法的な枠組みを第三者機関でも可能にするリスク評価方法を検討し、AIガバナンスシステムの評価と認証、生成AIの信頼性やリスク評価についての基準提示の仕組みを提案し、ユーザーと提供者双方に対するシステムへのトラストの在り方を検討する。加えて、ユーザーデータの安全な取り扱いやプライバシー保護に配慮した、安心して生成AIを利用できる環境を整え、教育・人材育成領域でも生成AIを利用可能にする透明性を向上した仕組みを検討する。 以上、多様なステークホルダーを対象とした社会調査などにより、ユーザーの信頼を高める生成AIの設計・利用に向けて解決すべき課題とその解決プロセスの明確化を行い、構築すべき法制度とガバナンスシステムについて提案する。

Japan Science and Technology Agency