発表番号 | G-19 |
発表タイトル | 人間-AI協調における過不信予防のためのAIエージェントの信頼ダイナミクス予測 |
筆者氏名・所属 |
金子 颯汰 (総合研究大学院大学,国立情報学研究所) 山田 誠二 (国立情報学研究所,総合研究大学院大学) |
アブストラクト | 自動運転に代表されるような人間-AI協調意思決定システムにおいて,適切なシステムの利用および利用効率の向上のためにAIエージェントに対する過信/不信を予防し常に適切な信頼を保ちつづけることが重要である.信頼は人間の内部状態であり外部から直接観測することが不可能なため,信頼の変動を捉えることは困難である.そこで本研究では,直接観測不可能な変数を取り扱うことが可能なSEMを時間軸に拡張したダイナミックSEMを適用することによって信頼ダイナミクス・過不信の予測を行うモデルを構築した. |
論文 | PDFファイル |