著者

濵本 鴻志 葛谷 潤 荒井 ひろみ

出版者

一般社団法人 人工知能学会

雑誌

人工知能学会全国大会論文集 第35回 (2021)

巻号頁・発行日

pp.2C4OS9b02, 2021 (Released:2021-06-14)

---

人工知能(AI)の発展が目覚ましい一方で、その背景にある機械学習、特に深層学習のブラックボックス性は、信頼と責任の観点から社会実装の障害となっている。こうしたブラックボックス化の問題を解決するために、説明可能AIのコミュニティでは、透明性や説明責任を実装するための技術的な取り組みが急速に進められているだけでなく、近年では、そもそも説明とは何かといった哲学的問題に取り組む研究も始まっている。既存の研究の一つとして、Mittelstadt et al. (2019)は、Miller (2019)による説明概念の分析に基づいて、対話型の対比的説明を提供する説明可能AIの開発の必要性を訴えている。本論文では、まず、肺炎リスク予測システムの事例を用いて説明可能AIのニーズを確認し、次にMittelstadt et al.(2019)の議論を概観した上で、そこで提案されている対話型の対比的説明の有用性について議論する。

著者

葛谷 潤 荒井 ひろみ

出版者

一般社団法人 人工知能学会

雑誌

人工知能学会全国大会論文集 第36回 (2022) (ISSN:27587347)

巻号頁・発行日

pp.4G3OS4b02, 2022 (Released:2022-07-11)

---

人工知能(AI)システムの解釈可能性が求められるようになったことを受け、自らの振る舞いを説明できる説明可能AIの研究が進められている。従来の研究が主に焦点を合わせていたのは、振る舞いのきっかけとなる原因やそれを支えるメカニズムについての説明である。しかし、説明可能なAIに期待される効用を踏まえると、別の種類の説明、すなわち目的帰属型の説明を考慮する必要があると思われる。本報告の主な目的は、生物学・心・人工物の哲学の知見に基づき、目的帰属型の説明とは何かを定式化した上で、AIシステムを含む人工物の社会的受容にとってそれがもつ重要性を指摘することである。本報告では、まず説明可能なAIに期待される効用と従来の研究を整理し、次に目的帰属型の説明の定式化と人工物の社会的受容に対するその重要性の指摘を行い、最後にAIシステムの振る舞いの目的ないし機能を同定するための方策を考察する。