著者

前田 春香

出版者

一般社団法人 人工知能学会

雑誌

人工知能学会全国大会論文集 第35回 (2021) (ISSN:27587347)

巻号頁・発行日

pp.2C3OS9a01, 2021 (Released:2021-06-14)

---

本発表では、保険における(統計的な)差別の分析手法をアルゴリズムによる差別で踏襲することができることを示す。昨今では、アルゴリズムによる差別が注目され、技術的取り組みも盛んである。偏りがあると問題になりやすい属性として人種や性別といった属性が知られているが、一律にその使用を禁ずることは望ましくなく、かといってどう扱えばよいのかも必ずしも明らかでない。そこで本発表では、保険における差別のアプローチを参照し、いつ属性の取り扱いが倫理にかかわる問題になりうるかを明らかにする。両者はアルゴリズムによる差別と、意図によらない合理的推論に基づいているという最大の特徴を共有する。具体的には、特に属性に生じる社会的コストに着目しながら、保険分野における差別および倫理にかかわる事項を通じその応用可能性を探る。この作業により、どのような事例が問題になるかを考える筋道を提供する。

著者

前田 春香

出版者

北海道大学大学院文学研究院応用倫理・応用哲学研究教育センター

雑誌

応用倫理 (ISSN:18830110)

巻号頁・発行日

vol.12, pp.3-21, 2021-03-25

---

本論文の目的は、Correctional Offender Management Profiling for Alternative Sanctions(以下COMPAS)事例においてアルゴリズムが人間と似た方法で差別ができると示すことにある。技術発展とともにアルゴリズムによる差別の事例が増加しているが、何を根拠に差別だといえるかは明らかではない。今回使用するCOMPAS 事例は、人種間格差が問題になっているにもかかわらず、そのアルゴリズムが公平であるかどうかについて未だ論争的な事例であり、さらには差別の観点からは説明されていない。本論文では、「どのような差異の取り扱いが間違っているのか」を説明する差別の規範理論を使ってCOMPAS 事例を分析する。より具体的には、差別の規範理論の中から「ふるまい」による不正さを指摘するHellman 説を適切なものとして選び、アルゴリズムに適用できるよう改良したうえでCOMPAS 事例が差別的であるかどうか分析をおこなう。この作業によって、差別的行為を「ふるまい」の問題として独立させ、一見差別の理論が適用できなさそうなアルゴリズムによる差別性の指摘が可能になる。