著者

青木 利晃 川上 大介 千田 伸男 冨田 尭

雑誌

ソフトウェアエンジニアリングシンポジウム2018論文集

巻号頁・発行日

vol.2018, pp.236-243, 2018-08-29

---

近年,深層学習を代表とする機械学習が脚光を浴びており,様々なシステムへの応用が検討されている.応用対象は,エンターテイメントシステムや事務処理システムなどにとどまらず,自動車の自動運転などの高安全システムなども検討されている.高安全システムでは,安全性に関する十分なテストを実施することが必要である.一方,機械学習システムの安全性をテストする手法は,まだ確立していない.そこで,本論文では,機械学習を用いて実現された分類器に焦点を当て,その安全性を系統的に評価する手法を提案する.提案手法は,データセットに基づいた安全分析とテスト結果の統計的評価方法から構成される.安全分析では,よく知られている FTA (Fault Tree Analysis) をデータセットを取り扱えるように拡張した.そして,安全分析の結果,期待される認識率の水準を求め,テストを実施する.テストでは,この水準を満たしているか統計的に評価を実施する.提案手法は,CNN (Convolutional Neural Network) による手書き文字の分類器に適用し,評価を行った.