著者

山川 宏

出版者

一般社団法人 人工知能学会

雑誌

人工知能学会第二種研究会資料 (ISSN:24365556)

巻号頁・発行日

vol.2023, no.AGI-024, pp.05, 2023-08-08 (Released:2023-08-08)

---

本研究では、物理世界で生存可能な自立型人工知能(AI)システムの開発における技術的ハードルを明らかにする。まず、AIが長期生存を目指す2つの生存シナリオを想定した。まず、2つの生存シナリオを想定した: 長期生存を目標に人間が設計したAIと、自ら生存を目指すAIである。次に、6つの領域にわたる技術的課題の重要なカテゴリーを特定した。そして、それらのカテゴリーに含まれる21の具体的な課題をリストアップし、ChatGPTを用いてその技術的難易度を推定した。その結果、ハードウェア関連の課題では、自律型AIが生存するまでに100年以上かかる可能性があるが、人間の支援により、その時間を大幅に短縮できることが示唆された。ChatGPTの共通知識によるこの評価は示唆的であるが、参照した知識の範囲が2021年9月までと限定されていることも含め、暫定的なものとして扱うべきである。