著者

磯沼 大 森 純一郎 坂田 一郎

出版者

一般社団法人 人工知能学会

雑誌

人工知能学会全国大会論文集 第37回 (2023) (ISSN:27587347)

巻号頁・発行日

pp.1T3GS605, 2023 (Released:2023-07-10)

---

近年、ChatGPTをはじめとした幅広いタスクに汎化できる汎用言語モデルを学習する方法として、タスクごとにプロンプトを付与しマルチタスク学習を行うinstruction tuningが注目されている。 これまで様々なプロンプトがinstruction tuningのために作成されているが、どのようなプロンプトがモデルの汎化性能向上に最適なのか明らかになっていない。 本研究では学習用プロンプトを二段階最適化により最適化するinstruction optimizationを提案し、instruction tuningに最適なプロンプトを明らかにする。 評価実験において、タスクの指示をプロンプトに用いる実験設定(zero-shot)では、二段階最適化によりプロンプトを多様化することが汎化性能向上に有効である一方、タスクの例示をプロンプトに用いる実験設定(few-shot)では、多様な種類の例示ではなく同一の例示を用いる方が有効であることが明らかになった。