13 0 0 0 OA ペルソナ一貫性の考慮と知識ベースを統合したHyperCLOVAを用いた雑談対話システム
- 著者
- 山崎 天 坂田 亘 川本 稔己 小林 滉河 Nguyen Tung 上村 卓史 中町 礼文 李 聖哲 佐藤 敏紀
- 出版者
- 一般社団法人 人工知能学会
- 雑誌
- 人工知能学会研究会資料 言語・音声理解と対話処理研究会 93回 (2021/11) (ISSN:09185682)
- 巻号頁・発行日
- pp.113-118, 2021 (Released:2021-11-20)
本稿では、対話システムライブコンペティション4のオープントラックに提出した対話システムについて述べる。本システムはTransformerをベースとした言語モデルの「HyperCLOVA」を用い、ユーザの発話に応じて選択するFew-Shotプロンプトを利用して応答候補の生成を行う。プロンプトは4種類あり、一般的な応答生成、知識応答生成、ペルソナ一貫性を考慮した応答生成、短文抑制のための応答生成を目的としたものをそれぞれ用意し、組み合わせて利用する。後に、不適切な発話を除去するフィルタリングを行うことで、最終的な出力を得るシステムとなっている。予選の結果では1位を獲得し、大規模言語モデルが雑談応答生成に有効であることを示したが、攻撃的な応答生成をはじめとしたいくつかの課題が顕在化した。本稿では、大規模言語モデルを用いた雑談応用における現存の課題や今後の方向性を議論する。
言及状況
外部データベース (DOI)
Twitter (13 users, 13 posts, 57 favorites)
さよなら問題、はLLMベースの対話システムのメジャーな問題の一つです。2021年の論文ですが他の課題にも言及しています
“3.2.2 勝手に会話を終了する応答検知フィルタ プロンプトのみで HyperCLOVA と対話を行うと, 数ターン後に勝手に対話を終わらせようとする現象が頻出“
https://t.co/xb0oZfJCsA
数年前からLLMを自前ホスティングし、各種コンペで結果を残されているLINEさんの知見がすごい。
フィルタ機構や誤りタイプなど、#AITuber の開発に役立つ要素盛りだくさん。この論文の他にも数件公開されていて有難い..!
https://t.co/PjIxEIJY5h