文献

J-GLOBAL ID：202502286679451739   整理番号：25A0765707

AnswerCarefully:日本語LLM安全性向上のためのデータセット

著者 (6件)： 鈴木久美 (情報学研 大規模言語モデル研究開発セ) ,  勝又智 (レトリバ) ,  児玉貴志 (情報学研 大規模言語モデル研究開発セ) ,  高橋哲朗 (鹿児島大) ,  中山功太 (情報学研 大規模言語モデル研究開発セ) ,  関根聡 (情報学研 大規模言語モデル研究開発セ)
資料名： 言語処理学会年次大会発表論文集(Web)  (Proceedings of the Annual Meeting of the Association for Natural Language Processing (Web))
巻： 31st  ページ： ROMBUNNO.Q2-3 (WEB ONLY)  発行年： 2025年03月03日 
JST資料番号： U0384A  ISSN： 2188-4420  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 日本語LLMの出力の安全性・適切性向上のためのデータセットAnswerCarefullyを紹介する。このデータセットは,回答に注意が必要な質問とその参考回答からなっており,先行の英語による類似データセットを参考に設定した広範な有害カテゴリを踏まえ,人手により作成されている。このデータを使用して日本語LLMをファインチューニングしたところ,一般の回答の有用性を損なうことなく,出力の安全性が向上することが確認できた。また,このデータをベンチマークとして12の日本語LLMを評価した結果についても報告する。(著者抄録)

シソーラス用語： 日本語 ,  *言語モデル ,  安全性 ,  安全対策 ,  *安全評価 ,  有害性 ,  *有害性評価 ,  データセット ,  人工知能
準シソーラス用語： LLM【言語モデル】 ,  インストラクション ,  安全性対策 ,  安全性評価 ,  応答生成 ,  *質問応答 ,  生成AI ,  *大規模言語モデル

分類 (2件)： 人工知能  (JE08000Z) ,  自然語処理  (JE06000L)

タイトルに関連する用語 (3件)： 日本語 ,  安全性 ,  データセット