文献

J-GLOBAL ID：202402233209621439   整理番号：24A0859059

大規模言語モデルに対するサンプリングを活用したメンバーシップ推論攻撃

著者 (5件)： 綿祐貴 (東京工大) ,  金子正弘 (MBZUAI) ,  金子正弘 (東京工大) ,  MA Youmi (東京工大) ,  岡崎直観 (東京工大)
資料名： 言語処理学会年次大会発表論文集(Web)  (Proceedings of the Annual Meeting of the Association for Natural Language Processing (Web))
巻： 30th  ページ： ROMBUNNO.A11-3 (WEB ONLY)  発行年： 2024年03月04日 
JST資料番号： U0384A  ISSN： 2188-4420  資料種別： 会議録 (C)
記事区分： 短報  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 本研究は,与えられたテキストがモデルの学習データに含まれていたかを判定するメンバーシップ推論攻撃に取り組む.従来手法は,モデルが計算する尤度を必要としており,適用できるモデルが限られる.そこで,本研究では出力テキストだけから検出するサンプリングベース・メンバーシップ推論攻撃を提案する.提案手法は検出対象のテキストを参照テキスト,サンプルされたモデルの複数出力を候補テキストとし,それらの一致度合を計算し,テキストがモデルの学習データに含まれていたか判定する.提案手法は尤度を利用しないにも関わらず,実験では既存手法と肩を並べる性能を発揮し,特に長いテキストを対象とした検出で高い性能を示した.(著者抄録)

シソーラス用語： *言語モデル ,  標本抽出 ,  *人工知能 ,  自然言語処理 ,  データ ,  機械学習 ,  学習データ
準シソーラス用語： サンプリング【統計】 ,  *メンバーシップ推論攻撃 ,  *生成AI ,  *大規模言語モデル

分類 (2件)： 人工知能  (JE08000Z) ,  自然語処理  (JE06000L)

タイトルに関連する用語 (7件)： 大規模言語モデル ,  サンプリング ,  活用 ,  メンバー ,  シップ ,  推論 ,  攻撃