文献

J-GLOBAL ID：202502260538796133   整理番号：25A0765205

大規模言語モデルはデータ漏洩を隠蔽できるのか

著者 (7件)： 高橋侑成 (東京科大) ,  MA Youmi (東京科大) ,  金子正弘 (MBZUAI) ,  金子正弘 (東京科大) ,  岡崎直観 (東京科大) ,  岡崎直観 (産業技術総合研) ,  岡崎直観 (NII LLMC)
資料名： 言語処理学会年次大会発表論文集(Web)  (Proceedings of the Annual Meeting of the Association for Natural Language Processing (Web))
巻： 31st  ページ： ROMBUNNO.A3-1 (WEB ONLY)  発行年： 2025年03月03日 
JST資料番号： U0384A  ISSN： 2188-4420  資料種別： 会議録 (C)
記事区分： 短報  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 特定の文章が機械学習モデルの学習に漏洩しているかを推論する手法として,メンバーシップ推論攻撃(MIA)がある.大規模言語モデル(LLM)に対するMIAでは,文字の並びなどの表層情報を利用するが,LLMはテキストをそのまま記憶しているとは限らない.本稿では,テキストの忘却と質問応答タスクの学習を同時に行うことで,LLMにテキストの文字の並びを忘却させながら,その知識を保持できることを報告する.すなわち,MIAの成功率を低減しながら,関連知識についての質問応答の性能を維持できる.この知見は,たとえテキストがMIAで推論されなくても,その知識をLLMが隠蔽できている可能性があると警鐘を鳴らすものである.(著者抄録)

シソーラス用語： *言語モデル ,  *サイバー攻撃 ,  学習モデル ,  人工知能推論 ,  機械学習
準シソーラス用語： データ漏洩 ,  マルチタスク学習 ,  *メンバーシップ推論攻撃 ,  モデルベース推論 ,  機械学習モデル ,  *情報漏洩 ,  *大規模言語モデル

分類 (1件)： 人工知能  (JE08000Z)

タイトルに関連する用語 (3件)： 大規模言語モデル ,  漏洩 ,  隠蔽