AESPA:高速プライベート推論のための低度多項式活性化を保存する精度【JST・京大機械翻訳】

Park Jaiyoung; Kim Michael Jaemin; Jung Wonkyung; Ahn Jung Ho

プレプリント

J-GLOBAL ID：202202204589074300 整理番号：22P0275859

AESPA:高速プライベート推論のための低度多項式活性化を保存する精度【JST・京大機械翻訳】

AESPA: Accuracy Preserving Low-degree Polynomial Activation for Fast Private Inference

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (4件)： , , ,
資料名：
発行年： 2022年01月17日プレプリントサーバーでの情報更新日： 2022年02月18日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

マルチパーティ計算(MPC)とホモモルフィック暗号化の両方を相乗的に利用するハイブリッドプライベート推論(PI)プロトコルは,PIのための最も顕著な技術の1つである。しかしながら,最先端のPIプロトコルでさえ,非線形層,特に活性化関数によってボトルネックされる。標準非線形活性化関数はより高いモデル精度を発生できるが,それは高価なガルブル回路MPCプリミティブを介して処理しなければならない。多項式活性化は,Beaverの乗算トリプルMPCプリミティブを介して処理できるが,これまで厳しい精度低下を招いている。本論文では,ReLUのHermite展開と基底毎の正規化を利用する低度多項式活性化関数(AESPA)を保存する精度を提案した。VGGNet,ResNet,および事前活性化ResNetのような一般的なMLモデルにAESPAを適用し,ReLU活性化による標準モデルに匹敵する推論精度を示し,以前の低度多項式研究より優れた精度を達成した。最先端のデルファイPIプロトコルに関する全RELUベースラインに適用したとき,AESPAは42.1xと28.3x低いオンライン待ち時間と通信コストを示した。【JST・京大機械翻訳】

, , , , , , , , ,
, , , , , 【Automatic Indexing@JST】

数値計算 , 増幅回路 , 人工知能

, , , ,

前のページに戻る