抄録/ポイント:
抄録/ポイント
文献の概要を数百字程度の日本語でまとめたものです。
部分表示の続きは、JDreamⅢ(有料)でご覧頂けます。
J-GLOBALでは書誌(タイトル、著者名等)登載から半年以上経過後に表示されますが、医療系文献の場合はMyJ-GLOBALでのログインが必要です。
微分プライバシーによる経験的リスク最小化(ERM)の問題を再検討した。勾配が引き出せる部分空間に関する適切な知識と条件を与える雑音のあるAdaGradは,雑音による従来のAdaGradと良く制御された項に匹敵するレグレットを達成することを示した。O(Tr(G_T)/T)の収束速度を示し,そこではG_Tが勾配部分空間の幾何学を捕捉した。Tr(G_T)=O(√T)は凸型およびLipschitz関数に対してより速い速度を得ることができるので,雑音分散(確率的)勾配降下の既知のバージョンにより達成されたO(1/√T)速度と比較して,雑音分散が同程度であった。特に,勾配が既知の一定ランク部分空間にあるならば,減衰感度を制限するエンベロープへのアルゴリズム的アクセスを仮定して,1つはO(1/εn)の過剰経験的リスクへの高速収束を達成でき,そこではεがプライバシー予算であり,サンプル数nである。Lette pは問題次元であり,この結果は,雑音のあるAdagradeを実行することによって,T=ε ̄2n ̄2のSGDによって達成される速度の代わりに,α≧0が勾配ノルム減衰を制御するパラメータであるT=(ε_n) ̄2/(1+2α)反復において,DP-SGD結合O(√p/ε_n)を迂回できることを意味する。結果は,制約付きおよび制約なし最小化の両方で一般的な凸関数で動作した。その方法に沿って,著者らは独立した関心の雑音のあるAdaGradの摂動解析を行う。プライベートERM問題に対する著者らのユーティリティ保証は,雑音のあるAdaGradのレグレット保証に対する共ロールとして追従する。【JST・京大機械翻訳】