深いAUROC最適化のベンチマーキング:損失関数とアルゴリズム選択【JST・京大機械翻訳】

Zhu Dixian; Wu Xiaodong; Yang Tianbao

プレプリント

J-GLOBAL ID：202202205807603723 整理番号：22P0310827

深いAUROC最適化のベンチマーキング:損失関数とアルゴリズム選択【JST・京大機械翻訳】

Benchmarking Deep AUROC Optimization: Loss Functions and Algorithmic Choices

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年03月26日プレプリントサーバーでの情報更新日： 2022年07月04日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

ROC曲線下面積(AUROC)は,不均衡な分類のために活発に適用され,さらに深層学習技術と組み合わされた。しかし,適切な深いAUROC最大化技術を選ぶために,ピアに健全な情報を提供する既存の研究は存在しない。本研究では,3つの側面からこのギャップを埋める。(i)深いAUROC最適化問題のための異なるアルゴリズム選択による様々な損失関数をベンチマークする。2つのカテゴリーにおける損失関数を研究した:対損失と複合損失,それは合計10損失関数を含む。興味深いことに,革新的損失関数クラスとして,複合損失は,訓練収束と試験一般化展望の両方からのペアワイズ損失よりも,より競合的な性能を示した。それにもかかわらず,より崩壊したラベルを持つデータは,ペアワイズ対称損失に有利であった。(ii)さらに,著者らは,正のサンプリング速度,正則化,正規化/活性化,および最適化器のような本質的アルゴリズム選択をベンチマークし,強調する。重要な知見は,より高い陽性サンプリング率が,深いAUROC最大化のために有益である可能性がある;異なるデータセットは,正則化の異なる重みに好都合である。S状およびl_2スコア正規化のような適切な正規化技術は,モデル性能を改善することができた。(iii)最適化側面に対して,ペアワイズと複合損失の両方に対してSGD型,Momentum型,Adam型最適化器をベンチマークした。著者らの知見は,Adam型法が訓練展望からより競合するが,試験展望から他のものを凌駕しないことを示した。【JST・京大機械翻訳】

, , , , , , , , , , ,
, , , , 【Automatic Indexing@JST】

人工知能

, , ,

前のページに戻る