ニューラルネットワークアーキテクチャは雑音ラベルに対するロバスト性にどのように影響するか?【JST・京大機械翻訳】

Li Jingling; Zhang Mozhi; Xu Keyulu; Dickerson John P.; Ba Jimmy

プレプリント

J-GLOBAL ID：202202200747366130 整理番号：22P0003645

ニューラルネットワークアーキテクチャは雑音ラベルに対するロバスト性にどのように影響するか?【JST・京大機械翻訳】

How Does a Neural Network's Architecture Impact Its Robustness to Noisy Labels?

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (5件)： , , , ,
資料名：
発行年： 2020年12月23日プレプリントサーバーでの情報更新日： 2021年11月27日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

大きな実世界データセットでは,ノイズラベルは避けられない。本研究では,以前の研究によって研究される領域を調査し,ネットワークアーキテクチャが雑音ラベルに対するロバスト性に影響を与えることを示した。アーキテクチャとターゲット/雑音関数の間のアラインメントに対するネットワークのロバスト性を接続する形式的フレームワークを提供した。本フレームワークは,その表現における予測力を介してネットワークロバスト性を,すなわち,小さな集合のクリーンラベルを用いて学習された表現で訓練された線形モデルのテスト性能を測定する。アーキテクチャが雑音よりもターゲット関数により整列するならば,ネットワークが雑音のあるラベルに対してよりロバストであると仮定した。この仮説を支持するために,著者らは,様々なニューラルネットワークアーキテクチャと異なるドメインにわたって,理論的および経験的証拠の両方を提供した。また,ネットワークがターゲット関数と良く整合しているとき,表現における予測電力は,試験精度に関して最先端の(SOTA)雑音ラベル訓練法に改善でき,クリーンなラベルを使用する洗練された方法より優れていることも見出した。【JST・京大機械翻訳】

, , , , , , ,
, , 【Automatic Indexing@JST】

計算機網 , 電話・データ通信・交換一般 , 通信網 , システム・制御理論一般 , ニューロコンピュータ

, , ,

前のページに戻る