抄録/ポイント:
抄録/ポイント
文献の概要を数百字程度の日本語でまとめたものです。
部分表示の続きは、JDreamⅢ(有料)でご覧頂けます。
J-GLOBALでは書誌(タイトル、著者名等)登載から半年以上経過後に表示されますが、医療系文献の場合はMyJ-GLOBALでのログインが必要です。
基礎モデルは,ボックス外埋込みと少数のラベル付き例を有するモデル構築のための刺激的な新しいパラダイムを提供する。しかし,ラベル付きデータなしで基礎モデルを適用する方法は不明である。潜在的アプローチは,弱いラベル源(事前訓練モデル,発見的方法,群衆-研究者)を用いて,擬似ラベルを構築するために,弱い監視フレームワークを有する基礎モデルを融合することである。課題は,基礎モデルと弱い源の両方で利用可能な信号を利用する組合せを構築することである。既存の弱い監視技術の2つの重要な要素を改善するために,基礎モデル埋込みを使用する組合せであるLigerを提案した。最初に,埋込み空間を分割し,部品ごとのソース精度を学習することにより,弱いソース品質のより微細な推定を生成する。第二に,埋込み空間におけるソース投票を拡張することにより,ソースカバレッジを改善した。基礎モデルのブラックボックス特性にもかかわらず,この手法が性能を改善し,埋込み空間におけるラベル分布の平滑性を持つ揚力尺度を示す結果を証明した。6つのベンチマークNLPとビデオタスクに関して,Ligerは,14.1ポイントによってバニラ弱監視,11.8ポイントによって弱く監督されたkNNとアダプター,および7.2ポイントによって伝統的手ラベルによって監督されたkNNとアダプタを凌駕した。【JST・京大機械翻訳】