小規模モデルによる電波銀河の表現学習
小規模な視覚モデルとLeJEPAを用いて電波天文学画像から効率的かつロバストな表現を学習する手法の評価。
- 大規模な基盤モデルは推論コストやスケーラビリティに課題がある。
- Radio Galaxy Zooのデータを用い、約6Mパラメータの小規模モデルでLeJEPAを評価した。
- LeJEPAにより、大規模モデルに匹敵する性能と一貫した表現を獲得した。
- 適切な表現学習目的関数が小規模ドメイン特化型モデルの性能向上に重要であることを示した。
原文タイトル: Learning Radio Astronomical Representations with LeJEPA and Very Small Models
arXiv で原文を見る
この要約は AI が生成したものであり、arXiv および論文著者の見解ではありません。