表現正則化を用いた畳み込みオーディオトランスフォーマーによる音声理解の向上

要約

本研究は、音声理解のための新たな枠組み「Convolutional Audio Transformer (CAT)」を提案します。階層的な特徴を捉えるマルチレゾリューションブロックと、外部の事前学習済みモデルを利用した表現正則化を導入しました。これにより、既存手法に比べ高い精度を維持しつつ、学習収束速度を5倍に高めることに成功しました。

全文は有料プランで閲覧できます。