Open Access 話題の記事
深層学習におけるアテンション技術の最新動向
Vol.101 No.6pp.591-596
発行日:2018/06/01
Online ISSN:2188-2355
Print ISSN:0913-5693
種別:解説
専門分野:
キーワード:
深層学習, アテンション, ニューラルネットワーク,
Free本文:PDF(867.3KB)
あらまし:
本稿では,ニューラルネットワークの基礎的な知識を有する読者を想定し,深層学習における重要な要素技術であるアテンションについて解説する.まず,アテンションとはどのような技術かについて概要を説明した後に,アテンション技術が注目される契機となった機械翻訳と画像キャプション生成のニューラルネットワークにおける導入例を説明する.そして,最新動向として,アテンションの階層化・並列化の例や,自然言語処理分野における最新のトピックであるセルフアテンションについて紹介を行う.