あらまし

深層学習におけるアテンション技術の最新動向

西田 京介 斉藤 いつみ 

Vol.101 No.6pp.591-596

発行日:2018/06/01

Online ISSN:2188-2355

Print ISSN:0913-5693

種別:解説

専門分野:

キーワード:
深層学習アテンションニューラルネットワーク

本文:PDF(867.3KB)

あらまし:
本稿では,ニューラルネットワークの基礎的な知識を有する読者を想定し,深層学習における重要な要素技術であるアテンションについて解説する.まず,アテンションとはどのような技術かについて概要を説明した後に,アテンション技術が注目される契機となった機械翻訳と画像キャプション生成のニューラルネットワークにおける導入例を説明する.そして,最新動向として,アテンションの階層化・並列化の例や,自然言語処理分野における最新のトピックであるセルフアテンションについて紹介を行う.

ログイン

 > 

パスワードを忘れた場合は

メニュー

Online ISSN:2188-2355