深層学習とtransformerに関するskypenguinsのブックマーク (2)
-
-
2022年6月8日にSSII 2022のチュートリアル講演で使用 2023年2月2日に順天堂大学産学連携講座‥AI技術とビジネス活用で使用 2017年に機械翻訳を対象として提案されたTransformerは、従来の畳込みや再帰を排して自己注意機構を活用したニューラルネットワークです。2019年頃からコンピュータビジョン分野でも急速に応用が進んでいて、より柔軟かつ高精度なネットワーク構造としての地位を確立しつつあります。本スライドでは、そんなTransformerの最前線を概説しています。基盤モデルやVision Transformer、MLP/CNNの逆襲についても取り扱っています。 ・そもそもTransformerって？ ・Transformer旋風と基盤モデル ・Transformerのノウハウ ・Transformerはオワコン？！ ・CNNはオワコン？！
-
1
Transformer
The Annotated Transformer
