深層学習の基礎と実践

深層学習の基礎と実践#

広島大学 先進理工系科学研究科 助教 相澤宏旭(hiroaki-aizawa@hiroshima-u.ac.jp)

本講義資料では,数式とプログラミングの両側面から,深層学習の基礎と実践のための学習テクニックを紹介する.基礎の内容は,コンピュータビジョン分野における主要なニューラルネットワークモデルである

  1. 多層パーセプトロン(multi-layer perceptron)

  2. 畳み込みニューラルネットワーク(convolutional neural network)

  3. Vision Transformer

の3つを中心に構成されている.続いて,私がこれまで研究・開発等でモデルが学習できた次に行う性能を改善する実践的なテクニックを紹介する.

本講義資料は,なるべく,数式とコードがリンクし,コードは複雑化せず必要最小限の実装に留めた.また,可能な限り値の出力や可視化を行うことを心がけた.

参考資料

  • 瀧雅人, “これならわかる深層学習入門”

  • Chris Bishop and Hugh Bishop, “Deep Learning: Foundations and Concepts”

  • Ian Goodfellow, Yoshua Bengio, and Aaron Courville, “Deep Learning”

  • 山本 晋太郎ら, “Vision Transformer入門”

  • 田村 秀行, 斎藤 英雄, “コンピュータ画像処理”

  • PyTorch公式ページ

  • Aston Zhang, Zachary C. Lipton, Mu Li, and Alexander J. Smola, “Dive into Deep Learning”

管理上の注意 本レポジトリは最新公開版の提供を目的としているため,編集履歴は基本的に提供しません. 誤植等あればissueから報告をお願いします.