DNET_PyTorch

PyTorch

• 戻る
  • 深層学習（deep learning）
  • データマイニング（DM）- Python - DL
    • TensorFlow・Keras
    • PyTorch（本ページ）

概要

• Deep Learningフレームワーク

• Facebookの人工知能研究グループ（FAIR）により開発された。

  • 2016年にOSS（修正BSD）としてリリースされた。
  • コミュニティはFacebookやニューヨーク大学が主導

• Chainer（深層学習（deep learning）の該当節を参照）に強く影響を受けている。

  • 動的な計算グラフの設計手法、Define-by-Runを踏襲し、記法もかなりChainerに近い
  • （TensorFlowもDefine-by-Runに移行中も、破壊的な変更の影響を受ける）

• 研究者の間で人気で論文でも使われる。

• 特にTransformer系やLLM系のOSSはPyTorchが主流。

• バージョンの違いによる動作の違いが少ない。また、構文が解り易い（？）

特徴

• 強力なGPU（深層学習（deep learning）の該当節を参照）サポートを備えた
  NumPyのようなテンソル演算（NumPyの該当節を参照）ができる
• テープベースの自動微分システムの上に構築された深層ニューラルネットワークが利用できる。

言語

インターフェイス

Pythonインターフェイス

• Lua言語で利用されていたTorchライブラリのPython版
• 洗練されており、活発に開発が行われている。
• PDB、PyCharmなどのデバッガが使える。

C++インターフェイス

存在する。

詳細

未記載（元 Wiki も見出しのみ）。

参考

• PyTorch - Wikipedia
  https://ja.wikipedia.org/wiki/PyTorch

補足

• PyTorch は 2022 年 9 月に Linux Foundation 傘下の PyTorch Foundation へ 移管され、現在は Meta（旧 Facebook）単独ではなく同 Foundation が運営している。
• 影響元とされる Chainer は 2019 年 12 月に開発を終了し、 PyTorch への移行が推奨されている。

移行メモ

• PukiWiki のページ内アンカ（#xxxxxxxx）は GitHub Wiki では再現できないため、 他ページのアンカを指すリンクは「〜（ページ名 の該当節を参照）」の形に置き換えた。
• 「戻る」の並びにある「PyTorch」は自ページのため、その旨を補ってプレーン・テキストとした。

---

Tags: 移行, PyTorch, 深層学習, ディープラーニング, Chainer, Define-by-Run, Python, GPU