DNET_TensorFlowKeras

TensorFlow・Keras

• 戻る
  • 深層学習（deep learning）
  • データマイニング（DM）- Python - DL
    • TensorFlow・Keras
    • PyTorch

ライブラリ・フレームワーク

TensorFlow

概要（TensorFlow）

• 現在、最も人気のあるOSS（Apache License 2.0）の深層学習フレームワーク

  • Googleのサービスの研究と生産に使用されており、
    DistBelief（クローズドソース）の役割をほぼ置き換えている‍。

  • 2015年11月9日にベータ版が公開され、
    2017年2月15日には正式版がリリース。

  • ドキュメンテーションが充実している。

• モバイルのプラットフォーム上でも動作（IoT Edge Computing）

• TensorBoardと言う訓練過程を観察できる機能が付いている。

言語（TensorFlow）

C言語、C++、Python、Java、Go

特徴（TensorFlow）

人間が用いる学習や論理的思考と似たように、

パターンや相関を検出し解釈する
ニューラルネットワークを構築、訓練の要求を満たす。

Keras

概要（Keras）

• 迅速な実験を可能にすることに重点を置く。
• OSS（MIT）。中心的な開発者・メンテナはGoogleのエンジニア
  • 2015年に初版公開
  • 2017年にTensorFlowコアライブラリをサポート
  • 現在はTensorFlowに取り込まれ、tf.Kerasの形で使われるのが一般的。

言語（Keras）

Pythonで書かれている。

特徴（Keras）

• 入門者、シンプルに始めたい人

  • TensorFlowによる記述を非常に高級にしてくれるラッパーとして機能する。
  • 簡単なネットワークに関しては、全フレームワーク中で最もシンプルな記法で書ける。
  • レイヤを積み上げていく要領でモデルを直感的に定義し・構築できる。
    • モデルの実装が素早くできるのでプロトタイプの作成に便利。
    • モデルの構築が簡単で初心者にとっても解かり易いモノになる。

• 複数のバックエンドをサポート（TensorFlow、Theano、CNTK。いずれも深層学習（deep learning）の該当節を参照）

環境：Notebook系

機械学習・深層学習（人工知能（AI））の特性上、インタラクティブな環境の方が習得が捗る。

Jupyter Notebook

Jupyter Notebook

→ チュートリアルはデータマイニング（DM）- Python - DL

JupyterLab

JupyterLab

→ チュートリアルはデータマイニング（DM）- Python - DL

Azure Machine Learning

Azure Machine Learningチュートリアル

参考

• TensorFlow - Wikipedia
  https://ja.wikipedia.org/wiki/TensorFlow

• Keras - Wikipedia
  https://ja.wikipedia.org/wiki/Keras

• TensorFlowをDockerで動かす（Jupyter notebook編） | ぺんぎんや
  https://e-penguiner.com/tensorflow-jupyter-notebook-with-docker/

• Visualizing Optimization Algos - GIFs - Imgur
  https://imgur.com/a/Hqolp

• CNN による画像分類で使われる前処理・テスト時処理まとめ - (iwi) 備忘録
  https://iwiwi.hatenadiary.jp/entry/2016/12/31/162059

Qiita

• Kerasのノウハウ覚え書き
  https://qiita.com/ak11/items/67118e11b756b0ee83a5

無から始めるKeras

https://qiita.com/Ishotihadus/items/6ecf5684c2cbaaa6a5ef

• はじめての Keras
  http://qiita.com/Ishotihadus/items/c2f864c0cde3d17b7efb
• 活性化関数、目的関数、最適化手法とは
  http://qiita.com/Ishotihadus/items/d47fc294ca568536b7f0
• Functional API で実装してみる
  http://qiita.com/Ishotihadus/items/e28dd461a8ba27a2676e
• 学習された重みから手計算で推定する
  http://qiita.com/Ishotihadus/items/ca8cc2e7b5b14ed51a2f
• MNIST と EarlyStopping、バッチサイズ、DropOut
  http://qiita.com/Ishotihadus/items/b171272b954147976bfc
• CNN で MNIST
  https://qiita.com/Ishotihadus/items/28feac1ee42111afbd11
• リカレントニューラルネットワーク
  https://qiita.com/Ishotihadus/items/f8a2fd1d071047413302

TensorFlow2 + Keras による画像分類に挑戦

• 1 ～とりあえず動かす～
  https://qiita.com/code0327/items/7d3c7bd3327ff049243a
• 2 ～入力データを詳しくみてみる～
  https://qiita.com/code0327/items/2c969ca4675d5a3691ef
• 3 ～MNISTデータを可視化してみる～
  https://qiita.com/code0327/items/a6edd5b27256429c3819
• 4 ～学習済みモデルで予測させてみる～
  https://qiita.com/code0327/items/1047adc050ab6d75ad5c
• 5 ～分類に失敗する画像を観察してみる～
  https://qiita.com/code0327/items/5dfc1b2ed143c1f9bd2b
• 6 ～自分で用意した画像の前処理・分類をしてみる～
  https://qiita.com/code0327/items/d1a6b63915871a17020a
• 7 ～層タイプ・活性化関数について理解する～
  https://qiita.com/code0327/items/68dd7beb1196320c8c15
• 8 ～最適化アルゴリズムと損失関数を選択する～
  https://qiita.com/code0327/items/4f8f656bed23140b8962
• 9 ～モデルの学習、セーブ＆ロードをしてみる～
  https://qiita.com/code0327/items/951f418c81dbbd65c1fc

その他、CNN関連

• KerasでAlexNetを構築しCifar-10を学習させてみた
  https://qiita.com/URAN110/items/ea2bfc8f7ba2fc858de3

• MNISTでハイパーパラメータをいじってloss/accuracyグラフを見てみる
  https://qiita.com/hiroyuki827/items/213146d551a6e2227810

• cifar10とKerasを使ってCNN(Convolutional Neural Network)を実装してみる
  https://qiita.com/God_KonaBanana/items/10fa8bb58cdd1dbd2e59

• Keras：VGG16、VGG19とかってなんだっけ？？
  https://qiita.com/MuAuan/items/86a56637a1ebf455e180

• 男女を判別するモデルを作成（VGG16を転移学習）
  https://qiita.com/iharak/items/2b1adf48dbfbcbf1ba12

• KerasでVGG16を使った転移学習/ファインチューニングをしてみた
  https://qiita.com/02130515/items/0c6d0e5d03332acc665e

• 【keras】noisy studentを実装してみた
  https://qiita.com/rabbitcaptain/items/a15591ca49dc428223ca

その他

• CVMLエキスパートガイド | ホーム – コンピュータビジョン中級者を支援する「探求型の学習サイト」
  https://cvml-expertguide.net/

• ε-いつかのブログ-з- : ResNet の論文を眺めながら実装してみる[Keras]
  http://blog.livedoor.jp/itukano/archives/52161855.html

け日記

• ResNetでCIFAR-10を分類する - け日記
  https://ohke.hateblo.jp/entry/2019/06/22/090000
• Keras: ImageNetで学習済みのVGG16をPlaces365へ転移学習する
  https://ohke.hateblo.jp/entry/2019/03/23/234500

P-Chun Labo

• Kerasで回帰
  https://pchun.work/keras%e3%81%a7%e5%9b%9e%e5%b8%b0/

• KerasでCNN
  https://pchun.work/keras%e3%81%a7cnn/

• KerasでMNISTの判定
  https://pchun.work/keras%e3%81%a7mnist%e3%81%ae%e5%88%a4%e5%ae%9a/

• ResNetをFine Tuningして自分が用意した画像を学習させる

人工知能に関する断創録

• Kerasによる2クラス分類（Pima Indians Diabetes）
  https://aidiary.hatenablog.com/entry/20161103/1478176348
• Kerasによる2クラスロジスティック回帰
  https://aidiary.hatenablog.com/entry/20161030/1477830597
• Kerasによる多クラス分類（Iris）
  https://aidiary.hatenablog.com/entry/20161108/1478609028
• KerasでMNIST
  https://aidiary.hatenablog.com/entry/20161109/1478696865
• KerasによるCNNの実装
  https://aidiary.hatenablog.com/entry/20161120/1479640534
• KerasでCIFAR-10の一般物体認識
  https://aidiary.hatenablog.com/entry/20161127/1480240182

移行メモ

• 「男女を判別するモデルを作成（VGG16を転移学習」など、 閉じ括弧の欠落を補った。
• 同名の見出し（「概要」「言語」「特徴」）が TensorFlow / Keras で重複し GitHub Wiki でアンカが衝突するため、括弧で文脈を補って一意にした。
• 元 Wiki の「Azure Machine Learning」のリンクは同ページ内に存在しない アンカ（#e9f9e334）を指していたため、 マイクロソフト系技術情報 Wiki の移行済みページ Azure Machine Learningチュートリアル に張り替えた（同アンカは データマイニング（DM）- Python - DL 側で 同ページを指していたもの）。
• PukiWiki のページ内アンカ（#xxxxxxxx）は GitHub Wiki では再現できないため、 同一ページ内のアンカは見出しから生成されるアンカに張り替え、 他ページのアンカを指すリンクは「〜（ページ名 の該当節を参照）」の形に置き換えた。

---

Tags: 移行, TensorFlow, Keras, 深層学習, ニューラルネットワーク, Python, Jupyter Notebook