EY-Office ブログ

空前のChatGPTブームですね！ このブログでは初めてのAI関連の記事です、ただしChatGPTではなく、数年間にわたり積ん読されていたゼロから作るDeep Learningをこの連休で読んだので感想を書きます。

この本が出版された2017年は、DeepMind社の作ったAlphaGoが人間の凄いプロ棋士に勝ったことで、AI、深層学習（ディープラーニング）の凄さに世界が沸いていました。しかし今ふり返ると遠い過去のようですね。

ChatGPTによる要約

ChatGPT 3.5さんに要約を書いてもらいました。

書籍 「ゼロから作るDeep Learning」 を知っていますか？

はい、私は「ゼロから作るDeep Learning」という書籍を知っています。この書籍は、斎藤康毅氏によって書かれた日本の人気のあるディープラーニング入門書です。初心者に向けて、ニューラルネットワークや深層学習の基礎から始めながら、PythonとNumPyを使用して自分自身で実装する方法を教えてくれます。

「ゼロから作るDeep Learning」は、数学的な理論や実装の手法を丁寧に解説しており、具体的なコード例や図を交えながら読者を導いています。ニューラルネットワークの基本的な概念、誤差逆伝播法、畳み込みニューラルネットワーク、深層学習の応用など、幅広いトピックをカバーしています。

この書籍は、ディープラーニングの基礎を学びたい人や、実際に手を動かして学びたい人にとって非常に役立つリソースとなっています。また、実際のコードを通じてディープラーニングの仕組みを理解することで、他のフレームワークやライブラリの使用方法にも応用できる基礎を築くことができます。

この本の章ごとの要約を教えてください

「ゼロから作るDeep Learning」は、全9章から構成されています。以下に各章の要約を示します。

1. PythonとNumPy
   • PythonとNumPyの基礎を学びます。
   • Pythonの基本的な文法やNumPyの多次元配列操作などについて解説します。
2. パーセプトロン
   • パーセプトロンとは何かを理解します。
   • パーセプトロンの学習規則やAND・ORゲートの実装方法について学びます。
3. ニューラルネットワーク
   • ニューラルネットワークの基礎となるパーセプトロンの連結方法を学びます。
   • ニューラルネットワークの活性化関数や重みの更新方法について解説します。
4. ニューラルネットワークの学習
   • 損失関数とは何かを学びます。
   • 数値微分や勾配降下法を用いたニューラルネットワークの学習方法について解説します。
5. 誤差逆伝播法
   • 誤差逆伝播法を用いて効率的にニューラルネットワークを学習する方法を学びます。
   • 各層の重みの更新方法や勾配消失問題について解説します。
6. 学習に関するテクニック
   • 過学習や正則化、ドロップアウトといった学習に関するテクニックについて学びます。
   • ハイパーパラメーターの最適化やバッチ正規化について解説します。
7. 畳み込みニューラルネットワーク（CNN）
   • 畳み込みニューラルネットワークの基礎を学びます。
   • 畳み込み層やプーリング層、全結合層の役割や実装方法について解説します。
8. ディープラーニング
   • ディープラーニングの応用例や有名なモデル（VGG16など）について学びます。
   • 転移学習や物体検出、画像生成について解説します。
9. 自然言語処理（NLP）
   • 自然言語処理の基礎を学びます。
   • 単語の分散表現やRNN（再帰ニューラルネ

私の感想

結論から書くと「ゼロから作るDeep Learning」を良い本だと思います。Deep Learningの原理を知りたいプログラマーにはお薦めです。

さて、ソフトウェアの新しい概念、発明を説明する方法ですが、以下があるかなと思います。

1. 言葉で説明する
2. 数式で説明する
3. コード（プログラム）で説明する

１. 世の中一般では言葉での説明が一番多いかと思います、ニューラルネットワークのもとになったパラメトロンは「人間の脳神経回路を真似た学習モデルです」などと説明されています。
ほほう、人間の脳を真似ているのか〜と何となくコンピューターの中に人間の脳を作っているイメージが浮かび、納得する人もいると思います。しかし大抵のプログラマーにはモヤモヤした説明だと思います、これではコードはイメージできませんね。

２. 大抵の物理法則は数式で表されます（たとえば E = mc²）。多くの理学・工学の論文には数式が現れ、重要な概念を現しています。数学強者であれば、この式からコードをイメージ出来るのかなと思います。
私も工学部を出ているので学生のころは色々な数式に出会ってきましたが、数学弱者なので解説もなくいきなり数式が示されても頭がポケーッとしてしまいます。

３. 私たちプログラマーはコードを読む事ができるので、適度な大きさのコードは容易に理解できます。しかもコードをコンピューターで動かし、変数の値をプリントしたりして理解を助ける事もできます。

この本では、言葉、数式、コードでニューラルネットワークでどうして学習できるのかを学べるのが特徴だと思います。コードがあるので数学弱者でも数式の塊のようなニューラルネットワークをなんとか学べました。

実は以前、Deep Learningのセミナーを受けた事がありました。言葉と数式で説明するスタイルだったので、ディープランニングの学習、なぜ損失がゼロに近づくように重みパラメーターを更新できるかが、いまひとつ理解できなかったのですが、この本でやっと理解できました。

ただし、この本を読んでも現在ブームのChatGPTを理解するまでには、まだ数冊の本を読まないといけないと思われます。
ということで続編ゼロから作るDeep Learning ❷ ― 自然言語処理編 を購入しました。