# Fundamentals of Deep Learning

ในส่วนนี้เราจะมาเรียนรู้ concept ของ deep learning ใน video lectures ต่อไปนี้กัน

<br>

## From Traditional Machine Learning to Deep Learning

<iframe width="560" height="315" src="https://www.youtube.com/embed/kIL6UqHfnA8" title="YouTube video player" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share" allowfullscreen></iframe>

[Slides: From Machine Learning to Deep Learning](https://github.com/ichatnun/brainCodeCamp2023_lectures/blob/main/DeepLearning/deep_learning_ML2DL.pdf)
<br>

## Fully Connected Layers, Activation Function, and Loss Function

<iframe width="560" height="315" src="https://www.youtube.com/embed/uREh-0Z6PRk" title="YouTube video player" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share" allowfullscreen></iframe>

[Slides: Fully Connected Layers, Activation Function, and Loss Function](https://github.com/ichatnun/brainCodeCamp2023_lectures/blob/main/DeepLearning/deep_learning_dense_activation_loss.pdf)

<br>

## (Optional) Optimization and Backpropagation

<iframe width="560" height="315" src="https://www.youtube.com/embed/qk2dgWUFt_U" title="YouTube video player" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share" allowfullscreen></iframe>

[Slides: Optimization and Backpropagation](https://github.com/ichatnun/brainCodeCamp2023_lectures/blob/main/DeepLearning/deep_learning_opt_backprop_minibatch.pdf)

<br>

## Regularization

<iframe width="560" height="315" src="https://www.youtube.com/embed/VokHdRv0yas" title="YouTube video player" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share" allowfullscreen></iframe>

[Slides: Regularization](https://github.com/ichatnun/brainCodeCamp2023_lectures/blob/main/DeepLearning/deep_learning_regularization.pdf)

ในปัจจุบัน มี phenomena หลายอย่างที่น่าสนใจมาก เช่น [double descent](https://en.wikipedia.org/wiki/Double_descent) และ [grokking](https://arxiv.org/abs/2201.02177) ซึ่งอาจจะดูแปลกประหลาดในมุมมองของ classical statistical learning ทีมงานแนะนำให้ผู้เรียนไปลองศึกษา phenomena เหล่านี้เพิ่มเติมได้

<br>

## Convolutional Neural Network

<iframe width="560" height="315" src="https://www.youtube.com/embed/Jpw-CYQ0T0g" title="YouTube video player" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share" allowfullscreen></iframe>

[Slides: Convolutional Neural Network (CNN)](https://github.com/ichatnun/brainCodeCamp2023_lectures/blob/main/DeepLearning/deep_learning_CNN.pdf)

<br>

**หมายเหตุ** โค้ดที่มีเป็นตัวอย่างใน video lectures ด้านบนจะเขียนด้วย `tensorflow.keras` โดยที่ผู้เรียนที่ต้องการเรียนรู้การใช้ `tensorflow.keras` เพิ่มเติมเป็นภาษาไทย สามารถศึกษาได้ต่อในอีกหลายช่องทาง เช่น video lectures ของ [MTEC Machine Learning Workshop](https://youtube.com/playlist?list=PLJIJClalm2xOsbu69R_yRG3RPVU3gIQKa) โดยเฉพาะอย่างยิ่ง lecture ที่ชื่อว่า [Deep Learning Practical II](https://youtu.be/dVzivZQ1Fv4)

<br>

ใน Brain Code Camp เราจะเน้นการเขียน PyTorch เป็นหลัก ซึ่งผู้เรียนสามารถไปศึกษา เพิ่มเติมได้ใน tutorial ถัดไป รวมถึงเนื้อหาในส่วนของ Extra Resources ที่ชื่อว่า Hands-On Deep Learning with Pytorch
