Backpropagation (geri yayılım), yapay sinir ağlarının nasıl öğrendiğini açıklayan temel bir yöntemdir. Bunu, modelin hatasının bulunduğu karmaşık bir yüzeyde gezinmek gibi düşünebiliriz.
Kayıp Yüzeyi (Loss Surface)
Modelin yaptığı toplam hata, tüm parametrelerin oluşturduğu yüksek boyutlu bir yüzey üzerinde yer alır. Her bir parametre bu hataya küçük bir katkı sağlar.
Gradient (türev), bu küçük etkilerin hepsini bir araya getirerek, hatanın her bir parametreye göre nasıl değiştiğini gösterir.
Chain Rule (Zincir Kuralı)
Backpropagation, matematikteki zincir kuralını kullanarak bu türevleri çok verimli bir şekilde hesaplar. Bu sayede tüm ağ boyunca tek tek hesap yapmak yerine hızlıca genel gradyan elde edilir.
Gradient ile Öğrenme
Gradient bulunduğunda, onun negatif yönü hatanın en hızlı azaldığı yönü gösterir.
Bu durum, bir topun yokuş aşağı yuvarlanmasına benzetilebilir. Model, her adımda biraz daha aşağı (daha az hata olan bölgeye) gider.
Bu küçük adımlar tekrarlandıkça model daha iyi sonuçlar üretmeye başlar. Böylece öğrenme süreci somut bir performans artışına dönüşür.
Özet
- Backpropagation, hatanın nasıl değiştiğini hesaplar.
- Gradient, hangi yönde ilerlenmesi gerektiğini söyler.
- Model, bu yönü takip ederek kendini geliştirir.
Kaynaklar
- https://www.instagram.com/reels/DWCUd2gjaF6/
- https://www.instagram.com/reels/DUI1plHgLi2/
