Özet - Neural network
- Makine Öğrenmesi kursu
- İleri seviye
- Ders 6/78
- 6 dk
Bu grupta nöron, katman, aktivasyon ve ileri yayılımı öğrendin.
Özet: sinir ağları
Bu grupta:
- Nöron:
f(w·x + b); tek nöron doğrusal sınır çizer, XOR'u çözemez. - Katman: ağırlık matrisi + sapma; parametre sayısı
girdi·çıktı + çıktı. - Aktivasyonlar: ReLU (gizli), sigmoid/softmax (çıktı); aktivasyonsuz katmanlar tek doğrusal dönüşüme çöker.
- İleri yayılım: X → doğrusal → ReLU → doğrusal → softmax; kayıp çapraz entropi.
Sonraki gruplarda aynı hesapları PyTorch ile, otomatik türevle ve GPU'da yapacağız.
Uygulama XOR'u elle çöz
İki gizli nöronlu bir ağla XOR'u çöz: gizli katman W1 = [[1, 1], [1, 1]], b1 = [-0.5, -1.5] (OR ve AND), basamak aktivasyonu; çıktı w2 = [1, -1], b2 = -0.5 ve yine basamak. Dört girdi için çıktıları yazdır.
Başlangıç kodu
import numpy as np
X = np.array([[0, 0], [0, 1], [1, 0], [1, 1]])
adim = lambda z: (z > 0).astype(int)
# buraya yazÖrnek çözüm
import numpy as np
X = np.array([[0, 0], [0, 1], [1, 0], [1, 1]])
adim = lambda z: (z > 0).astype(int)
W1 = np.array([[1, 1], [1, 1]])
b1 = np.array([-0.5, -1.5])
h = adim(X @ W1 + b1)
print(adim(h @ np.array([1, -1]) - 0.5))Beklenen çıktı
[0 1 1 0]
Soru ve cevaplar
Dersin sorularını cevaplarıyla birlikte inceleyebilirsin. Kendini denemek istersen dersi interaktif olarak çöz.
1 XOR problemini çözmek için en az ne gerekir?
- Doğrusal olmayan aktivasyonlu bir gizli katman Doğru cevap
- Daha çok veri
- Daha büyük öğrenme oranı
- Tek bir nöron
Açıklama: Gizli katman girdiyi, sınıfların doğrusal ayrılabildiği yeni bir uzaya taşır.
2 Satır başına olasılık toplamını hesapla.
p = e / e.sum(axis=1, ____=True)
p = e / e.sum(axis=1, keepdims=True)
Açıklama: keepdims=True (n, 1) şeklini koruyarak yayınlamayı mümkün kılar.
3 Kavramları eşleştir.
| Kavram | Anlamı |
|---|---|
perceptron |
Basamaklı tek nöron |
gizli katman |
XOR'u çözer |
logit |
Softmax öncesi skor |
çapraz entropi |
Sınıflandırma kaybı |