CodeBlanks Logo Icon CodeBlanks

Özet - Neural network

Bu grupta nöron, katman, aktivasyon ve ileri yayılımı öğrendin.

Özet: sinir ağları

Bu grupta:

  • Nöron: f(w·x + b); tek nöron doğrusal sınır çizer, XOR'u çözemez.
  • Katman: ağırlık matrisi + sapma; parametre sayısı girdi·çıktı + çıktı.
  • Aktivasyonlar: ReLU (gizli), sigmoid/softmax (çıktı); aktivasyonsuz katmanlar tek doğrusal dönüşüme çöker.
  • İleri yayılım: X → doğrusal → ReLU → doğrusal → softmax; kayıp çapraz entropi.

Sonraki gruplarda aynı hesapları PyTorch ile, otomatik türevle ve GPU'da yapacağız.

Uygulama XOR'u elle çöz

İki gizli nöronlu bir ağla XOR'u çöz: gizli katman W1 = [[1, 1], [1, 1]], b1 = [-0.5, -1.5] (OR ve AND), basamak aktivasyonu; çıktı w2 = [1, -1], b2 = -0.5 ve yine basamak. Dört girdi için çıktıları yazdır.

Başlangıç kodu

model.py
import numpy as np

X = np.array([[0, 0], [0, 1], [1, 0], [1, 1]])
adim = lambda z: (z > 0).astype(int)

# buraya yaz

Örnek çözüm

model.py
import numpy as np

X = np.array([[0, 0], [0, 1], [1, 0], [1, 1]])
adim = lambda z: (z > 0).astype(int)

W1 = np.array([[1, 1], [1, 1]])
b1 = np.array([-0.5, -1.5])
h = adim(X @ W1 + b1)
print(adim(h @ np.array([1, -1]) - 0.5))

Beklenen çıktı

[0 1 1 0]

Soru ve cevaplar

Dersin sorularını cevaplarıyla birlikte inceleyebilirsin. Kendini denemek istersen dersi interaktif olarak çöz.

1 XOR problemini çözmek için en az ne gerekir?

  • Doğrusal olmayan aktivasyonlu bir gizli katman Doğru cevap
  • Daha çok veri
  • Daha büyük öğrenme oranı
  • Tek bir nöron

Açıklama: Gizli katman girdiyi, sınıfların doğrusal ayrılabildiği yeni bir uzaya taşır.

2 Satır başına olasılık toplamını hesapla.

Soru
p = e / e.sum(axis=1, ____=True)
Cevap
p = e / e.sum(axis=1, keepdims=True)

Açıklama: keepdims=True (n, 1) şeklini koruyarak yayınlamayı mümkün kılar.

3 Kavramları eşleştir.

Kavram Anlamı
perceptron Basamaklı tek nöron
gizli katman XOR'u çözer
logit Softmax öncesi skor
çapraz entropi Sınıflandırma kaybı

İleri seviye bölümündeki tüm dersler