Neural network nedir?

Neural network, biyolojik sınır ağlarından ilham alan katmanlı bir modeldir.

Sinir ağı nedir?

Yapay sinir ağı, basit hesap birimlerinin (nöronların) katmanlar halinde birbirine bağlanmasıyla oluşan bir modeldir. Her katman girdisini doğrusal bir dönüşümle değiştirir ve doğrusal olmayan bir fonksiyondan geçirir; katmanlar üst üste binince model çok karmaşık ilişkileri öğrenebilir.

# girdi (4 özellik) -> gizli katman (8 nöron) -> çıktı (3 sınıf)
h = relu(X @ W1 + b1)    # (n, 8)
cikti = h @ W2 + b2      # (n, 3)

Lojistik regresyon tek katmanlı bir sinir ağıdır; derin öğrenme, bu yapının çok katmanlı hâlidir.

Neden şimdi?

Sinir ağı fikri 1950'lerden beri vardır. Son yıllardaki başarının üç nedeni vardır: büyük etiketli veri setleri, GPU'ların paralel matris çarpımı gücü ve daha iyi eğitim teknikleri (ReLU, iyi başlatma, Adam, dropout).

Görüntü: evrişimli ağlar (CNN).
Dizi ve metin: RNN, LSTM ve özellikle transformer.
Tablo verisi: çoğu zaman gradient boosting hâlâ daha iyidir.

Uygulama Doğrusal katmanların bileşimi

İki doğrusal katmanı (W1, W2) aktivasyonsuz art arda uygulamanın tek bir W1 @ W2 matrisiyle aynı sonucu verdiğini np.allclose ile yazdır. Ardından araya ReLU (np.maximum(0, ·)) koyunca sonucun artık aynı olmadığını yazdır.

Örnek çözümü göster

import numpy as np

rng = np.random.default_rng(0)
X = rng.normal(size=(5, 3))
W1 = rng.normal(size=(3, 4))
W2 = rng.normal(size=(4, 2))

print(np.allclose((X @ W1) @ W2, X @ (W1 @ W2)))
print(np.allclose(np.maximum(0, X @ W1) @ W2, X @ (W1 @ W2)))

Kendini test et

Gizli katmanlar arasındaki doğrusal olmayan fonksiyon olmasaydı ne olurdu?
- Hiçbir şey değişmezdi
- Tüm ağ tek bir doğrusal dönüşüme indirgenirdi
- Ağ daha güçlü olurdu
- Eğitim imkânsız olurdu
Cevabı göster

Tüm ağ tek bir doğrusal dönüşüme indirgenirdi — İki doğrusal dönüşümün bileşimi yine doğrusaldır: W2(W1x) = (W2W1)x.

Gizli katmanı hesapla.

h = np.maximum(0, X ____ W1 + b1)

Cevabı göster

h = np.maximum(0, X @ W1 + b1)

Kavramları eşleştir.

nöron

Basit hesap birimi
katman

Nöron grubu
W

Öğrenilen ağırlıklar
ReLU

Doğrusal olmayan fonksiyon

Sıradaki ders: Nöron

Deneyiminizi Geliştiriyoruz

Çerez Tercihleri

Kesinlikle Gerekli Çerezler

Analitik Çerezler