Loss hesabı

MSE loss hesaplarsın.

Loss hesabı

Regresyonda kayıp ortalama kare hatadır (MSE). Kayıp skaler olduğu için doğrudan backward() çağrılabilir:

def mse(tahmin, hedef):
    return ((tahmin - hedef) ** 2).mean()

kayip = mse(model(x), y)
kayip.backward()
print(w.grad, b.grad)

Parametreler sıfırken gradyanlar negatiftir: kaybı azaltmak için w ve b'nin artması gerektiğini söylerler.

Gradyanı elle doğrulamak

MSE'nin türevleri kapalı biçimde bilinir: ∂L/∂w = mean(2(ŷ - y)·x), ∂L/∂b = mean(2(ŷ - y)). Autograd sonucunu bu formüllerle karşılaştırmak, kodun doğru olduğunu gösterir:

fark = model(x) - y
print(torch.allclose(w.grad, (2 * fark * x).mean()))   # True
print(torch.allclose(b.grad, (2 * fark).mean()))       # True

Büyük modellerde elle türev yazılmaz ama bu tür küçük testler autograd mantığını kavramaya yardım eder.

Uygulama İlk kayıp ve gradyan

Parametreler sıfırken MSE kaybını hesapla ve backward() çağır. Kaybı, w.grad ve b.grad değerlerini item() ile aynı satırda yazdır. (y değerleri 2, 5, ..., 29; ortalama kare = 314.5.)

Örnek çözümü göster

import torch

x = torch.arange(10, dtype=torch.float32).unsqueeze(1)
y = 3 * x + 2
w = torch.zeros(1, requires_grad=True)
b = torch.zeros(1, requires_grad=True)

def model(x):
    return x * w + b

kayip = ((model(x) - y) ** 2).mean()
kayip.backward()
print(kayip.item(), w.grad.item(), b.grad.item())

Kendini test et

Gradyan negatifse gradyan inişi parametreyi nasıl değiştirir?
- Azaltır
- Sıfırlar
- Değiştirmez
- Artırır
Cevabı göster

Artırır — w ← w - lr·grad; negatif grad çıkarılınca w artar.

Ortalama kare hatayı hesapla.

kayip = ((tahmin - hedef) ** 2).____()

Cevabı göster

kayip = ((tahmin - hedef) ** 2).mean()

Türevleri eşleştir.

∂L/∂w

mean(2(ŷ - y)·x)
∂L/∂b

mean(2(ŷ - y))
negatif gradyan

Parametre artmalı
MSE

Regresyon kaybı

Sıradaki ders: Optimize edici

Deneyiminizi Geliştiriyoruz

Çerez Tercihleri

Kesinlikle Gerekli Çerezler

Analitik Çerezler