CodeBlanks Logo Icon CodeBlanks
Giriş Yap Kayıt Ol

Autograd nedir?

Autograd, tensor işlemlerinin gradyanlarını otomatik hesaplar.

Autograd nedir?

Sinir ağlarını eğitmek, kaybın her parametreye göre türevini (gradyanını) bilmeyi gerektirir. Autograd, tensörlerle yapılan işlemleri kaydeder ve zincir kuralını uygulayarak bu türevleri otomatik hesaplar:

x = torch.tensor(3.0, requires_grad=True)
y = x ** 2 + 2 * x      # y = x² + 2x
y.backward()            # dy/dx hesapla
print(x.grad.item())    # 8.0  (2x + 2, x = 3)

Milyonlarca parametreli ağlarda türevleri elle yazmak imkânsızdır; autograd derin öğrenmeyi pratik yapan temel araçtır.

Gradyan ne söyler?

Gradyan, kaybın en hızlı arttığı yönü gösterir. Parametreyi gradyanın tersi yönünde küçük bir adım oynatmak kaybı azaltır; bu, gradyan inişinin (gradient descent) özüdür:

w = torch.tensor(5.0, requires_grad=True)
kayip = (w - 2) ** 2       # en küçüğü w = 2
kayip.backward()
print(w.grad.item())       # 6.0: pozitif, w'yi azalt
with torch.no_grad():
    w -= 0.1 * w.grad      # w = 4.4, 2'ye yaklaştı

Bu döngü binlerce kez tekrarlanınca parametreler kaybı en aza indiren değerlere ilerler.

Uygulama İlk türev

x = torch.tensor(2.0, requires_grad=True) için y = x ** 3 - 4 * x hesapla ve backward() çağır. y.item() ve x.grad.item() değerlerini aynı satırda yazdır.

Başlangıç kodu

model.py
import torch

# buraya yaz

Örnek çözüm

model.py
import torch

x = torch.tensor(2.0, requires_grad=True)
y = x ** 3 - 4 * x
y.backward()
print(y.item(), x.grad.item())

Beklenen çıktı

0.0 8.0

Soru ve cevaplar

Dersin sorularını cevaplarıyla birlikte inceleyebilirsin. Kendini denemek istersen dersi interaktif olarak çöz.

1 <code>y = 3 * x ** 2</code> için x = 2 iken <code>x.grad</code> kaç olur?

  • 6
  • 24
  • 3
  • 12 Doğru cevap

Açıklama: dy/dx = 6x; x = 2 için 12.

2 Türevleri hesaplat.

Soru 
kayip.____()
Cevap 
kayip.backward()

Açıklama: backward() kayıptan geriye doğru tüm gradyanları hesaplar.

3 Kavramları eşleştir.

Kavram Anlamı
requires_grad Türevi izlenir
backward() Gradyanları hesapla
x.grad Hesaplanan türev
gradyan inişi Tersi yönde adım

İleri seviye bölümündeki tüm dersler

1 Neural network temelleri

  1. Neural network nedir?
  2. Nöron
  3. Katmanlar
  4. Aktivasyon
  5. İleri yayılım
  6. Özet - Neural network

2 PyTorch temelleri

  1. PyTorch nedir?
  2. Tensor
  3. Tensor oluşturma
  4. Tensor özellikleri
  5. GPU desteği
  6. Özet - PyTorch

3 Tensor işlemleri

  1. Tensor işlemleri
  2. Shape
  3. Dtype
  4. Reshape
  5. Indexing
  6. Özet - Tensor işlemleri

4 Autograd

  1. Autograd nedir?
  2. requires_grad
  3. backward()
  4. grad
  5. Computational graph
  6. Özet - Autograd

5 Proje: Neural network

  1. Tensor hazırlama
  2. Model tanımı
  3. Loss hesabı
  4. Optimize edici

6 nn.Module

  1. nn.Module nedir?
  2. __init__
  3. forward
  4. nn.Linear
  5. parameters()
  6. Özet - nn.Module

7 Eğitim döngüsü

  1. Eğitim döngüsü
  2. Epoch
  3. Loss
  4. backward()
  5. optimizer.step()
  6. Özet - Eğitim döngüsü

8 CNN

  1. CNN nedir?
  2. Conv2d
  3. MaxPool2d
  4. Feature map
  5. Flatten
  6. Özet - CNN

9 RNN

  1. RNN nedir?
  2. Hidden state
  3. Sequence
  4. Vanishing gradient
  5. Embedding
  6. Özet - RNN

10 LSTM

  1. LSTM nedir?
  2. Gate'ler
  3. Cell state
  4. input_size
  5. hidden_size
  6. Özet - LSTM

11 Proje: CNN

  1. Veri hazırlama
  2. CNN modeli
  3. Loss ve optimizer
  4. Eğitim

12 Transfer öğrenme

  1. Transfer öğrenme nedir?
  2. Pre-trained model
  3. Fine-tuning
  4. Feature extraction
  5. Avantajlar
  6. Özet - Transfer öğrenme

13 Optimizasyon

  1. Optimizer nedir?
  2. SGD
  3. Adam
  4. Learning rate
  5. zero_grad()
  6. Özet - Optimizasyon

14 İleri seviye finali

  1. Meydan okuma 1
  2. Meydan okuma 2
  3. Meydan okuma 3
  4. Meydan okuma 4