CodeBlanks Logo Icon CodeBlanks
Giriş Yap Kayıt Ol

GPU desteği

PyTorch, tensor'ları GPU'ya taşıyarak hızlı hesaplama sağlar.

GPU desteği

Derin öğrenmenin hızı, matris çarpımlarının GPU'da paralel yapılmasından gelir. PyTorch'ta bir tensör ya da model .to(cihaz) ile GPU'ya taşınır. Kod, GPU yoksa CPU'ya düşecek biçimde yazılır:

cihaz = "cuda" if torch.cuda.is_available() else "cpu"
x = torch.randn(1000, 1000).to(cihaz)
model = model.to(cihaz)
y = model(x)          # hesap seçilen cihazda

Apple çiplerinde "mps" cihazı kullanılır: torch.backends.mps.is_available().

Cihaz kalıpları

Eğitim döngüsünde her toplu veri modele verilmeden önce aynı cihaza taşınır. Sonuçları NumPy'a çevirmek için önce CPU'ya dönmek gerekir:

for xb, yb in yukleyici:
    xb, yb = xb.to(cihaz), yb.to(cihaz)
    cikti = model(xb)
tahmin = cikti.argmax(dim=1).cpu().numpy()   # GPU -> CPU -> NumPy

GPU ile CPU arasındaki kopyalama yavaştır; döngü içinde gereksiz .cpu() çağrılarından kaçınılır.

Uygulama Cihazdan bağımsız kod

Cihazı "cuda" if torch.cuda.is_available() else "cpu" ile seç. x = torch.ones(2, 3)'ü cihaza taşı, 3 ile çarp ve sonucu .cpu() ile geri alıp tolist() ile yazdır. Ardından sonucun device.type değerinin "cpu" olduğunu yazdır.

Başlangıç kodu

model.py
import torch

# buraya yaz

Örnek çözüm

model.py
import torch

cihaz = "cuda" if torch.cuda.is_available() else "cpu"
x = torch.ones(2, 3).to(cihaz)
sonuc = (x * 3).cpu()
print(sonuc.tolist())
print(sonuc.device.type == "cpu")

Beklenen çıktı

[[3.0, 3.0, 3.0], [3.0, 3.0, 3.0]]
True

Soru ve cevaplar

Dersin sorularını cevaplarıyla birlikte inceleyebilirsin. Kendini denemek istersen dersi interaktif olarak çöz.

1 Biri CPU'da biri GPU'da olan iki tensörü toplarsan ne olur?

  • Otomatik taşınır
  • Sonuç CPU'da olur
  • Sorunsuz çalışır
  • Hata verir; ikisi aynı cihazda olmalı Doğru cevap

Açıklama: İşlemdeki tüm tensörler ve model aynı cihazda bulunmalıdır.

2 Tensörü seçilen cihaza taşı.

Soru 
x = x.____(cihaz)
Cevap 
x = x.to(cihaz)

Açıklama: .to() hem cihaz hem tür değiştirebilir.

3 İfadeleri eşleştir.

Kavram Anlamı
torch.cuda.is_available() GPU var mı?
.to(cihaz) Cihaza taşı
.cpu() CPU'ya dön
"mps" Apple GPU'su

İleri seviye bölümündeki tüm dersler

1 Neural network temelleri

  1. Neural network nedir?
  2. Nöron
  3. Katmanlar
  4. Aktivasyon
  5. İleri yayılım
  6. Özet - Neural network

2 PyTorch temelleri

  1. PyTorch nedir?
  2. Tensor
  3. Tensor oluşturma
  4. Tensor özellikleri
  5. GPU desteği
  6. Özet - PyTorch

3 Tensor işlemleri

  1. Tensor işlemleri
  2. Shape
  3. Dtype
  4. Reshape
  5. Indexing
  6. Özet - Tensor işlemleri

4 Autograd

  1. Autograd nedir?
  2. requires_grad
  3. backward()
  4. grad
  5. Computational graph
  6. Özet - Autograd

5 Proje: Neural network

  1. Tensor hazırlama
  2. Model tanımı
  3. Loss hesabı
  4. Optimize edici

6 nn.Module

  1. nn.Module nedir?
  2. __init__
  3. forward
  4. nn.Linear
  5. parameters()
  6. Özet - nn.Module

7 Eğitim döngüsü

  1. Eğitim döngüsü
  2. Epoch
  3. Loss
  4. backward()
  5. optimizer.step()
  6. Özet - Eğitim döngüsü

8 CNN

  1. CNN nedir?
  2. Conv2d
  3. MaxPool2d
  4. Feature map
  5. Flatten
  6. Özet - CNN

9 RNN

  1. RNN nedir?
  2. Hidden state
  3. Sequence
  4. Vanishing gradient
  5. Embedding
  6. Özet - RNN

10 LSTM

  1. LSTM nedir?
  2. Gate'ler
  3. Cell state
  4. input_size
  5. hidden_size
  6. Özet - LSTM

11 Proje: CNN

  1. Veri hazırlama
  2. CNN modeli
  3. Loss ve optimizer
  4. Eğitim

12 Transfer öğrenme

  1. Transfer öğrenme nedir?
  2. Pre-trained model
  3. Fine-tuning
  4. Feature extraction
  5. Avantajlar
  6. Özet - Transfer öğrenme

13 Optimizasyon

  1. Optimizer nedir?
  2. SGD
  3. Adam
  4. Learning rate
  5. zero_grad()
  6. Özet - Optimizasyon

14 İleri seviye finali

  1. Meydan okuma 1
  2. Meydan okuma 2
  3. Meydan okuma 3
  4. Meydan okuma 4