🎓 Normal denklemi nasıl bulunur Test 2 - Ders Notu
Bu ders notu, "Normal denklemi nasıl bulunur Test 2" kapsamında karşılaşacağın Doğrusal Regresyon, Maliyet Fonksiyonu ve özellikle Normal Denklem'in ne olduğu, nasıl kullanıldığı ve avantaj/dezavantajları gibi temel konuları sade bir dille açıklamaktadır. Bu konuları anladığında testteki soruları çok daha kolay çözebilirsin.
📌 Doğrusal Regresyonu Anlamak
Doğrusal regresyon, eldeki veriler arasındaki ilişkiyi anlamak ve gelecekteki değerleri tahmin etmek için kullanılan temel bir makine öğrenimi yöntemidir. En basit haliyle, bir grup veri noktasına en uygun düz bir çizgi (veya daha fazla özellik varsa bir düzlem) çekmeye çalışırız.
- Amacı: Bir bağımsız değişken (örneğin, evin büyüklüğü) ile bağımlı değişken (örneğin, evin fiyatı) arasındaki doğrusal ilişkiyi modellemek.
- Hipotez Fonksiyonu: Tahmin ettiğimiz değeri gösterir. Genellikle `$h_\theta(x) = \theta_0 + \theta_1 x_1 + \dots + \theta_n x_n$` şeklinde ifade edilir. Burada $\theta$ (teta) değerleri, modelimizin parametreleridir.
- Maliyet Fonksiyonu: Çektiğimiz çizginin (modelin) gerçek veri noktalarına ne kadar iyi uyduğunu ölçer. Amaç, bu maliyeti en aza indirmektir. Genellikle Ortalama Kare Hata (Mean Squared Error - MSE) kullanılır: `$J(\theta) = \frac{1}{2m} \sum_{i=1}^m (h_\theta(x^{(i)}) - y^{(i)})^2$`.
💡 İpucu: Hayatta bir trendi yakalamaya çalışmak gibi düşünebilirsin. Örneğin, dondurma satışlarıyla hava sıcaklığı arasındaki ilişkiyi bulmak gibi!
📌 Normal Denklemin Temelleri
Normal Denklem, doğrusal regresyon modelindeki en iyi $\theta$ (teta) parametrelerini, yani maliyet fonksiyonunu minimize eden değerleri, analitik olarak (doğrudan bir formülle) bulan bir yöntemdir. Gradyan İnişi gibi iteratif (adım adım) yöntemlerin aksine, doğrudan sonuca ulaşır.
- Nedir?: Maliyet fonksiyonunun türevini alıp sıfıra eşitleyerek $\theta$ değerlerini doğrudan veren bir formüldür.
- Formülü: $\theta = (X^T X)^{-1} X^T y$
- Bileşenleri:
- $X$: Eğitim veri setindeki tüm özelliklerin (girdi değerlerinin) matrisidir. Genellikle ilk sütun $1$'lerden oluşur (bias terimi için).
- $y$: Hedef değişkenin (çıktı değerlerinin) vektörüdür.
- $X^T$: $X$ matrisinin transpozesidir (satırlar sütun, sütunlar satır olur).
- $(X^T X)^{-1}$: $X^T X$ matrisinin tersidir.
⚠️ Dikkat: Bu formül, matris çarpımı ve matris tersi alma işlemleri içerir. Matris cebiri bilgin bu noktada çok işine yarayacaktır.
📌 Normal Denklemi Kullanma Adımları
Normal denklemi uygularken izlemen gereken temel adımlar şunlardır:
- Verileri Hazırla: Özellik matrisin $X$ ve hedef vektörün $y$ olduğundan emin ol. $X$ matrisinin ilk sütununa bias terimi için $1$ değerlerini eklemeyi unutma. Örneğin, 3 özelliğin varsa, $X$ matrisin $m \times 4$ boyutunda olur ($m$ örnek sayısı).
- $X^T$ Hesapla: Özellik matrisin $X$'in transpozesini al.
- $X^T X$ Hesapla: $X^T$ ile $X$ matrislerini çarp.
- $(X^T X)^{-1}$ Hesapla: Bir önceki adımda bulduğun matrisin tersini al. Bu adım, büyük matrisler için hesaplama açısından maliyetli olabilir.
- $X^T y$ Hesapla: $X^T$ ile hedef vektör $y$'yi çarp.
- $\theta$ Hesapla: $(X^T X)^{-1}$ ile $X^T y$ sonuçlarını çarparak $\theta$ vektörünü bul. Bu $\theta$ vektörü, modelinin en iyi parametrelerini içerir.
📝 Örnek: Bir evin fiyatını (y) büyüklüğüne ($x_1$) ve oda sayısına ($x_2$) göre tahmin etmek istiyorsan, $X$ matrisin ilk sütunu 1'lerden, ikinci sütunu evin büyüklüklerinden, üçüncü sütunu ise oda sayılarından oluşur.
📌 Normal Denklemin Avantajları ve Dezavantajları
Her yöntemin olduğu gibi, Normal Denklemin de kendine özgü güçlü ve zayıf yönleri vardır:
Avantajları:
- Doğrudan Çözüm: $\theta$ değerlerini doğrudan hesaplar, iterasyon (adım adım yaklaşım) gerektirmez.
- Öğrenme Oranı Seçimi Yok: Gradyan İnişi gibi yöntemlerde kritik olan bir "öğrenme oranı" ($\alpha$) seçme derdin olmaz.
- Özellik Ölçeklendirme Gerekmez: Özellikleri (feature) ölçeklendirmeye (normalize etmeye) ihtiyaç duymaz.
Dezavantajları:
- Hesaplama Maliyeti: Özellikle özellik sayısı ($n$) çok yüksek olduğunda ($n > 10000$ gibi), $(X^T X)^{-1}$ matrisinin tersini almak çok maliyetli ve yavaş olabilir (yaklaşık $O(n^3)$ karmaşıklık).
- Tersinir Olmama Durumu: Eğer $X^T X$ matrisi tersinir değilse (yani determinantı sıfırsa veya sütunları doğrusal bağımlıysa), Normal Denklemi doğrudan uygulayamazsın. Bu durum genellikle çok fazla fazla özellik olduğunda veya özelliklerin birbirine çok benzediği durumlarda ortaya çıkar.
💡 İpucu: Az sayıda özelliğin (örneğin birkaç bin) varsa Normal Denklem harika bir seçenektir. Ancak özellik sayın çok fazlaysa, Gradyan İnişi gibi iteratif yöntemler genellikle daha hızlı ve pratik bir çözüm sunar.
