www-ai.cs.tu-dortmund.de/LEHRE/VORLESUNGEN/KDD/SS10/2MLVbiasVariance.de.pdf
Vorlesung Wissensentdeckung - Klassifikation und Regression: Lineare Modelle
vorhergesagt werden sollen:
ŷ = {
+1, falls f̂ (~x) ≥ θ −1, sonst
Hier ist θ ein vorgegebener Schwellwert.
7 von 43
LS 8 Informatik Computergestützte Statistik Technische Universität Dortmund
Lineare Modelle zur [...] jedes Beispiel ~x = (x1, . . . , xp) aufgefasst wird als (p+ 1)-dimensionaler Vektor
(x1, . . . , xp) 7→ (1, x1, . . . , xp)
Dies ermöglicht die Darstellung von f als:
y = f (~x) = p∑ i=0
βixi = ~xT ~β
11 [...] durch
f̂p(~x) = β̂T~x
Der Fehler ist dann für ein beliebiges ~x:
Err(~x) = E[(Y − f̂p(~x))2|X = ~x] (7)
= σ2 ε + V ar(f̂p(~x) +
[ f(~x)− Ef̂p(~x)
]2 (8)
Im Mittel über allen ~xi ist V ar(f̂p) = (p/N)σ2. …