www-ai.cs.tu-dortmund.de/LEHRE/VORLESUNGEN/KDD/SS12/FOLIEN/5SVM2.pdf
Wissensentdeckung Vorlesung - SVM – Kernfunktionen, Regularisierung
d = 2, ~xi, ~xj ∈ R2.
K2(~xi, ~xj) = 〈~xi, ~xj〉2
= ((xi1 , xi2) ∗ (xj1 , xj2))2 = (xi1xj1 + xi2xj2)2
= x2i1x 2 j1 + 2xi1xj1xi2xj2 + x2i2x
2 j2
= (x2i1 , √
2xi1xi2 , x 2 i2) ∗ (x2j1 ,
√ 2xj1xj2 , x
2 j2) [...] minimieren, um ~x zu finden.
~x = argmin ‖ ~β − φ(~x) ‖2
= argmin〈β, β〉 − 〈2β, φ(~x)〉+ 〈φ(~x), φ(~x)〉 = argmin〈β, β〉 − 2f(~x) +K(~x, ~x)
Minimum von K(~x, ~x)− 2f(~x) (Gradientenabstieg) kann das Pre-Image von [...] = 1, falls ~xi ∈ A, sonst yi = −1. Definiere ~β =
∑ yk ~xk und β0 = y0
2 . Dann gilt ~β ~x0 + β0 = y0
2 und ~β ~xi + β0 = yi + y0
2 . Also: ~β~x+ β0 trennt A. V Cdim(Rp) ≤ p+ 1 : Zurückführen auf die beiden …
