www-ai.cs.tu-dortmund.de/de/LEHRE/PG/PG520/MATERIAL/MEMM.pdf
Unvorhersagbarkeit eines Ereignisses.
H X =− ∑ i=1
∣{rot ,blau}∣
pi⋅log2 pi
H X =−0,6log20,60,4log20,4≈0,97 H X =−log21=0
Bei der (möglichst) Gleichverteilung wird die maximale Entropie [...] and Segmentation09.10.07 3
Vorwort (2)
Beispiele
1. Rolle Erkennung:
Person
Roman
Organi- sation
2. Übersetzung aus dem englischen:
by
an bis mit
0,9 0,1
0,3 0,5 0,2
S
O
O
S
Zahlen sind die Wahscheinlickeiten [...] Information Extraction and Segmentation09.10.07 22
Viterbi Algorithmus
Zeitachse
s1
s2
s3
1 s2= max s ´∈S {0s ´ ⋅P s ´ s2∣o1}
t1 s = max s ´∈S {t s ´ ⋅P s ´ s∣ot1}
Maximum Entropy Markov Models …