- Source: Pertidaksamaan Jensen
Pertidaksamaan Jensen adalah sebuah temuan matematika awal abad 19 yang masih dipakai sampai sekarang, termasuk di algoritma EM. Algoritma EM itu sendiri banyak dipakai untuk memecahkan persoalan di model rumit yang melibatkan variabel laten (tersembunyi) seperti LDA, atau Gaussian Mixture Model yang lainnya. Intinya, pertidaksamaan Jensen menyatakan bahwa garis sekan dari sebuah fungsi konveks senantiasa terletak di atas grafik fungsi tersebut. Dengan jabaran lebih presisinya (dalam setting probabilistik) adalah sebagai berikut:
E
[
f
(
x
)
]
≥
f
(
E
[
x
]
)
{\displaystyle E[f(x)]\geq f(E[x])}
Secara analitis, dapat juga dimodelkan sebagai berikut:
t
f
(
x
1
)
+
(
1
−
t
)
f
(
x
2
)
≥
f
(
t
x
1
+
(
1
−
t
)
x
2
)
{\textstyle tf(x_{1})+(1-t)f(x_{2})\geq f(tx_{1}+(1-t)x_{2})}
Dalam gambar, garis sekan (tali busur) merah yang dimodelkan dengan persamaan:
(
x
,
y
)
=
(
t
x
1
+
(
1
−
t
)
x
2
,
t
f
(
x
1
)
+
(
1
−
t
)
f
(
x
2
)
)
{\textstyle (x,y)={\Bigl (}tx_{1}+(1-t)x_{2},tf(x_{1})+(1-t)f(x_{2}){\Bigr )}}
Senantiasa
y
{\displaystyle y}
dari garis tersebut berada di atas
y
{\displaystyle y}
dari kurva:
(
x
,
y
)
=
(
t
x
1
+
(
1
−
t
)
x
2
,
f
(
t
x
1
+
(
1
−
t
)
x
2
)
)
{\textstyle (x,y)={\Bigl (}tx_{1}+(1-t)x_{2},f(tx_{1}+(1-t)x_{2}){\Bigr )}}
Bacaan lanjut
David Chandler (1987). Introduction to Modern Statistical Mechanics. Oxford. ISBN 0-19-504277-8.
Tristan Needham (1993) "A Visual Explanation of Jensen's Inequality", American Mathematical Monthly 100(8):768–71.
Nicola Fusco, Paolo Marcellini, Carlo Sbordone (1996). Analisi Matematica Due. Liguori. ISBN 978-88-207-2675-1. Pemeliharaan CS1: Banyak nama: authors list (link)
Walter Rudin (1987). Real and Complex Analysis. McGraw-Hill. ISBN 0-07-054234-1.
Kata Kunci Pencarian:
- Pertidaksamaan
- Pertidaksamaan Jensen
- Pertidaksamaan Cauchy–Schwarz
- Daftar topik probabilitas
- Fungsi cembung
- Daftar topik analisis real
- Yesus
- Daftar masalah matematika yang belum terpecahkan
