### 2.7 Teori Keputusan

Diberikan himpunan pasangan data _input-output_ (xi,yi);x = input,y =
_output_ / _target_ ; walaupun tidak pasti, kita ingin mengestimasi hubungan antara _input_ dan _output_.
Untuk itu kita melakukan estimasip(y|x,w), dimana
wadalah _learning parameters_. Pada bab pertama, kamu telah mempelajari
bahwa kita mampu melakukan hal ini dengan teknik _machine learning_. Lebih
jauh lagi, kita juga harus mampu untuk membuat keputusan berbasiskan
perkiraan nilaiy, aspek ini disebut _decision theory_ [8].
Dalam _machine learning_ kita dapat membangun model dengan tujuan
untuk meminimalkan _error_ (secara umum meminimalkan _loss_ ); konsep meminimalkan _error_ dijelaskan
pada materi model linear (bab 5). Ibaratnya untuk
sebuah robot, kita ingin robot tersebut tidak melakukan tindakan yang
salah. Tetapi, kadang kala meminimalkan _error_ belum tentu membuat model
menjadi lebih baik. Kami ilustrasikan menggunakan contoh dari Bishop [8].


```
2.7 Teori Keputusan 31
```
Misalkan kita diminta untuk membuat model klasifikasi kanker. Kita dapat
mengklasifikasikan pasien menjadi dua kelas{kanker, _norm_ al}.
Apabila kita ingin meminimalkan _error_ saja maka kita ingin mengklasifikasikan
secara tepat orang yang kanker dianggap memiliki kanker dan yang
tidak dianggap sebagai tidak. Akan tetapi, terdapat _tradeoff_ yang berbeda
saat salah klasifikasi. Apabila kita mengklasifikasikan orang yang normal sebagai
kanker, konsekuensi yang mungkin adalah membuat pasien menjadi
stres atau perlu melakukan pemeriksaan ulang. Tetapi bayangkan, apabila
kita mengklasifikasikan orang kanker sebagai normal, konsekuensinya adalah
penanganan medis yang salah. Kedua kasus ini memiliki beban yang berbeda.
Secara sederhana, kesalahan klasifikasi bisa memiliki bobot berbeda untuk
tiap kelasnya. Untuk penyederhanaan pembahasan, pada buku ini, kita
anggap kesalahan klasifikasi memiliki bobot yang sama.
Fungsi tujuan pembelajaran (secara umum untuk merepresentasikan _error_
atau _loss_ ) dituangkan dalam _utility function_. Sekali lagi kami tekankan,
tujuan _machine learning_ adalah memaksimalkan kinerja. Kinerja diukur
berdasarkan _utility function_. _Loss_ adalah ukuran seberapa dekat atau
berbeda model yang dihasilkan dengan konsep asli, sementara _error_
adalah salah satu fungsi untuk mengukur _loss_.
Untuk mengukur nilai _loss_ ; dapat diekspresikan dengan _loss function_. Secara
umum, ada dua macam _loss_, yaitu _generalization loss/error_ dan
_training loss/error_. _Generalization loss/error_ adalah ukuran sejauh mana
algoritma mampumemprediksi _unobserved data_ dengan tepat, karena kita
hanya membangun model dengan data yang terbatas, tentunya bisa saja terdapat
ketidakcocokan dengan data yang asli. Sedangkan _training loss/error_
seperti namanya, ukuran _loss_ saat _training_. Misalkanq(x) adalah distribusi
_data_  asli. Menggunakan sampel data dengan distribusip(x), _generalization_
_loss_ dan _training loss_ dapat dihitung dengan persamaan 2.13. Fungsi ini disebut
sebagai _cross entropy loss_. Perhatikan, masih banyak fungsi lain yang
bisa digunakan untuk mengukur _loss_.

#### H=−

#### ∑N

```
i=1
```
```
q(x)log (p(x)) (2.13)
```
Tentunya sekarang kamu bertanya-tanya. Kita tidak mengetahui bagaimana
q(x) aslinya, bagaimana cara menghitung _generalization loss_ ? Nah, untuk itulah
ada teknik-teknik pendekatan distribusi populasiq(x), misalnyamaximum
_likelihood_  method, maximum posterior methoddanBayesian
method(silahkan dieksplorasi). Ekspektasi terhadap biasanyaq(x) diaproksimasi
dengan menggunakan data sampel yang kita miliki. Bentuk persamaan 2.13
memiliki kaitan dengan _confidence_. Konsep ini akan dijelaskan lebih detil pada
bab 5.
Secara lebih filosofis, berkaitan dengan meminimalkan _loss_ ; tugasmachine
_learning_ adalah untuk menemukan struktur tersembunyi (discovering hidden
structure). Hal ini sangat erat kaitannya dengan _knowledge discovery_ dan _data_


32 2 Fondasi Matematis

mining. Bila kamu membuka forum di internet, kebanyakan akan membahas
perihal _learning machine_ yang memaksimalkan akurasi (meminimalkan _error_ ).
Selain harus memaksimalkan akurasi (meminimalkan salah _assignment_ ),
kita juga harus mampu membuat model yang cukup generik. Artinya tidak
hanya memiliki kinerja tinggi pada _training data_, tapi juga mampu memiliki
kinerja yang baik untuk _unseen data_. Hal ini dapat tercapai apabila model
yang dihasilkan melakukan inferensi yang mirip dengan inferensi sebenarnya
(konsep asli). Kami tekankan kembali, meminimalkan _loss_ adalah hal yang
lebih penting, dimana meminimalkan _error_ dapat digunakan sebagai sebuah
_proxy_ untuk mengestimasi _loss_ (pada banyak kasus).

