### 1.4 Statistical Learning Theory

Pada masa sekarang ini data bertebaran sangat banyak dimana-mana. Pemrosesan
_data_  secara manual tentu adalah hal yang kurang bijaksana. Beberapa
pemrosesan data yang dilakukan seperti kategorisasi (kategorisasi teks
berita), peringkasan dokumen, ekstraksi informasi (mencari subjek, objek,
dan relasi diatara keduanya pada teks), rekomendasi produk berdasarkan

(^6) KBBI Web, diakses pada 10 Oktober 2016


```
1.4 Statistical Learning Theory 9
```
catatan transaksi, dll [7]. Tujuan _machine learning_ minimal ada dua:memprediksi
masa depan( _unobserved event_ ); dan/ataumemperoleh ilmu
pengetahuan( _knowledge discovery/discovering unknown structure_ ). Kedua
hal ini berkaitan sangat erat. Sebagai contoh, manusia tahu bahwa cara menggunakan
pensil dan pulpen sama, walaupun saat kita belum pernah menggunakan
pulpen (penulis berasumsi kamu belajar menulis menggunakan pensil).
Memprediksi masa depan berarti kita tahu bahwa pulpen adalah alat tulis.
_Knowledge discovery_ berarti kita tahu bahwa cara menggunakan pulpen dan
pensil itu sama, walaupun belum pernah menggunakan pulpen sebelumnya.^7
Untuk mencapai tujuan tersebut, kita menggunakan data (sampel), kemudian
membuat model untuk menggeneralisasi “aturan” atau “pola” data sehingga
kita dapat menggunakannya untuk mendapatkan informasi/membuat
keputusan [8, 9]. _Statistical learning theory_ (yang diaplikasikan padamachine
_learning_ ) adalah teknik untuk memprediksi masa depan dan/atau menyimpulkan/mendapatkan
pengetahuan dari datasecara rasional dan nonpara _norm_ al.
Hal ini sesuai dengan konsep _intelligent agent_, yaitu bertingkah
berdasarkan lingkungan. Dalam hal ini, yang bertindak sebagai lingkungan
adalah data. _Performance measure_ -nya adalah seberapa akurat prediksi agen
tersebut atau seberapa mirip “pola” data yang d _item_ ukan terhadap data asli.
Disebut _statistical_ karena basis pembelajarannya memanfaatkan banyak teori
statistik untuk melakukan inferensi (misal memprediksi _unobserved event_ ).^8

```
Gambar 1.3: Ilustrasi makanan pesta 1.
```
Perhatikan Gambar 1.3 (permasalahan yang disederhanakan). Misalkan
kamu diundang ke suatu pesta. Pada pesta tersebut ada 3 jenis kue yang disajikan.
Kamu ingin mengetahui berapa rasio kue yang disajikan dibandingkan
masing-masing jenisnya (seluruh populasi). Tetapi, karena susah untuk menganalisis
seluruh data atau keseluruhan data tidak tersedia, kamu mengam-

(^7) Baca _zero-shot learning_
(^8) Selain itu, _machine learning_ juga banyak memanfaatkan teori aljabar linier.


10 1 Pengenalan

```
Gambar 1.4: Ilustrasi makanan pesta 2.
```
bil beberapa sampel. Dari sampel tersebut, kamu mendapati bahwa ada 4
buah kue segi empat, 3 buah kue hati dan 2 buah kue segitiga. Lalu kamu
menyimpulkan ( _model_ ) bahwa perbandingan kuenya adalah 4:3:2 (segiempat:hati:segitiga).
Perbandingan tersebut hampir menyerupai kenyataan seluruh
kue yaitu 4:2.67:2. Cerita ini adalah kondisi ideal.
Perhatikan Gambar 1.4, temanmu Haryanto datang juga ke pesta yang
sama dan ingin melakukan hal yang sama (rasio kue). Kemudian ia mengambil
beberapa sampel kue. Dari sampel tersebut ia mendapati bahwa ada 3 buah
segiempat, 3 buah hati dan 2 buah segitiga, sehingga perbandingannya adalah
3:3:2. Tentunya hal ini sangat melenceng dari populasi.
Dari dua sampel yang berbeda, kita menyimpulkan, meng _infer_ ensi ( _infer_ )
atau mengeneralisasi dengan berbeda. Kesimpulan yang kita buat berdasarkan
sampel tersebut, kita anggap merefleksikan populasi, kemudian kita menganggap
populasi memiliki aturan/pola seperti kesimpulan yang telah kita ciptakan
[10]. Baik pada statistika maupun _statistical machine learning_, pemilihan
sampel (selanjutnya disebut _training data_ ) adalah hal yang sangat penting.
Apabila _training data_ tidak mampu merepresentasikan populasi, maka
_model_  yang dihasilkan pembelajaran ( _training_ ) tidak bagus. Untuk itu, biasanya
terdapat juga _validation data_ dan _test data_. Mesin dilatih menggunakan _training_
_data_, kemudian diuji kinerjanya menggunakan _validation data_ ^9
dan _test data_. Seiring dengan membaca buku ini, konsep _training data_, _validation_
_data_, dan _test data_ akan menjadi lebih jelas. Cara mengevaluasi apakah
sampel ( _data_ ) yang kita miliki cukup “bagus” untuk merepresentasikan populasi
sangat bergantung pada domain dan aplikasi.
Seperti halnya contoh sederhana ini, persoalan _machine learning_ sesungguhnya
menyerupai persoalan _statistical inference_ [10]. Kita berusaha mencari
tahu populasi dengan cara menyelidiki fitur ( _features_ atau sifat-sifat)
yang dimiliki sampel. Kemudian, meng _infer_ ensi aksi yang harus dilakukan

(^9) Pada umumnya bertindak sebagai _stopping criterion_ saat proses _training_.


```
1.5 Training, Validation, Testing Set 11
```
terhadap _unobserved data_ berdasarkan kecocokan fitur-fitur _unobserved data_
dengan model/aturan yang sudah ada.
Dari sisi metode pembelajaran, algoritma _machine learning_ dapat dikategorikan
sebagai: _supervised learning_ (subbab 1.6), _semi-supervised learning_
(subbab 1.8), _unsupervised learning_ (subbab 1.9), dan _reinforcement learning_.
Masing-masing metode akan dibahas pada subbab berikutnya (kecuali
_reinforcement learning_, karena diluar cakupan buku ini).

