### 3.5 Seleksi Fitur

Pada subbab sebelumnya, telah dijelaskan bahwa kita dapat mentransformasi
_data_  _non-linearly separable_ menjadi _linearly separable_ dengan cara menam-

(^3) https://en.wikipedia.org/wiki/ _Hyperplane_
(^4) Silakan baca teknik transformasi lebih lanjut pada literatur lain.


```
3.6 Classification, Association, Clustering 45
```
bah dimensi data. Pada bab ini, penulis akan menjelaskan justru kebalikannya!
Pada permasalahan praktis, kita seringkali menggunakan banyak fitur
( _computationally expensive_ ). Kita ingin menyederhanakan fitur-fitur yang digunakan,
misalkan dengan memilih subset fitur awal, atas dasar beberapa
alasan [22, 4]:^5

1. Menyederhanakan data atau model agar lebih mudah dianalisis.
2. Mengurangi waktu _training_ (mengurangi kompleksitas model dan infer-
    ensi).
3. Menghindari _curse of dimensionality_. Hal ini dijelaskan lebih lanjut pada
    bab 12.
4. Menghapus fitur yang tidak informatif.
5. Meningkatkan generalisasi dengan mengurangi _overfitting_.
    Salah satu contoh cara seleksi fitur adalah menghapus atribut yang memiliki _variance_
bernilai 0. Berdasarkan _information theory_ atau _entropy_, fitur
ini tidak memiliki nilai informasi yang tinggi. Dengan kata lain, atribut yang
tidak dapat membedakan satu kelas dan lain bersifat tidak informatif. Kamu
dapat membaca beberapa contoh algoritma seleksi fitur pada library sklearn.^6

