Perkuliahan 8 (12-11-2021)

 Neural Network 

    Neural Network adalah model yang terinspirasi oleh bagaimana neuron dalam otak manusia bekerja, Tiap neuron pada otak manusia saling berhubungan dan informasi mengalir dari setiap neuron tersebut.

    Tiap Neuron menerima input dan melakukan operasi dot dengan sebuah weight, menjumlahkannya (weighted sum) dan menambahkan. Hasil dari operasi ini akan dijadikan parameter dari activation yang akan dijadikan output dari neuron tersebut.

Struktur Neural Network

Karakteristik dari ANN dilihat dari pola hubungan antar neuron, metode penentuan bobot dari tiap koneksi, dan fungsi aktivasinya.

Penjelasan gambar Struktur ANN :

1. Input, berfungsi seperti dendrite

2. Output, berfungsi seperti akson, (hasil akhir atau sebagai inputan yang baru untuk neuron yang lainnya)

3. Fungsi aktivasi, berfungsi seperti snapsis

 Aktivation Function

    Aktivation Function berfungsi untuk menentukan apakah neuron tersebut harus "aktif" atau tidak berdasarkan dari weighted sum dari input/ secara umum terdapat 2 jenis activation function, Linear dan Non-Linear Activation Function.

Linear Function

    Jika sebuah neuron menggunakan linear function, maka keluaran dari neuron tersebut adalah wighted sum dari input.

Sigmoid & Tanh Function

    Sigmoid Function mempunyai rentang antara 0 hingga 1, sedangkan rentang dari Tanh adalah -1 hingga 1. Kedua Fungsi ini biasanya digunakan untuk klarifikasi 2 class atau kelompok data.

ReLu (Non Linear)

ReLu melakukan "treshold" dari 0 hingga infinity.

Fungsi Aktivasi

Macam Fungsi aktivasi yang dipakai untuk mengaktifkan net diberbagai jenis neural network :

1. Aktivasi Linear

Rumus :

2. Aktivasi Step

Rumus : 

3. Sigmoid Biner

Rumus :

4. Sigmoid Bipolar

Rumus : 

Model Perceptron

    Model Perceptron adalah model jaringan yang terdiri dari beberapa unit masukan (ditambah dengan sebuah bias) dan memiliki sebuah unit keluaran. Fungsi Aktivasi bukan hanya merupakan fungsi boner (0,1) melainkan bipolar (1,0,-1).

Rumus :

Ketentuan :

Perceptron Rule

    Algoritma yang digunakan oleh aturan perceptron ini akan mengatur parameter- parameter bebasnya melalui proses pembelajaran. Fungsi aktivasi ini dibuat sedemikian rupa sehingga terjadi pembatasan antara daerah positif dan daerah negatif