Program Single Layer Perceptron dengan Java

Ini adalah pemrograman sederhana dengan menggunakan algoritma Perceptron untuk pembelajaran fungsi OR.

Source Code Dapat di download Disini

Read More

Algoritma Pembelajaran Perceptron

Perceptron termasuk salah satu bentuk jaringan yang cukup sederhana. Algoritma ini sering digunakan untuk mengklasifikasikan input yang bersifat linearly separable. Jaringan syaraf perceptron mempunyai satu layer dan bobot¬bobot sinaptik dan threshold yang bisa diatur. Selama proses pembelajaran, perceptron akan mengatur parameter secara continue selama iterasi, dan akan menghasilkan garis pemisah (Decision Boundar y) yang berfungsi untuk mengklasifikasikan himpunan stimulus yang diaplikasikan secara eksternal x 1, x 2, ... , x nke dalam salah satu dari dua kelas C1 dan C2. Kelas C1 adalah daerah positif dimana nilai = threshold (Φ), sedangkan kelas C2 adalah daerah negatif dimana nilai < threshold (Φ).

Secara teori, persamaan ini berfungsi untuk menciptakan decision boundar y yang membedakan kedua kelas secara akurat. Pengaturan threshold dapat mengatur pergeseran garis batasan keputusan.

Gb. Perceptron dengan decision boundaries untuk mengklasifikasikan dua kelas positif dan negatif.

Algoritma perceptron adalah proses pembelajaran yang melakukan perbaikan bobot-bobotnya pada setiap epoch (proses perulangan 1 kali untuk setiap data set input-output). Pada setiap epoch, jaringan akan mengkalkulasi error yang terjadi, kemudian nilai errorakan dijadikan parameter untuk proses perbaikan bobot sehingga tercipta nilai bobot yang baru. Proses ini akan berhenti jika errorsudah mencapai nilai minimum atau perulangan sudah mencapaimaximum epoch yang sudah ditentukan sebelumnya. Selain itu, proses pelatihan juga dipengaruhi oleh nilai laju pembelajaran(learning rate)

Read More

Fungsi Aktivasi

Fungsi Aktivasi (μ) mendefinisikan nilai output dari sebuah neuron pada level aktivasi tertentu berdasarkan nilai output dari pengombinasi linier. Fungsi ini dipakai untuk menentukan keluaran suatu neuron. Ada beberapa jenis fungsi aktivasi yang sering dipakai, yaitu :

A. Hard Limit (Tangga Biner)

Fungsi ini sering dipakai oleh jaringan dengan lapisan tunggal (single neural network) untuk penyelesaian masalah yang bersifat linier. Output dari fungsi ini adalah pengkonversian input yang bernilai continue menjadi bilangan biner (0 atau 1).

B. Symetric Hard Limit (Bipolar)

Fungsi ini adalah pengembangan dari fungsi Hard Limit, hanya saja fungsi ini mempunyai output antara 1, 0 atau 1.

C. Threshold

Fungsi ini adalah fungsi hasil modifikasi dari fungsi Hard Limit dengan menambahkan nilai threshold ( Ѳ ).

D. Bipolar Threshold

Fungsi hasil pengembangan dari fungsi threshold, dimana fungsi ini memiliki 3 nilai keluaran, yaitu 1, 0 atau 1.

E. Linear (Identity)

Fungsi ini mempunyai nilai keluaran yang sama dengan nalai masukannya (y = x).

F. Sigmoid Biner

Fungsi ini sering digunakan dalam jaringan Backpropagation. Fungsi ini memiliki sifat nonlinear sehingga sangat baik untuk diterapkan dalam penyelesaian masalah yang kompleks. Output dari fungsi Sigmoid Biner berupa bilangan biner (0 atau 1) atau output berupa nilai-nilai yang berada pada interval 0 sampai 1.

G. Sigmoid Bipolar (Symetric Sigmoid)

Fungsi ini fungsi sigmoid yang mempunyai interval nilai antara 1 sampai 1.

Read More

STRUKTUR DASAR JST

Sel syaraf atau neuron terdiri dari 3 elemen penting :

1. Fungsi Aktivasi yang mengatur output dari setiap neuron.

2. Mempunyai jalur / sinapsis yang berhubungan satu dengan yang lain dimana setiap hubungan memiliki weight / bobot.

3. Suatu fungsi tertentu untuk perhitungan nilai input (fungsi aktivasi).

Arsitektur Jaringan

a. Single Layer Network

Model ini adalah teknik matematis yang paling sederhana. Model ini pertama kali diperkenalkan oleh McCulloch dan Pitts.

Gb 1. Single Layer Network dengan 2 layer (input output)

Dalam jaringan ini, beberpa neuron(x) berhubungan langsung dengan layer output (y). Masing-masing input terhubung dengan bobot (w) dan menghasilkan output yang berbeda tergantung dari input yang ada. Selama proses learning, bobot-bobot akan dimodifikasi berdasarkan aturan tertentu guna menghasilkan keakuratan yang tepat. Model ini sangat cocok untuk teknik pengenalan pola dilihat dari tingkat kesederhanaannya.

b. Multi Layer Network

Jaringan ini merupakan pengembangan dari single layer network. Pada Model ini, jaringan mempunyai layer tambahan atau yang sering disebut dengan hidden layer. Keunggulan model ini adalah kemampuannya yang lebih untuk menghasilkan output yang lebih akurat dari model pertama. Tentunya dengan penambahan jumlah layer, teknik matematisnya pun akan semakin kompleks.

Gb 2. Multi Layer Network dengan 3 layer (input – hidden output)

c. Recurrent Networks

Arsitektur ini mempunyai alur untuk mengembalikan nilai output untuk memberikan sinyal ke layer input (feedback loop). Model ini setidakny harus memiliki minimal satu feedback loop. Recurrent Networks bisa ditingkatkan akurasinya dengan menambahkan hidden layer.

d. Competitive Layer Network

Arsitektur jaringan ini mempunyai bentuk yang unik, dimana semua neuron saling terhubung satu dengan yang lain.

Gb 4. Competitive Layer Network

Read More

Pengantar JST (Jaringan Saraf Tiruan)

Jaringan Syaraf Tiruan (JST) atau dalam bahasa inggris disebut Artificial Neural Networks (ANN) adalah sebuah metode yang sering diterapkan untuk teknik optimasi atau pengenalan pola (pattern recognition) dalam usaha untuk memecahkan suatu permasalahan. 

JST adalah salah satu metode yang termasuk dalam beberapa metode yang sudah diperkenalkan dalam bidang Soft Computing (SC). 

JST adalah suatu arsitektur jaringan yang terinspirasi oleh sistem kerja syaraf manusia (otak) dalam melaksanakan tugas. Para ilmuwan terinspirasi dengan sistem kerja otak yang mampu menangani berbagai permasalahan mulai dari yang sederhana sampai permasalahan yang kompleks dimana sebuah kemampuan learning yang efektif sangat dibutuhkan. Otak manusia dipenuhi selsel yang disebut neuron yang terhubung satu dengan yang lain. Manusia dewasa memiliki sekitar 100 milyar sel syaraf dan setiap sel syaraf terhubung dengan sekitar seribu hingga seratus ribu sel syaraf yang lain (sumber Tettamanzi.A, Tommasini.M, 2001, “Soft Computing”, Germany). Sistem syaraf yang sangat rumit ini mampu memberikan manfaat yang luar biasa bagi manusia. Sebagai contoh, manusia mampu mengenali sesuatu hanya dengan mendengar suaranya saja, atau hanya dengan melihat sebagian saja dari objek (informasi tidak lengkap). Kemudian, otak mempunyai “memori” yang mampu dibangkitkan kembali utuk mengenali objek-objek yang telah lalu.

Read More