ABSTRAK
Dalam beberapa tahun terakhir, Deep Learning DL telah menarik banyak perhatian dalam penelitian pemelajaran mesin. Metode ini telah berhasil dipakai untuk berbagai aplikasi pada pemrosesan suatu, robotika, pengenalan fonetik, pencarian informasi dan bahkan analisa molekul. Meskipun DL telah berhasil sukses untuk diterapkan dalam berbagai bidang aplikasi, training yang diperlukan pada metode ini tidaklah mudah. Sejumlah cara telah diusulkan untuk membuat proses training DL menjadi lebih optimal, beberapa diantanya dengan menambahkan proses pre-training, memutuskan beberapa jaringan dalam lapisan, ataupun mengganti fungsi aktivasi dan metode gradien standar yang dipergunakan. Disertasi ini menggunakan pendekatan lain dalam optimasi DL, yaitu memakai algoritme metaheuristik. Secara umum disertasi ini dibagi dalam dua bagian besar. Bagian pertama adalah studi awal penelitian yang difokuskan pada beberapa eksperimen yang berkaitan dengan algoritme metaheuristik dan aplikasi DL dalam klasifikasi citra. Bagian kedua dari disertasi berkaitan dengan penerapan algoritme metaheuristik dalam DL. Hasil pada bagian ini misalnya untuk optimasi metode Convolutional Neural Nework CNN menggunakan dataset CIFAR10, diperoleh untuk Top-1 error pada validasi adalah 99,05 . Hasil ini lebih baik dari nilai akurasi CNN asli sebesar 88,21 , fine-tuning CNN menggunakan Harmony Search yang diusulkan G. Rosa dkk sebesar 78,28 , dan bahkan State of the art saat ini sebesar 96,53 dengan Fractional Max-Pooling.
ABSTRACT
In recent years, deep Learning DL has drawn many attention in machine learning research. This method has been successfully used in various applications, such as sound process, robotics, phonetic identification, information retrieval, and even molecule analysis. Although DL has been successful to be applied in many fields, it is difficult to train in this method. Various attempts and methods has been proposed to make the DL training process become more optimum, some of them are by adding pre training process, drop out some networks in the layer, or by replacing activation function and standard gradient method being used. This dissertation takes another way to optimize a DL, i.e. using metaheuristic algorithms. Overall, this dissertation will be divided into two main parts. The first part is a preliminary study of research, focusing on several experiments which were related to the metaheuristic algorithm and DL application in image classification. The second part of this dissertation is related to application of metaheuristic algorithm in DL. The results in this part, for example, the optimization of CNN method using CIFAR10 dataset for Top 1 error in validation is 99.05 . This result is higher than the accuracy level from original CNN 88,21 , fine tuning CNN using Harmony Search suggested by G. Rossa et.al 78.28 , and even ldquo State of the art rdquo right now using Fractional Max Pooling 96.53 |
D-Laode Mohammad Rasdi Rere.pdf :: Unduh