Sinüs Kosinüs Algoritması ile Çok Katmanlı Algılayıcı Eğitimi

Abstract

Yapay sinir ağlarının (YSA) eğitilmeleri açısından, meta-sezgisel yöntemlerin geleneksel, eğim tabanlı yöntemlere göre üstünlükleri, bilimsel yazındaki çok sayıda çalışma ile gösterilmiştir. Bu çalışmanın amacı, bir YSA türü olan Çok Katmanlı Algılayıcı (ÇKA) eğitimindeki başarım açısından, bir meta-sezgisel en iyileştirme yöntemi olan Sinüs Kosinüs Algoritması (SKA) ile iki başka yöntemin (parçacık sürü en iyileştirmesi (PSEİ) ve yarasa algoritması (YA)) karşılaştırılmasıdır. Bütün yöntemlerin, Kaliforniya Üniversitesi, Irvine, Yapay Öğrenme Kaynağı üzerinden alınan beş hastalık ile ilgili veri kümesinde (göğüs kanseri, diyabet, karaciğer, omurga ve parkinson) ikili sınıflandırmadaki başarım değerlendirmeleri yapılmıştır. Deney sonuçlarında, SKA ile eğitilen ÇKA’lar %97’ye varan yüksek doğruluk oranlarına ulaşmıştır. Yöntem, YA’dan büyük çoğunlukla daha yüksek, PSEİ’den büyük çoğunlukla daha düşük başarım göstermiştir. PSEİ yöntemi genel olarak daha yüksek başarı gösterse de, SKA yöntemi de bir veri kümesinde en yüksek, kalan veri kümelerinin biri dışında hepsinde ikinci en yüksek eğitim başarımını göstermiştir. İncelenen yöntem arama uzaylarında, hem yüksek keşfetme ve yerel en iyiden kaçınma, hem de amaçlanan değerlere yüksek yakınsama hızları göstermektedir. Bu sonuçlar, SKA’nın ÇKA eğitiminde yetkin ve etkili olabildiğini ortaya koymaktadır.

The superiority of metaheuristic methods over conventional, gradient-based methods, in terms of training artificial neural networks (ANN), has been shown with numerous studies in the literature. The aim of this study is to compare the Sine Cosine Algorithm (SCA), which is a metaheuristic optimization method, with two other methods (particle swarm optimization (PSO) and bat algorithm (BA)) in terms of the performance in Multilayer Perceptron (MLP) training, which is a type of ANN. Performance evaluations of all methods on binary classification were made on five datasets which are related with diseases (breast cancer, diabetes, liver disorders, vertebral column, and parkinsons) obtained from the University of California, Irvine, Machine Learning Repository. In the results of the experiments, the MLPs which were trained with the SCA have achieved high accuracy rates up to 97%. The method performed mostly higher than the BA and mostly lower than the PSO. Although the PSO method showed higher success in general, the SCA method also showed the highest training performance in one dataset and the second highest in all but one of the remaining datasets. In the search spaces, the investigated method shows both high exploration and avoidance of local optimum, as well as high convergence rates to the aimed values. These results reveal that, the SCA can be competent and effective at training the MLP.