Pemanfaatan Artificial Intelligence (AI) terutama Machine Learning (ML) semakin banyak ditemui dalam berbagai hal termasuk pengambilan keputusan. Hal ini menimbulkan kebutuhan untuk memperoleh explanation dari prediksi model ML sebagai akuntabilitas dan kepercayaan terhadap sistem AI. Penelitian ini menggunakan abduction yang terdapat pada pendekatan logika untuk memperoleh minimal explanations yang valid secara formal dari suatu prediksi model Artificial Neural Network (ANN) berbasiskan Rectified Linear Unit (ReLU). Peneli-tian ini melakukan implementasi terhadap algoritma subset-minimal dan algoritma cardinality-minimal yang telah ada sebelumnya. Selain itu, penelitian ini mengajukan algoritma randomized-subset-minimal sebagai bentuk pengembangan dari kedua algoritma. Eksperimen menunjukkan bahwa algoritma randomized-subset-minimal dapat menghasilkan explanation dengan ukuran yang lebih kecil daripada algoritma subset-minimal, dengan waktu komputasi yang jauh lebih efisien daripada algoritma cardinality-minimal.Abstrak Berbahasa Inggris:

---

Artificial Intelligence (AI), especially Machine Learning (ML) is prevalent today in many donations, including for decision making. It raises the need for explanations of predictions by ML models to guarantee the accountability and trust of the AI system. This research exploits abduction from logic for obtaining minimal explanations of predictions by Artificial Neural Network (ANN) with rectifier activation function. This research implements both subset-minimal and cardinality-minimal algorithms for finding those explanations. Furthermore, this research proposes randomized subset-minimal algorithm for improving the algorithms. The experiment shows that the proposed algorithm is able to give explanations with a smaller size than the subset-minimal algorithm with computation time that much efficient than the cardinality-minimal algorithm.