Indonesia merupakan negara maritim terbesar di dunia dengan banyak sekali ikan yang hidup di perairan Indonesia Hal ini membuat sektor perikanan Indonesia memiliki banyak ancaman. Illegal, unreported, unregulated (IUU) fishing adalah salah satu permasalahan yang memiliki dampak yang cukup signifikan karena membuat kerugian yang cukup besar di sektor perikanan Indonesia. Untuk mencegah permasalahan tersebut, sudah banyak solusi yang diajukan, salah satunya adalah penerapan kuota untuk operasi penangkapan ikan serta pemasangan kamera pengawas, namun solusi tersebut belum memiliki dampak yang signifikan dalam mengurangi dan mencegah terjadinya IUU fishing. Oleh karena itu, penelitian ini dilakukan untuk mengembangkan sistem deteksi jenis ikan hasil tangkapan. Sistem dirancang menggunakan konsep object detection dan instance segmentation yang merupakan sebuah bidang dari machine learning, menggunakan toolbox MMDetection dengan algoritma Faster R-CNN dan GFL untuk metode object detection dan algoritma Mask R-CNN untuk metode instance segmentation. Dimana sistem tersebut merupakan model kecerdasan buatan yang dapat melakukan pendeteksian ikan untuk melakukan pengawasan terhadap jumlah ikan yang ditangkap oleh nelayan sehingga IUU fishing dapat berkurang secara signifikan. Sistem terbaik dari penelitian ini dihasilkan menggunakan model instance segmentation yang mendapatkan nilai mAP @50 0,758, besar F1-Score 0,761, dan membutuhkan waktu untuk pelatihan selama 7 jam 32 menit. Selain itu, model tersebut juga mendapatkan akurasi yang lebih baik sebanyak 20% dari perbandingan dengan model object detection.

---

Indonesia, as the world's largest maritime country, is home to a vast variety of fish species in its waters. This reality poses numerous threats to Indonesia's fisheries sector. One significant challenge is illegal, unreported, and unregulated (IUU) fishing, which has considerable detrimental effects and causes substantial losses to the Indonesian fisheries industry. Several solutions have been proposed to address this problem, including the implementation of fishing quotas and the installation of surveillance cameras. However, these solutions have not yielded significant impacts in reducing and preventing IUU fishing. Hence, this research aims to develop a fish species detection system. The system is designed based on the concepts of object detection and instance segmentation, which are subfields of machine learning. The research utilizes the MMDetection toolbox with the Faster R-CNN and GFL algorithms for object detection, as well as the Mask R-CNN algorithm for instance segmentation. This artificial intelligence-based system enables the detection of captured fish to monitor the quantity of fish caught by fishermen, thereby significantly reducing IUU fishing. The research's best-performing system employs the instance segmentation model, achieving an mAP@50 score of 0.758, an F1-Score of 0.761, and requires a training time of 7 hours and 32 minutes. Moreover, this model also demonstrates a 20% improvement in accuracy compared to the object detection model.