Seorang balita berusia 4 tahun kehilangan nyawanya usai mengikuti rekomendasi dari teknologi AI. Anak perempuan dari Tsu, sebuah kota di Jepang, meninggal lantaran kekerasan yang ia alami setelah mengikuti perintah dari kecerdasan buatan (AI) untuk tak membawanya ke tempat perlindungan. Sang ibu dari anak tersebut pun ditahan dan mendapatkan hukuman atas kematian anaknya.
Dikutip dari laman Next Shark, pihak pemerintah memakai sistem AI yang sudah ia perkenalkan kepada masyarakat sejak tahun 2020. Dari teknologi AI itu, ada data yang sudah dikumpulkan dari sekitar 13 ribu kasus kekerasan anak dan menentukan apakah anak harus ditahan sementara atau tidak.
Dan di kasus ini, anak malang tersebut, mengikuti saran AI yang cuma 39% untuk membawanya ke tempat perlindungan.
Sebelumnya, pihak pusat konsultasi anak dilaporkan telah bertemu dengan ibu korban pada Februari 2022 usai mendapatkan kabar adanya memar di tubuh putrinya.
Namun, keputusan yang diambil hanyalah membiarkan sang anak tetap dalam pengasuhan ibunya sembari dijenguk petugas sesekali.
Saat itu, sang ibu mennjelaskan jika memar itu bukan karena kekerasan yang dilakukannya. Ia juga berjanji untuk mengiktui saran dari pihak konsultasi anak.
Gubernur Mie Katsuyuki Ichimi mencatat bahwa pemerintah telah menunjuk komite pihak ketiga yang tidak terkait dengan kasus tersebut untuk menyelidiki masalah itu.
"Angka yang ditunjukkan oleh sistem AI tidak lebih dari sebuah tolak ukur," ujarnya.
"Kami tidak dapat menarik kesimpulan sekarang apakah (cara sistem AI digunakan untuk membuat keputusan) 100% tepat," tandasnya.
Ilustrasi anak meninggal dunia (pexels.com)