Studi Ungkap AI Mudah Terkecoh Saat Menganalisis Data Ilmiah
JAKARTA, NU Media Jati Agung ā Penelitian terbaru mengungkap bahwa kecerdasan buatan (AI) masih memiliki kelemahan saat menganalisis data ilmiah.
Tim peneliti dari Michigan State University menemukan bahwa AI mudah terkecoh ketika mengenali pola yang berkaitan dengan tanda kehidupan.
Temuan ini menunjukkan bahwa ilmuwan tetap harus memverifikasi hasil analisis AI sebelum menggunakannya sebagai dasar pengambilan keputusan.
AI Mencapai Akurasi Tinggi, tetapi Gagal Menghadapi Data Baru
Tim peneliti membuat simulasi digital yang menggambarkan organisme dengan kemampuan bereplikasi dan bermutasi sebagai indikator utama kehidupan.
Mereka kemudian menggunakan puluhan ribu organisme digital untuk melatih jaringan saraf tiruan (neural network).
Model AI tersebut belajar membedakan organisme yang mampu bereplikasi dengan organisme yang tidak.
Selama proses pelatihan, AI berhasil mencatat tingkat akurasi hingga 99,7 persen.
Namun, hasil tersebut tidak bertahan saat tim peneliti menguji AI menggunakan data baru yang belum pernah dipelajari sebelumnya.
Para peneliti lalu mengubah sedikit karakteristik organisme digital yang awalnya tidak dapat bereplikasi.
Ketika mereka menguji kembali data tersebut, AI justru memberikan klasifikasi yang keliru.
“Apa pun urutan perintah yang kami mulai, kami berhasil membodohi AI 100 persen setiap saat,” ujar salah satu peneliti, Ankit Gupta.
AI Keliru Mengenali Pola
Penelitian ini juga menemukan banyak variasi data yang mampu mengecoh AI.
Walaupun organisme digital hanya memiliki kemiripan dengan data pelatihan, AI tetap menganggapnya sebagai pola yang sudah dikenali.
Menurut anggota tim peneliti, Christoph Adami, temuan tersebut memperlihatkan kelemahan mendasar pada sistem kecerdasan buatan.
“AI memiliki kelemahan Achilles: ia bisa melihat sebuah pola dan sepenuhnya salah mengklasifikasikannya. Harus ada manusia yang mengawasi,” kata Adami.
Temuan Berpotensi Berdampak pada Berbagai Bidang
Tim peneliti menegaskan bahwa mereka masih menjalankan studi ini menggunakan simulasi digital, bukan data nyata dari misi luar angkasa. Mereka juga merancang penelitian ini secara khusus untuk menemukan titik lemah AI.
Karena itu, hasil penelitian belum tentu menggambarkan seluruh kondisi di dunia nyata.
Meski demikian, temuan tersebut tetap menjadi perhatian. Jika ilmuwan menggunakan AI tanpa proses verifikasi, teknologi ini berpotensi menghasilkan kesimpulan yang tidak akurat.
Risiko itu dapat muncul dalam misi pencarian kehidupan di Mars maupun analisis data teleskop modern.
Kelemahan AI juga dapat memengaruhi sektor lain, seperti diagnosis medis, analisis rekaman kamera keamanan, dan berbagai penelitian ilmiah yang mengandalkan pengenalan pola.
Pengawasan Manusia Tetap Menjadi Kunci
Para peneliti menegaskan bahwa AI tetap menjadi alat yang sangat bermanfaat untuk membantu analisis data dalam skala besar.
Teknologi ini mampu mempercepat proses pengolahan informasi dan mendukung pekerjaan ilmuwan.
Meski begitu, AI belum mampu menggantikan penilaian manusia sepenuhnya.
Peneliti tetap harus memeriksa setiap hasil analisis sebelum mengambil keputusan penting.
Mereka juga merekomendasikan agar ilmuwan selalu memverifikasi setiap temuan kritis yang dihasilkan AI.
Langkah tersebut dapat mengurangi risiko kesalahan sekaligus meningkatkan keakuratan hasil penelitian.Ā (Erwin Indra Saputra)