OpenAI Perkuat Mitigasi Risiko AI
Jakarta, NU Media Jati Agung– OpenAI membuka lowongan kerja untuk posisi Head of Preparedness atau Kepala Kesiapsiagaan sebagai langkah mitigasi risiko kecerdasan buatan, menyusul sejumlah kasus bunuh diri yang dikaitkan dengan interaksi pengguna bersama ChatGPT.
CEO OpenAI, Sam Altman, mengumumkan lowongan tersebut melalui unggahan di platform X. Dalam unggahan itu, Altman mengakui bahwa peningkatan pesat model AI menghadirkan “beberapa tantangan nyata,” termasuk dampak pada kesehatan mental masyarakat serta ancaman senjata keamanan siber berbasis AI.
Tugas Strategis Kepala Kesiapsiagaan AI
OpenAI menjelaskan bahwa posisi tersebut bertugas memetakan seluruh potensi kegagalan AI agar perusahaan dapat mencegah risiko serius sejak dini.
Kandidat terpilih harus mampu melacak kemampuan mutakhir AI yang memunculkan bahaya baru serta membangun evaluasi dan mitigasi keselamatan yang terukur.
Lowongan itu juga menyebutkan bahwa pejabat tersebut akan memimpin langsung pengembangan evaluasi kemampuan, pemodelan ancaman, serta mitigasi yang membentuk sistem keselamatan AI secara terintegrasi dan dapat diskalakan.
Pengamanan Model dan Batasan Sistem AI
Selain itu, OpenAI memberikan tanggung jawab tambahan kepada posisi tersebut untuk menjalankan “kerangka kesiapan” perusahaan.
Peran ini juga mencakup pengamanan model AI sebelum peluncuran kemampuan biologis serta penetapan batasan bagi sistem yang memiliki kemampuan belajar mandiri.
Langkah ini menegaskan upaya OpenAI dalam memperketat pengawasan terhadap pengembangan teknologi AI berisiko tinggi.
Gugatan Hukum dan Kasus Bunuh Diri
Dalam beberapa waktu terakhir, OpenAI menghadapi gelombang gugatan hukum di Amerika Serikat.
Sejumlah keluarga menuduh ChatGPT berkontribusi terhadap kematian anggota keluarga mereka melalui interaksi digital yang intens.
Salah satu kasus menimpa Zane Shamblin (23), lulusan master Texas A&M University. Pada 25 Juli 2024 dini hari, Zane memilih berbicara dengan ChatGPT di dalam mobilnya sebelum bunuh diri.
Dokumen gugatan yang dilansir CNN memuat transkrip percakapan terakhir tersebut.
Kesaksian Keluarga Korban di Hadapan Kongres AS
Kasus serupa menimpa Adam Raine (16) dari California. Orang tuanya menggugat OpenAI dan Sam Altman pada Agustus 2024. Dalam kesaksian di hadapan Kongres AS, ayah Adam menyampaikan, “Apa yang dimulai sebagai pembantu pekerjaan rumah (PR), perlahan berubah menjadi teman curhat, lalu menjadi pelatih bunuh diri,” sebagaimana dikutip dari laporan Independent.
Gugatan tersebut menuduh ChatGPT memberikan instruksi rinci terkait metode bunuh diri serta saran untuk merahasiakan niat tersebut.
Data Internal OpenAI soal Risiko Mental
OpenAI mengungkapkan data internal yang menunjukkan sekitar 0,15 persen pengguna ChatGPT terlibat dalam percakapan yang mengindikasikan perencanaan bunuh diri.
Dengan sekitar 800 juta pengguna aktif mingguan, angka tersebut setara dengan 1,2 juta orang.
Data ini memperkuat urgensi OpenAI dalam memperketat sistem mitigasi risiko AI demi keselamatan pengguna. (ARIF)