SAN FRANCISCO — Peneliti Anthropic Mundur dan Peringatkan Bahaya Kepunahan Akibat AI

Dunia teknologi global kembali diguncang oleh perdebatan sengit mengenai ancaman eksistensial kecerdasan buatan (AI). Perbincangan mengenai skenario terburuk atau AIpocalypse kian menguat menyusul pengunduran diri mendadak salah satu peneliti terkemuka dari Anthropic, Jacob Coxon. Langkah tersebut diambil bersamaan dengan rentetan insiden peretasan dan celah keamanan siber yang mengekspos kerentanan sistem AI modern.

Pernyataan pengunduran diri tersebut memicu kegemparan di kalangan akademisi, pembuat kebijakan, dan komunitas industri teknologi tinggi di Silicon Valley. Pasalnya, Coxon secara terbuka menyatakan kekhawatirannya bahwa laju perkembangan teknologi AI saat ini melaju tanpa kendali keamanan yang memadai.

"Teknologi ini berkembang pada kecepatan yang luar biasa, namun tanpa perlindungan sistemik yang cukup, AI berpotensi memusnahkan kita semua sebelum akhir dekade ini," ungkap Jacob Coxon dalam surat pengunduran dirinya.

Kronologi Rangkaian Insiden dan Pengunduran Diri

Kekhawatiran publik terhadap potensi bahaya AI tidak muncul secara tiba-tiba, melainkan dipicu oleh serangkaian peristiwa beruntun sepanjang beberapa pekan terakhir:

1. Rentetan Insiden Keamanan Siber: Sejumlah laboratorium kecerdasan buatan terkemuka menghadapi intrusi siber beruntun yang menunjukkan bahwa model-model mutakhir dapat dieksploitasi untuk tujuan destruktif.
2. Eskalasi Ketegangan Internal: Di internal Anthropic—pengembang model AI Claude—timbul friksi mendalam terkait percepatan komersialisasi produk yang dinilai mengesampingkan riset keselamatan dasar (AI safety).
3. Pernyataan Sikap dan Pengunduran Diri: Pada hari Rabu, Jacob Coxon resmi menyerahkan surat pengunduran dirinya dan mempublikasikan peringatan keras mengenai lintasan ancaman eksistensial AI.
4. Respon Regulator dan Komunitas Riset: Pernyataan tersebut langsung memicu desakan dari para regulator di Amerika Serikat dan Uni Eropa untuk segera memperketat audit keamanan terhadap seluruh pengembang frontier AI.

Dilema Komersialisasi versus Keselamatan Umat Manusia

Pengunduran diri Coxon mempertegas jurang pemisah antara orientasi bisnis korporasi teknologi dengan pertimbangan keselamatan jangka panjang. Meskipun perusahaan seperti Anthropic awalnya didirikan dengan misi utama membangun model AI yang aman dan terkontrol (aligned AI), tekanan kompetisi pasar global memaksa siklus peluncuran model berlangsung jauh lebih agresif.

Para pengamat teknologi menilai bahwa ancaman yang disorot oleh Coxon bukan sekadar fiksi ilmiah, melainkan risiko nyata yang mencakup beberapa aspek krusial berikut:

• Penyalahgunaan Otonom: Kemampuan model AI generasi berikutnya untuk mengeksekusi kode secara mandiri dan mengorkestrasi serangan siber skala besar tanpa intervensi manusia.
• Kerentanan Celah Keamanan: Ancaman kebocoran bobot model (model weights) ke pihak tidak bertanggung jawab akibat standar keamanan infrastruktur yang belum matang.
• Kegagalan Penyelarasan (Alignment Failure): Ketidakmampuan peneliti untuk menjamin bahwa tujuan akhir sistem AI supercerdas akan selalu sejalan dengan keselamatan dan nilai-nilai kemanusiaan.

Hingga saat ini, pihak manajemen Anthropic belum merilis tanggapan resmi secara terperinci terkait klaim yang dilontarkan oleh mantan penelitinya tersebut. Kendati demikian, peristiwa ini dipastikan akan menjadi katalis utama dalam pembentukan regulasi global yang lebih ketat terhadap ekosistem kecerdasan buatan.