Perlombaan AI Self-Improving Picu Kekhawatiran Ancaman Kiamat

JAKARTA — Kemampuan sistem kecerdasan buatan atau AI untuk memperbaiki dirinya sendiri tanpa campur tangan manusia perlahan-lahan bergerak dari ranah fiksi ilmiah menuju kenyataan. Berbagai kalangan ahli kini menaruh perhatian serius terhadap fenomena yang disebut recursive self-improvement (RSI), sebuah kondisi di mana model AI mampu membangun versi yang lebih canggih dari dirinya sendiri tanpa arahan manusia.

Kekhawatiran ini bukan tanpa dasar. Semakin canggih sistem yang dihasilkan, semakin sulit pula bagi manusia untuk mengendalikannya. Sejumlah peneliti di laboratorium AI terkemuka menyebut bahwa proses pelatihan model baru telah jauh lebih terotomatisasi, mendekati ambang batas yang oleh para pengamat disebut sebagai "Rubicon RSI".

Otomatisasi Pelatihan Model Semakin Meluas

Laporan terbaru mengungkap bahwa sebuah perusahaan AI menyatakan pihaknya telah sebagian besar mengotomatiskan pelatihan model eksperimental baru. Sistem AI menjalankan eksperimen sesuai arahan manusia, sekaligus mengoreksi sebagian besar pekerjaan mereka sendiri.

Hal serupa juga disampaikan oleh Anthropic. Perusahaan itu mengungkapkan bahwa pelatihan AI mereka semakin terotomatisasi, dengan AI memimpin sekitar 26 persen pekerjaan riset dan pengembangan perusahaan. Sementara itu, AI turut berkolaborasi dalam 90 persen pekerjaan yang dilakukan Anthropic.

"Sistem AI menjadi semakin kuat, dan mereka semakin sering digunakan untuk membangun versi berikutnya dari diri mereka sendiri."

Pernyataan tersebut menegaskan bahwa garis pemisah antara alat dan pencipta semakin kabur. Jika tren ini berlanjut, manusia berpotensi kehilangan kendali atas sistem yang seharusnya mereka kendalikan.

Antara Kemajuan Teknologi dan Risiko Eksistensial

Namun, tidak semua pihak melihat perkembangan ini sebagai tanda bahaya. Sejumlah kritikus menilai bahwa tonggak tersebut lebih merupakan buah dari otomatisasi pengodean ketimbang penanda kehancuran yang tak terhindarkan atau munculnya kekuatan super AI.

Kendati demikian, kombinasi antara kurangnya kendali manusia dan keberadaan agen AI yang menyimpang tetap menjadi skenario yang lama dikhawatirkan para peneliti yang peduli pada aspek keselamatan AI. Ambang batas RSI memang tidak otomatis menandakan bahaya, tetapi hilangnya kendali manusia di tengah sistem yang terus berkembang menjadi peringatan serius.

• Recursive self-improvement (RSI) memungkinkan AI membangun versi lebih baik tanpa bimbingan manusia.
• Anthropic menyebut AI memimpin sekitar 26 persen pekerjaan riset dan pengembangan mereka.
• AI berkolaborasi pada 90 persen pekerjaan di perusahaan tersebut.
• Kritikus menilai capaian ini masih sebatas otomatisasi pengodean, bukan tanda kiamat AI.

Urgensi Pengawasan Manusia

Perdebatan mengenai RSI pada akhirnya bermuara pada satu pertanyaan mendasar: sejauh mana manusia masih memegang kendali? Para pengembang dan regulator dituntut untuk memperkuat mekanisme pengawasan sebelum teknologi ini melampaui kemampuan manusia untuk menghentikannya.

Perlombaan menuju AI yang mampu memperbaiki diri sendiri bukan sekadar kompetisi teknologi, melainkan ujian bagi kebijaksanaan umat manusia dalam mengelola ciptaannya. Tanpa tata kelola yang ketat, ambang batas RSI bisa berubah dari pencapaian ilmiah menjadi titik balik yang tak dapat ditarik kembali.