Kontroversi Pernyataan Bos OpenAI soal Risiko Korban Jiwa dari AI

Pernyataan terbaru dari Sam Altman, CEO (Chief Executive Officer/direktur utama) OpenAI, kembali memantik perdebatan panas di dunia teknologi. Dalam sebuah forum diskusi, ia menyatakan bahwa munculnya korban jiwa akibat kecerdasan buatan atau AI (Artificial Intelligence) bukanlah alasan untuk menghentikan pengembangan teknologi ini. Baginya, kemajuan AI tetap harus dikejar meski risiko tersebut nyata. Pernyataan ini langsung menuai kritik dari berbagai kalangan, mulai dari peneliti keselamatan AI hingga masyarakat umum yang khawatir akan dampaknya.

Mengapa ini penting? Karena AI bukan lagi sekadar teknologi di laboratorium. Ia sudah merambah layanan kesehatan, transportasi otonom, sistem keuangan, hingga pertahanan negara. Jika risiko korban jiwa dianggap wajar, maka pertanyaannya: seberapa besar nyawa manusia yang boleh dikorbankan demi inovasi? Ibarat seperti membangun jembatan yang belum tentu kokoh, lalu membiarkan orang menyeberang sambil berharap tidak ada yang jatuh.

Logika di Balik Pernyataan Altman

Altman berargumen bahwa setiap teknologi besar selalu membawa risiko. Ia membandingkan AI dengan penerbangan komersial atau mobil. Pada awal kemunculannya, kecelakaan terjadi dan menelan korban. Namun, seiring waktu, regulasi dan pengembangan teknologi membuatnya jauh lebih aman. Dengan logika yang sama, ia meyakini AI akan melalui fase serupa. OpenAI, perusahaan di balik ChatGPT, disebutnya berkomitmen pada penelitian keselamatan (safety research) sambil tetap mempercepat inovasi.

Namun, banyak pihak menilai analogi ini cacat. AI bukan sekadar alat pasif. Ia adalah sistem otonom yang bisa mengambil keputusan sendiri, bahkan tanpa pengawasan manusia. Dalam konteks kendaraan otonom, misalnya, algoritma yang salah bisa menyebabkan kecelakaan fatal. Dalam bidang militer, AI bisa digunakan untuk senjata otonom yang memilih target tanpa campur tangan manusia. Di sinilah risiko korban jiwa menjadi sangat nyata dan sulit dikendalikan.

Respons Peneliti dan Aktivis Keselamatan AI

Kritik datang dari berbagai organisasi yang fokus pada keselamatan AI. Mereka menilai pernyataan Altman mencerminkan pola pikir move fast and break things yang berbahaya ketika diterapkan pada teknologi yang menyangkut nyawa. Seorang peneliti dari lembaga independen menyebut bahwa menerima korban jiwa sebagai hal wajar adalah bentuk kelalaian etis. "Kita tidak boleh menormalkan kematian sebagai biaya inovasi," ujarnya dalam sebuah diskusi panel tentang tata kelola AI.

Di sisi lain, sebagian pelaku industri memahami posisi Altman. Mereka berpendapat bahwa terlalu banyak regulasi justru bisa mematikan inovasi dan membuat perusahaan kalah bersaing. Namun, kelompok ini pun sepakat bahwa diperlukan kerangka kerja yang jelas untuk memitigasi risiko. Perdebatan pun bergeser dari sekadar "apakah AI berbahaya" menjadi "bagaimana mengelola bahaya itu tanpa menghentikan kemajuan".

Dampak bagi Pengembangan dan Regulasi AI

Pernyataan Altman berpotensi memengaruhi arah regulasi AI di berbagai negara. Uni Eropa tengah menyusun AI Act yang mengategorikan sistem AI berdasarkan tingkat risiko. Amerika Serikat juga mulai mendorong kerangka pengawasan, meski masih tarik ulur antara kepentingan industri dan keselamatan publik. Di Indonesia, diskusi tentang etika AI mulai mengemuka, terutama setelah maraknya penggunaan AI generatif di sektor kreatif dan pendidikan.

Jika pernyataan seperti ini terus bergema, ada kekhawatiran bahwa perusahaan teknologi akan lebih berani mengambil risiko. Padahal, dampaknya tidak hanya dirasakan oleh pengguna langsung, tetapi juga oleh masyarakat luas. Bayangkan sebuah sistem AI di rumah sakit yang salah mendiagnosis pasien, atau algoritma di platform media sosial yang memicu konflik sosial. Korban jiwa bisa datang dari berbagai bentuk, tidak selalu langsung terlihat.

Pada akhirnya, pernyataan Sam Altman menjadi cermin dilema besar abad ini: bagaimana menyeimbangkan antara inovasi yang mendorong kemajuan dan tanggung jawab moral terhadap keselamatan manusia. Teknologi boleh terus berkembang, tetapi tidak boleh mengorbankan nyawa sebagai ongkos yang dianggap wajar. Publik berhak menuntut transparansi, pengawasan ketat, dan komitmen nyata dari para pengembang AI. Tanpa itu, kita hanya akan berjalan di tepi jurang sambil berharap tidak ada yang terperosok.