OpenAI, Google, dan Anthropic Sepakat Bentuk Badan Standarisasi AI

Tiga raksasa pengembang kecerdasan buatan terkemuka dunia, yakni OpenAI, Anthropic, dan Google, dilaporkan tengah bekerja sama untuk mendirikan sebuah badan standarisasi dan pengawasan mandiri (self-regulatory body). Inisiatif ini digulirkan menyusul meningkatnya kekhawatiran publik serta komunitas ilmiah terkait potensi bahaya teknologi kecerdasan buatan tingkat lanjut (frontier AI).

Rencana pembentukan badan tersebut bermula dari gagasan yang diajukan oleh Kepala Google DeepMind, Demis Hassabis. Organisasi ini dirancang dengan meniru skema Financial Industry Regulatory Authority (FINRA), sebuah lembaga swaregulasi independen yang selama ini mengawasi pialang dan firma investasi di sektor jasa keuangan Amerika Serikat.

Kronologi Pembentukan dan Eskalasi Isu Keselamatan AI

Langkah kolaboratif antara para pemimpin pasar AI ini terjadi di tengah dinamika internal industri dan desakan regulasi yang kian ketat:

1. Juli: Demis Hassabis secara terbuka mengusulkan pembentukan lembaga independen yang bertugas menguji sistem AI tercanggih secara komprehensif sebelum diluncurkan ke publik.
2. Awal Pekan: CEO Cohere, Aiden Gomez, melontarkan kritik tajam terhadap inisiatif tersebut dan menuduh raksasa AI AS tengah berupaya membentuk "kartel" berkedok keselamatan.
3. Pekan Lalu: Peneliti Jacob Coxon memutuskan mengundurkan diri dari Anthropic setelah sebelumnya bekerja di OpenAI, sembari memperingatkan bahaya percepatan rilis produk AI.
4. Senin: Mantan peneliti Google DeepMind, Bilal Chughtai, menyuarakan keprihatinan serupa mengenai risiko eksistensial AI terhadap peradaban manusia.
5. Selasa: OpenAI secara resmi mengonfirmasi kolaborasi bersama Google dan Anthropic guna merealisasikan pembentukan badan standar keselamatan AI.

Model Pengawasan Finansial dan Kebutuhan Sumber Daya

Gagasan utama dari badan swaregulasi ini adalah memastikan model AI generasi berikutnya menjalani evaluasi keamanan yang ketat sebelum didistribusikan. Demis Hassabis menekankan bahwa operasional lembaga ini memerlukan dukungan finansial dan komputasi berskala masif.

"Pendanaan perlu berjumlah substansial dan kemungkinan besar harus berasal dari industri itu sendiri, guna menarik talenta teknis kelas dunia serta menyediakan sumber daya komputasi yang memadai untuk pengujian skala besar," tulis Hassabis dalam proposalnya.

Lembaga ini ditargetkan memiliki otoritas teknis untuk menetapkan protokol evaluasi risiko, termasuk pencegahan penyalahgunaan model untuk serangan siber, disinformasi massal, maupun ancaman keamanan biologis.

Resistensi Industri dan Tuduhan Pembentukan Kartel

Kendati dinilai sebagai langkah positif bagi mitigasi risiko, rencana ini belum mencapai konsensus penuh di kalangan pelaku industri kecerdasan buatan global. Perusahaan pengembang asal Kanada, Cohere, menyuarakan kekhawatiran bahwa badan tersebut hanya akan menjadi alat monopoli bagi pemain dominan.

"AI membutuhkan pagar pengaman (guardrails). Itu bukanlah hal yang diperdebatkan. Perdebatan sebenarnya adalah tentang siapa yang menulis aturan tersebut, siapa yang diizinkan berpartisipasi, dan kepentingan siapa yang dilindungi oleh aturan itu," tegas Co-founder dan CEO Cohere, Aiden Gomez.

Kekhawatiran Eksistensial dari Kalangan Peneliti

Eskalasi pembentukan regulasi mandiri ini bertepatan dengan pengunduran diri sejumlah tokoh kunci di laboratorium AI terkemuka. Jacob Coxon secara terbuka menyebut bahwa industri saat ini sedang "berjudi dengan keselamatan manusia." Pandangan tersebut diperkuat oleh Bilal Chughtai sesaat setelah meninggalkan DeepMind.

"Saya sungguh-sungguh meyakini bahwa AI memiliki potensi untuk memusnahkan kita semua, dan kita mungkin sedang kehabisan waktu untuk mencegah skenario terburuk tersebut," ungkap Chughtai.

Hingga kini, format definitif tata kelola serta mekanisme keanggotaan badan standar AI tersebut masih dalam tahap pembahasan teknis oleh konsorsium OpenAI, Anthropic, dan Google.