Redaksiku.com – Pemimpin dari dua perusahaan kecerdasan buatan terkemuka di Amerika Serikat, OpenAI dan Anthropic, berdiri di hadapan Dewan Keamanan PBB pada Kamis, 24 September 2026, untuk memberikan peringatan serius mengenai masa depan teknologi. Sam Altman dan Dario Amodei menekankan bahwa tanpa adanya kerja sama internasional yang terkoordinasi, pengembangan kecerdasan buatan (AI) dapat melampaui kendali manusia dan menimbulkan risiko eksistensial yang tak terbayangkan bagi stabilitas global.
Desakan untuk Tata Kelola Global
Dalam sesi yang jarang terjadi bagi para pemimpin teknologi di forum PBB, baik Altman maupun Amodei menyoroti bahwa pengembangan model AI tingkat lanjut telah berkembang jauh lebih cepat daripada kerangka hukum yang ada saat ini. Mereka berpendapat bahwa teknologi ini tidak lagi sekadar alat digital biasa, melainkan entitas yang memiliki potensi untuk mengubah lanskap geopolitik dan keamanan nasional secara fundamental.
Para pemimpin industri ini mengusulkan pembentukan badan pengawas internasional yang serupa dengan lembaga pengawas energi atom. Tujuannya adalah untuk menetapkan standar keselamatan global, memantau pengembangan model-model terkuat, dan memastikan bahwa tidak ada aktor, baik negara maupun swasta, yang dapat melanggar protokol keamanan demi mengejar keuntungan atau keunggulan strategis.
ADVERTISEMENT
SCROLL TO RESUME CONTENT
Dunia saat ini menghadapi percepatan pengembangan model AI dengan kapasitas komputasi yang meningkat hingga 100 kali lipat dalam kurun waktu kurang dari tiga tahun terakhir.
Risiko Keamanan dan Ketergantungan Manusia
Salah satu poin krusial yang diangkat adalah risiko penyalahgunaan sistem AI untuk tujuan berbahaya, seperti pengembangan senjata biologis atau serangan siber skala besar yang mampu melumpuhkan infrastruktur kritis sebuah negara. Amodei, yang memimpin Anthropic, secara spesifik menjelaskan bagaimana AI dapat dimanipulasi oleh pihak yang tidak bertanggung jawab untuk mempercepat proses riset berbahaya yang sebelumnya membutuhkan waktu bertahun-tahun.
Selain ancaman eksternal, mereka juga menyinggung tentang “masalah penyelarasan” (alignment problem). Ini adalah tantangan teknis untuk memastikan bahwa tujuan AI selalu sejalan dengan nilai-nilai kemanusiaan, bahkan ketika sistem tersebut mulai mampu mengambil keputusan otonom yang kompleks. Tanpa pengawasan ketat, sistem ini berisiko mengambil tindakan yang mungkin efisien secara logika namun merugikan secara sosial.
Kedaulatan manusia atas teknologi menjadi isu utama dalam perdebatan di PBB, di mana para ahli menuntut protokol ketat agar AI tetap berada di bawah kendali manusia di setiap tahap operasional.
Kesenjangan Antara Inovasi dan Regulasi
Pemerintah di berbagai negara saat ini sedang berjuang untuk mengimbangi kecepatan inovasi yang dihasilkan oleh laboratorium riset swasta. Altman menekankan bahwa perusahaan teknologi tidak bisa dibiarkan mengatur diri mereka sendiri, karena tekanan persaingan pasar sering kali mengabaikan aspek keselamatan demi kecepatan rilis produk ke pasar.
Beberapa langkah konkret yang diusulkan oleh para pemimpin AI di PBB meliputi:
- Penerapan audit pihak ketiga yang independen terhadap model AI sebelum dirilis ke publik secara luas.
- Transparansi data pelatihan yang digunakan untuk melatih sistem AI guna mencegah bias dan konten berbahaya.
- Pembentukan protokol darurat internasional yang memungkinkan penghentian operasional sistem AI jika terdeteksi perilaku yang tidak terprediksi.
- Pemberian akses bagi para peneliti akademis untuk meneliti keamanan sistem AI tanpa melanggar kerahasiaan dagang perusahaan.
Transparansi dalam pengembangan teknologi AI harus dimulai dari keterbukaan perusahaan mengenai batasan kemampuan sistem mereka sendiri kepada regulator pemerintah.
Tantangan Implementasi di Tingkat Internasional
Mencapai konsensus global bukanlah perkara mudah. Sejumlah negara berkembang menyuarakan keprihatinan bahwa regulasi yang terlalu ketat hanya akan menguntungkan negara-negara maju yang sudah memiliki infrastruktur AI yang mapan. Mereka khawatir bahwa aturan baru ini dapat menghambat inovasi di negara-negara selatan global yang sedang mencoba untuk mengejar ketertinggalan teknologi.
Namun, pihak industri berargumen bahwa risiko dari AI yang tidak terkendali bersifat universal dan tidak mengenal batas negara. Kehancuran infrastruktur digital atau kebocoran model AI yang berbahaya akan berdampak pada seluruh dunia, sehingga kerja sama antarnegara dianggap bukan sebagai opsi, melainkan kebutuhan mutlak untuk kelangsungan peradaban modern.
Pernyataan para pemimpin AI ini merupakan pandangan industri yang berfokus pada risiko eksistensial, namun masih memerlukan validasi dari komunitas riset independen mengenai skala ancaman yang sebenarnya.
“Kita berdiri di ambang perubahan besar, di mana keputusan yang kita buat hari ini mengenai tata kelola AI akan menentukan apakah teknologi ini menjadi anugerah atau beban bagi generasi mendatang.”
— Sam Altman
Pertanyaan Umum
Mengapa perusahaan AI mendatangi PBB?
Perusahaan seperti OpenAI dan Anthropic menyadari bahwa dampak teknologi mereka bersifat global, sehingga mereka membutuhkan legitimasi dan kerangka hukum internasional untuk mengelola risiko yang melampaui yurisdiksi satu negara saja.
Apa yang dimaksud dengan risiko eksistensial dalam konteks AI?
Risiko eksistensial merujuk pada skenario di mana sistem AI menjadi sangat kuat dan tidak lagi dapat dikendalikan oleh manusia, yang berpotensi menyebabkan kerusakan permanen pada masyarakat atau bahkan mengancam keberlangsungan hidup manusia sebagai spesies.
Apakah regulasi global ini akan menghambat inovasi teknologi?
Para pendukung regulasi berargumen bahwa standar keamanan yang jelas justru akan menciptakan ekosistem yang lebih sehat dan berkelanjutan, mencegah kegagalan sistem yang bisa memicu reaksi keras (backlash) dari masyarakat terhadap teknologi AI secara keseluruhan.
Ringkasan
Pada 24 September 2026, pemimpin OpenAI, Sam Altman, dan Anthropic, Dario Amodei, menyampaikan peringatan mendesak di Dewan Keamanan PBB mengenai potensi risiko eksistensial dari kecerdasan buatan (AI). Mereka menekankan bahwa kecepatan pengembangan model AI yang meningkat hingga 100 kali lipat dalam tiga tahun terakhir telah melampaui kerangka hukum yang ada, sehingga diperlukan pembentukan badan pengawas internasional untuk memastikan teknologi tetap berada di bawah kendali manusia.
Para pemimpin industri tersebut mengusulkan langkah konkret seperti audit pihak ketiga yang independen, transparansi data pelatihan, serta protokol darurat internasional untuk mencegah penyalahgunaan AI dalam pengembangan senjata biologis atau serangan siber. Meskipun terdapat kekhawatiran dari negara berkembang bahwa regulasi ketat dapat menghambat inovasi, para ahli berpendapat bahwa kerja sama global bersifat krusial karena dampak ancaman AI bersifat universal dan tidak mengenal batas negara.
