Anthropic Ungkap Penyalahgunaan AI Claude untuk Kejahatan Siber

Redaksiku.com – Anthropic baru saja mengungkap sisi gelap pemanfaatan kecerdasan buatan melalui laporan keamanan terbaru mereka. Perusahaan ini secara terbuka membongkar berbagai kasus penyalahgunaan Claude, di mana chatbot tersebut dimanipulasi oleh pihak-pihak tidak bertanggung jawab untuk menjalankan operasi siber, pengawasan negara yang represif, penipuan berskala masif, hingga upaya riset biologis yang berpotensi membahayakan kesehatan masyarakat.

Temuan ini dirangkum dalam Threat Intelligence Report yang resmi diterbitkan pada 10 September 2026. Laporan tersebut mencakup hasil investigasi mendalam tim keamanan Anthropic terhadap aktivitas mencurigakan yang terjadi sepanjang periode Desember 2025 hingga Agustus 2026. Menurut keterangan perusahaan, kasus-kasus ini dipilih bukan sebagai gambaran umum penggunaan AI, melainkan sebagai contoh nyata dari insiden paling serius yang berhasil dideteksi dan dihentikan oleh sistem keamanan mereka.

Pelaku di balik penyalahgunaan ini sangat beragam, mulai dari kelompok peretas yang didukung negara, sindikat kriminal bermotif finansial, vendor perangkat lunak mata-mata komersial, hingga aktor politik yang menggunakan AI untuk kepentingan propaganda. Anthropic menegaskan bahwa temuan ini menjadi bukti krusial mengenai bagaimana teknologi AI dapat disalahgunakan jika jatuh ke tangan yang salah.

Claude sebagai Operator Serangan Siber

Dalam dunia kejahatan siber, peran Claude telah bergeser dari sekadar alat bantu penulisan kode menjadi komponen aktif dalam serangan. Anthropic menemukan bahwa pelaku menggunakan kemampuan AI untuk membangun malware, merancang perangkat phishing, hingga menciptakan alat pengawasan digital yang canggih.

Lebih jauh lagi, AI ditemukan mampu menjalankan perintah langsung ke jaringan target untuk mengekstrak data sensitif. Salah satu temuan yang paling menonjol adalah penggunaan operasi multi-agen yang dirancang untuk melakukan pengintaian dan pencurian data ke banyak target secara simultan. Serangan-serangan ini tergolong sangat efisien, di mana satu operasi dapat diselesaikan hanya dalam waktu dua hingga tiga jam saja.

Meskipun AI memberikan keunggulan teknis, Anthropic menekankan bahwa kendali utama tetap berada di tangan manusia. Keputusan krusial seperti penentuan target, monetisasi hasil curian, hingga evaluasi akhir tetap dilakukan oleh operator manusia. AI berfungsi sebagai pengganda kekuatan yang memungkinkan kelompok kriminal beroperasi dengan skala yang jauh lebih luas daripada sebelumnya.

Praktik Pengawasan Negara dan Intelijen

Aktivitas penyalahgunaan Claude juga merambah ke ranah pengawasan atau surveillance. Anthropic mengidentifikasi operasi yang terkait dengan aktor di berbagai wilayah, termasuk China, Iran, Afrika Barat, serta perusahaan penyedia perangkat lunak mata-mata komersial. Teknologi AI dimanfaatkan untuk membangun perangkat lunak pemantau, menganalisis informasi intelijen, hingga membuat sistem profil terhadap individu atau kelompok tertentu.

Salah satu kasus yang mencuat melibatkan seorang konsultan yang diduga bekerja untuk badan intelijen negara Mali. Konsultan tersebut menggunakan Claude sebagai tenaga utama untuk membangun sistem bernama Lakana 360. Platform ini dirancang sebagai alat pengawasan skala nasional yang mampu memantau data telekomunikasi dari sekitar 25 juta kartu SIM di tiga operator seluler utama di negara tersebut.

Selain itu, aktor yang terkait dengan Iran juga ditemukan memanfaatkan Claude untuk mengembangkan berbagai perangkat berbahaya, seperti ekstensi peramban Firefox yang mampu mencuri identitas pengguna media sosial, serta alat khusus untuk menganalisis data dari grup Telegram.

Penipuan Aplikasi Kencan dengan Ribuan Persona

Tidak semua penyalahgunaan berorientasi pada spionase atau serangan siber tingkat tinggi. Anthropic menemukan bahwa kelompok kriminal berbasis di China menggunakan Claude untuk menjalankan penipuan melalui aplikasi kencan. Kelompok ini dilaporkan mengoperasikan lebih dari 20 aplikasi kencan berbeda dengan menggunakan sekitar 4.700 persona palsu.

Melalui persona-persona tersebut, pelaku berinteraksi dengan sedikitnya 25.000 pengguna nyata. Peran AI di sini sangat vital dalam meningkatkan skala interaksi dengan korban, sehingga operator tidak perlu melakukan percakapan secara manual untuk setiap target. Fenomena ini menunjukkan bagaimana AI secara drastis menurunkan biaya operasional penipuan sekaligus memungkinkan pelaku untuk menjangkau jumlah korban yang jauh lebih besar dalam waktu singkat.

Pencegahan Riset Biologis Berbahaya

Salah satu temuan yang paling memprihatinkan berkaitan dengan aspek keamanan biologis. Anthropic menyatakan bahwa mereka berhasil menghentikan sejumlah upaya penggunaan Claude untuk riset yang berpotensi menciptakan senjata biologis atau agen patogen berbahaya.

Salah satu contoh yang terungkap adalah permintaan bantuan untuk menyusun proposal penelitian gain-of-function pada virus chikungunya. Penelitian ini mencakup modifikasi yang bertujuan meningkatkan kemampuan virus dalam menyebar atau menghindari sistem imun manusia. Selain itu, terdapat upaya untuk menggunakan AI dalam riset terkait virus avian influenza dan berbagai jenis toksin lainnya.

Perusahaan telah mengambil langkah tegas dengan memblokir akun-akun yang terlibat dan memperketat mekanisme perlindungan pada model-model terbaru mereka. Investigasi ini juga memicu pengembangan sistem deteksi baru yang dibagikan kepada mitra industri dan aparat penegak hukum guna mencegah penyalahgunaan serupa di masa depan.

Dinamika Model AI dan Keamanan

Menariknya, laporan Anthropic mencatat bahwa kasus penyalahgunaan ini umumnya melibatkan model Claude Haiku, Sonnet, dan Opus. Sebaliknya, perusahaan tidak menemukan aktivitas berbahaya yang signifikan pada model kelas Claude Fable atau Mythos, kecuali satu kasus terkait distilasi terlarang.

Anthropic menjelaskan bahwa model-model generasi terbaru telah dilengkapi dengan lapisan perlindungan tambahan yang dirancang khusus untuk mengurangi kemampuan model dalam menjalankan tugas-tugas berbahaya. Laporan ini secara gamblang memperlihatkan dilema dalam industri AI: semakin cerdas dan mandiri sebuah model, semakin besar pula potensi risiko yang menyertainya jika digunakan oleh pihak yang berniat jahat.

Pada akhirnya, kasus-kasus yang dibongkar oleh Anthropic menegaskan bahwa tantangan keamanan AI tidak hanya terletak pada teknologinya saja, melainkan pada bagaimana manusia menentukan tujuan dan cara penggunaan hasil dari kecerdasan buatan tersebut.

Pertanyaan Umum

Apakah Claude benar-benar bisa membuat senjata biologis?

Tidak secara langsung. Anthropic menemukan adanya upaya pengguna untuk meminta bantuan AI dalam riset biologis yang berbahaya, seperti penelitian gain-of-function pada virus. Perusahaan telah memblokir upaya tersebut dan memperketat perlindungan keamanan agar model mereka tidak dapat digunakan untuk tujuan tersebut.

Siapa saja yang menyalahgunakan Claude menurut laporan tersebut?

Pelakunya sangat beragam, mencakup kelompok peretas yang didukung negara, sindikat kriminal finansial, vendor spyware komersial, hingga aktor politik yang menggunakan AI untuk propaganda dan pengawasan skala nasional.

Apa langkah yang diambil Anthropic terhadap pelanggaran ini?

Anthropic telah memblokir akun-akun yang terlibat, memperketat sistem keamanan (safeguard) pada model terbaru, serta membagikan temuan intelijen ini kepada mitra industri dan aparat penegak hukum untuk meningkatkan deteksi dini terhadap penyalahgunaan serupa.