Fenomena LLMjacking dan Risiko Keamanan Akun AI

Fenomena LLMjacking dan Risiko Keamanan Akun AI – Musim panas 2026 memberikan istilah baru bagi industri keamanan siber: the stolen AI login (login AI yang dicuri).

Pada akhir Agustus, Anthropic merespons pembajakan sesi Claude yang digerakkan oleh infostealer dengan cara mengeluarkan pengguna (sign out), menghapus metode pembayaran yang disimpan, serta mengembalikan dana transaksi yang diidentifikasi tidak sah.

Itu adalah sisi suplai (supply side). Di sisi lain, Laporan Paparan Identitas AI dari SOCRadar menyoroti sisi permintaan (demand side): perusahaan-perusahaan yang karyawannya menjadi korban pencurian kredensial yang diperjualbelikan.

Dimulai dari lebih dari satu juta catatan infostealer yang terikat dengan layanan AI di lebih dari 80.000 domain perusahaan, riset tersebut mempersempit data menjadi 482 perusahaan besar yang mapan untuk menjawab satu pertanyaan utama: ketika login AI mendarat di log pencuri data, milik siapakah itu, dan apa yang diwarisi oleh pembelinya?

Dari 482 perusahaan tersebut, 68% di antaranya adalah organisasi bernilai miliaran dolar di 36 negara dan delapan sektor, terkonsentrasi di Amerika Utara, dan puluhan di antaranya masuk dalam peringkat Forbes.

Di antara mereka terdapat 5.434 catatan log stealer yang terikat pada 1.500 alamat email perusahaan yang berbeda, dan 295 dari 482 perusahaan tersebut muncul dalam 90 hari terakhir.

ChatGPT Mendominasi Dataset

Jika dataset dipecah berdasarkan platform, satu nama mendominasi grafik secara masif. Sesi ChatGPT atau OpenAI yang dicuri muncul di 358 dari 482 perusahaan, dan perusahaan-perusahaan tersebut menanggung sekitar 90% dari seluruh catatan dalam studi. Zapier, Notion, Hugging Face, Replit, Lovable, dan ElevenLabs berada jauh di belakangnya.

Namun, bagian yang paling menarik bukanlah dominasi tersebut, melainkan siapa yang tidak ada di peringkat atas. Tidak ada Claude di jajaran teratas. Tidak ada Gemini.

Bagi seorang CISO, pelajarannya bukanlah “pilih asisten yang lebih aman,” melainkan bahwa paparan mengikuti penggunanya, dan para pengguna tersebut berada di mana pun kebijakan perusahaan Anda tidak berlaku.

Login AI Dicuri Lebih Buruk daripada Kata Sandi Biasa

Kredensial tradisional hanya membuka satu aplikasi. Sebaliknya, akun AI adalah empat hal sekaligus: arsip yang dapat dicari, mesin eksekusi, sumber daya yang dapat ditagih, dan identitas. Sesi yang dicuri menyerahkan keempatnya sekaligus tanpa perlu meminta kata sandi:

Riwayat Percakapan adalah Kebocoran Data: Karyawan menempelkan kode sumber, catatan pelanggan, kontrak, dan rencana yang belum dirilis ke dalam prompt. Akun tersebut menjadi penyimpanan memori perusahaan, dan siapa pun yang memutar ulang sesi tersebut akan mewarisi arsip tersebut sebelum menyentuh sistem internal.
Kuki Sesi Menerobos MFA: Kuki yang dicuri adalah sesi aktif (live session). Token sesi dan kunci API diincar justru karena dapat diputar ulang untuk melewati autentikasi berbasis kredensial. Melakukan reset kata sandi tidak akan mengeluarkan penyusup.
Agen Bertindak atas Otoritas Karyawan: Platform otomatisasi memegang izin OAuth yang aktif ke CRM, email, dan penyimpanan. Sesi Zapier yang dicuri memungkinkan penyerang membangun alur kerja yang mengeksfiltrasi data sesuai jadwal dari ruang IP tepercaya milik vendor.
Kunci API adalah Uang, Kapasitas, dan Penyamaran (LLMjacking): Kunci yang disalin ke aplikasi catatan atau halaman pengaturan ruang kerja ikut tercuri, lalu ditagihkan ke korban atau dijual kembali.

Baca juga: Mengenal Text Salting

Teknologi Memimpin, Tapi Paparan Terjadi di Mana-Mana

Perusahaan teknologi dan layanan internet adalah kelompok tunggal terbesar dengan 144 perusahaan dan mencakup 40% dari seluruh catatan. Sektor industri, layanan keuangan, ritel, kesehatan, dan energi semuanya muncul secara signifikan.

Paparan platform LLM hampir bersifat universal, tertinggi di sektor energi (93% dari perusahaan terdampak). Sementara itu, paparan agen dan otomatisasi yang membawa otoritas karyawan ke sistem lain, terkonsentrasi di sektor layanan kesehatan, keuangan, dan teknologi.

Tidak ada dari semua ini yang membutuhkan kawanan agen otonom (autonomous agent swarm). Cukup satu karyawan, satu laptop tanpa pengelolan terpusat (unmanaged laptop), satu kata sandi ChatGPT yang tersimpan, dan satu infostealer komoditas yang telah dijual di saluran Telegram sejak 2022.

Langkah-langkah Mitigasi

Kontrol keamanannya tidak rumit. Yang baru adalah bahwa platform AI sekarang harus ditempatkan pada tingkat yang sama dengan penyedia identitas (identity provider) dan repositori kode Anda.

1. Terapkan SSO dengan Sesi Berumur Pendek.

Gunakan OAuth 2.0 / OIDC dengan rotasi refresh-token sehingga kuki yang dicuri kedaluwarsa sebelum sempat dijual. SSO menghapus kata sandi yang disimpan, tetapi tidak mencabut kuki sesi aktif.

2. Batasi dan Rotasi Kunci API.

Buat peringatan untuk penggunaan dari ASN asing atau pada jam-jam ganjil, ini adalah sidik jari dari LLMjacking.

3. Pantau Penggunaan Ulang Token Sesi.

Sesi yang tiba-tiba berubah negara atau sidik jari perangkat di tengah masa aktifnya adalah indikasi sesi yang diputar ulang. Perlakukan setiap karyawan yang muncul dalam log pencuri data sebagai insiden endpoint, bukan sekadar reset kata sandi.

4. Temukan Akun Bayangan (Shadow Accounts) Terlebih Dahulu.

Anda tidak dapat mengamankan apa yang tidak Anda ketahui keberadaannya. Mulailah dengan mengidentifikasi domain perusahaan mana saja yang sudah muncul dalam log infostealer.

Baca artikel lainnya: