Bisnis Ilegal dari Kredensial Curian

Bisnis Ilegal dari Kredensial Curian – Layanan kecerdasan buatan (AI) berbasis large language model (LLM) kini menjadi bagian dari aktivitas bisnis, mulai dari pengembangan perangkat lunak hingga pengolahan informasi.

Namun, akses ke layanan tersebut juga menjadi sasaran kejahatan siber. Penyerang tidak selalu berusaha mencuri data atau merusak sistem. Mereka dapat mengambil alih kredensial akses LLM milik perusahaan, kemudian menjualnya kepada pihak lain untuk memperoleh keuntungan.

Praktik ini dikenal sebagai LLMjacking. Modus tersebut memungkinkan pelaku menggunakan sumber daya komputasi dan layanan AI berbayar milik korban tanpa izin.

Dampaknya bukan hanya penyalahgunaan akses, tetapi juga tagihan cloud yang membengkak akibat penggunaan model AI oleh pihak tidak berwenang.

Laporan mengungkap bahwa dalam sejumlah insiden, biaya penggunaan sumber daya yang timbul akibat aktivitas tersebut melampaui US$100.000 dalam satu hari. Pada beberapa organisasi, akumulasi tagihan bahkan mencapai US$1 juta sebelum akses penyerang berhasil dicabut.

Pencurian Akses yang Menguntungkan Penyerang

LLMjacking memiliki kemiripan dengan cryptojacking, yaitu penyalahgunaan sumber daya komputasi milik korban untuk memperoleh keuntungan. Perbedaannya terletak pada sumber daya yang dimanfaatkan.

Cryptojacking menggunakan kapasitas komputasi untuk menambang mata uang kripto, sedangkan LLMjacking memanfaatkan akses ke model AI komersial untuk menjalankan permintaan dari pengguna tidak sah.

Penyerang biasanya mencari endpoint LLM yang terbuka ke internet atau memperoleh kunci API dan kredensial cloud yang valid. Informasi tersebut dapat berupa kredensial Identity and Access Management (IAM), kunci akun layanan, GitHub Personal Access Token (PAT), maupun token sesi yang masih aktif.

Setelah mendapatkan akses, pelaku dapat menggunakan infrastruktur cloud organisasi untuk mengirim permintaan ke layanan AI. Aktivitas ini bahkan dapat berlangsung tanpa langsung menimbulkan lonjakan penggunaan yang mencolok.

Dalam beberapa kasus, peneliti menemukan bahwa penyerang mengirim permintaan API dalam jumlah sangat kecil, bahkan hanya meminta satu token keluaran.

Tujuannya adalah memastikan kredensial yang dicuri masih dapat digunakan tanpa menghasilkan konsumsi sumber daya yang signifikan. Cara ini membantu pelaku mempertahankan akses sebelum mulai memanfaatkannya secara lebih intensif.

Situasi tersebut membuat LLMjacking sulit dikenali jika organisasi hanya mengandalkan pemantauan tagihan atau volume penggunaan layanan AI. Ketika lonjakan biaya akhirnya terlihat, akses yang dicuri mungkin sudah digunakan oleh banyak pelanggan ilegal.

Bagaimana Penyerang Mengambil Alih Akses LLM?

Laporan tersebut mengidentifikasi beberapa cara yang digunakan penyerang untuk memperoleh akses ke lingkungan cloud dan layanan AI perusahaan.

Menyalahgunakan kredensial cloud. Kunci akun layanan yang salah konfigurasi atau dicuri dapat memberikan akses awal ke lingkungan cloud. Penyerang kemudian berupaya meningkatkan hak akses agar dapat menggunakan API LLM.

Mencuri token dari repositori kode. Personal Access Token yang dicuri dapat digunakan untuk mengakses repositori privat. Jika repositori atau lingkungan pengembangan menyimpan rahasia seperti kunci API dan kredensial cloud, informasi tersebut dapat dimanfaatkan untuk memperluas akses.

Menyalahgunakan token federasi dan sesi. Token identitas cloud yang telah dikompromikan dapat digunakan untuk membuat kunci akses baru secara terprogram. Dalam kasus tertentu, mekanisme ini memungkinkan penyerang melewati perlindungan autentikasi multifaktor (MFA) karena mereka memanfaatkan token yang sudah memiliki otorisasi.

Melakukan pencurian token melalui rekayasa sosial. Peneliti mengamati penggunaan halaman yang menyerupai portal aplikasi untuk mengelabui pengguna.

Korban diarahkan ke situs layanan LLM yang sah, kemudian diminta menempelkan data JSON yang berisi token akses aktif. Token tersebut dikirim ke server penyerang sehingga dapat digunakan untuk mengakses layanan tanpa perlu mengetahui kata sandi korban.

Beragam metode ini menunjukkan bahwa LLMjacking tidak hanya berkaitan dengan keamanan aplikasi AI. Keamanan identitas digital, pengelolaan kredensial, repositori kode, dan konfigurasi cloud juga menjadi bagian penting dari perlindungan.

Pasar Gelap Akses Layanan AI

Setelah berhasil mengambil alih akses, penyerang dapat mengubahnya menjadi sumber pendapatan melalui layanan yang disebut LLM Mixer. Layanan ilegal ini bertindak sebagai perantara yang mengumpulkan kredensial hasil pencurian dan menyediakan akses ke berbagai model AI komersial bagi pelanggan.

Pelanggan LLM Mixer dapat mengirim permintaan ke model AI premium melalui infrastruktur milik organisasi korban. Mereka tidak perlu memiliki akun resmi, membeli langganan sendiri, atau menyediakan infrastruktur cloud. Sebagai gantinya, mereka membayar penyedia layanan ilegal dengan harga yang dapat jauh lebih rendah daripada tarif resmi.

Model bisnis tersebut membuat LLMjacking berkembang menjadi ekosistem kejahatan yang melibatkan beberapa pihak. Sebagian pelaku berfokus mendapatkan akses ke lingkungan cloud, sementara pihak lain mengelola layanan perantara dan menjual akses kepada pelanggan.

Bagi organisasi korban, konsekuensinya dapat berlangsung selama akses ilegal belum terdeteksi dan dicabut. Selain tagihan komputasi yang meningkat, penyalahgunaan kredensial juga membuka peluang bagi penyerang untuk menjangkau sumber daya cloud lain yang memiliki hubungan dengan akun atau identitas yang telah dikompromikan.

Langkah Mencegah LLMjacking

Pencegahan perlu berfokus pada perlindungan identitas, pengelolaan rahasia digital, dan pemantauan penggunaan layanan AI. Beberapa langkah yang dapat diterapkan organisasi meliputi:

Batasi hak akses pengguna dan akun layanan sesuai kebutuhan tugasnya. Hindari memberikan izin luas yang memungkinkan satu kredensial mengakses banyak layanan cloud.
Gunakan platform pengelolaan rahasia digital (secrets management) untuk menyimpan kunci API, token, dan kredensial layanan. Hindari menempatkan informasi tersebut secara langsung di dalam kode aplikasi atau repositori.
Otomatiskan pemeriksaan terhadap GitHub, GitLab, dan repositori lainnya untuk menemukan kunci API, token, atau kredensial yang tidak sengaja terekspos.
Terapkan MFA, tinjau konfigurasi IAM secara berkala, dan pantau aktivitas pembuatan kunci akses maupun penggunaan token. Cabut kredensial yang tidak lagi diperlukan atau terindikasi telah dikompromikan.
Periksa pola permintaan yang tidak biasa, identitas yang mengakses layanan, perubahan hak akses, serta penggunaan model dari lokasi atau lingkungan yang tidak dikenal. Jangan hanya mengandalkan lonjakan konsumsi sebagai indikator kompromi.
Gunakan rate limiting, pembatasan akses jaringan melalui allowlisting, serta notifikasi anggaran dan konsumsi sumber daya. Langkah ini membantu membatasi dampak finansial apabila kredensial disalahgunakan.
Periksa endpoint yang terekspos, akun layanan, izin akses, token aktif, dan integrasi pihak ketiga. Pastikan tidak ada akses yang terbuka tanpa kebutuhan bisnis yang jelas.

LLMjacking memperlihatkan bahwa layanan AI berbayar dapat menjadi sasaran pencurian sumber daya, bukan sekadar sasaran pencurian data. Dengan menjual kembali akses yang diperoleh secara ilegal, penyerang dapat memperoleh keuntungan sementara organisasi korban menanggung biaya penggunaan komputasi.

Karena itu, keamanan layanan AI perlu dibangun bersama keamanan cloud dan identitas digital. Pengawasan kredensial, pembatasan hak akses, serta pemantauan aktivitas API sejak tahap awal menjadi langkah penting untuk mengurangi peluang penyalahgunaan sebelum berkembang menjadi kerugian finansial yang besar.