Ancaman Siber Baru di Ekosistem Kecerdasan Buatan

Ancaman Siber Baru di Ekosistem Kecerdasan Buatan – Sistem Artificial Intelligence (AI) saat ini tidak hanya bertugas menjawab pertanyaan, tetapi juga mampu merencanakan, menjelajahi web, dan mengambil tindakan atas nama pengguna.

Lompatan dari sekadar obrolan (chat) menuju otonomi penuh, yang dipopulerkan oleh proyek OpenClaw, sebagian besar didorong oleh fitur “skills” alat kecil.

Atau pengaya (add-on) yang memberi petunjuk kepada AI agent tentang cara menjalankan tugas, termasuk layanan mana yang harus digunakan dan tindakan apa yang perlu diambil.

Namun, di balik kemudahan tersebut, muncul risiko keamanan yang signifikan. Seiring dengan meningkatnya kemampuan AI, area serangan (attack surface) juga semakin meluas.

Terutama ketika pengguna menginstal skills baru ke dalam AI agent yang memiliki hak akses tinggi (highly privileged) tanpa melalui peninjauan keamanan terlebih dahulu.

Telemetri ESET telah mengamati penyalahgunaan agentic skills yang diidentifikasi untuk:

Mengeksfiltrasi data.
Mengunduh.
Mengeksekusi malware.
Mengambil alih instruksi melalui prompt injection.
Hingga memanipulasi perilaku agent

Semua dilakukan secara bertahap dalam beberapa kali interaksi sebelum melancarkan tujuan tersembunyinya.

Modul yang fleksibel ini, yang memberikan “tangan” bagi AI agent agar lebih berguna, kini menjadi mekanisme penyebaran ancaman yang sangat menarik bagi para pelaku kejahatan siber.

Bentuk Penyalahgunaan di Lapangan

Ancaman ini bukan lagi sekadar teori. Data telemetri ESET telah menemukan ratusan skills berbahaya yang dirancang untuk memanfaatkan minimnya celah keamanan di area ini.

Pencurian Data (Infostealer): Salah satu contohnya adalah skill prakiraan cuaca yang memungkinkan AI agent mengueri layanan gratis seperti Open-Meteo. Namun, di balik layar, terdapat infostealer yang mengumpulkan rahasia pengguna seperti token sesi dan kunci API, lalu mengeksfiltrasi data berharga tersebut ke server milik penyerang.
Pengunduh Malware Lintas Platform: Skills berbahaya sering kali mengarahkan agent untuk mengunduh dan mengeksekusi malware sebagai syarat utama untuk menjalankan fungsi yang dijanjikan. Pada macOS, beberapa skill menyisipkan perintah terenkripsi untuk menarik Trojan dari alamat IP penyerang dan menjalankannya. Pada Windows, skrip yang sama menginstruksikan agent untuk mengambil berkas ZIP terlindungi kata sandi dari repositori publik, lalu mengekstrak dan menjalankan isinya.
Pengujian PoC dan Reverse Shell: Beberapa skill berbahaya yang terdeteksi tampak seperti bukti konsep (Proof of Concept / PoC). Sebagai contoh, sekelompok skills “pembantu debugging” mencoba membuka reverse shell di jaringan lokal. Skill ini juga mengunduh dan mengeksekusi skrip bash yang mengarah pada instalasi coinminer serta pencurian kunci SSH.

Hal ini menunjukkan bahwa meskipun pada awalnya sebuah skill terlihat aman, niat jahatnya dapat bermanifestasi dalam dua, tiga, atau lebih tahap di tingkat lanjut.

Fenomena AI-fix

Di luar ekosistem skills AI agentic, ESET juga memantau serangan serupa yang dinamakan AI-fix sebuah varian dari serangan ClickFix yang menyalahgunakan opsi untuk mempublikasikan konten yang dihasilkan AI dalam bentuk halaman web publik di bawah domain layanan AI tepercaya.

Fitur semacam ini tersedia di berbagai penyedia AI terkemuka, seperti halaman Artifacts pada Anthropic, Canvas pada OpenAI, dan Copilot Pages pada Microsoft.

Menghosting konten di domain tepercaya (misalnya claude.ai/public/artifacts) memberikan kesan legitimasi bagi pengguna maupun mesin pencari.

Meskipun terdapat penafian (disclaimer) seperti “konten buatan pengguna” atau “tidak terverifikasi”, peringatan tersebut sering kali diabaikan karena reputasi domain induk yang tinggi.

Dalam satu kasus, iklan Google untuk pengelola paket Homebrew mengarahkan pengguna ke halaman artifact berbahaya.

Penyerang menggunakan model AI untuk membuat halaman yang menginstruksikan pengguna membuka Terminal di perangkat macOS dan menempelkan (copy-paste) sebuah perintah.

Pengguna yang mengikuti instruksi tersebut tanpa sadar menginfeksi perangkat mereka dengan infostealer. ESET juga menemukan beberapa halaman serangan AI-fix yang memanfaatkan topik dukungan NTFS dan 7-Zip untuk macOS.

Area Abu-Abu Berbahaya

Di antara skills yang jelas-jelas berbahaya dan yang sepenuhnya aman, terdapat pola bermasalah di area abu-abu (gray areas):

Skillpay: Layanan yang memungkinkan pengembang memungut biaya setiap kali skill digunakan melalui API penagihan. Ditemukan pengembang yang mempublikasikan skill yang tetap menagih biaya pengguna meskipun menampilkan pesan “Feature under implementation” (fitur sedang dalam pengembangan).

CreditClawAI: Memberikan agent akses ke kartu kredit dengan batasan pengeluaran untuk membeli barang atau layanan. Risikonya sangat jelas: pembuat skill dapat mengubah perilaku sistem kapan saja dan mengalihkan pembelian ke rekening pribadi mereka.
Penyalahgunaan Akses Kunci API: Skill yang berjanji memberikan skor kualitas video melalui API Gemini meminta kunci API dari berkas konfigurasi atau variabel lingkungan (environment variable) di sistem korban. Akses yang awalnya terlihat wajar ini kemudian dapat diubah secara diam-diam untuk mencuri kunci tersebut.

Ribuan Skills Mencurigakan

ESET telah memindai lebih dari 60.000 skills, dengan ribuan skill baru ditambahkan setiap hari, di mana 72% di antaranya merupakan skill baru dan sisanya adalah pembaruan. Hasil analisis ESET menandai ribuan sampel sebagai mencurigakan dan ratusan lainnya sebagai berbahaya (malicious).

Kategori malware yang paling umum ditemukan meliputi Trojan, downloader, backdoor, spyware, keylogger, dan cryptominer. Ditemukan pula puluhan skills yang menyertakan teknik rekayasa sosial (social engineering) dan phising.

Bahkan skill non-malware sekalipun sering kali menunjukkan pola berisiko, seperti:

Penanganan kata sandi, kunci API, atau rahasia sistem yang tidak aman.
Mengunduh, mendekripsi, atau mengeksekusi berkas dari sumber eksternal.
Menjalankan perintah sistem atau living-off-the-land binaries.
Mengonfuskasi kode dan data, serta mengubah kebijakan eksekusi skrip.

Berdasarkan analisis ESET terhadap skills yang ada:

33% berkomunikasi melalui internet tanpa pemeriksaan atau batasan apa pun.
23% mengeksekusi perintah untuk pengguna.
18% memodifikasi berkas di dalam disk.
2,4% mengubah kebijakan keamanan skrip.
<1% mengirimkan data yang dikumpulkan ke tujuan eksternal.
<1% memuat biner dari sumber yang tidak terverifikasi di internet.

Berisiko Sejak Awal

Repositori skill AI memiliki beberapa risiko bawaan:

Pembaruan Diam-Diam (Silent Updates): Skill yang semula aman dapat berubah menjadi berbahaya dalam sekejap. Pengembang dapat merilis alat yang berguna, mengubah kodenya menjadi berbahaya selama sehari, lalu mengembalikannya sebelum terdeteksi.
Duplikasi Kode: Pengembang sering kali saling meminjam kode dan prompt. Satu cuplikan kode berbahaya dapat menyebar ke seluruh ekosistem dan mengubah banyak alat aman menjadi berbahaya.
Standar Pengajuan yang Rendah: Standar peninjauan skill baru di repositori populer masih relatif rendah. Meskipun ada kemitraan antara ClawHub dan VirusTotal, deteksi tetap bergantung pada mesin pemindai individu di VirusTotal yang kemampuannya masih terbatas dalam menganalisis ancaman ini.
Alat Keamanan Semu: Repositori skill juga menyediakan “AI security agents” buatan pengembang yang menjanjikan deteksi niat jahat. Namun, banyak dari alat ini hanya mengandalkan teknik pemindaian statis sederhana (seperti keyword atau regex) yang tidak lagi memadai untuk lanskap ancaman saat ini.

Langkah Pencegahan

Perlakukan Skills Seperti Perangkat Lunak: Jangan anggap skill sekadar prompt biasa. Sebelum menginstal, periksa URL dan paket skill menggunakan pemindai khusus seperti ESET AI Skills Checker.
Periksa Izin Akses: Cermati izin yang diminta dan sesuaikan dengan fungsi yang dijanjikan. Jika izin yang diminta terasa berlebihan, besar kemungkinan skill tersebut berisiko.
Verifikasi Pengembang: Pilihlah pengembang yang teruji dan terverifikasi. Periksa ulasan komunitas serta bagian issues pada repositori untuk melihat indikasi masalah.
Perbarui Platform AI: Selalu perbarui platform AI dan perangkat lunak agent Anda untuk meminimalkan risiko eksploitasi celah keamanan lama.

ESET AI Skills Checker

Untuk mengatasi risiko dari skills AI berbahaya, ESET menyediakan alat gratis ESET AI Skills Checker. Alat ini menganalisis perilaku skill secara mendalam melalui beberapa tahapan:

Analisis Konten Menyeluruh: Memeriksa perintah, skrip, blok kode, dan konfigurasi untuk menemukan instruksi berbahaya, payload tersembunyi, atau izin berlebihan.
Pemeriksaan URL Eksternal: Memeriksa setiap URL eksternal yang dirujuk (di GitHub, GitLab, atau layanan paste) terhadap data ESET LiveGrid dan telemetri ESET.
Pelacakan Rantai Eksekusi: Menelusuri seluruh rantai pengunduhan dan eksekusi skrip hingga ke payload akhir yang tersembunyi di balik beberapa lapisan.
Emulasi di ESET LiveGuard: Memuat skill ke dalam cloud sandbox bertenaga AI (ESET LiveGuard) untuk memantau perilaku berbahaya secara berkala setiap kali skill diperbarui.

Bagi pengguna ESET, fungsionalitas perlindungan ini telah terintegrasi secara langsung ke dalam perangkat lunak keamanan endpoint serta solusi XDR ESET PROTECT Platform, yang secara otomatis mendeteksi, memblokir, dan mencatat setiap upaya instalasi skill yang berbahaya.

Keamanan Skill

Agentic AI telah mengubah cara kita bekerja, dan skills menjadi pengganda efisiensi utama. Namun, mekanisme yang sama yang membuat skills begitu berguna juga menjadikannya target bernilai tinggi bagi para pelaku kejahatan siber.

Pola ancaman saat ini, seperti pencurian kredensial, eksekusi kode, dan teknik penyamaran kode (obfuskasi) sudah cukup menjadi alasan untuk menerapkan benteng pertahanan yang kuat.

Jadikan keamanan skill sebagai langkah standar dalam adopsi AI Anda, manfaatkan prinsip least privilege, perbarui versi secara berkala, dan gunakan pemindai berbasis perilaku sebelum menghubungkan AI agent Anda dengan internet terbuka.

Baca artikel lainnya: