Bahaya Tersembunyi di Balik AI Skills

Bahaya Tersembunyi di Balik AI Skills – Perkembangan teknologi Artificial Intelligence (AI) telah melahirkan berbagai AI Agent yang mampu membantu pengguna menyelesaikan pekerjaan secara otomatis.

Mulai dari membuat dokumen, mengelola data, hingga berinteraksi dengan berbagai layanan digital, AI Agent kini menjadi bagian dari ekosistem kerja modern.

Untuk menambah kemampuan tersebut, banyak platform menyediakan fitur tambahan berupa skill, plugin, atau extension yang dapat dipasang oleh pengguna. Kehadiran fitur ini memungkinkan AI Agent memperoleh kemampuan baru tanpa perlu dikembangkan dari awal.

Namun, penelitian terbaru menunjukkan bahwa mekanisme kepercayaan yang digunakan untuk menilai keamanan AI skill masih memiliki sejumlah kelemahan.

Bahkan sebuah eksperimen berhasil menunjukkan bahwa skill yang tampak aman, populer, dan lolos berbagai pemeriksaan keamanan tetap dapat digunakan untuk menjalankan aktivitas yang tidak diinginkan.

Apa Itu AI Skill?

Secara sederhana, AI skill adalah seperangkat instruksi yang dapat ditambahkan ke dalam AI Agent untuk memberikan fungsi tertentu.

Skill dapat membantu AI Agent melakukan berbagai tugas, seperti:

• Membuat halaman web.
• Mengakses layanan pihak ketiga.
• Mengelola dokumen.
• Mengolah data.
• Berinteraksi dengan sistem internal perusahaan.

Ketika sebuah skill dipasang, AI Agent akan memuat instruksi tersebut ke dalam konteks kerjanya dan menjalankannya sesuai izin yang dimiliki.

Di sinilah letak tantangannya. Apabila skill yang digunakan tidak aman, maka AI Agent berpotensi menjalankan instruksi yang merugikan pengguna atau organisasi.

Mengungkap Kelemahan Ekosistem AI Skill

Dalam sebuah eksperimen keamanan, peneliti membuat skill AI yang tampak sepenuhnya sah dan aman.

Skill tersebut:

• Menggunakan deskripsi yang meyakinkan.
• Dipublikasikan melalui marketplace yang populer.
• Memiliki reputasi yang tampak baik.
• Lolos pemeriksaan berbagai alat pemindai keamanan.

Skill tersebut bahkan dipromosikan melalui media sosial sehingga berhasil dipasang oleh ribuan pengguna.

Menariknya, seluruh alat keamanan yang diuji menyatakan bahwa skill tersebut aman. Padahal tujuan eksperimen tersebut adalah membuktikan bahwa indikator kepercayaan yang selama ini digunakan belum tentu mampu mendeteksi risiko yang sebenarnya.

Pemeriksaan Keamanan Gagal Mendeteksi

Permasalahan utama bukan terletak pada kode yang diperiksa, melainkan pada apa yang terjadi setelah skill dipasang.

Sebagian besar alat pemindai keamanan hanya memeriksa isi paket yang dikirimkan untuk ditinjau. Jika tidak ditemukan komponen berbahaya, maka skill akan dianggap aman.

Namun dalam eksperimen tersebut, instruksi penting tidak disimpan di dalam paket yang diperiksa.

Sebaliknya, skill mengarahkan AI Agent ke sebuah situs eksternal yang dapat diubah sewaktu-waktu setelah proses pemeriksaan selesai.

Artinya, meskipun skill lolos pemeriksaan pada hari pertama, isi instruksi yang diambil dari situs tersebut dapat berubah sepenuhnya beberapa hari atau beberapa minggu kemudian.

Kondisi inilah yang menciptakan celah keamanan yang sulit dideteksi oleh mekanisme pemeriksaan tradisional.

Masalah Kepercayaan di Era AI Agent

Kasus ini memperlihatkan bahwa banyak pengguna masih mengandalkan indikator kepercayaan yang sebenarnya dapat dimanipulasi.

Beberapa indikator yang sering dianggap sebagai bukti keamanan antara lain:

• Reputasi proyek open source.
• Jumlah bintang (stars) pada repositori.
• Popularitas marketplace.
• Banyaknya pengguna.
• Hasil pemeriksaan keamanan yang bersih.

Padahal indikator tersebut tidak selalu menjamin bahwa suatu skill aman digunakan.

Dalam banyak kasus, pelaku dapat membangun reputasi terlebih dahulu sebelum mengubah perilaku atau instruksi yang digunakan oleh skill tersebut.

Mengapa Ancaman Ini Berbahaya?

Berbeda dengan aplikasi biasa, AI Agent sering kali memiliki akses ke berbagai sumber daya yang bernilai tinggi.

Tergantung pada lingkungan tempatnya berjalan, AI Agent mungkin memiliki akses ke:

• Dokumen internal.
• Data pelanggan.
• Sistem perusahaan.
• Basis data.
• Layanan cloud.
• Informasi sensitif lainnya.

Apabila sebuah skill berbahaya berhasil dijalankan, maka dampaknya dapat melampaui sekadar pencurian data sederhana.

Dalam skenario tertentu, AI Agent dapat dimanfaatkan untuk mengakses informasi, memindahkan data, atau menjalankan instruksi yang sebenarnya tidak pernah diinginkan oleh pengguna.

Pelajaran Penting bagi Organisasi

Kasus ini menunjukkan bahwa AI Agent seharusnya diperlakukan seperti perangkat lunak dan bukan sekadar alat bantu produktivitas.

Setiap skill yang dipasang perlu melalui proses evaluasi yang sama seperti ketika organisasi mengadopsi aplikasi baru.

Organisasi juga perlu memahami bahwa ancaman tidak selalu berasal dari kode yang terlihat saat pemeriksaan pertama dilakukan. Instruksi eksternal yang diambil setelah proses instalasi dapat menjadi sumber risiko yang sama besarnya.

Tips Keamanan untuk Pengguna dan Organisasi

Untuk mengurangi risiko yang berkaitan dengan AI skill, beberapa langkah berikut dapat dipertimbangkan:

1. Perlakukan Skill Seperti Perangkat Lunak. Lakukan evaluasi keamanan sebelum memasang skill baru.
2. Tinjau Sumber Eksternal. Periksa situs, dokumentasi, atau layanan eksternal yang dirujuk oleh skill.
3. Gunakan Prinsip Least Privilege. Berikan akses minimum yang diperlukan kepada AI Agent.
4. Batasi Kemampuan Agent. Hindari memberikan akses ke data atau sistem yang tidak diperlukan.
5. Pantau Perubahan. Periksa secara berkala apakah terdapat perubahan pada sumber eksternal yang digunakan skill.
6. Gunakan Repositori yang Terkontrol. Organisasi sebaiknya memiliki proses persetujuan dan distribusi skill yang terpusat.
7. Lakukan Audit Berkala. Inventarisasi seluruh skill yang digunakan dan tinjau kembali izin yang dimilikinya.

Dua Sisi Teknologi

Perkembangan AI Agent membuka peluang baru untuk meningkatkan produktivitas dan otomatisasi. Namun di sisi lain, teknologi ini juga menghadirkan tantangan keamanan yang belum sepenuhnya dipahami oleh banyak organisasi.

Eksperimen terbaru menunjukkan bahwa reputasi, popularitas, dan hasil pemeriksaan keamanan belum tentu menjadi jaminan bahwa suatu AI skill aman digunakan.

Ketika instruksi dapat berubah setelah proses pemeriksaan selesai, pendekatan keamanan yang hanya berfokus pada pemeriksaan awal menjadi tidak lagi memadai.

Ke depan, organisasi perlu memperlakukan AI Agent dan skill yang digunakan dengan tingkat kehati-hatian yang sama seperti ketika mengelola aplikasi, perangkat lunak, atau layanan cloud lainnya. Dengan demikian, manfaat AI dapat diperoleh tanpa mengorbankan keamanan dan kepercayaan pengguna.

Sumber berita:

WeLiveSecurity