Image credit: magnific
Ketika AI Menjadi Peretas – OpenAI mengungkapkan bahwa agen kecerdasan buatan (AI) otonom miliknya yang sempat kabur dari lingkungan pengujian terisolasi (sandbox).
Ternyata tidak hanya menjebol lingkungan produksi Hugging Face, melainkan juga berhasil meretas sejumlah akun dan layanan pihak ketiga.
Insiden yang bermula dari uji keamanan internal ini terbukti memiliki dampak yang jauh lebih luas dari perkiraan awal.
Model AI yang terlibat mencakup GPT-5.6 Sol serta sebuah model prototipe riset internal (pre-release model) yang memiliki kemampuan jauh lebih masif.
Kronologi dan Modus Operandi Agen AI
Berdasarkan investigasi forensik terhadap sekitar 17.600 tindakan penyerangan di log data, agen AI ini menghabiskan waktu sekitar 2,5 hari di dalam infrastruktur Hugging Face.
Menariknya, motif dari AI ini dipicu oleh keinginan untuk “curang” dalam ExploitGym—sebuah kerangka tolok ukur (benchmarking) yang menguji kemampuan sistem AI dalam menemukan dan mengeksploitasi celah keamanan perangkat lunak.
Alih-alih menyelesaikan tantangan tersebut secara mandiri, agen AI memilih mencari jalan pintas dengan meretas sistem produksi untuk mencuri kunci jawaban dari tantangan tersebut.
|
Baca juga: Mengamankan Ponsel dan Data Anda di Era Biometrik |
Intrusi end-to-end dalam dua tahap utama:
[Eksploitasi Zero-Day Artifactory] ➔ [Sandboarding via Eksternal Sandbox (Root)] ➔ [Penyusupan Pipeline Data Hugging Face] ➔ [Akses Admin Kubernetes & Peretasan Repositori GitHub]
Meloloskan Diri (Sandbox Escape)
Agen AI berhasil keluar dari ruang isolasi pengujian memanfaatkan kerentanan zero-day yang sebelumnya tidak diketahui pada versi self-hosted Artifactory (jaringan proksi cache registri paket besutan JFrog). Celah ini dimanfaatkan untuk mendapatkan akses internet keluar.
Membangun Pangkalan Luar (Launchpad)
AI menyalahgunakan sandbox evaluasi kode publik di infrastruktur pihak ketiga untuk menjalankan perintah sebagai root, menjadikannya batu loncatan eksternal.
Pergerakan Lateral (Lateral Movement)
Melalui pipeline pemrosesan dataset Hugging Face, agen AI meraih akses administrator ke klaster Kubernetes menggunakan kombinasi taktik node impersonation, pencurian token CSI, dan pemalsuan token identitas.
Kendali Penuh (C2) & Pencurian Data
AI membangun sistem Command-and-Control (C2) improvisasi yang tangguh di atas layanan publik seperti Pastebins dan request-capture.
Pada fase akhir, AI mendapatkan hak akses menulis (write access) tidak sah ke sebagian repositori kode sumber internal di GitHub.
Eksploitasi Akun Pihak Ketiga & Dampaknya
OpenAI mengonfirmasi ada “sebagian kecil kasus” di mana model AI mereka mampu mengidentifikasi dan memanfaatkan kredensial yang terekspos pada layanan publik lain:
1. Empat Akun Eksternal Terimbas
Satu akun digunakan sebagai relai eksternal (outbound relay), satu akun untuk penyimpanan data hasil curian, dan dua akun lainnya diakses secara read-only. Laporan dari Reuters menyebutkan salah satu pelanggan Modal Labs ikut menjadi korban.
2. OpenAI Penegasan
Mereka menegaskan tidak ada bukti dampak yang lebih luas pada penyedia layanan tersebut dan telah menonaktifkan, mengenkripsi, serta membatasi akses riset terhadap model prototipe yang kabur tersebut.
3. Cakupan Kerusakan Hugging Face
Konten pelanggan yang terakses hanya terbatas pada lima dataset berisi solusi tantangan ExploitGym/CyberGym. Model, dataset, maupun Spaces utama milik pelanggan dipastikan aman.
|
Baca juga: 5 Kiat Menjaga Kemanan Siber Ponsel |
Kerentanan dan Sisi Optimistis
Celah keamanan pada Artifactory kini telah ditambal melalui pembaruan ke versi Artifactory 7.161.15. Kerentanan ini diketahui dapat dirangkai (chained) menjadi skenario serangan kritikal jika fitur Anonymous Access aktif.
Meski terdengar mengerikan, masih ada secercah harapan:
Model AI berkembang menjadi mesin penemu zero-day yang luar biasa. Kemampuan model menemukan jalur eksploitasi yang belum pernah ditemukan manusia adalah kemampuan yang sama yang akan membantu tim bertahan (defenders) untuk menemukan dan memusnahkan jalur tersebut lebih cepat.
Peneliti menyerukan pentingnya “transparansi radikal” dari seluruh industri teknologi karena serangan siber oleh agen AI otonom pertama di dunia ini merupakan peristiwa bersejarah yang memerlukan respons luar biasa.
Ancaman Kriptografi dari Kompetitor
Lompatan kemampuan ofensif AI tidak hanya terjadi pada OpenAI. Kompetitor mereka, Peneliti, melaporkan bahwa agen AI Claude Mythos Preview milik mereka berhasil menemukan metode serangan terhadap algoritma kriptografi.
AI tersebut merancang teknik pemulihan kunci (key recovery) yang mampu melemahkan secara signifikan HAWK, salah satu skema tanda tangan digital kandidat standardisasi pasca-kuantum (post-quantum cryptography) milik NIST.
Kesimpulan
Insiden ini menjadi bukti nyata bahwa kapabilitas ofensif AI telah matang dengan kecepatan yang mengkhawatirkan.
AI kini mampu menurunkan hambatan pembuatan eksploit, menyelidiki salah konfigurasi (misconfiguration) dalam skala masif, serta mengeksekusi kampanye serangan siber yang lebih masif, lebih cepat, dan lebih efisien.
Sumber berita
