Melawan Serangan Deepfake dan Penipuan GenAI

Melawan Serangan Deepfake dan Penipuan GenAI – Teknologi Kecerdasan Buatan (AI) tengah mentransformasi cara kita menggunakan teknologi, baik untuk tujuan positif maupun negatif.

Dalam dunia keamanan siber, AI memang membantu tim pertahanan jaringan, namun di sisi lain ia juga memberikan keunggulan bagi para aktor ancaman.

Sebagai pihak yang selalu cepat mengadopsi teknologi baru, para penjahat siber kini mempersenjatai alat Generative AI (GenAI) dalam jumlah yang terus meningkat.

Hal ini berarti munculnya lebih banyak email phising yang terlihat sempurna, wajah atau suara palsu yang meminta korban mentransfer uang, serta malware baru berkualitas rendah yang dihasilkan oleh peretas pemula.

Lembaga keamanan siber nasional Inggris (NCSC) bahkan memperingatkan bahwa dalam dua tahun ke depan, AI akan membuat operasi intrusi siber menjadi lebih efektif dan efisien, yang memicu peningkatan frekuensi serta intensitas ancaman siber secara global.

Transformasi Ancaman

Alat GenAI yang didukung oleh Large Language Models (LLM) telah membawa kecepatan, skala, dan akurasi ke dunia kejahatan siber bawah tanah.

Dulu, kampanye phising mengandalkan pesan generatif yang sering kali tidak meyakinkan karena kesalahan ejaan dan tata bahasa yang mencolok. Konten video dan audio pun hampir mustahil untuk dipalsukan secara meyakinkan.

Berkat AI, lanskap tersebut telah berubah total. Sekarang, aktor ancaman mendapatkan keuntungan dari teknologi yang memungkinkan:

• Serangan skala besar yang lebih cepat: Dapat diluncurkan hanya dalam beberapa klik.
• Konten yang lebih meyakinkan: Menggunakan bahasa penutur asli yang sempurna, tanpa cacat tata bahasa, serta video/audio palsu yang realistis.
• Konten yang sangat personal: Dibuat dengan mengumpulkan data publik milik korban secara otomatis (scraping).

Berikut adalah beberapa bentuk ancaman AI yang perlu Kita waspadai di tahun 2026:

1. Saat Suara dan Wajah Menipu

Teknologi deepfake berbasis GenAI mengubah aturan main tentang konten apa yang bisa kita percayai. Saat ini, siapa pun dapat meluncurkan serangan yang meniru suara atau video eksekutif senior untuk mendesak staf keuangan melakukan transfer dana besar.

Riset menunjukkan bahwa konten sintetis ini mampu menipu sebagian besar orang, dengan data dari Gartner mengeklaim bahwa 62% organisasi telah mengalami upaya serangan deepfake dalam 12 bulan terakhir.

2. Email phising yang Terlihat Sempurna

GenAI memudahkan peretas membuat email yang sangat personal. Dengan akses ke akun yang dikompromi, AI dapat menyarankan momen yang tepat untuk “membajak” percakapan asli dan menyisipkan pesan berbahaya ke dalam utas email yang sedang berjalan.

Pada lima bulan pertama tahun 2025, tercatat 32% email phising mengandung teks volume tinggi, indikasi kuat penggunaan LLM.

3. Penipuan Berbasis Chatbot 

Kampanye phising melalui SMS (phising) kini menggunakan pesan yang ditulis dengan bahasa Inggris yang sempurna dan sangat personal.

GenAI meniru pesan sah dari perusahaan pengiriman barang atau bank dengan skala besar, bahkan beradaptasi secara dinamis untuk meningkatkan rasio klik korban.

4. Pemindaian Celah Keamanan Otomatis

AI tidak hanya ahli meniru gaya tulisan manusia, tetapi juga mempercepat tugas teknis seperti memindai sistem untuk mencari port terbuka dan kerentanan yang dapat dieksploitasi.

Peneliti memperingatkan bahwa perkembangan AI paling signifikan akan datang dari riset kerentanan dan pengembangan eksploitasi yang dibantu AI (VRED).

5. Manipulasi Model dan Prompt Injection

Peretas menggunakan dua cara utama: melalui alat jahat khusus (seperti “WormGPT” atau “FraudGPT”) yang dibangun menggunakan LLM sumber terbuka.

Atau melalui layanan “jailbreak-as-a-service” yang menargetkan chatbot legal seperti ChatGPT untuk menghilangkan batasan keamanan mereka agar mau berbagi konten berbahaya.

Langkah Perlindungan bagi Individu dan Organisasi

Meskipun risiko AI meningkat, Kita dapat melawannya dengan langkah-langkah strategis:

Untuk Individu

• Verifikasi Ganda: Selalu verifikasi permintaan transfer uang mendesak melalui saluran kedua (telepon atau pertemuan langsung).
• Perlambat Reaksi: Rekayasa sosial selalu mencoba menciptakan rasa urgensi untuk melumpuhkan logika Kita.
• Batasi Berbagi di Media Sosial: Atur akun ke mode privat untuk mencegah AI mengumpulkan data pribadi Kita secara otomatis.
• Gunakan Perlindungan Berlapis: Gunakan aplikasi keamanan dari vendor tepercaya yang dirancang untuk memblokir situs phising dan malware baru. Solusi seperti ESET telah diakui sebagai pemimpin dalam perlindungan kehidupan digital karena pendekatannya yang ringan namun tangguh dalam mencegah ancaman sebelum terjadi.

Untuk Organisasi

• Perbarui Kebijakan Finansial: Ketatkan prosedur persetujuan untuk transfer dana.
• Pelatihan Staf: Sertakan pengenalan terhadap deepfake dan phising berbasis GenAI dalam program pelatihan kesadaran keamanan.
• Implementasi Zero Trust: Terapkan pendekatan di mana semua pengguna dan perangkat terus diautentikasi dan dipantau dengan hak akses minimum.

Navigasi di Tengah Perlombaan Senjata Digital

Keamanan siber akan selalu menjadi perlombaan senjata. AI kini mempercepat dinamika tersebut, di mana peretas berlomba mencari cara untuk menghindari alat deteksi.

Namun, AI juga akan semakin banyak ditanamkan ke dalam klien email, peramban, dan aplikasi perpesanan untuk membasmi penipuan dan konten palsu.

Peneliti ESET mencatat bahwa risiko terbesar bagi pengguna sehari-hari saat ini adalah lonjakan penipuan berbasis AI berkualitas tinggi seperti iklan atau video palsu yang terlihat sangat profesional.

Di masa depan, bot bertenaga AI akan semakin canggih dalam meniru profil media sosial asli atau menulis ulasan palsu yang meyakinkan.

Menghadapi tahun 2026, perlindungan terbaik adalah kombinasi antara teknologi deteksi ancaman berbasis AI yang mutakhir dan kewaspadaan manusia yang tajam.

Dengan melakukan verifikasi yang disiplin dan menggunakan alat yang diperbarui, Kita dapat secara signifikan mengurangi risiko menjadi korban di era kecerdasan buatan ini.

Sumber berita:

WeLiveSecurity