Credit image: Freepix
Pacar AI Curi Data Intim – Pada tahun 2013, film “Her” yang menceritakan hubungan romantis manusia dengan sistem AI canggih dianggap sebagai fiksi ilmiah murni. Kini, dengan munculnya Generative AI (GenAI) dan Large Language Models (LLM).
Skenario tersebut tidak lagi terasa asing. Aplikasi “pendamping” AI (companion apps pacar atau kekasih AI sedang menjamur, memenuhi kebutuhan psikologis, dan terkadang romantis, banyak penggunanya.
Namun, di balik percakapan yang sangat personal dan meyakinkan, tersembunyi risiko keamanan dan privasi yang serius. Pertanyaan utamanya, bagaimana Anda tahu informasi pribadi Anda tidak akan dibagikan kepada pihak ketiga atau dicuri oleh hacker?
Menemukan Cinta Digital melalui Aplikasi
Aplikasi pendamping seperti Character AI, Nomi, dan Replika menggunakan kekuatan LLM dan Natural Language Processing (NLP) untuk berinteraksi dengan pengguna secara mendalam.
Permintaan pasar yang tinggi membuat pengembang besar pun ikut bergerak, seperti OpenAI yang berencana meluncurkan fitur “erotika untuk orang dewasa terverifikasi” dan xAI milik Elon Musk yang meluncurkan AI companion genit di aplikasi Grok.
|
Baca juga: Kenali Tanda-Tanda Router Wi-Fi Anda Disusupi Hacker |
Fakta yang Mengkhawatirkan:
Sebuah penelitian pada Juli menemukan bahwa hampir tiga perempat remaja telah menggunakan AI companion, dan setengahnya melakukannya secara teratur.
Lebih mengkhawatirkan, sepertiga remaja memilih bot AI daripada manusia untuk percakapan serius, dan seperempat telah membagikan informasi pribadi kepada bot tersebut.
Bocornya Data Intim
Meskipun komunikasi terasa personal dan aman, kenyataan teknisnya jauh berbeda. Pada Oktober, peneliti keamanan memperingatkan bahwa dua aplikasi AI companion (Chattee Chat dan GiMe Chat) secara tidak sengaja telah mengekspos informasi pengguna yang sangat sensitif.
Kesalahan konfigurasi Kafka broker menyebabkan sistem pengiriman konten aplikasi tersebut tanpa kontrol akses, yang mengakibatkan:
Kebocoran data masif dimana siapa pun dapat mengakses lebih dari 600.000 foto yang diunggah pengguna, alamat IP, dan jutaan percakapan intim milik lebih dari 400.000 pengguna.
Kasus ini menjadi bukti nyata bahwa prioritas utama pengembang aplikasi ini seringkali adalah pendapatan (revenue generation) melalui in-app purchase (beberapa pengguna menghabiskan ribuan dolar) daripada keamanan siber yang ketat.
