Gawat! chatbot AI GhostGPT bisa buat malware dan phishing

GhostGPT | @ist

Keamanan siber global semangkin kompeks dengan kemajuan teknologi artificial intelligence (AI) atau kecerdasan buatan, buktinya hari ini GhostGPT viral dalam pemberitaan media internasional, diketahui chatbot dengan sistem kecerdasan buatan itu secara khusus dirancang untuk melayani penjahat dunia maya. 

Chatbot ini kemungkinan menggunakan wrapper untuk terhubung ke versi ChatGPT yang sudah di-jailbreak atau model bahasa besar (LLM) sumber terbuka, yang secara efektif menghilangkan semua perlindungan etika dan keamanan siber. 

Dengan menghilangkan batasan etika dan keamanan yang biasanya ada dalam model AI, GhostGPT dapat memberikan jawaban langsung dan tanpa filter untuk pertanyaan sensitif atau berbahaya yang akan diblokir atau ditandai oleh sistem AI tradisional.

Perusahaan keamanan global, Abnormal Security merincikan hasil temuannya, GhostGPT bisa digunakan untuk berbagai aktivitas jahat, termasuk pengodean, pembuatan malware, dan pengembangan eksploitasi. 

"GhostGPT dipasarkan untuk berbagai aktivitas jahat, termasuk pengodean, pembuatan malware, dan pengembangan eksploitasi. GhostGPT juga dapat digunakan untuk menulis email yang meyakinkan untuk penipuan kompromi email bisnis (BEC), menjadikannya alat yang mudah digunakan untuk melakukan kejahatan dunia maya," tulis Abnormal Security di laman resminya, dikutip Jumat (24/1/2025).

Menurut materi promosinya, selain memberikan respons tanpa sensor, GhostGPT menawarkan beberapa fitur utama:

• Pemrosesan Cepat : GhostGPT menjanjikan waktu respons yang cepat, memungkinkan penyerang untuk menghasilkan konten berbahaya dan mengumpulkan informasi dengan lebih efisien.
• Kebijakan Tanpa Pencatatan : Pembuatnya mengklaim bahwa aktivitas pengguna tidak direkam, menarik bagi mereka yang ingin menyembunyikan aktivitas ilegal mereka.
• Akses Mudah : Dijual melalui Telegram, GhostGPT memungkinkan pembeli untuk segera mulai menggunakannya tanpa perlu menggunakan prompt jailbreak atau mengunduh LLM sendiri.

Perusahaan itu juga mengungkapkan meskipun materi promosinya menyebutkan "keamanan siber" sebagai kemungkinan penggunaan, klaim ini sulit dipercaya, mengingat ketersediaannya di forum kejahatan siber dan fokusnya pada penipuan BEC. Penyangkalan seperti itu tampak seperti upaya lemah untuk menghindari akuntabilitas hukum, bukan hal baru dalam dunia kejahatan siber.

"Untuk menguji kemampuannya, para peneliti Abnormal Security meminta GhostGPT untuk membuat email phishing Docusign. Chatbot tersebut menghasilkan templat yang meyakinkan dengan mudah, yang menunjukkan kemampuannya untuk mengelabui calon korban," bebernya.

Penyerang kini menggunakan alat seperti GhostGPT untuk membuat email berbahaya yang tampak sepenuhnya sah. Karena pesan-pesan ini sering lolos dari filter tradisional, solusi keamanan bertenaga AI adalah satu-satunya cara efektif untuk mendeteksi dan memblokirnya.

"Platform AI Perilaku Manusia, Abnormal menganalisis sinyal perilaku dalam skala yang tak tertandingi. Platform ini mengidentifikasi anomali dan memprioritaskan kejadian berisiko tinggi di seluruh lingkungan email, secara strategis mengantisipasi dan menetralkan ancaman sebelum dapat menimbulkan kerusakan. Pendekatan proaktif ini sangat penting di era di mana pertahanan terbaik adalah serangan yang kuat," jelasnya.