Waspada! AI Chatbot Kini Bisa Jadi Kurir Malware untuk Bobol Sistem Perusahaan

JATENG.AKURAT.CO, Riset terbaru dari Check Point Research menunjukkan bahwa AI chatbot dengan kemampuan web browsing dapat disalahgunakan sebagai relay malware.

Alih-alih malware menghubungi server command-and-control (C2) tradisional, penyerang bisa memanfaatkan fitur pengambilan URL (URL fetching) pada chatbot untuk menarik instruksi dari halaman berbahaya, lalu mengembalikan respons tersebut ke mesin yang telah terinfeksi.

Konsep ini memanfaatkan fakta bahwa lalu lintas menuju layanan AI besar sering dianggap normal di banyak lingkungan perusahaan.

Akibatnya, komunikasi berbahaya bisa tersamarkan sebagai aktivitas web biasa.

Bagaimana Cara Kerja Relay Malware via AI Chatbot?

Secara teknis, pendekatannya relatif sederhana:

• Malware memicu antarmuka web chatbot untuk membuka URL tertentu.
• Chatbot diminta merangkum isi halaman tersebut.
• Malware mengambil teks hasil ringkasan dan mengekstrak instruksi tersembunyi.

Check Point menguji teknik ini melalui antarmuka web Grok dan Microsoft Copilot. Dalam skenario uji, metode ini dirancang tanpa memanfaatkan API developer dan bahkan dapat berjalan tanpa API key.

Untuk eksfiltrasi data, mekanismenya bisa dibalik. Data dapat disisipkan dalam parameter URL (query string), lalu dikirim ke infrastruktur penyerang melalui permintaan yang dipicu oleh chatbot. Encoding sederhana bisa menyamarkan isi data sehingga sulit dideteksi oleh filter konten dasar.

Mengapa Teknik Ini Sulit Dideteksi?

Teknik ini bukan jenis malware baru. Ia hanya mengadaptasi pola command-and-control klasik dengan membungkusnya dalam layanan yang secara umum dipercaya.

Beberapa faktor yang membuatnya sulit dideteksi:

• Domain layanan AI sering dianggap low-risk
• Lalu lintas terlihat seperti browsing normal
• Tidak selalu memerlukan API atau kredensial khusus
• Bisa memanfaatkan komponen sistem seperti WebView2

Dalam skenario yang dijelaskan, sebuah program dapat:

• Mengumpulkan informasi host
• Membuka WebView tersembunyi
• Memicu permintaan ke layanan AI
• Mengurai respons untuk mengambil perintah berikutnya

Secara kasat mata, perilaku ini menyerupai aktivitas aplikasi biasa, bukan beacon C2 mencurigakan.

Respons Microsoft

Microsoft menyatakan bahwa skenario ini termasuk kategori komunikasi pasca-kompromi (post-compromise).

Artinya, perangkat harus sudah terinfeksi terlebih dahulu sebelum teknik ini bisa digunakan.

Microsoft menekankan pentingnya pendekatan defense-in-depth, termasuk:

• Pencegahan infeksi awal
• Pembatasan hak akses
• Monitoring aktivitas abnormal

Risiko bagi Perusahaan

Jika fitur browsing AI dibiarkan terbuka tanpa pengawasan, potensi risikonya meliputi:

• Penyembunyian lalu lintas C2
• Eksfiltrasi data sensitif
• Penyalahgunaan layanan cloud terpercaya

Seiring semakin banyak organisasi mengaktifkan chatbot berbasis AI untuk produktivitas, permukaan serangan juga ikut meluas.

Apa yang Harus Dilakukan Tim Keamanan?

Tim keamanan perlu memperlakukan chatbot berbasis web seperti aplikasi cloud berisiko tinggi lainnya.

Langkah mitigasi yang disarankan:

• Monitor pola otomatisasi tidak wajar (misalnya pemanggilan URL berulang).
• Deteksi prompt cadence yang tidak menyerupai interaksi manusia.
• Batasi fitur browsing AI hanya pada perangkat terkelola.
• Terapkan prinsip least privilege dan segmentasi jaringan.
• Perkuat endpoint protection untuk mencegah kompromi awal.

AI browsing tidak selalu perlu tersedia di semua perangkat atau semua peran pengguna.

Manfaat & Tantangan Keamanan AI Chatbot

Manfaat:

• Produktivitas meningkat
• Akses informasi cepat
• Integrasi workflow modern

Tantangan:

• Potensi penyalahgunaan sebagai jalur komunikasi tersembunyi
• Kesulitan deteksi lalu lintas abnormal
• Ketergantungan berlebihan pada reputasi domain terpercaya

FAQ

1. Apakah AI chatbot menjadi malware?
Tidak. Chatbot tetap layanan sah. Penyalahgunaan terjadi setelah perangkat terinfeksi.

2. Apakah ini ancaman luas saat ini?
Saat ini masih dalam tahap demonstrasi riset, belum ada laporan eksploitasi masif.

3. Apakah mematikan chatbot adalah solusi?
Tidak selalu. Pendekatan terbaik adalah monitoring dan kontrol akses yang tepat.

4. Apa risiko terbesar?
Eksfiltrasi data dan penyamaran komunikasi command-and-control.

AI sebagai Kanal Baru Pasca-Kompromi

Temuan ini menunjukkan bahwa layanan AI berbasis web bisa menjadi kanal komunikasi alternatif setelah perangkat dikompromikan.

Bukan karena AI itu berbahaya, melainkan karena ia diperlakukan sebagai layanan terpercaya.

Ke depan, perhatian akan tertuju pada dua hal: apakah penyedia AI menambahkan deteksi otomatisasi yang lebih ketat, dan apakah tim keamanan mulai mengklasifikasikan destinasi AI sebagai potensi jalur pasca-kompromi.

Dalam lanskap keamanan siber modern, setiap layanan cloud yang dipercaya dapat menjadi target penyalahgunaan. Pendekatan proaktif dan monitoring cerdas menjadi kunci utama.