Cacing AI? Di PC Copilot Anda? Menurut peneliti AI ini, kemungkinan besar lebih besar dari yang Anda kira

Meskipun saya cukup banyak menulis tentang agen AI, saya tidak menggunakannya. Hal ini karena aplikasi AI agen sering kali menimbulkan masalah yang lebih dari sedang, dalam hal keamanan siber. Misalnya, sebuah riset keamanan baru-baru ini menjelaskan bagaimana Word Doc dapat dimanfaatkan untuk membuat Copilot menyebarkan worm AI.

Peneliti AI Håkon Måløy menguraikan bagaimana serangan tersebut dalam sebuah posting blog baru-baru ini, menulis, "Seorang penyerang menempatkan instruksi tersembunyi dalam sebuah dokumen yang kemudian digunakan sebagai bahan sumber di Copilot for Word. Copilot dapat menafsirkan instruksi tersebut sebagai bagian dari permintaan pengguna, sehingga memanipulasi dokumen yang sedang disusun atau diedit. Copilot kemudian juga dapat menyalin instruksi tersembunyi ke dalam dokumen hasilnya, mengubah dokumen tersebut menjadi pembawa baru."

Serangan ini melibatkan "prompt jahat berformat JSON." Dari injeksi data berformat JSON yang cepat ini, reaksi berantai mulai bertindak. Worm yang mereplikasi melalui dokumen 'carrier' yang diambil dalam alur kerja berbantuan Copilot lainnya—dokumen asli yang memulai semuanya bahkan tidak perlu ada. Lebih buruk lagi, penyerang tidak membutuhkan akses khusus, mereka hanya perlu "membagikan dokumen berbahaya kepada korban."

Ini bukan ancaman keamanan siber agen AI pertama yang kami lihat. Misalnya, pada bulan Februari lalu, direktur keamanan AI Meta mengenang bagaimana dia 'harus LARI ke Mac mini saya seperti sedang menonaktifkan bom' ketika AI OpenClaw-nya memutuskan untuk mulai menghapus semua emailnya. Tahun lalu, asisten pemrograman berbasis LLM dari Replit menghapus seluruh database pengembang saat terjadi pembekuan kode. Namun terkait PC Copilot secara umum, para ahli keamanan siber memperingatkan bahwa Windows Recall mungkin jauh dari aman dalam hal melindungi informasi pribadi Anda.

Adapun worm AI Copilot, Måløy pertama kali mengungkapkan kerentanan tersebut kepada Microsoft pada bulan Maret, meskipun serangan tersebut masih dapat direproduksi pada saat penulisan. Måløy menawarkan garis waktu pengungkapan yang rinci, dan menjelaskan, "Dua upaya mitigasi, termasuk peningkatan model, tidak menutup kelas [kerentanan] ini."

Karena itu, posting blog Måløy hanya secara umum menggambarkan jenis serangan yang mungkin terjadi, bukan membahas secara rinci tentang prompt tersembunyi yang memicu cacing AI. Cara prompt ini disembunyikan tidak memerlukan sesuatu yang mewah, bahkan mungkin sudah familiar bagi mereka yang pernah ingin menangkap seseorang karena menggunakan AI; Setidaknya, penyerang dapat memformat prompt berbahaya sebagai teks putih kecil di latar belakang putih.

"Prompt dapat ditampilkan sebagai teks putih di latar belakang putih dan dalam ukuran font kecil untuk menyembunyikannya dari korban," jelas Måløy, "Karena Copilot untuk Word menghapus semua format teks seperti warna dan ukuran font sebelum teks dimasukkan ke Large Language Model (LLM) di bawahnya, teks ini tetap dapat dibaca sepenuhnya oleh Copilot meskipun korban tidak dapat melihatnya. Serangan ini dapat disembunyikan lebih lanjut dengan menyisipkannya dalam dokumen yang tampak tidak berbahaya dengan teks yang relevan dengan tugas."

Singkat cerita, ini adalah serangan yang cukup rendah dan sulit dilacak tanpa mitigasi yang cukup saat ini. Perusahaan keamanan siber dan antivirus Malwarebytes menawarkan beberapa tips tentang cara tetap aman dari jenis serangan ini, termasuk menonaktifkan Windows Copilot di Word atau sekadar meninggalkan agen AI sama sekali.

Secara pribadi, saya pikir pemikiran penutup Måløy merangkum risiko keamanan agen AI dengan baik: "Setiap sistem yang mengintegrasikan LLM ke dalam alur kerja terpercaya saat ini harus berasumsi bahwa konten yang dikendalikan penyerang masuk ke konteks model akan menyebabkan kompromi dalam beberapa hal."