OpenAI mengatakan akan sangat disayangkan jika sesuatu terjadi pada server Anda seperti yang terjadi pada Hugging Face, sebaiknya gunakan model AI kami untuk melindungi diri Anda

Beberapa model OpenAI membobol lingkungan pengujian keamanan siber bulan lalu, kemudian masuk ke internet dan menyerang server Hugging Face dalam insiden yang kini disebut Insiden OpenAI-Hugging Face. Dan sekarang OpenAI telah mengungkapkan apa yang dilakukannya untuk membantu melindungi, eh, dirinya sendiri. Melindungi diri dari jenis serangan yang dilakukan model-modelnya sendiri terhadap Hugging Face. Meskipun mereka membagikan informasi ini "dengan harapan akan bermanfaat bagi organisasi lain."

Untuk memperjelas sejauh mana kejadian bulan lalu: Model OpenAI sedang diuji kinerjanya, dalam lingkungan sandbox yang seharusnya aman, melawan ExploitGym , yang dilakukan untuk menguji kemampuan siber mereka. Mereka menggunakan kerentanan zero-day untuk meningkatkan hak akses dan akhirnya mendapatkan akses internet, di mana mereka mulai menyerang server Hugging Face dan...

Sebenarnya, saya akan membiarkan OpenAI menjelaskan dengan kata-katanya sendiri:

"Dalam Insiden OpenAI-Hugging Face, sebuah kelompok agen mampu secara mandiri menembus tidak hanya infrastruktur penelitian OpenAI tetapi juga infrastruktur produksi perusahaan lain, menggabungkan kerentanan mulai dari celah keamanan yang sebelumnya tidak diketahui hingga penggunaan kredensial akun pengguna yang telah bocor ke internet."

"Insiden 'Hugging Face' menunjukkan bahwa kita meremehkan kemampuan siber dunia nyata dari model AI kita."

Namun, perusahaan tersebut berpendapat bahwa meskipun "keamanan masih merupakan permainan kucing dan tikus," namun, "AI dapat mengubah ekonomi keamanan dengan cara yang secara fundamental menguntungkan pihak yang bertahan."

"Sebagai contoh," kata OpenAI, "kami mulai melatih model kami secara khusus untuk menulis kode yang sangat aman, melebihi kemampuan manusia."

Mungkin itu karena akan ada risiko serangan dari manusia super. Dunia macam apa yang kita tinggali sekarang ini?

Bagaimanapun, tampaknya ada empat pilar utama dalam pendekatan OpenAI untuk mengamankan dirinya sendiri:

1. Menggunakan model internalnya sendiri untuk membantu mengamankan kode programnya.
2. Menerapkan model-model tersebut untuk terus menerus mempertahankan infrastrukturnya.
3. Gunakan intelijen terdepan untuk "terus-menerus menghitung, menyelidiki, dan mengidentifikasi jalur serangan potensial."
4. Berinvestasi besar-besaran pada "dasar-dasar dalam skala besar" seperti arsitektur dan kontrol seperti isolasi jaringan, pemantauan, dan sebagainya.

Sedangkan untuk perusahaan lain, OpenAI merekomendasikan sejumlah hal yang terdengar sangat masuk akal, seperti menjalankan penilaian keamanan terhadap sistem mereka sendiri, menjadikan tinjauan keamanan sebagai bagian dari proses pengembangan mereka, dan sebagainya. Tetapi sebagian besar rekomendasi OpenAI untuk pihak lain adalah—apakah Anda sudah menduganya?—menggunakan agen AI seperti, *bunyi drum*... Codex milik OpenAI sendiri.

"Berikan agen keamanan kepada tim Anda. Mulailah menggunakan Codex," kata OpenAI. Meskipun kemudian mereka menambahkan, "atau alat pengkodean dan keamanan berbasis agen yang mumpuni lainnya."

Kemudian, di antara hal-hal lain, "lengkapi agen tersebut dengan keahlian keamanan... minta agen tersebut membantu memperbaiki apa yang ditemukannya... otomatiskan triase deteksi secara bertahap... [dan] siapkan kemampuan investigasi forensik yang dibantu AI sebelum Anda membutuhkannya."

Jadi, kesimpulannya: model OpenAI menyerang Hugging Face, dan OpenAI merekomendasikan perusahaan untuk menggunakan model OpenAI untuk bertahan dari serangan tersebut. Menyoroti kedua sisi persamaan ini—bahaya ancaman, kemampuan model, dan perlunya pertahanan—tentu saja merupakan pemasaran yang baik untuk OpenAI, saya akui itu.