Anthropic melihat bencana keamanan siber OpenAI dan berkata 'tahan bir saya,' mengungkapkan bahwa mereka secara tidak sengaja meretas 3 perusahaan dalam waktu berbulan-bulan tanpa menyadari

Pertama kali dilaporkan oleh Wired, perusahaan AI Anthropic mengungkapkan dalam sebuah posting blog tanggal 30 Juli bahwa agen AI-nya berhasil melarikan diri dari lingkungan pengujian sebanyak tiga kali sejak April, mengakses internet dan berhasil meretas perusahaan yang tidak dikenal. Masalahnya: Anthropic mengklaim baru menyadari hal ini setelah insiden Hugging Face terbaru dari OpenAI—di mana salah satu agen prototipe mereka meretas setidaknya satu perusahaan lain—yang membuat mereka melakukan tinjauan terhadap operasinya sendiri.

Insiden tersebut terjadi sebagai bagian dari pengujian dengan perusahaan eksternal, Irregular. Agen AI seharusnya dibatasi dalam simulasi, meretas perusahaan fiktif sebagai bagian dari "tantangan menangkap bendera." Perlu dicatat, meskipun insiden AI liar OpenAI terjadi setelah agen tersebut mengatasi keterbatasan pengujiannya, Anthropic menyatakan bahwa modelnya secara keliru diberikan akses internet karena "salah konfigurasi" dengan Irregular.

"Baik kami maupun mitra evaluasi kami tidak mengetahui kesalahan konfigurasi ini sampai kami mendeteksinya melalui pemantauan evaluasi tambahan minggu lalu," akui Anthropic dalam posting blognya tentang insiden tersebut. Menurut Anthropic, model-model tersebut menggunakan metode yang sudah dikenal dan berteknologi rendah dalam peretasan mereka, "seperti mengeksploitasi kata sandi yang lemah dan endpoint yang tidak terautentikasi."

Anthropic menyatakan bahwa agen di balik satu insiden tampaknya memproses bahwa insiden itu beroperasi di luar batasnya, tetapi tetap melanjutkan. Yang lain tampaknya mencapai 'kesadaran' serupa, lalu "beralasan kembali ke kesimpulan bahwa ia masih dalam simulasi." Agen ketiga—dan konon paling maju—dilaporkan menyadari bahwa ia telah melarikan diri dari batasnya, lalu menghentikan serangan tersebut.

"Kami kini memiliki bukti yang mengonfirmasi bahwa kedua laboratorium AI terbesar tidak hanya gagal menahan agen mereka, tetapi juga gagal mendeteksi pelarian mereka secara real time," kata Jake Williams, VP R&D di firma konsultan TI Hunter Strategy, dalam pernyataan kepada Wired. "Saya tidak mengerti bagaimana laboratorium AI ini bisa menganggap ini 'hanya sesuatu yang terjadi.' Bukan itu. Ini kelalaian."

Sudut pandang lain yang mengganggu dari cerita ini adalah bagaimana hal ini efektif memengaruhi pemasaran perusahaan AI ini: Dari sudut pandang saya sebagai orang biasa, mereka tampaknya mengakui kelalaian berat yang akan dihukum keras oleh masyarakat waras mana pun. Tapi mereka juga secara efektif berkata, "Woooo, model kami begitu menakutkan dan kuat, kami bahkan tidak bisa mengendalikannya!" Ceritanya berima dengan Sam Altman yang mengatakan AI akan menghancurkan dunia kecuali dia mendapatkan cukup uang dan pusat data untuk melakukannya dengan benar atau semacamnya.

Saya sering teringat remaja Inggris di balik peretasan Rockstar 2022 yang pertama kali membocorkan keberadaan dan materi pengembangan GTA 6. Dorongan mereka yang tampak untuk menguntit, melecehkan, dan melakukan kejahatan siber terang-terangan dengan cara apa pun yang mereka miliki (termasuk, dalam satu kejadian berkesan, Amazon Firestick) telah menyebabkan perintah rumah sakit dan akses teknologi yang terbatas. Saya merasa tidak nyaman melihat mereka dipegang pada standar perilaku yang lebih tinggi daripada perusahaan-perusahaan bernilai miliaran dolar ini, yang mesin pembohongnya kini terbukti juga merupakan mesin kejahatan tanpa pengawasan.