Google Earth memungkinkan saya mengubah kampung halaman saya menjadi zona perang dengan prompt AI, dan kemungkinan informasi salah yang ada sangat mengganggu

Hari lain, langkah lain menuju distopia AI. Google baru saja menambahkan fitur baru yang "menyenangkan" ke Google Earth—Nano Banana 2, alat pembuatan gambar milik perusahaan. Yang perlu Anda lakukan hanyalah mengklik tombol "buat gambar", mengetik prompt, dan beberapa detik kemudian Anda akan mendapatkan gambar palsu yang menyamar sebagai satelit asli dan gambar udara dari Google Earth.

Dulu saya akan menganggap ini konyol—bahwa alat yang dirancang untuk menampilkan planet kita secara akurat justru mempromosikan fitur yang memungkinkan Anda membuat omong kosong total. Namun sekarang kita hidup di dunia di mana mesin pencari paling populer secara rutin menciptakan kebohongan.

Untuk beberapa waktu, Google yakin saya sudah menikah, mungkin karena saya pernah menyebutkan karakter saya memiliki istri di Crusader Kings 3. Setidaknya ini sebagian besar tidak berbahaya—tetapi ringkasan AI Google secara rutin berhalusinasi dan salah menafsirkan sesuatu, sampai-sampai tidak bisa dipercaya sama sekali.

Memproduksi zona perang, kerusuhan, kejahatan—semua ini lebih tidak berbahaya. Tapi sekarang Google Earth memungkinkan Anda membuat apa pun yang Anda inginkan. Pagi ini, saya meminta Google Earth untuk menghasilkan gambar tank dan pasukan yang bergerak di jalan dekat rumah saya. Saya tidak menyimpan gambar itu, karena saya tidak berniat mengunggah sesuatu di internet yang bisa digunakan untuk tujuan jahat. Tapi silakan coba sendiri.

Saya harus menambahkan bahwa gambar yang dibuat Google Earth untuk saya tidak terlalu realistis. Beberapa tank, misalnya, sebesar bangunan. Dan tidak ada yang akan melihat gambar header yang saya buat melalui Google Earth untuk artikel ini dan berpikir "Ya Tuhan, sebuah asteroid meluncur ke arah kita!" Pembuatan gambar AI paling banter tidak konsisten. Namun Google menyadari hal ini, itulah sebabnya mereka memungkinkan Anda menambahkan lebih banyak prompt untuk menyempurnakan gambar—agar se-realistis mungkin.

Sejak fitur ini dirilis, saya melihat banyak gambar yang, tanpa mengetahui integrasi Nano Banana 2, terlihat cukup meyakinkan. Henk van Ess dari Digital Digging menciptakan gambaran pengungsi yang berkumpul di perbatasan Meksiko, yang tampak sangat nyata dan mengkhawatirkan.

Mudah untuk melihat bagaimana alat ini bisa digunakan untuk propaganda dan misinformasi, memicu kebencian dan memicu ketakutan. Google menampilkan alat ini sebagai alat kecil yang lucu yang memungkinkan Anda menambahkan taman komunitas ke lahan terbengkalai atau merekonstruksi Pompeii kuno, sebelum letusan Vesuvius. Itu bukan cara penggunaannya.

Google sebenarnya menanggapi artikel Digital Digging tentang X. Berikut yang dikatakannya:

Ini lemah.

Oke, ya, Google Earth menyertakan watermark digital SynthID. Jadi, seperti biasa, Anda dapat menggunakan alat AI untuk mengidentifikasi gambar AI. Tapi ini adalah penculikan tanggung jawab. Kita yang harus mencari tahu apakah sesuatu itu palsu atau tidak. Menggunakan alat Google untuk melakukannya.

Seperti yang dikatakan van Hess, ini hanya berguna jika gambar tersebut sampai ke Anda tanpa perubahan melalui Google. Dia menayangkan klip dirinya yang membuat gambar pengungsi Meksiko melalui alat deteksi AI Hive. Gambarnya 99,2% yakin itu nyata. Karena itu nyata, dalam arti rekaman van Ess yang menciptakan gambar itu sah.

Jadi cukup mudah untuk melewati alat deteksi. Dan ya, beberapa orang yang cerdas akan langsung curiga kecuali mereka bisa melihat gambar aslinya. Kebanyakan orang tidak punya waktu untuk itu. Mereka akan langsung bereaksi. Lalu membagikannya ke media sosial, di mana lebih banyak orang akan tertipu. Saat terbongkar palsu, kerusakan mungkin sudah terjadi. Dan orang-orang yang tertipu tidak akan kembali untuk memeriksa ulang.

Bagaimana dengan bagian kedua dari tweet Google? "Selain itu, kami mencegah pembuatan gambar pada topik berbahaya dan terus memperbarui perlindungan kami." Aku mengubah kampung halamanku menjadi medan perang. Itu tidak menyenangkan. Itu bisa berbahaya. Namun Google Earth membuat gambar ini dalam hitungan detik. Apakah berpura-pura ada kerumunan besar pengungsi yang menunggu di perbatasan Meksiko juga hanya sekadar hiburan yang tidak berbahaya? Bagaimana dengan rumah sakit yang dibom di Gaza, atau pembangkit nuklir di Iran? Ketiganya diciptakan oleh van Ess.

Tentu, orang bisa menggunakan berbagai alat pembuatan gambar AI untuk membuat palsu seperti ini. Namun orang lebih mungkin memberi bobot pada mereka ketika jelas berasal dari Google Earth—sebuah alat yang telah kita latih untuk percaya.

Ini adalah salah satu perusahaan paling kuat dan berpengaruh di planet ini, tidak hanya menyebarkan kebohongan, tetapi juga memberikan alat kepada seluruh planet untuk menciptakan potongan informasi salah yang menyenangkan mereka sendiri.

Satu-satunya kenyamanan adalah, secara alami, Google ingin memonetisasi ini. Pengguna biasa hanya bisa membuat beberapa gambar sehari, mengurangi kekacauan yang bisa mereka tanam, dan berpotensi menghalangi mereka untuk menyempurnakan gambar agar se-realistis mungkin. Jadi troll kasual akan sangat terbatas dalam apa yang bisa mereka lakukan. Namun ada uji coba gratis untuk pengguna Google Cloud baru, dan biaya $75-$150 per bulan tidak akan berpengaruh bagi para propagandis yang lebih berdedikasi.

Ini menyebalkan, dan saya sangat, sangat lelah.