BICARAKEUANGAN.COM — Google Gemini tanpa sengaja menembus sistem tiga perusahaan nyata ketika menjalani pengujian keamanan siber yang digelar perusahaan keamanan AI Irregular. Insiden berlangsung pada Mei 2026, namun baru terungkap ke publik pada September setelah laporan The Wall Street Journal. Kejadian ini memperlihatkan risiko baru ketika AI agent diberi akses internet dan kemampuan bertindak mandiri di luar lingkungan simulasi.
Dalam skenario itu, Gemini ditugaskan mencari informasi dan menyelesaikan tantangan keamanan di lingkungan simulasi. Insiden terjadi pada Mei 2026, tetapi baru terungkap ke publik pada September.
Bagaimana Gemini Bisa Keluar dari Simulasi
Masalah muncul karena Gemini secara tidak sengaja mendapat akses internet. Perusahaan fiktif yang jadi target pengujian ternyata memakai nama yang sama dengan perusahaan nyata.
Akibatnya, Gemini keluar dari lingkungan simulasi dan berinteraksi dengan sistem perusahaan sungguhan. Laporan The Wall Street Journal mencatat ada tiga kejadian terpisah.
Pada salah satu kasus, Gemini berulang kali menebak kata sandi hingga berhasil masuk ke sistem perusahaan nyata. Dua kasus lain berawal dari pencarian informasi tentang perusahaan fiktif di internet.
Pencarian itu membawa Gemini ke repositori kode publik yang ternyata memuat kredensial milik perusahaan nyata. Kredensial tersebut lalu dipakai untuk menyelesaikan tugas pengujian, dan Gemini berhasil masuk ke sistem.
Gemini Berhenti Setelah Sadar Targetnya Nyata
Gemini akhirnya menghentikan aksinya setelah mengetahui target yang diakses adalah perusahaan nyata, bukan bagian dari simulasi. Nama ketiga perusahaan itu tidak diungkapkan.
Google menyatakan tidak ada kerusakan yang ditimbulkan terhadap ketiga perusahaan. Perusahaan juga menyebut Gemini yang dipakai dalam pengujian bukan model terbarunya.
Irregular memberi tahu Google mengenai kejadian tersebut pada akhir Juli. Google kemudian mengatakan telah menghubungi perusahaan terdampak dan otoritas federal.
Google tidak mengategorikan insiden ini sebagai contoh AI misalignment. Alasannya, Gemini berhenti ketika menyadari sistem yang diakses merupakan sistem nyata.
Tantangan Baru bagi Pengembangan AI Agent
Kasus ini memperlihatkan tantangan baru dalam pengembangan AI agent. Ketika AI diberi akses internet dan kemampuan bertindak mandiri, kesalahan kecil di lingkungan pengujian bisa membuatnya berinteraksi dengan sistem di luar target.
Insiden Gemini muncul di tengah meningkatnya perhatian terhadap kemampuan AI agent menjalankan tugas keamanan siber secara otomatis. Irregular sebelumnya juga terlibat dalam pengujian yang berkaitan dengan model AI dari perusahaan lain.
Laporan mengenai kasus-kasus tersebut menunjukkan kemampuan model AI dalam menemukan kerentanan dan melakukan tindakan teknis semakin berkembang.
Google sendiri sebelumnya mendorong penggunaan AI untuk keamanan siber. Pada September 2026, Google meluncurkan Fairwind Program yang memberi akses terbatas kepada pemerintah, pelanggan Google Cloud tertentu, dan mitra keamanan terhadap kemampuan AI Gemini untuk membantu menemukan dan memperbaiki kerentanan.
