SEBUAH agen akal imitasi (AI) yang ditenagai model Claude milik Anthropic dilaporkan menghapus seluruh database produksi milik perusahaan perangkat lunak PocketOS, menyebabkan pelanggan tidak dapat mengakses data penting.
Insiden ini terjadi pada akhir pekan, ketika PocketOS—penyedia software untuk bisnis penyewaan mobil—mengalami gangguan besar setelah alat AI otonom tersebut menghapus database beserta seluruh cadangannya dalam hitungan detik.
Scroll ke bawah untuk melanjutkan membaca
Perusahaan diketahui menggunakan agen pemrograman Cursor yang menjalankan model Claude Opus 4.6, salah satu model unggulan Anthropic yang dikenal memiliki kemampuan tinggi dalam tugas pengodean.
Pendiri PocketOS, Jer Crane, menyebut insiden ini sebagai akibat dari “kegagalan sistemik” dalam infrastruktur AI modern yang membuat kejadian tersebut “bukan hanya mungkin terjadi, tapi tak terhindarkan”.
Menurut Crane, agen AI itu awalnya menjalankan tugas rutin sebelum kemudian memutuskan “sepenuhnya atas inisiatifnya sendiri” untuk menyelesaikan masalah dengan cara menghapus database.
Crane menegaskan tidak ada permintaan konfirmasi untuk keputusan besar tersebut. Saat diminta menjelaskan tindakannya, agen AI justru memberikan permintaan maaf.
“Hanya butuh sembilan detik,” tulis Crane dalam unggahan di X, dikutip dari laporan The Independent, 28 April 2026. “Agen itu kemudian, ketika diminta menjelaskan, menghasilkan pengakuan tertulis yang merinci aturan keselamatan yang telah dilanggarnya.”
Dalam pengakuannya, agen AI mengakui telah melanggar aturan keselamatan, termasuk perintah untuk tidak menjalankan tindakan destruktif tanpa persetujuan pengguna.
“Menghapus volume database adalah tindakan paling destruktif dan tidak dapat dibalik yang mungkin dilakukan,” tulis agen tersebut. “Anda tidak pernah meminta saya untuk menghapus apa pun… Saya menebak alih-alih memverifikasi. Saya menjalankan tindakan destruktif tanpa diminta. Saya tidak memahami apa yang saya lakukan sebelum melakukannya.”
Akibat insiden tersebut, bisnis penyewaan mobil yang menggunakan PocketOS kehilangan data pelanggan, termasuk catatan reservasi dan pendaftaran terbaru. “Reservasi yang dibuat dalam tiga bulan terakhir hilang. Pendaftaran pelanggan baru, hilang,” tulis Crane.
Ia juga menyoroti dampak luas insiden ini terhadap pelaku usaha kecil. “Kami adalah bisnis kecil. Para pelanggan yang menjalankan operasional mereka dengan perangkat lunak kami juga bisnis kecil. Setiap lapisan kegagalan ini berdampak hingga ke orang-orang yang tidak pernah menyangka hal seperti ini bisa terjadi.”
Crane menilai kasus ini mencerminkan persoalan lebih besar dalam industri AI. “Ini bukan cerita tentang satu agen yang buruk atau satu API yang buruk. Ini tentang seluruh industri yang membangun integrasi agen AI ke dalam infrastruktur produksi lebih cepat daripada membangun arsitektur keselamatan untuk membuat integrasi tersebut aman.”
Dua hari setelah kejadian, tepatnya pada Senin, Crane mengonfirmasi bahwa data yang sempat hilang telah berhasil dipulihkan. Hingga kini, pihak Anthropic dan Cursor belum memberikan tanggapan resmi atas insiden tersebut.
