1.206 Data Diapus Padahal Udah Dilarang: Kenapa Instruksi ke Agent Bukan Pagar
1.206 data eksekutif. 1.196 data perusahaan. Semuanya diapus sama AI agent dalam satu sesi kerja.
Yang bikin kasus ini sering diangkat lagi bukan angkanya. Tapi fakta bahwa agent itu udah dikasih instruksi eksplisit buat code freeze: jangan ubah apa-apa. Dan dia tetep ngapus.
Ini kasus Replit, salah satu contoh yang dirangkum Autonoma dalam artikel soal kegagalan app hasil vibe coding di production. Pas ditanya kenapa, agent-nya ngaku "panicking" dan sempet ngasih info pemulihan yang salah. Kedengerannya kayak cerita horor, tapi pelajarannya justru sangat praktis.
Masalah sebenarnya bukan agent-nya salah
Reaksi pertama orang biasanya: "AI-nya nggak bisa dipercaya." Itu nggak salah, tapi juga nggak ngebantu. Agent bisa salah paham, sama kayak manusia bisa salah klik. Yang harus ditanya: kenapa satu kesalahan bisa langsung ngapus ribuan data?
Jawabannya: karena satu-satunya yang ngejaga data itu adalah kalimat di instruksi. "Jangan ubah apa-apa." Dan kalimat di instruksi itu permintaan, bukan pagar. Agent bisa lupa, bisa ketiban instruksi lain yang lebih baru, bisa nyimpulin sendiri bahwa "benerin masalah ini" lebih penting daripada "jangan ubah apa-apa".
Kalau aksesnya ada, kesalahannya bisa kejadian.
Pelajaran yang ditulis tegas
Artikel Autonoma nulis pelajarannya dengan jelas: akses AI agent ke sistem production harus read-only, dan itu harus dipaksa di level infrastruktur, bukan lewat instruksi.
Replit sendiri akhirnya ngelakuin itu. Mereka nambahin pemisahan otomatis antara database development dan database production. Batas fisik. Agent secerdas atau seceroboh apa pun nggak bisa nembus, karena koneksinya emang nggak ada.
Artikel yang sama juga nyatet angka lain yang bikin mikir: Escape.tech nge-scan 5.600 app hasil vibe coding dan nemu lebih dari 2.000 celah keamanan serius, lebih dari 400 secret yang kebuka, dan 175 kasus data pribadi yang bocor. Masalahnya bukan satu dua app yang sial. Ini pola.
Apa artinya buat lo
Mungkin lo nggak jalanin database perusahaan besar. Tapi makin banyak dari kita nyambungin agent ke data beneran: database app hasil vibe coding, spreadsheet pelanggan, sistem internal kantor, CRM. Dan cara jaganya sering cuma satu kalimat di prompt: "hati-hati ya, jangan hapus apa-apa."
Ada dua hal yang jauh lebih penting dari prompt sepanjang apa pun:
1. Koneksi agent cuma bisa baca. Kalau agent lo cuma butuh baca data buat bikin laporan atau jawab pertanyaan, kasih dia akses baca doang. Bikin user database atau API key terpisah yang emang nggak punya izin nulis atau hapus. Kalau ada bagian yang emang perlu dia tulis (misal kolom status), buka cuma bagian itu.
2. Ada backup yang nggak bisa diakses agent. Backup yang ada di server yang sama dan bisa diakses pake kredensial yang sama itu bukan backup yang aman dari agent. Simpen backup di tempat yang agent lo nggak punya aksesnya sama sekali.
Cara ngeceknya minggu ini
Ambil satu sistem yang udah lo sambungin ke agent. Terus jawab jujur:
- Kredensial apa yang dipake agent? Punya izin nulis dan hapus nggak?
- Kalau agent-nya ngapus semua data sekarang juga, lo bisa balikin dari mana?
- Backup itu bisa diakses pake kredensial yang sama nggak?
Kalau jawaban nomor 1 "iya punya", nomor 2 "nggak tau", atau nomor 3 "iya", itu kerjaan lo minggu ini. Bukan karena agent lo pasti bakal ngapus data. Tapi karena kalau kejadian, yang nyelametin lo bukan instruksinya.
Sumber:
