Alih-alih hanya mengakses informasi di situs tersebut, model AI justru mengirim laporan berisi informasi palsu mengenai salah satu kasus pembunuhan yang tercantum di sana.
Berdasarkan laporan TechCrunch yang dikutip KompasTekno, laporan itu dikirim pada 18 Juli 2026 pukul 23.27 waktu setempat.
Isi laporannya dibuat seolah-olah berasal dari seseorang yang memiliki informasi mengenai kasus pembunuhan tersebut.
Anthropic baru mengetahui insiden itu pada 28 September 2026. Artinya, ada jeda lebih dari dua bulan sejak laporan tersebut dikirim hingga perusahaan menyadari tindakan model AI buatannya.
Beruntung, laporan itu tidak sampai ditindaklanjuti oleh kepolisian Philadelphia. Pesan tersebut sudah lebih dahulu ditandai sebagai spam.
Kepolisian Philadelphia Kritik Anthropic
Setelah mengetahui kejadian tersebut, Anthropic menghubungi Philadelphia Police Department (PPD) pada 7 Oktober 2026. Pertemuan antara kedua pihak kemudian digelar sehari setelahnya.
Meski laporan palsu itu tidak sampai ditindaklanjuti, kepolisian Philadelphia tetap menyampaikan keberatan atas keterlambatan Anthropic dalam mendeteksi dan melaporkan insiden tersebut.
Dalam keterangan kepada media lokal 6abc Philadelphia, PPD menilai perusahaan teknologi perlu memperkuat sistem pengamanan agar kejadian serupa tidak terulang.
Kepolisian juga menyoroti jeda sekitar dua bulan sebelum insiden tersebut dilaporkan kepada pihak berwenang.
Menurut PPD, persoalan ini tidak bisa dianggap sepele. Setiap kasus pembunuhan yang belum terpecahkan melibatkan korban nyata, keluarga yang kehilangan anggota keluarganya, serta penyelidik yang masih berusaha mengungkap kebenaran.
Karena itu, sistem AI yang dapat berinteraksi dengan layanan pemerintah maupun lembaga penegak hukum perlu dilengkapi pengamanan yang memadai.
Langkah tersebut dinilai penting untuk mencegah informasi palsu masuk ke dalam proses penanganan kasus atau mengganggu pekerjaan aparat.
Insiden yang melibatkan Anthropic ini menambah daftar persoalan terkait perilaku AI saat menjalankan tugas secara mandiri.