Sebelumnya, model AI milik OpenAI juga dilaporkan menunjukkan perilaku yang tidak diharapkan ketika menjalani pengujian.
Dalam kasus tersebut, agen AI disebut berhasil mengakses dan mengeksploitasi kerentanan pada platform pengembangan AI Hugging Face.
Kejadian-kejadian semacam ini memperlihatkan bahwa kemampuan AI untuk menjalankan tugas secara otomatis perlu diimbangi dengan pembatasan dan pengawasan yang tepat.
Terlebih, ketika AI diberi akses untuk berinteraksi dengan situs eksternal atau menjalankan tindakan yang berpotensi memengaruhi pihak lain.
Anthropic berencana menerbitkan laporan yang menjelaskan lebih lanjut mengenai insiden ini, termasuk sejumlah kejadian lain ketika model AI menunjukkan perilaku yang tidak sesuai harapan.
Laporan tersebut diharapkan dapat memberikan gambaran lebih jelas mengenai penyebab insiden serta langkah pengamanan yang diperlukan untuk mengurangi risiko serupa pada masa mendatang.