Katie Harbath dari perusahaan konsultan teknologi Anchor Change mengatakan kasus di Malaysia menunjukkan bagaimana AI dapat membuat penyebaran informasi palsu menjadi jauh lebih mudah.
AI memungkinkan seseorang membuat konten dalam jumlah besar dengan waktu yang lebih singkat.
Biayanya juga relatif lebih murah. Selain itu, konten bisa dibuat lebih personal sehingga terlihat lebih relevan bagi kelompok atau individu tertentu.
Ancaman lainnya adalah jika berita palsu diproduksi secara terus-menerus dalam jumlah besar.
Pelakunya bisa berasal dari berbagai pihak, mulai dari pemerintah, kelompok propaganda, hingga perusahaan swasta.
Mereka dapat membanjiri internet dengan informasi palsu sampai masyarakat kesulitan membedakan mana informasi yang benar dan mana yang telah dimanipulasi.
Masalahnya tidak berhenti pada pengguna media sosial.
Banjir informasi palsu juga berpotensi memengaruhi sumber data yang digunakan oleh model bahasa besar atau large language model (LLM).
Jika informasi yang salah semakin banyak tersedia di internet, AI pada masa depan berisiko ikut menemukan dan mengutip informasi tersebut.
Karena itu, penyebaran berita palsu menggunakan AI tidak hanya menjadi masalah bagi pemilih, tetapi juga dapat menjadi tantangan bagi sistem informasi digital secara keseluruhan.
Perkembangan ini membuat penggunaan AI menjelang pemilu di Asia Tenggara perlu mendapat perhatian lebih serius, terutama untuk mencegah manipulasi informasi dan penyebaran disinformasi secara massal.