Sistem pengumpulan berita berbasis AI saat ini menimbulkan risiko serius yang tidak boleh diabaikan. Tantangan utama terletak pada penentuan kredibilitas sumber dan keaslian klaim. Metode tradisional tidak cukup—angka keterlibatan seperti suka dan tampilan dapat dengan mudah dimanipulasi, namun ini sering menjadi satu-satunya sinyal yang diandalkan sistem AI saat merangkum informasi. Konsekuensinya nyata: AI summarizer sering kali salah mengatribusi klaim atau salah mengidentifikasi tokoh kunci di ruang crypto (penugasan identitas yang salah terjadi lebih sering dari yang Anda kira). Tanpa mekanisme verifikasi yang kuat untuk membedakan sumber yang dapat dipercaya dari konten yang dibuat-buat atau diperbesar, kurasi berita AI menjadi potensi vektor penyebaran disinformasi. Industri membutuhkan solusi yang lebih baik untuk memvalidasi kualitas informasi sebelum sistem ini menjadi arus utama.