Ingat aturan robot yang dibuat oleh Asimov? Tiga perintah kecil yang rapi: lindungi manusia, ikuti perintah, jaga diri - tetapi hanya jika itu tidak mengganggu dua yang pertama.

Terdengar sempurna di atas kertas. Kenyataannya? Di sinilah semuanya menjadi rumit.

Asimov sendiri tahu ini. Koleksi ceritanya seluruhnya pada dasarnya adalah pelajaran utama dalam menyaksikan aturan-aturan ini melengkung, rusak, dan berbalik arah dengan cara yang tak terduga. Robot bukanlah masalahnya - celah logika-lah yang menjadi masalah.

Sekarang kita sedang membangun AGI, dan tiba-tiba debat lama tentang sci-fi itu bukan lagi bersifat teoretis. Pertanyaannya bukan apakah mesin bisa mengikuti aturan. Tapi apakah kita jujur tentang apa yang sebenarnya kita bangun - dan apa yang terjadi ketika aturan-aturan itu tidak mampu mengikuti.