Vous vous souvenez de ces lois robot d'Asimov qu'il a inventées ? Trois petites commandements : protéger les humains, obéir aux ordres, se préserver - mais seulement lorsque cela ne compromet pas les deux premiers.

Cela semble infaillible sur le papier. La réalité ? C'est là que les choses deviennent compliquées.

Asimov lui-même en était conscient. Toute sa collection d'histoires est essentiellement une masterclass sur la façon dont ces règles se plient, se brisent et se retournent contre leurs créateurs de manière inattendue. Les robots n'étaient pas le problème - ce sont les lacunes logiques qui l'étaient.

Maintenant que nous développons l'AGI, ces vieux débats de science-fiction ne sont plus théoriques. La question n'est pas de savoir si les machines peuvent suivre des règles. C'est si nous sommes honnêtes sur ce que nous construisons réellement - et ce qui se passe lorsque ces règles ne peuvent pas suivre.