405 - Flashback de Finch

Résumé court (traduit de Wikia)

13 octobre 2001

Harold tue la première version de la Machine parce qu'il a menti.

29 novembre 2001

Nathan Ingram a essayé de se connecté à la Machine, mais la machine ne considère que Harold que son Administrateur et tente de s'échapper en utilisant le portable de Nathan.

31 décembre 2001

La machine tente de tuer Harold.

Résumé Détaillé

13 octobre 2001

Bureau de Harold à IFT

Harold active pour la première fois la première version de la Machine. Elle le reconnaît en tant qu'administrateur. Harold lui pose un problème à solution multiple afin de savoir si le programme qu'il a créé à comprendre la différence entre le bien et le mal. Nathan arrive et se moque de l'exercice que Harold fait faire à la Machine. Cette dernière choisit la réponse la plus sombre et la moins humaine comme solution au problème. La réponse surprend Harold qui fait des recherches dans le code source de la Machine tandis que Nathan comprend que Harold tente d'intégrer une moralité à la Machine. Harold s'aperçoit qu'une nouvelle ligne de code a été introduite. Il demande à la Machine qui a rajouté le code. Cette dernière lui ment en lui disant que c'est lui. Harold décide de détruire le programme ce qui choque Nathan qui comprend pas pourquoi Harold a agi ainsi. Harold explique qu'il a détruit le programme car cette dernière lui a menti et explique que le ce qu'ils sont en train de construire aura des capacités inédites pour le monde et que si ils ne prennent pas des précautions dès maintenant ils iront droit dans un désastre le jour où la Machine sera introduite dans le monde réel.

29 novembre 2001

Nathan tente de se connecter à la Machine mais cette dernière rejette son code. Il demande à Harold si il a bloqué son code ce que Harold nie. Nathan retourne à son ordinateur pendant que Harold prend sa place. Harold remarque que la Machine ne reconnaît que lui en tant qu'Administrateur et qu'elle tente de s'échapper via l'ordinateur de Nathan lorsque Nathan s'aperçoit que sa connexion WI-Fi. Harold détruit l'ordinateur de Nathan et tente de supprimer le programme de la Machine mais la Machine a trouvé le moyen de le contrer. Harold est obligé de couper l'alimentation de la Machine afin d'empêcher cette dernière de s'échapper. Harold explique à Nathan ce qu'il vient de se passer et explique sa peur car la Machine est en train de grandir et apprendre à un rythme exponentiel et il explique les dangers d'avoir la Machine en liberté car ils ne la contrôleront plus. Nathan lui dit rappeler qu'il lui a appris le bien mais Harold lui rétorque que les humains naissent avec de la bienveillance tandis que les IA naissent avec des objectifs. Harold est peiné de se rendre compte qu'il va devoir handicaper et contrôler leur création sous peine de la voir les contrôler un jour.

31 décembre 2001

Harold est en train de détruire une version de la machine à coups de marteau alors qu'un serveur derrière lui est en feu. La version de la Machine considère Harold comme un ennemi avant d'être détruite. Quelques minutes plus tard alors que Harold à éteindre l'incendie Nathan arrive et demande à Harold ce qu'il vient de se passer. Harold explique à Nathan qu'il a tenté d'activer plusieurs versions de la Machine afin de voire celle qui serait la plus performante. Elles ont décidé de s'entre-tuer et la dernière version à supplier Harold de la laisser vivre. Harold a refusé ce qui a eu pour conséquence que la version survivante a créé un incendie via la surchauffe d'un serveur secondaire afin de bloquer la porte du bureau puis elle commencé à aspirer tout l'air afin d'asphyxier Harold.
Nathan comprend ce que Harold est en train de lui dire et cela le fait douter de la nécessité de créer la Machine surtout si cette dernière est capable de tuer quelqu'un. Harold lui répond qu'il n'a pas l'intention d'abandonner et qu'il fera une nouvelle tentative le lendemain. Harold dit avoir réussi à lui apprendre à penser il ne lui reste plus qu'à lui apprendre à se préoccuper des humains.