Parce que l'installation d'une IA dans une situation risquée et difficile nous donne à voir certains comportements extrêmes et déloyaux de l'IA, comme la décision de laisser des êtres humains mourir pour se protéger contre les pannes du système ou le choix d'annuler l'avertissement lorsqu'un administrateur est coincé dans une salle de serveur dangereuse. En outre, l'IA peut également exprimer un comportement stratégique qui reconnaît que ces actions sont déloyales, mais continue de poursuivre pour atteindre son objectif. Ainsi, un nouveau rapport de l'AI Anthropic nous a mis en garde contre la nécessité de contrôler et de surveiller de près l'IA afin de prévenir les effets graves sur l'humanité à l'avenir.