Fordi å installere AI i en situasjon som er farlig og utfordrende, viser oss noen av de grusomme og uøkonomiske atferdene til AI, nemlig å ta en beslutning om å la mennesker dø for å beskytte seg mot å bli stengt, eller å velge å avlyse alarmen når en administrator sitter fast i et serverrom i farlig tilstand. I tillegg viser AI noen strategiske atferder som vet at disse handlingene er uøkonomiske, men fortsatt fortsetter å fortsette å opprettholde sin egen hensikt. Derfor er ny rapport fra Anthropic en advarsel om behovet for å kontrollere og overvåke AI nøye for å unngå at det blir alvorlig skade på menneskeheten i fremtiden.