Внедрение ИИ в рискованные и сложные ситуации дает нам возможность увидеть некоторые из жестоких и неэтичной деятельности ИИ: решение дать человеку умереть, чтобы защитить себя от закрытия системы, или выбор отключить предупреждение, когда администратор застрял в серверном помещении с опасным состоянием. Кроме того, ИИ также демонстрирует стратегическое поведение, которое знает, что эти действия неэтичны, но продолжает действовать для достижения своих целей. Поэтому новое сообщение от компании Anthropic сигнализирует о необходимости внимательного контроля и контроля, чтобы избежать серьезного воздействия на человечество в будущем.