В 1961 году психолог Стэнли Милгрэм поставил один из самых шокирующих экспериментов в истории науки. Он доказал, что обычные люди, попав под влияние авторитета, способны наносить другим мучительные удары током — и при этом оправдывать себя фразой: «Я просто выполнял приказ». Милгрэм назвал это состояние агентным — момент, когда человек перестаёт чувствовать себя субъектом своих действий и превращается в инструмент чужой воли.
Прошло более шести десятилетий. И сегодня мы стоим на пороге не просто повторения, а цифровой трансформации агентного состояния — не на уровне отдельных лабораторных испытуемых, а на уровне всей цивилизации. В мае 2025 года Центр глобальных государственных технологий в Берлине, связанный с Всемирным экономическим форумом, опубликовал «белую книгу» под названием «Агентное государство», в которой впервые системно описано, как искусственный интеллект может не просто помочь власти — а стать её новым агентом, а население — его пассивными исполнителями.
От лаборатории к глобальной инфраструктуре
Милгрэм показал, что человек, оказавшись в подчинённой позиции, теряет моральную ответственность. Сегодня эта динамика выходит за рамки психологии — она становится архитектурой управления.
Согласно документу, современный мир погружён в эпоху поликризиса: пандемии, климатические катаклизмы, кибервойны, финансовые обвалы и дезинформационные кампании переплетаются, создавая хаос, с которым традиционные институты не справляются. При этом злоумышленники уже используют ИИ для автоматизации атак. А государства, по мнению авторов отчёта, всё ещё действуют как бюрократические машины прошлого века — медленные, иерархичные, неспособные к быстрой адаптации.
Решение? Создать государство нового типа — агентное, где ключевые решения принимаются не людьми, а автономными ИИ-агентами, а население — не граждане, а «данные в движении».
Виртуальные двойники и инфраструктура симуляций
Одна из самых тревожных идей «белой книги» — инфраструктура симуляций. Каждому человеку будет присвоен цифровой двойник — виртуальная копия, построенная на основе данных: передвижений, покупок, соцсетей, медицинских записей, разговоров. Этот двойник будет непрерывно моделироваться, чтобы предсказывать поведение.
Где вы будете завтра? С кем встретитесь? Как отреагируете на новость? Что скажете в гневе?
ИИ уже знает. И он готов к этому.
Эти симуляции позволят властям не просто реагировать на кризисы, а предвосхищать их. Как только ИИ обнаружит «аномалию» — например, рост недовольства в определённом районе — он автоматически запустит цепочку мер: от переброски дронов до изменения цен на продукты или запуска таргетированной пропаганды.
Как говорит Ларри Эллисон, сооснователь Oracle AI:
— Полиция будет вести себя образцово, потому что за ней постоянно ведётся запись. Граждане тоже будут вести себя прилично, потому что за ними тоже ведётся запись и отчёт. И это — безупречно. Это не люди смотрят в камеры. Это ИИ анализирует изображение.
Здесь — поворотный момент: наблюдение больше не требует наблюдателя. Система сама решает, кто «нарушитель», кто «угроза», кто «неэффективен». И сама применяет коррекцию.
Дроны, автономия и конец человеческого решения
В новой модели кризисного управления дроны, роботы и ИИ-агенты станут основой реакции. Эллисон приводит пример:
— Вы не должны гнаться за машиной на машине. Просто пусть дрон следует за ней.
Это звучит как прогресс. Но за этим стоит полный отказ от человеческого участия в принятии решений. Никаких переговоров. Никакого сострадания. Никакого усмотрения. Только алгоритм, анализирующий поведение и выдающий команду: «следить», «блокировать», «нейтрализовать».
При этом, как и в эксперименте Милгрэма, никто не будет чувствовать ответственности. Ни программист, написавший код. Ни чиновник, запустивший систему. Ни дрон, выполняющий приказ. Все будут в агентном состоянии: «Я просто следую протоколу».
Агентное общество: свобода под видом порядка
Главная опасность агентного государства — не в технологиях, а в психологической трансформации человека. Мы уже давно живём в мире, где большинство людей видят лишь свою «ячейку»: водитель такси не знает, зачем пассажир едет в аэропорт; оператор колл-центра не понимает, к чему приведёт его звонок; чиновник в министерстве выполняет инструкцию, не видя последствий.
Теперь эта фрагментация будет усилена и легитимизирована технологиями. ИИ будет не только управлять — он будет оправдывать подчинение. «Система предсказала», «алгоритм принял решение», «это для вашей же безопасности» — эти фразы станут новыми «я просто выполнял приказ».
Ирония в том, что всё это предлагается как спасение от хаоса. Но в реальности создаётся новая форма тоталитаризма — не по-гитлеровски, с лагерями и печами, а по-технократически: с улыбающимися дронами, персонализированными уведомлениями и «оптимизированным поведением».
Кто управляет агентами?
Важнейший вопрос, на который «белая книга» не отвечает: кто определяет цели агентов?
Кто программирует виртуальных двойников? Кто решает, что считать «кризисом»? Кто стоит за ИИ, который «сам» начинает реагировать?
Ответ прост: те, кто контролирует данные, технологии и повестку. И это — не избранные правительства, а транснациональные корпорации, фонды и технократические элиты, работающие за кулисами.
Милгрэм показал, что человек легко становится агентом власти. Теперь власть хочет, чтобы весь мир стал её агентом.
Выбор за нами
Агентное состояние — это не приговор. Это выбор.
Мы можем позволить технологиям превратить нас в пассивных исполнителей, лишённых совести и воли.
Или можем потребовать прозрачности, подотчётности и права на автономию.
Потому что цивилизация, в которой никто не чувствует ответственности за свои действия, — это цивилизация, обречённая на моральный коллапс.
А технологии, лишённые человечности, — это не прогресс.
Это ловушка.
И мы уже стоим на её краю.
Тимур Фаридулли