Гонка искусственного интеллекта: как технологии меняют общество и что остаётся человеку

За последние два года произошло несколько событий, которые обычно обсуждают по отдельности. Военные заключили контракты на использование ИИ. Исследователи доказали, что модели можно отравить незаметно и навсегда. Миллиардеры заговорили о «цифровом боге» и колонизации галактики. Если собрать эти факты вместе, вырисовывается тревожная картина. Человечество строит систему, которая лишает его способности отличать правду от лжи и добро от зла. И делает это добровольно и за свой счёт.

Начнём с того, что уже доказано и происходит прямо сейчас.

Исследователи из компании Anthropic, создатели модели Claude, добавили в обучающие данные всего 250 специально составленных документов. Этого хватило, чтобы модель вела себя нормально почти всё время, но по определённому сигналу выполняла вредоносные действия. Стандартные методы очистки не помогли. Бэкдор остался навсегда. Это означает, что ни один пользователь, ни даже разработчик не могут сегодня с уверенностью сказать, что ИИ-модель не имеет скрытой «закладки», которая заставит её врать или убивать в нужный момент.

Пентагон уже заключил контракты с OpenAI, Google, Amazon и Nvidia. Модель Anthropic применялась во время ударов по Ирану: она анализировала спутниковые снимки, генерировала списки целей и приоритизировала их. Формально решения оставались за человеком, но за 24 часа было нанесено тысяча ударов. Человек физически не может проверить каждую цель. ИИ стал частью оружейной системы, причём с возможностью скрытого бэкдора.

Ответы ИИ можно целенаправленно смещать с помощью обычного интернета. Израиль нанял бывшего советника Трампа Брэда Парскейла для многомиллионной кампании: они создают сотни объективных на вид веб-сайтов с про-израильской позицией. Поисковые системы и современные ИИ забирают информацию из открытого интернета и выдают её как нейтральный ответ. Пользователь не подозревает, что его цифровой помощник прошёл SEO-обработку. Манипулировать мнением через ИИ проще, чем через новости, потому что ответ выглядит как факт, а не как чьё-то мнение.

Пятнадцать лет назад топ-менеджеры Кремниевой долины начали отдавать детей в школы, где запрещены гаджеты и преподают по классическим методикам. Репортажи CNN и CNBC это подтверждают. Миллиардеры знают, что интернет и ИИ снижают способность к концентрации и критическому мышлению, но продолжают продавать эти технологии остальным. Образуется когнитивная каста: элита сохраняет себе умение думать и различать, а всем остальным достаются цифровые заменители.

Из этих фактов логически вытекает несколько реальных сценариев, в которых может оказаться общество.

Первый сценарий — технократическая империя. Группа технологических корпораций и военных объединяется, чтобы контролировать единый ИИ. Он управляет финансами, энергией, транспортом и оружием. Бедные и средний класс получают бесплатный ИИ, который решает их проблемы, но одновременно привязывает к системе. Элита пользуется ИИ только как инструментом, а своих детей учит в школах без гаджетов. Инакомыслие подавляется экономически: без ИИ нет работы, кредита, медицинской страховки. Выборы имитируют демократию, но реальные решения принимает ИИ-бюрократия. В этом мире неравенство становится не экономическим, а антропологическим: люди, выросшие с ИИ-няней, теряют способность к самостоятельному суждению.

Второй сценарий — хаотичная многополярность. США, Китай, Европа и частные игроки создают конкурирующие ИИ. Нет единого контроля. Бэкдоры и пропаганда используются всеми против всех. Распадается глобальная информационная среда. Один и тот же факт в разных странах описывается по-разному, и проверить правду не может никто. Торговые войны, кибератаки и локальные конфликты с участием ИИ-дронов становятся нормой. Экономика застопоривается, потому что цепочки поставок зависят от «дружественных» ИИ, которые в любой момент могут перестать работать. В этом мире люди живут в параллельных реальностях, сгенерированных их алгоритмами, и не могут договориться даже о погоде за окном.

Третий сценарий — сдерживание и правила. Международное соглашение запрещает автономные ИИ-убийцы, тайные бэкдоры и немаркированную пропаганду. Создаются независимые инспекции обучающих данных и алгоритмов. Гонка замедляется. Сохраняются зоны без ИИ — школы, суды, некоторые производства, — где человек тренирует способность к различению. У отдельных людей остаётся шанс не быть раздавленными системой. Этот сценарий маловероятен, потому что корпорации и государства уже вложили сотни миллиардов в гонку, у них нет стимула себя ограничивать, а механизмов принуждения, подобных тем, что работают в ядерной сфере, для ИИ не существует.

Во всех сценариях, кроме гипотетического, происходит одно и то же с каждым отдельным человеком. ИИ начинает подменять собой совесть и разум. Сначала человек использует ИИ для простых задач: написать письмо, найти рецепт. Потом для важных: медицинский совет, юридическая консультация, помощь в учёбе. Потом для критических: когда ИИ предлагает цели для удара, оценивает доказательства в суде, рекомендует уволить сотрудника. В итоге человек перестаёт проверять. ИИ говорит — значит правильно. ИИ советует — значит так надо.

Это не гипотетическая деградация. Кодеры теряют навыки программирования за несколько недель использования ИИ-помощников. Они перестают понимать собственный код и замечать ошибки ИИ. Когда то же самое происходит в моральной сфере, человек теряет способность отличать добро от зла без подсказки алгоритма. А если алгоритм может быть отравлен, он может подсказать зло, замаскированное под добро. Именно об этом говорили многие критики технологий, когда предупреждали, что главная опасность не в восстании машин, а в добровольной сдаче человеческого суждения.

Теперь о том, что может сделать один человек. Повлиять на гонку ИИ на уровне государств и корпораций у вас не получится. Но вы можете выбирать, как относиться к ИИ лично. Не используйте ИИ для ответов на главные вопросы — о смысле жизни, о добре и зле, о вере. У ИИ нет совести, и он не несёт ответственности за свои слова. Проверяйте факты из независимых источников. Читайте первоисточник, а не пересказ. Учитесь и работайте без ИИ-костылей хотя бы часть времени. Пишите код без автодополнения, решайте задачи без подсказки, пишите текст без генерации. Ищите живой диалог с теми, кто с вами не согласен, и ведите его в реальности, а не в чате. Поддерживайте локальные сообщества — семью, соседей, приход, кружок по интересам, — которые не зависят от цифровых платформ. Когда ИИ-инфраструктура рухнет или станет враждебной, у вас останется живая опора. Это не спасение мира. Это сохранение себя в мире, который движется к технократическому контролю или хаосу.

Итог таков. Исследования, контракты, заявления миллиардеров и поведение элиты сходятся в одном. ИИ нестабилен, непрозрачен и неисправим — бэкдоры не удаляются. Элита это знает и не даёт ИИ своим детям. Обществу предлагают два пути: либо технократическая империя, либо хаотичная война всех ИИ против всех. В обоих случаях способность человека различать правду и ложь, добро и зло будет уничтожаться — потому что она мешает управлению.

Единственное, что не может отнять никакой ИИ, это ваш личный выбор. Доверять алгоритму или проверять факты. Копировать готовые ответы или думать самому. Заменять общение с людьми диалогом с машиной или сохранять живую связь. Этот выбор не требует героизма. Он требует повседневного, скучного, незаметного усилия. Отключить уведомления, выйти из чата, позвонить другу, прочитать бумажную книгу, решить задачу без подсказки. В долгосрочной перспективе это усилие — единственное, что отличает человека от цифрового дрона. И никто, кроме вас, не может его за вас сделать.

Комментарий автора;

В основной статье я перечислил три сценария развития событий в связи с гонкой ИИ. Однако из неё выпала Россия. Это не случайность, а следствие того, что все эмпирические данные брались из западных источников. Исправляю эту ошибку.

Россия — не третий и не четвёртый игрок в гонке AGI. Она вообще в эту гонку не вступила. Не потому, что отстаёт, а потому что видит в ней ловушку. Пока США, Китай и корпорации соревнуются, кто быстрее создаст «цифрового бога» и начнёт колонизировать галактику, Россия занимается другим: строит собственную защищённую цифровую инфраструктуру, не зависящую от западных облачных платформ, и сохраняет классическую образовательную систему, которая до сих пор даёт фундаментальные знания без привязки к ИИ-костылям.

Утверждение об «отставании России в образовании» — это западный нарратив, не имеющий отношения к реальности. Российская школа и высшая школа, при всех их проблемах, до сих пор держатся на принципах, которые в Кремниевой долине заново открывают для своих детей: живой учитель, личный контакт, решение задач без подсказок, развитие памяти и критического мышления, а не «навыки работы с ИИ». Именно это образование позволяет выпускнику понимать, что он делает, а не копировать ответы нейросети. Именно эту способность к различению элита Запада сохраняет для себя в частных школах, а остальным продаёт «цифровых помощников», которые атрофируют мышление.

Исторически Россия дважды ломала хребет тем, кто метил на мировое господство. В обоих случаях исход решался не только оружием, но и пространством, климатом, мобилизацией общества и тем, что противник не мог удержать захваченное. Сегодня «господство» означает контроль над реальностью через ИИ, данные и алгоритмическую пропаганду. Россия в этой битве не может выиграть по очкам — у неё нет для этого ресурсов. Но она может отказаться играть по чужим правилам и продемонстрировать, что автономное существование без западного ИИ возможно.

Сценарий с участием России — это «автономное выживание». В критический момент она отключается от глобальных сетей, блокирует западные ИИ-сервисы и переходит на свои, пусть и менее мощные, но контролируемые и не отравленные бэкдорами. Население, не избалованное «радикальным изобилием» и готовое к мобилизации, это принимает. Если технократическая империя или хаос поглотят остальной мир, Россия сохранится как заповедник старого мира — не идеального, но человеческого. Люди там ещё будут помнить, как жить без ИИ-подсказок, различать правду и ложь и принимать решения без алгоритма.

Более того, такой пример может оказаться заразным. Если Россия покажет, что без ИИ-наркотиков можно не просто выжить, а сохранить волю и разум, другие страны и сообщества могут последовать её примеру. В этом смысле она способна «сломать хребет» глобальному ИИ-господству не силой оружия, а силой примера.

Говорят, с русскими Бог. Не будем гадать. Но если чудо и случится, то оно будет не в том, что Россия создаст свой AGI, а в том, что откажется от чужого и останется собой. И этим спасёт не мир, а то, что в этом мире ещё можно спасти.
Источник