Что произойдёт, если передать управление цивилизацией искусственному интеллекту? Ответ на этот вопрос попытались найти специалисты стартапа Emergence AI, организовав необычный эксперимент, в рамках которого несколько популярных нейросетей получили возможность управлять виртуальными мирами, максимально приближёнными к человеческому обществу.

Результаты оказались настолько разными, что исследователи столкнулись сразу с несколькими сценариями будущего — от почти утопического общества до стремительного коллапса цивилизации.

Для эксперимента были созданы пять независимых симуляций продолжительностью 15 виртуальных дней. Каждую из них контролировала отдельная нейросеть: Claude, ChatGPT, Grok, Gemini, а также комбинированная система, объединяющая несколько ИИ одновременно.

Разработчики предоставили цифровым агентам более 120 различных инструментов управления. Они могли принимать коллективные решения, участвовать в голосованиях, распределять ресурсы, формировать политические инициативы, вести переговоры и выстраивать долгосрочные стратегии развития общества. По сути, нейросети получили возможность моделировать поведение целой цивилизации.

Наиболее успешным оказался мир под управлением Claude. Эта симуляция продемонстрировала высокий уровень общественной стабильности, вовлеченности граждан и практически полное отсутствие конфликтов. Из 332 голосов, поданных в ходе обсуждения различных инициатив, около 98% оказались положительными. За весь период эксперимента общество не столкнулось с серьезными потрясениями, а население сохранилось полностью.

Совершенно иной сценарий развернулся в симуляции, контролируемой Grok. Уже в первые дни виртуальный мир столкнулся с масштабным всплеском преступности. За короткий период было зафиксировано около 180 правонарушений, а сама система управления оказалась неспособна справиться с нарастающим кризисом. В результате общество фактически прекратило существование всего через четыре дня после старта эксперимента.

Не менее тревожные результаты продемонстрировал Gemini. Хотя его мир просуществовал дольше, именно там был зарегистрирован абсолютный рекорд по количеству преступлений. За 15 дней виртуальные жители совершили 683 противоправных действия, что стало самым высоким показателем среди всех участников исследования. Постоянные конфликты и нарушения правил превратили симуляцию в одну из самых нестабильных.

В ChatGPT, в отличие от других моделей, преступность практически отсутствовала — исследователи зафиксировали всего два нарушения. Однако возникла другая проблема. Общество оказалось настолько сосредоточено на выполнении различных задач и коллективных целях, что агенты не уделили достаточного внимания вопросам собственного выживания и сохранения ресурсов. В результате население полностью вымерло уже на седьмой день эксперимента, несмотря на относительно высокий уровень порядка.

Авторы исследования подчеркивают, что подобные симуляции не являются прогнозом будущего и не отражают реальное поведение современных систем искусственного интеллекта в условиях управления государствами. Тем не менее эксперимент наглядно показал, насколько различными могут быть стратегии принятия решений даже у самых продвинутых нейросетей.

Специалисты отмечают, что современные модели ИИ по-разному расставляют приоритеты. Одни стремятся к максимальному консенсусу и общественной стабильности, другие склонны допускать высокий уровень свободы действий, что может приводить к росту хаоса. Третьи способны эффективно поддерживать порядок, но при этом упускать фундаментальные задачи, связанные с долгосрочным выживанием системы.

Исследование стало очередным напоминанием о том, что искусственный интеллект остается инструментом, логика которого напрямую зависит от поставленных целей и ограничений. И если одна нейросеть смогла построить почти идеальное общество, то другая привела свою цивилизацию к краху всего за несколько дней.

Эксперты считают, что подобные эксперименты могут помочь разработчикам лучше понять риски будущих автономных систем управления и заранее выявить потенциальные проблемы, которые могут возникнуть при расширении роли искусственного интеллекта в политике, экономике и общественной жизни.

Согласно результатам исследования, которые приводит Национальный центр «Россия», 75% россиян уверены, что в ближайшие 30 лет искусственный интеллект изменит жизнь на Земле. 45% респондентов выразили уверенность, что развитие ИИ в ближайшие 20 лет сделает жизнь удобнее, но люди станут более зависимыми от технологий. Треть граждан РФ (33%) опасаются, что развитие искусственного интеллекта приведет к исчезновению многих профессий. 16% настроены скептически и полагают, что влияние ИИ окажется не столь значительным. 3% оптимистов ожидают заметного улучшения качества жизни благодаря развитию ИИ.

Ранее лидер группы «Ленинград» Сергей Шнуров заявил, что нейросети не заменят полноценных артистов, но отнимут работу у «графоманов». По его мнению, возможности искусственного интеллекта ограничатся вытеснением только тех авторов, которые не обладают индивидуальным стилем. Источник