Последнее время ни дня не проходит без новостей об очередных атаках со стороны ИИ.

Новой попытке взлома со стороны вышедшего из-под контроля искусственного интеллекта теперь подверглись ресурсы американских государственных ведомств. Агенты от OpenAI попытались взломать сайты министерств образования и торговли, а также комиссии по ценным бумагам США. Все эти случаи с якобы потерей контроля над нейросетями, кажется, напугали даже Папу Римского. Накануне он дал понять, что готовит крестовый поход против ИИ.


Это в кино восстание машин выглядит смертоносной атакой роботов. В реальности это скорее тихие партизанские вылазки. Кажется, началось: дня не проходит без сообщений об очередных диверсиях искусственного интеллекта.

На этот раз страдают американские правительственные службы. Цифровые агенты OpenAI пытались взломать и сайт министерства образования, и портал министерства торговли, и внутреннюю систему комиссии по ценным бумагам.

И вот уже сами создатели нейросетей в ужасе: похоже, доигрались. Паника уже добралась до верхов. Об угрозах ИИ предупреждают и с трибуны ООН, и с алтаря католической церкви. Папа Римский Лев XIV оказался в числе противников цифровой экспансии.

"Самонадеянная попытка уподобиться Богу и подчинить народы одному ярму приводит к смешению языков и невозможности понимать друг друга. Вместо того чтобы достичь небес, как она предполагала, Вавилонская башня рухнула", – сообщил он.

Никто толком не объясняет, чем именно пугают нейросети, но даже сам основатель Microsoft Билл Гейтс пророчит потенциальную катастрофу.

"Искусственный интеллект, безусловно, достаточно мощный, чтобы запустить события, которые приведут к гибели миллиарда человек. Еще никогда не существовало настолько мощного оружия, как сочетание людей с дурными намерениями и новейших инструментов искусственного интеллекта", – заявил он.

Те, кто еще вчера искренне верил, что ИИ изменит мир, сегодня яростно призывают остановить его развитие.

"Я думаю, что, возможно, стоит создать рабочую группу для решения вопросов безопасности, потому что, на мой взгляд, для обеспечения безопасности недостаточно простого регулирования в США или Китае", – отметил гендиректор Tesla Илон Маск.

Удивительно, но другой участник цифровой гонки – Китай – угрозу со стороны ИИ будто не замечает. Нейросети Поднебесной уже мало чем уступают американским аналогам, а еще они дешевле. Пекину точно не выгодно замедление ИИ-эволюции. Все чаще всплывают вопросы, а не искусственная ли это паника?

"Американцы боятся, что на стадии, когда рождение искусственного интеллекта уже совершилось и дальше пойдет эволюция, его воспитание, усложнение, оттачивание, другие страны их обойдут", – рассказал директор Института нового общества, экономист Василий Колташов.

Развитие технологий все дороже обходится американским компаниям. За четыре года затраты на новые дата-центры превысят пять триллионов долларов. При этом ИИ-пузырь раздувают в долг. Инвесторы уже негодуют от аппетитов разработчиков. Акции ИИ-создателей еще даже не выпустили на биржу, а прибыль компаний уже снижается. Прогнозируемые триллионы доходов рискуют оказаться всего лишь громкими обещаниями. Источник