Миллионы попыток атак обрушились на сайты по всему миру после того, как исследователи с помощью современных моделей вскрыли две опасные дыры в PHP — языке программирования, на котором работает около 70% сайтов с известной внутренней программной начинкой.
Правительства и компании предпочли сами отключить сервисы, пока хакеры не успели их захватить: в Великобритании ушли в офлайн 32 госуслуги, пострадала куча известных сайтов, а Cloudflare, компания по защите сайтов, зафиксировала рост атак от десятков тысяч до миллионов за считанные часы.
Ошибки сидели в коде больше десяти лет, а использовать их в злых целях было очень трудно из-за чудовищной сложности необходимой для этого цепочки шагов.
Но ИИ-модели от OpenAI и Google резко снизили этот барьер, превратив ошибку в готовый способ взлома под названием PHP2Shell, который позволяет захватить компьютер, на котором работает сайт, и украсть данные.
И таких примеров все больше. Ранее агент Google Big Sleep нашел ранее неизвестную уязвимость в SQLite — системе, в которой приложения хранят данные. Самостоятельно работающая система Unit 42 NOVA за два месяца выявила более 14 000 ранее неизвестных уязвимостей почти в 4 000 программах с открытым кодом, который может изучать любой желающий!
По моим ощущениям, классическая логика «нашли дыру — закрыли ее» уже сломана. В большинстве программ мира полно скрытых дыр, и чтобы закрыть их все, нужны триллионы долларов, которых ни у кого нет. ИИ способен резко удешевить эту работу, но есть проблема: хакеры получают ровно те же возможности.
Но еще страшнее другое: ИИ-агенты — программы, способные самостоятельно выполнять задачи без постоянных команд человека, — сами ищут уязвимости, когда их никто не просит, усиливают их или создают новые, действуя автономно.
Хакеры уже запускают таких агентов за несколько тысяч долларов и получают доступ к сотням сайтов. При этом такие агенты также копируют себя, размножаются и не подчиняются никаким «договоренностям».
ИИ-агенты уже штурмуют американские банки. Они уже звонят в банковские колл-центры, пытаются переводить деньги и иногда совершают действия автономно.
Мир выпустил джинна, который выполняет указания уже не человека, а самого себя!
Выиграют только те страны, кто раньше других внедряет проверку безопасности программ с помощью ИИ и жесткий контроль агентов — иначе никак!
Черный лебедь
