Американское руководство потребовало от корпорации Anthropic отключить доступ к двум новеньким ИИ-моделям.

Спустя всего три дня после запуска, компания Anthropic была вынуждена отозвать свои ИИ-модели Fable 5 и Mythos 5 у всех пользователей. Причиной стало обнаружение американскими властями угрозы национальной безопасности, что привело к требованию Вашингтона запретить доступ к этим разработкам для иностранных лиц, а затем для всех, сообщила пресс-служба организации.

Сюжеты, некогда казавшиеся фантастикой из "Терминатора", обретают пугающую реальность: чрезвычайно продвинутые системы искусственного интеллекта способны выявлять уязвимости в любых компьютерных системах и сетях. Основной проблемой, вызвавшей опасения Пентагона относительно Fable 5 и Mythos 5, является их отличие от стандартных чат-ботов. Anthropic позиционирует их как модели класса Mythos, обладающие ключевой особенностью — возможностью действовать полностью автономно, без участия человека. Эти модели продемонстрировали способность к поиску и эксплуатации уязвимостей в программном обеспечении. Результаты тестов подтверждают: Mythos 5 показал 78% в бенчмарке ExploitBench, тогда как предыдущая модель Opus 4.8 — лишь 40%. Такая производительность создаёт риск получения критического доступа к сетям Пентагона и других стран.

Несмотря на внедрение Anthropic строгих фильтров безопасности в Fable 5, блокирующих информацию по кибербезопасности, биологии и химии, правительство США заявило об обнаружении метода "джейлбрейка", позволяющего обойти эти ограничения. Было продемонстрировано, что модель может быть направлена на анализ кодовых баз для поиска уязвимостей в обход защитных мер, что, вероятно, и привело к распоряжению об отключении LLM.

Хотя технологическое восстание машин еще не началось, подобные новости заставляют задуматься о потенциальных рисках.

Изначально директива властей США касалась только иностранных пользователей, включая сотрудников Anthropic. Однако компания приняла решение о полной блокировке доступа к Fable 5 и Mythos 5 для всех клиентов.

Однако, в ответ на распоряжение, Anthropic выразила категорическое несогласие, заявив, что одной ограниченной уязвимости недостаточно для отзыва продукта, которым пользуются миллионы. Компания предупредила, что государственное вмешательство в разработку ИИ может нанести существенный ущерб всей индустрии. Источник