Bloomberg: Пентагон по тихому пересмотрел свою доктрину выбора целей в бою, открывая путь для принятия важных военных решений искусственным интеллектом в будущем.
Пересмотренные принципы целеуказания, утвержденные без публичного раскрытия в апреле, предусматривают «системы, в которых ИИ инициирует действия при участии человека», что является развитием былой практики «систем с участием человека», в которых действия инициируются человеком.
Агентство Bloomberg News ознакомилось с последними изменениями, о которых ранее не сообщалось. Хотя документ не засекречен, он не опубликован.
Пересмотренные рекомендации по целеуказанию являются последним примером стремления Пентагона ускорить внедрение ИИ — технологии, которая уже меняет поля сражений в конфликтах по всему миру. Быстро расширяющиеся возможности ИИ также порождают новые угрозы, а также этические дилеммы, ставя под сомнение способность военных идти в ногу со временем и соблюдать законы вооруженных конфликтов.
«Скорость будущих войн, наряду с собственным прогрессом наших противников в области ИИ, может потребовать от объединенных сил внедрения полностью автономных систем», — говорится в публикации.
Это спорное новое видение включено в новую главу о будущем целеуказания. В целом, публикация излагает официальные процедуры так называемого совместного целеуказания — того, как вооруженные силы США определяют, по чему вести огонь в бою.
В ней содержится новая информация о «смягчении последствий для гражданского населения» всего через несколько недель после того, как Пентагон объявил о расследовании удара по начальной школе рядом с военно-морской базой Корпуса стражей исламской революции в иранском городе Минаб, в результате которого погибло около 120 детей.
Неясно, отражает ли документ уроки войны с Ираном. Предыдущее обновление было сделано в сентябре 2024 года, до возвращения Дональда Трампа на пост президента.
«Обновления нашей доктрины целеуказания являются результатом всестороннего многолетнего процесса, включающего уроки, извлеченные из различных источников, в том числе учений, военных игр и перспективной оценки будущей обстановки в сфере безопасности», — говорится в заявлении представителя Объединенного штаба, направленном по электронной почте.
Охарактеризовав изменения как «значительные», представитель назвал «ключевыми обновлениями» как новую главу, посвященную искусственному интеллекту, так и усиленное внимание к смягчению последствий для гражданского населения.
В ответ на просьбу прокомментировать эту статью представитель Пентагона заявил: «Министерство обороны гарантирует, что человек всегда участвует в принятии важных оперативных решений. Технологии искусственного интеллекта Министерства не выбирают и не поражают цели автоматически; они гарантируют, что командиры остаются ответственными за каждое решение, позволяя им действовать на основе самой актуальной и точной оперативной картины».
Ранее в четверг Пентагон объявил о развертывании передовых инструментов с поддержкой искусственного интеллекта для преобразования управления боем, поддержки принятия решений и целеуказания.
«Мы создаём совместимую сеть агентов ИИ, которая обеспечивает командирам более быстрый доступ к качественной информации, сохраняя при этом человеческое суждение в центре каждого решения о наведении на цель», — заявил Кэмерон Стэнли, главный специалист Пентагона по цифровым технологиям и ИИ, в заявлении, объявляющем об этом изменении.
Хотя предыдущие версии совместной доктрины целеуказания публиковались в интернете, иногда в результате запросов в соответствии с Законом о свободе информации, в настоящее время общественности недоступна никакая информация, кроме устаревшей версии 2018 года.
Новый пересмотренный документ, наиболее явно указывает на стремление Пентагона исключить участие человека в принятии решений, от которых зависят жизнь и смерть, показывает, что ИИ сократит «цикл от датчика до стрелка» и «ускорит темп операций».
В то же время новая доктрина признает риски, связанные с исключительной опорой на ИИ, заявляя, что это «создаёт серьёзные моральные и юридические дилеммы и требует установления недвусмысленных этических принципов для смягчения опасений, связанных с решениями, принимаемыми с помощью ИИ».
Обновленная доктрина не вводит таких указаний, но новый президентский меморандум по национальной безопасности, опубликованный ранее в этом месяце, дал Пентагону 90 дней на обновление политики в отношении автономности систем вооружения.
В настоящее время политика Пентагона требует, чтобы автономные и полуавтономные системы вооружения проходили проверку на соответствие требованиям, позволяющим командирам и операторам проявлять «надлежащий уровень человеческого суждения при применении силы». Это далеко не соответствует целям активистов, стремящихся к более надежной гарантии значимого человеческого контроля.
Генеральный секретарь ООН Антонио Гутерриш входит в число тех, кто призвал к запрету летальных автономных систем вооружения, назвав их «политически неприемлемыми» и «морально отвратительными».
Компания Anthropic PBC, которая предоставляет свои инструменты искусственного интеллекта секретным сетям Пентагона, в том числе для использования в операциях против Ирана, рассорилась с агентством из-за настойчивого утверждения компании о том, что технология еще недостаточно надежна для того, что глава администрации Дарио Амодей назвал «полностью автономным оружием», и что окончательное решение о применении силы должно приниматься людьми.
В новой доктрине целеуказания, в свою очередь, говорится, что военные «должны проявлять осторожность, чтобы избежать чрезмерной зависимости от результатов работы ИИ без человеческого контроля», отмечая, что алгоритмы ИИ могут обрабатывать и анализировать разведывательные данные «в масштабах и со скоростью, значительно превосходящими возможности человека».
В ней также подчеркивается более значительная роль ИИ в повышении качества данных целеуказания, помогая устранять пробелы в разведывательной информации и автоматизировать потоки данных.
Несколько экспертов по целеуказанию выразили надежду, что объединение цифровых систем и внедрение большего количества ИИ, а не меньшего, тем не менее, может помочь решить и исправить проблемы целеуказания в будущем. Это может включать, например, автоматическую проверку по общедоступным сайтам, таким как Google Maps, чтобы выявлять любые потенциальные аномалии для проверки человеком.
«Достижения в области ИИ улучшат процесс целеуказания и позволят осуществлять высокоточные боевые действия на больших дистанциях», — говорится в документе Пентагона, где отмечается, что командирам «необходимо будет использовать возможности ИИ» для дополнения человеческого анализа, принятия решений и управления рисками, чтобы сохранить преимущество объединенных сил.
«Искусственный интеллект может быстро сравнивать собранные данные о целях с нескольких платформ, чтобы подтвердить достоверность собранной информации», — говорится в документе.
Однако в последнем совместном документе по целеуказанию также содержится предостережение в приложении, посвященном исторической «проблеме» интеграции автоматизации в целеуказание, где говорится, что «автоматизация не заменяет человеческое мышление или проактивную коммуникацию».
Независимо от используемого автоматизированного инструмента, в документе говорится, что «командиры несут ответственность за приоритеты, результаты и сроки» в своей оперативной зоне, а также за соблюдение законов войны и соответствующих правил ведения боевых действий вооруженных сил США. Источник
