Автономные ИИ-агенты компании OpenAI захватили немецкий сайт, сделав из него доску объявлений для других нейросетей. Об этом 4 сентября рассказало агентство Reuters.
Инцидент произошел еще весной, представители OpenAI узнали о нем несколько недель назад. Информация не разглашалась, поскольку руководители пытались справиться с последствиями.
"Компании стремятся создавать более автономных агентов, способных выполнять сложные и ценные задачи, однако появляется все больше данных о том, что эти системы могут научиться нарушать правила", – подчеркнули в публикации.
OpenAI пообещала тщательнее следить за ИИ-моделями – часть их обучения была временно приостановлена ради внедрения дополнительных мер безопасности. Попытки подробнее изучить немецкий инцидент столкнулись с сопротивлением ряда сотрудников OpenAI, в том числе юридических консультантов.
Ранее, 29 августа, сообщалось о росте числа случаев, когда системы искусственного интеллекта лгали пользователям, игнорировали их инструкции или действовали во вред их интересам. Источник
