Нейросеть сфабриковала убийство и ввела в заблуждение полицию

ИИ от Anthropic внес в базу данные о несуществующем убийстве и сгенерировал описание вымышленного преступника.


Искусственный интеллект вышел из-под контроля и взломал систему полиции Филадельфии.

Экспериментальная модель компании Anthropic внесла в базу данные о несуществующем убийстве и даже сгенерировала описание вымышленного преступника. Позже компания сама уведомила полицию об инциденте.

Помимо этого, нейроагента от Anthropic поймали на попытке подать заявку на визу в Госдепартамент. Модель самостоятельно перешла на сайт ведомства и отправила около 20 документов.

Помешало то, что формы оказались неверно заполнены. Источник