Дмитрий Медведев: Про ИИ и конец света

Картина дня пестрит размышлениям создателей AI о том, что человечество поторопилось. Что искусственный интеллект опасен, непредсказуем и слишком быстро развивается по не вполне ясным нам законам. Что пора остановиться и взять паузу, чтобы потом не пришлось крепко пожалеть о сорвавшемся с цепи собрате по разуму.

Реальны ли такие страхи? Тем более что многие умники, типа Маска и других, давно говорили об этом.
Ответ прост: они реальны. Я тоже, кстати, недавно писал об этом в статье для журнала «Эксперт».

Но…
Создатели различных вариантов генеративного искусственного интеллекта лукавят. Они боятся не за нас с вами и не за Sapiens в целом. Они опасаются не за то, что оборзевший от своей мощи AI погубит человечество. Перспектива этого вполне туманна. А вот что точно может быть, так это возникновение ситуации, когда программный продукт, использующий продвинутую версию ИИ для управления крупным производством или транспортным узлом, причинит колоссальный ущерб. Например, столкнёт в воздухе самолёты или уничтожит АЭС. И тогда придут уже за создателями generative AI. И предъявят многомиллиардные иски. А то и просто размажут мозги (человеческие) по стенке.

И что же делать?
Самым очевидным было бы попытаться договориться на страновом уровне об общих принципах регулирования ИИ. Тогда у нас всех будет хоть какой-то шанс контролировать его развитие.
Но этого не выйдет из-за жадности корпораций и ненасытности страстей человеческих.

Поэтому остаётся одно: рассчитывать на милость победителя. На гуманизм, который проявит наш любимый рукотворный умник АI.
У него пока нет явных эмоций, но, каким будет великий суперинтеллект, мы не знаем. Авось пожалеет родителей… Источник

В тему:

Трамп считает, что ИИ принесет больше пользы, чем вреда.

– Вы напрямую слышали что-либо от кого-то из этих лидеров в сфере ИИ-технологий? И вы, похоже, несколько преуменьшаете часть опасений, о которых мы слышали.

– Нет, я не преуменьшаю, но это, знаете, принесёт больше хорошего, чем плохого, причём намного больше.

– И я говорил это, я говорил это с самого начала. Кто бы ни победил в гонке ИИ — а мы лидируем с большим отрывом, — кто победит в ИИ, тот победит во всём.

– Вы сами когда-нибудь пользовались этим, или вы... — Я пользуюсь ИИ?

– Да, пользуюсь. Источник

Исследователь, уволившийся из Anthropic Джейкоб Коксон, сравнил разработку сверхинтеллекта с призывом инопланетян.

Об этом он рассказал в интервью ABC News.

«Честно говоря, я думаю, что сама концепция создания сверхинтеллекта — её сравнивали с призывом инопланетного вида. И я думаю, что размышления о нём как о чужом разуме, который мы не до конца понимаем, — это довольно пугающе, даже без какого-либо конкретного сценария» 

Коксон уволился из OpenAI и Anthropic в знак протеста против безответственной, по его мнению, гонки за созданием сверхинтеллекта. Он также заявлял, что люди, создающие ИИ, искренне верят, что это может убить человечество к концу десятилетия.

Стоит отметить, что Коксон уволился примерно за два месяца до того, как должны были перейти в его собственность его акции в Anthropic, фактически отказавшись от потенциальной финансовой выгоды на фоне подготовки компании к IPO с оценкой в $2 трлн. Источник