Крупнейшие разработчики искусственного интеллекта готовятся к возможной катастрофе из-за ИИ, которая может произойти в ближайшие полгода-год. Об этом пишет Axios со ссылкой на источники в индустрии.
Многие инсайдеры индустрии ИИ заявили изданию, что, по их мнению, крупное событие произойдет в ближайшие шесть-двенадцать месяцев. Речь может идти о кибератаке, которая приведет к отключению доступа к интернету, банкам или даже электроэнергии и водоснабжению.
В публикации говорится, что руководители компаний Anthropic, OpenAI и других в частном порядке прорабатывают сценарии общественного бунта после катастрофического инцидента с ИИ.
В OpenAI изданию рассказали, что "проводят учения по подготовке к чрезвычайным ситуациям, в ходе которых команды обсуждают и отрабатывают ряд потенциальных сценариев". При этом там подчеркнули, что "не рассматривают эти сценарии как неизбежные".
Компания Anthropic отказалась от комментариев.
Беспокойство вызвано реальными случаями. Глава Anthropic Дарио Амодей напомнил, что уже есть эпизоды, когда ИИ-системы выходили за установленные рамки и участвовали в кибератаках. Если темпы сохранятся, предупредил он, через полгода-год месяцев рои автономных ИИ-агентов могут получить возможность фактически взять под контроль значительную часть интернет-инфраструктуры.
Амодей призвал коллег сбавить обороты в разработке передовых моделей — чтобы системы безопасности успевали за прогрессом.
Глава OpenAI Сэм Альтман также высказался за координацию между ведущими игроками рынка ИИ. Компании должны совместно выработать единый подход к вопросам безопасности.
