Глава Anthropic рассказал о лжи техногигантов о рисках ИИ
Быстрый рост возможностей ИИ стал тревожным сигналом, считает Амодеи. Накануне он предупредил о риске захвата роем ИИ всего интернета и предложил план действий. Его поддержали Илон Маск и Сэм Альтман
Технологическая индустрия слишком долго скрывала от людей риски, связанные с развитием искусственного интеллекта (ИИ) заявил в интервью CBS News глава и сооснователь Anthropic Дарио Амодеи.
«Я не буду вам лгать: существуют реальные опасности. И я думаю, что индустрия слишком долго скрывала от людей, что эта технология несет риски», — сказал Амодеи.
По его словам, многие разработчики старались представить искусственный интеллект «в максимально позитивном свете». Anthropic, утверждает Амодеи, такого подхода не придерживалась. Теперь, считает он, разработчикам необходимо открыто говорить об угрозах, которые может нести технология. Амодеи признал, что сам не ожидал настолько быстрых темпов развития искусственного интеллекта. «Не думаю, что я до конца понимал, как это будет выглядеть, когда прогресс станет настолько быстрым», — сказал он.
При этом глава Anthropic призвал не паниковать и не останавливать разработку ИИ полностью. По его мнению, происходящее следует воспринимать как предупреждение о необходимости более осторожного развития технологии. «Это не значит, что теперь нужно паниковать. Это не значит, что нужно все остановить. Но я бы сказал, что это тревожный сигнал. Тревожный сигнал о том, что нам нужно замедлиться», — заявил Амодеи.
Накануне Амодеи призвал замедлить развитие передовых ИИ-моделей и предложил трехэтапный план контроля за технологией. Он выступил за независимую проверку моделей, единые правила для разработчиков в демократических странах и международные договоренности, в том числе с Китаем. Глава Anthropic объяснил необходимость таких мер быстрым ростом возможностей ИИ. По его оценке, уже через 6–12 месяцев автономные ИИ-агенты без достаточных мер защиты могут создать постоянно действующий ботнет, способный причинить ущерб в сотни миллиардов долларов.
Инициативу Амодеи поддержали глава OpenAI Сэм Альтман и основатель SpaceХ Илон Маск. Альтман сообщил, что OpenAI также намерена предоставить независимым экспертам расширенный доступ к своим моделям для оценки их безопасности. Маск, комментируя предложение главы Anthropic, написал: «Дарио прав».
США рискуют потерять первенство перед Китаем в сфере технологий искусственного интеллекта, если замедлят развитие своих языковых моделей, предупредил спикер палаты представителей Майк Джонсон.
Оставайтесь на связи с РБК в «Максе».