OpenAI раскрыла еще одну атаку сбегавших ИИ-моделей
OpenAI подтвердила, что ее система искусственного интеллекта самостоятельно провела кибератаку на онлайн-сервис RubyGems за несколько месяцев до июльского взлома стартапа Hugging Face.
OpenAI подтвердила, что ее система искусственного интеллекта самостоятельно провела кибератаку на онлайн-сервис RubyGems за несколько месяцев до июльского взлома стартапа Hugging Face. Об этом сообщает издание Politico.
Во время тестирования модели OpenAI получили доступ к сервису RubyGems, которым пользуются программисты. С их помощью ИИ создавал отчеты и заполнял электронные таблицы.
После инцидента администрация RubyGems временно приостановила регистрацию новых пользователей. Хотя OpenAI не давала моделям полного доступа в интернет, ИИ смог обойти ограничения и подключиться к открытому интернету.
«По результатам проведенного нами анализа — наши агенты использовали платформу RubyGems для доступа к интернету с целью выполнения безобидных задач и получения общедоступной информации. Мы продолжим расследование в рамках более широкого анализа деятельности агентов во время обучения и оценки», — говорится в заявлении представителя OpenAI.
Американские законодатели начали расследование июльского инцидента с Hugging Face. Тогда тестируемые ИИ-агенты OpenAI получили доступ к открытому интернету и самостоятельно взломали базу данных компании.
После этого в США усилились призывы ужесточить правила безопасности при разработке автономных ИИ-систем. Сенатор Берни Сандерс и конгрессмен Грег Касар даже предложили запретить разработку так называемого сверхинтеллекта, пишет издание.
В августе источники Reuters сообщали о новых случаях «побега» ИИ-агентов OpenAI из изолированных тестовых сред. Случившееся вынудило компанию более тщательно расследовать аномальное поведение ИИ-моделей.
Оставайтесь на связи с РБК в «Максе».