WSJ узнала, что ученые готовятся с помощью ИИ к пандемиям, вызванным ИИ
Компания, в которой OpenAI является ведущим инвестором, заявляет о привлечении к разработке $36 млн. Первые клинические испытания разработанных антител на людях запланированы на 2027 год
Ученые из стартапа по биобезопасности с помощью ИИ под названием Red Queen Bio ведут исследования по появлению антитела, которые можно будет производить для ряда патогенов, включая созданные искусственным интеллектом, пишет The Wall Street Journal (WSJ).
Компания, в которой OpenAI является ведущим инвестором, заявляет о привлечении к разработке $36 млн. При этом клинические испытания на людях их препаратов против птичьего гриппа и других вирусов запланированы на 2027 год.
WSJ указывает, что по мере роста возможностей ИИ и распространения инцидентов с вышедшими из-под контроля ИИ-агентами растут опасения, что ИИ способен уничтожить цивилизацию. Многие предлагаемые ответы сосредоточены на предотвращении рисков, включая замедление исследований ИИ, установление стандартов или блокирование ИИ-моделей от ответов на опасные запросы. Red Queen Bio считает, что подобные защитные меры не сработают и общество должно быть готово к этому.
В то же время скептики считают, что опасность биологического оружия на основе ИИ преувеличена, несмотря на то что крупные ИИ-разработчики говорят о росте рисков, пишет WSJ. Как сообщала OpenAI, в прошлом году компания наблюдала сотни запросов, с помощью которых люди пытались узнать у чат-бота, как изготовить и применить яды и биологическое оружие.
Anthropic также сообщала об обнаружении попыток использовать чат-бот компании Claude для разработки опасного птичьего гриппа, адаптированного для млекопитающих. Запросы от пользователя, связанного с военным исследовательским институтом, касались задачи сделать вирус чикунгунья более вредным. Еще один пользователь задавал вопросы Claude об оспе.
Научный сотрудник американского Института прогресса (IFP) Оливия Шарфман заявила, что динамика биологической войны благоприятствует «нападающим, а не защитникам». «У нападающих столько времени, сколько они хотят, для разработки биологического оружия. У нас нет лет для разработки контрмеры», — сказала она.
В начале сентября глава Anthropic Дарио Амодеи призвал замедлить разработку ИИ на фоне инцидентов со взломом других платформ агентами OpenAI. Он предупреждал, что при сохранении нынешних темпов в течение 6–12 месяцев агенты ИИ потенциально смогут использовать постоянно действующий ботнет и причинить ущерб на сотни миллиардов долларов.
Призыв Амодеи поддержали глава OpenAI (разрабатывает ChatGPT) Сэм Альтман и предприниматель Илон Маск, чья компания xAI занимается разработкой Grok.
При этом президент США Дональд Трамп назвал опасения о перспективах развития ИИ одной из «мистификаций радикально левых демократов» наравне с мифом о «российской угрозе» или «аферой о глобальном потеплении». Позднее он анонсировал создание новой структуры под названием ИИ-силы, пообещав, что США не станут «препятствовать или сдерживать рост этой невероятной отрасли». Вместе с тем, указал он, власти начнут также заниматься «поиском плохого» с помощью системы правосудия.
Сегодня, 29 сентября, Reuters сообщил, что Antrhropic предупредит потенциальных инвесторов в своем первичном публичном размещении (IPO) о том, что ИИ может нести «катастрофические или экзистенциальные риски для человечества».
Оставайтесь на связи с РБК в «Максе».