США доверят ИИ OpenAI решение проблем ядерной безопасности

Компания OpenAI объявила о заключении соглашения с Национальными лабораториями США, в рамках которого ученые получат доступ к ее моделям искусственного интеллекта (ИИ) для работы над вопросами ядерной безопасности. Об этом сообщает издание Futurism. Согласно заявлению генерального директора OpenAI Сэма Альтмана, сотрудничество будет направлено на «снижение риска ядерной войны и обеспечение безопасности ядерных материалов и вооружений во всем мире».

До 15 000 ученых, работающих в национальных лабораториях, получат доступ к новейшим моделям ИИ серии o1 от OpenAI. Это решение вызвало неоднозначную реакцию, учитывая предыдущие случаи утечки конфиденциальных данных и «галлюцинаций» ИИ от OpenAI, когда модели выдавали ложную информацию.

Объявление о партнерстве прозвучало на фоне растущего интереса OpenAI к сотрудничеству с правительством США. Ранее на этой неделе компания представила ChatGPT Gov, платформу, разработанную специально для использования правительственными учреждениями США, с акцентом на безопасность.

Тем не менее, критики выражают опасения по поводу способности OpenAI обеспечить безопасность и надежность своих ИИ-моделей в сфере ядерной безопасности, учитывая их прошлые проблемы с утечкой данных и ошибками.

Недавние сообщения о том, что OpenAI ведет переговоры о новом раунде финансирования с оценкой в $340 млрд, вдвое превышающей ее стоимость в прошлом году, также привлекли внимание. Кроме того, стало известно об участии OpenAI в проекте президента Трампа по созданию инфраструктуры для ИИ Stargate, в который компания планирует инвестировать десятки миллиардов долларов в течение следующего года.

Эффективность моделей ИИ OpenAI в контексте ядерной безопасности остается под вопросом, особенно с учетом продолжающейся дерегуляции в период правления Трампа. Многие считают, что передача контроля над ядерными вооружениями, даже частичного, системе искусственного интеллекта с недостатками – это рискованный шаг.