Ведущие математики мира заявили об угрозе ИИ для науки

Развитие искусственного интеллекта может угрожать научной работе и математическому сообществу, следует из открытого письма двадцати пяти ведущих математиков опубликованного на сайте движения Math and AI («Математика и искусственный интеллект»).

Все подписанты — лауреаты медали Филдса, считающейся самой престижной наградой в математике.

Математики заявили, что цели компаний, разрабатывающих ИИ, и научного сообщества расходятся. Компании все чаще используют способность языковых моделей решать известные математические задачи как показатель возможностей ИИ, тогда как для математиков это лишь инструмент получения новых знаний и методов. «Решение задач — лишь инструмент и показатель достижения основной цели, которой являются концептуальное понимание и новые идеи», — говорится в письме.

Авторы отмечают, что раньше решение известных задач становилось поводом для длительного изучения новых методов и идей. Результаты обсуждали, упрощали и связывали с предыдущими исследованиями, после чего они могли попасть в учебники и использоваться в других областях.

Быстрые публикации результатов, полученных с помощью ИИ, могут нарушить этот процесс, считают математики. «Часто об этих решениях объявляют в спешке, не оставляя времени для надлежащего оформления, выделения новых методов и идей и указания на соответствующие предыдущие работы других людей», — говорится в письме.

По их мнению, это также создает вопросы об авторстве и плагиате. Без участия математиков, которые развивают полученные идеи и интегрируют их в существующую систему знаний, идеи, созданные ИИ, не смогут «полностью воплотиться».

При этом подписанты признали, что ИИ может ускорить математические исследования. «Однако принесут ли эти изменения пользу отрасли или окажут разрушительный эффект, во многом будет зависеть от решений людей, управляющих этой новой технологией», — заключили математики.

Ранее на этой неделе OpenAI заявила, что ее внутренняя ИИ-модель решила одну из семи «задач тысячелетия» — проблему существования и гладкости решений уравнений Навье—Стокса. По данным компании, формализация и проверка результата заняли еще 17 часов.

Профессор математики Нью-Йоркского университета Тристан Бакмастер заподозрил OpenAI в использовании наработок его совместного с математиком Anthropic Левентом Алпёге проекта. 8 сентября ученые сообщили о результатах по нескольким уравнениям и заявили, что близки к решению проблемы Навье—Стокса, но еще не завершили его проверку.

По словам Бакмастера, 6 сентября OpenAI сообщила ему о доказательстве для Навье—Стокса, полученном именно тем способом, который они с Алпёге планировали использовать. Математик назвал это «ярко-красным флагом». Он также утверждает, что представители OpenAI предлагали ему и Алпёге разные варианты публикации результата и дважды просили исключить Алпёге из числа авторов.

Бакмастер подчеркнул, что не видел доказательство OpenAI и не утверждает, что компания использовала их черновики из ИИ-системы OpenAICodex. «Я излагаю, что мне было сказано, когда, и что мне было предложено», — пояснил он.

Оставайтесь на связи с РБК в «Максе».