4 hours ago
3
Более 150 ведущих математиков из разных стран опубликовали "Лейденскую декларацию", в которой призвали научное сообщество и власти не принимать громкие заявления разработчиков искусственного интеллекта за реальные математические прорывы.
Поводом для такого, по сути, манифеста стала волна сообщений, что большие языковые модели якобы решают сложные задачи, над которыми ученые работали десятилетиями. Например, недавно мировой сенсацией стало сообщение 23-летнего энтузиаста математики без профильного образования, который заявил, что с помощью ChatGPT нашел решение одной из известных задач Пала Эрдеша. Позже OpenAI сообщила, что их система опровергла старую гипотезу о единичных расстояниях, и назвала результат важным событием для математики и индустрии ИИ.
Авторы Лейденской декларации считают, что подобные заявления требуют куда более осторожной оценки. Дело в том, что современные системы ИИ способны создавать правдоподобные рассуждения, но при внимательной проверке оказываются ошибочными. Проблема усугубляется тем, что неправильное доказательство бывает трудно отличить от корректного, особенно до полноценной проверки экспертами.
Для математики опасность особенно серьезна. Новые работы часто опираются на предыдущие результаты, поэтому ошибка в основе может испортить целую цепочку дальнейших исследований. Если научные статьи начнут строиться на неподтвержденных выводах ИИ, привычная система проверки доказательств столкнется с перегрузкой, а прозрачность и воспроизводимость результатов окажутся под угрозой.
Математики особо подчеркнули, что технологические компании финансово заинтересованы в завышении возможностей своих продуктов. Они хотят быстрее показывать успехи моделей, привлекать внимание инвесторов, усиливать позиции на рынке и влиять на политиков. Авторы посоветовали политикам при принятии решений консультироваться с математиками и другими экспертами, а не верить пресс-релизам или публикациям в СМИ о математических достижениях.
Математики не призывают отказаться от ИИ в исследованиях. Декларация требует другого подхода: меньше рекламного шума, больше открытых данных, независимой проверки и ответственности за громкие заявления. ИИ может помогать искать идеи, проверять варианты и ускорять рутинную работу, но математическое доказательство по-прежнему должно выдерживать строгую экспертную проверку, а не только выглядеть убедительно в пресс-релизе.
Декларация одобрена Международным математическим союзом и включена в программу Международного конгресса математиков, который состоится в июле в Филадельфии. Документ открыт для подписания частными лицами и организациями, такими как национальные математические общества.
