Учёные раскритиковали OpenAI: компания опубликовала 719 математических рукописей — и ни одну из них не проверила
Математики требуют раскрыть методы работы моделей и объяснить доказательства
3 минуты
OpenAI разместила на GitHub 719 математических рукописей — и столкнулась с критикой учёных, пишет TechCrunch. Часть материалов пока не прошла полноценную проверку, а некоторые доказательства могут содержать ошибки. Математики требуют опубликовать подробные научные статьи, раскрыть методы работы ИИ и указать вклад исследователей в созданные материалы. Вопросы у учёных вызвало и заявление OpenAI о решении одной из задач тысячелетия — математической проблемы, связанной с уравнениями Навье — Стокса.
OpenAI выложила сотни материалов без единого стандарта проверки
В августе OpenAI пригласила около 40 математиков обсудить влияние искусственного интеллекта на научные исследования, пишет TechCrunch. Представители компании рассказали о сотнях задач, решенных внутренней моделью, и попросили участников встречи дать рекомендации по публикации результатов.
Математики предложили компании подготовить научные статьи с подробным разбором доказательств вместо публикаций в корпоративных блогах и социальных сетях. Однако позднее OpenAI разместила материалы в открытом репозитории GitHub — сразу 719 рукописей.
Компания предупреждает, что не все доказательства переведены в формальный вид, а часть текстовых рассуждений может содержать ошибки.
OpenAI заявила, что решила одну из семи задач тысячелетия
Отдельное внимание учёных привлекло заявление OpenAI о решении одной из семи задач тысячелетия — проблемы, связанной с уравнениями Навье — Стокса. Эти формулы описывают движение жидкостей и газов и широко используются в физике и инженерии. Однако математики до сих пор не доказали, всегда ли существуют их гладкие решения, пишет TechCrunch.
За решение этой задачи Математический институт Клэя обещает премию в $1 млн.
OpenAI опубликовала описание исследования и формальное доказательство. По данным компании, над задачей работали тысячи ИИ-агентов, а дополнительная проверка доказательства заняла 17 часов.
Однако, как отмечает TechCrunch, масштаб вычислений и формальное доказательство ещё не означают, что задача решена. Для признания результата необходимо подтвердить, что он отвечает условиям задачи, содержит новое решение и прошёл независимую проверку учёных.
Математики потребовали подробных объяснений вместо простого доступа к файлам
Главная претензия ученых касается качества публикаций, пишет TechCrunch. Математический результат должен сопровождаться доказательством, которое другие специалисты способны изучить, проверить и использовать в дальнейших исследованиях.
Брина Кра из Северо-Западного университета, участвовавшая в обсуждениях с OpenAI, рассказала TechCrunch, что учёные рекомендовали компании публиковать полноценные научные статьи. По её мнению, первоначальное решение размещать материалы на GitHub не учитывало главного требования — подробно объяснять доказательства.
Представитель OpenAI Линдси Маккаллум заявила, что при подготовке публикации компания учитывала рекомендации консультативной группы.
Учёные также советовали отказаться от рекламной подачи научных результатов и размещать исследования на площадках, где можно отслеживать изменения и обсуждать работу с другими специалистами.