25 лауреатов Филдсовской премии выступили против гонки ИИ-компаний за решением сложных математических задач. В совместном заявлении они предупредили: использование таких результатов для демонстрации возможностей моделей способно навредить науке и подготовке исследователей.
Среди подписантов — Теренс Тао, Питер Шольце, Марина Вязовская и Максим Концевич.
Тао рассказал, что документ подготовили по итогам обсуждений в течение последней недели. Авторы сочли ситуацию достаточно срочной, чтобы опубликовать обращение без более широких консультаций. Сбор подписей продолжается.
Почему ученые критикуют гонку
По мнению авторов, цели разработчиков и математического сообщества расходятся. Для науки важен не только ответ, но и новые методы, которые помогают понять задачу и продолжить исследования.
Полученное доказательство предстоит разобрать, связать с предыдущими работами и объяснить коллегам и студентам. Однако спешка с объявлениями не оставляет времени на эту работу и должное указание авторства, отметили подписанты.
По их мнению, риск затрагивает и обучение: самостоятельный поиск решения развивает способность задавать новые вопросы. Авторы увидели аналогичную проблему в других научных и творческих профессиях.
При этом математики признали пользу ИИ для исследований. Они подчеркнули, что последствия его применения во многом зависят от решений людей, управляющих технологией.
На фоне каких событий появилось письмо
Обращение вышло вскоре после заявления OpenAI о результате по уравнению Навье — Стокса — одной из «задач тысячелетия». В самой декларации компания не упоминается.
8 сентября фирма сообщила, что ее внутренняя ИИ-система получила доказательство для вариантов C и D задачи, допускающих внешнее воздействие на жидкость.
По данным OpenAI, группа из примерно 10 000 агентов нашла решение за 88 часов. Еще 17 часов заняли формализация и проверка в системе Lean.
Комания опубликовала доказательство и код, сообщив, что не намерена претендовать на премию Института Клэя.
Результат сопровождался спором о возможном использовании неопубликованной работы математиков Тристана Бакмастера и Левента Алпеге.
В OpenAI заявили, что провели внутреннюю проверку: по ее итогам запросы Бакмастера к Codex не могли повлиять на систему, в том числе через обучение.
Бакмастер описал настроения в научном сообществе в комментарии The Guardian:
Напомним, в сентябре Anthropic представила подготовленную Claude формализацию доказательства Великой теоремы Ферма. За 11 дней агенты перевели уже известные математические рассуждения в код для компьютерной проверки.