Математики требуют от OpenAI доказательств: использовались ли их работы?

Математическое сообщество требует от OpenAI прозрачности. После серии громких анонсов о прорывах в математике компания столкнулась с обвинениями в неэтичном использовании данных. Математик Андреас Том публично заявил, что его переписка с ChatGPT могла повлиять на результаты, которые OpenAI представила как собственные достижения.

Скандал вокруг non-sofic групп

В прошлом месяце OpenAI с помпой объявила о десяти математических результатах. Один из них касался так называемых non-sofic групп — бесконечных структур, которые нельзя аппроксимировать конечными. Компания признала, что результат опирается на предыдущие работы Тома и Габóра Куна, но сделала это лишь после критики, тихо исправив текст.

Тома насторожило, что OpenAI продемонстрировала «детальное владение нашими техниками», которые не были очевидными путями к решению. Он написал исследователям компании, чтобы выяснить, не попали ли его диалоги с чат-ботом в обучающие данные. Ответ его не удовлетворил: ему сообщили лишь, что conversations не были доступны напрямую, но не исключили их попадания в общий пул данных.

«Никаких оговорок, объяснений или доказательств предоставлено не было. Я расцениваю это как нечестность, мягко говоря».

Проблема деидентификации и ответственность

OpenAI настаивает, что не использовала конкретные пользовательские данные для решения проблемы Навье-Стокса, но допускает косвенное влияние обезличенных данных. Том считает это разделение лукавым: «Деидентификация может удалить имя, но не удаляет интеллектуальное содержание математической идеи».

• OpenAI не исключает, что обезличенные данные пользователей могли улучшить модели.
• Математики не могут проверить это самостоятельно — только у компании есть нужные датасеты.
• Том требует раскрыть все наборы данных и настройки, если компания хочет доказать свою невиновность.

Ситуация вызывает беспокойство в академических кругах. Исследователи опасаются, что такие инциденты заставят математиков скрывать свои работы, чтобы не спровоцировать гонку с технологическим гигантом. OpenAI пока не ответила на запрос The Verge.

Больше актуальных новостей из мира технологий, честных обзоров софта и практических гайдов читайте на медиапортале Техстена.

Первоисточник: The Verge