FTC намерена регулировать идеологическую предвзятость ИИ

Федеральная торговая комиссия США (FTC) намерена начать регулирование идеологической предвзятости в системах искусственного интеллекта. Инициатива уже вызвала шквал критики со стороны экспертов, правозащитников и представителей индустрии, которые указывают на превышение полномочий и риски политической цензуры.

В опубликованном в прошлом месяце проекте программного заявления FTC предложила рассматривать идеологическую предвзятость в ИИ как «недобросовестную и вводящую в заблуждение практику» согласно разделу 5 Закона о FTC. Комиссия аргументирует это тем, что потребители ожидают от ИИ-систем информации, свободной от предвзятости или идеологических манипуляций. Однако конкретные критерии определения такой предвзятости в документе не прописаны.

Борьба за юрисдикцию

Отдельное внимание привлекает попытка FTC утвердить федеральное верховенство над законами штатов в сфере ИИ. В документе прямо упоминается Colorado AI Act, который требует от разработчиков проводить оценку рисков, раскрывать прозрачность алгоритмов и выполнять «аудиты предвзятости» перед выпуском моделей. Законодатели штата уже пытаются отсрочить или отменить эти аудиты до вступления закона в силу в 2027 году.

Противники инициативы видят в этом исключительно борьбу за власть. Лия Сискинд, бывший цифровой чиновник Белого дома и заместитель директора AI Corps при Министерстве внутренней безопасности, в комментарии CyberScoop заявила, что FTC, похоже, больше озабочена «мелкими склоками о том, какая ИИ-модель более woke», чем реальными проблемами дезинформации в больших языковых моделях.

«Роль FTC заключается в контроле за соблюдением прав потребителей, а не в регулировании систем ИИ. Похоже, они пытаются решить проблему отсутствия регулирования ИИ со стороны Конгресса, растягивая раздел 5 далеко за пределы его традиционной роли», — отметила Сискинд.

Избирательное внимание к предвзятости

Анализ документа показывает избирательный подход к примерам идеологической предвзятости. Компания Anthropic, конфликтовавшая с администрацией Трампа по вопросам защитных ограждений ИИ и военного применения технологий, упоминается в сносках более полудюжины раз как пример нежелательной предвзятости. В то же время прямые факты вмешательства владельца компании в идеологию своей модели — речь об Илоне Маске и его чат-боте Grok от xAI — в документе отсутствуют.

Маск публично признавал, что лично корректирует ответы Grok, когда они его расстраивают. Например, после его вмешательства модель изменила свою позицию по вопросам расовых отношений в ЮАР и термину «MechaHitler». Однако Grok появляется в документе FTC лишь в позитивном ключе — как «ваш искатель истины для нефильтрованных ответов».

Критика со всех сторон

FTC получила более 300 комментариев на свое предложение от торговых ассоциаций, аналитических центров, экспертов и членов Конгресса. Большинство раскритиковало инициативу как плохо определенную и уязвимую для политически мотивированной цензуры. Вот ключевые аргументы противников:

• Размытые критерии: Комиссия не дает практических указаний, как будет применяться ее власть в отношении «идеологически мотивированных искажений».
• Угроза Первой поправке: Регулирование может затронуть речь, защищаемую высшей степенью конституционной защиты.
• Конфликт с законами штатов: Попытка федерального верховенства над Colorado AI Act вызывает споры о юрисдикции.
• Риск политической цензуры: Создается прецедент, позволяющий будущим администрациям перекраивать ИИ-системы под свои политические взгляды.

Показательно, что даже идеологические союзники разделились во мнениях. Консервативный фонд America First Legal, основанный советником Белого дома Стивеном Миллером, призвал FTC принять политику «в полном объеме», утверждая, что модели OpenAI и Anthropic «запрограммированы на приоритет либеральных ценностей». Однако другие консервативные группы, такие как R Street Foundation, усомнились в обоснованности аргумента о «разумных ожиданиях потребителей», указав, что большинство LLM уже имеют предупреждения о возможной неточности ответов.

Представители Cato Institute назвали сравнение FTC идеологической предвзятости с фактическим обманом в маркетинге «абсурдным». Они подчеркнули, что точность и производительность ИИ-моделей — субъективные переменные, и оценивать их так же, как медицинские заявления о пользе биодобавок, некорректно.

Читайте также: Как устроены современные цифровые угрозы: от вирусов до манипуляции ИИ

Источник: CyberScoop