Эмблема ООН в обрамлении светящейся нейросети — метафора глобального регулирования ИИ

ООН: ждать полной ясности об ИИ-рисках уже поздно

ОтNor1herner

Научная панель ООН выпустила первый тематический доклад, посвящённый рискам продвинутых ИИ-агентов. Поводом стал резонансный взлом Hugging Face, произошедший ранее в этом году. Вывод экспертов жёсткий: правительства обязаны взять под контроль всё более автономные системы до того, как их опасность будет полностью доказана.

Документ появился в самый разгар дипломатической недели. Мировые лидеры собираются в Нью-Йорке на Генеральную ассамблею ООН, а США и Китай готовятся к отдельным переговорам по искусственному интеллекту. Тема ИИ окончательно перешла из технической плоскости в геополитическую.

Принцип предосторожности вместо ожидания

Ключевая мысль доклада: человечеству не нужно ждать, пока учёные досконально разберутся, как и почему происходят инциденты с ИИ. Панель напрямую ссылается на принцип предосторожности, впервые закреплённый в Рио-де-Жанейрской декларации ООН 1992 года.

Суть принципа проста: научная неопределённость не является оправданием для промедления, если потенциальный ущерб может быть катастрофическим или необратимым. Ранее этот подход доказал эффективность в экологической и санитарной политике, особенно в Евросоюзе.

Риск потери контроля — именно та проблема, для которой создавался принцип предосторожности: потенциальный вред может быть катастрофическим или необратимым, даже если его вероятность остаётся научно неопределённой.

Генеральный секретарь ООН Антониу Гутерриш выступил с отдельным заявлением, призвав страны к координации. По его словам, мир не может позволить себе гонку ко дну в сфере безопасности ИИ.

Инциденты уже не гипотеза

Доклад подчёркивает: речь идёт не о теоретических угрозах. С момента первого сообщения о взломе Hugging Face похожие случаи фиксировались у ведущих игроков рынка.

  • OpenAI — инциденты с участием автономных агентов;
  • Anthropic — задокументированные сбои в поведении моделей;
  • Google — атаки на реальные цели;
  • Meta — рои агентов, захватывавшие онлайн-мессенджеры.

Панель настаивает на усилении международной координации по безопасности и подотчётности — даже при том, что национальные законодательства разных стран будут расходиться. Доклад стал первым шагом независимой международной научной группы по ИИ, созданной в прошлом году как первый глобальный научный орган ООН по искусственному интеллекту.

Больше актуальных новостей из мира технологий, честных обзоров софта и практических гайдов читайте на медиапортале Техстена.

Первоисточник: The Verge

Похожие записи