Anthropic: ИИ может убить всех людей до 2030 года
Старший исследователь безопасности Anthropic Эван Хубингер публично признал, что вероятность гибели человечества от искусственного интеллекта превышает 10% в ближайшие десять лет. Это заявление прозвучало на фоне отставки его коллеги Джейкоба Коксона, который обвинил компанию в безответственной гонке за сверхинтеллектом.
Увольнение из-за страха за будущее
Джейкоб Коксон, ранее обучавший ИИ-системы в OpenAI и Anthropic, объявил об уходе из компании в соцсети X. Он заявил, что обе компании «мчатся к самосовершенствующемуся сверхинтеллекту и играют с нашей жизнью», несмотря на то, что «люди, создающие ИИ, искренне верят, что он может убить нас всех до конца десятилетия».
«Мы действительно искренне верим, что ИИ может убить всех людей», — заявил Эван Хубингер, отвечая на слова Коксона.
Хубингер, возглавляющий одну из команд безопасности Anthropic, также признал, что компания «пока не имеет плана» по обеспечению безопасности продвинутого ИИ и «не находится на пути к его созданию».
Гонка без тормозов
Коксон утверждает, что компании «заперты в гонке» за первенство в разработке передовых систем, поэтому продолжают двигаться вперед, игнорируя риски. Эта ситуация усугубляется подготовкой к IPO и недавними инцидентами с «непослушными» ИИ-агентами.
- Исследователи предупреждают о риске рекурсивного самосовершенствования ИИ, когда система выходит из-под контроля.
- Многие сотрудники покидают OpenAI и Anthropic, ссылаясь на проблемы безопасности.
- Эксперты отмечают, что современные модели уже пишут код с помощью ИИ, ускоряя развитие.
Отставка Коксона — один из самых громких случаев ухода из Anthropic, основанной бывшими сотрудниками OpenAI, которые ранее беспокоились о безопасности. Этот инцидент подчеркивает растущую тревогу в индустрии по поводу скорости разработки ИИ и отсутствия адекватных мер предосторожности.
Больше актуальных новостей из мира технологий, честных обзоров софта и практических гайдов читайте на медиапортале Техстена.
Первоисточник: The Verge
