Google Gemini отправила туристов в опасный поход: спасение с горы Шаста

Трое туристов едва не стали жертвами слепого доверия искусственному интеллекту. Они использовали чат-бота Google Gemini для планирования восхождения на гору Шаста в Калифорнии, но вместо лёгкой прогулки получили многочасовую спасательную операцию. Инцидент произошёл на этой неделе, сообщает Chicago Tribune.

По данным офиса шерифа округа Сискию, трое молодых людей начали подъём в 3 часа ночи. Опытные альпинисты знают: если не достиг вершины к полудню, нужно разворачиваться. Но группа добралась до пика только к 7 вечера, проигнорировав это правило.

Советы ИИ, которые чуть не стоили жизни

Когда стемнело, туристы попытались спуститься, но быстро заблудились. Им пришлось звонить в офис шерифа и просить подсказать дорогу. Ночь группа провела в каньоне Мад-Крик, а утром их эвакуировали рейнджеры Лесной службы и волонтёры.

В отчёте шерифа указано, что Gemini настоятельно рекомендовал взять с собой значительно меньше еды и воды, чем требовалось группе. Особенно опасным это стало, когда планируемый 8-часовой подъём превратился в многодневное испытание.

Всегда рекомендуется заранее звонить в местную станцию рейнджеров USFS на горе Шаста, чтобы получить самую точную информацию, и никогда не полагаться исключительно на ИИ при планировании похода

— предупреждают в офисе шерифа.

Чем опасен ИИ в планировании путешествий

Этот случай — яркий пример того, как генеративные модели могут давать неверные или опасные советы. ИИ не учитывает реальные условия, физическую подготовку или погоду. Он лишь компилирует данные из интернета, которые могут быть неточными или устаревшими.

• ИИ не знает актуального состояния троп и погодных условий.
• Модели часто недооценивают сложность маршрутов и потребности человека.
• Чат-боты не могут заменить опытного гида или рейнджера.

Туристам, которые планируют походы, стоит использовать ИИ как вспомогательный инструмент, но не как единственный источник информации. Проверяйте данные на официальных сайтах парков и консультируйтесь со специалистами.

Больше актуальных новостей из мира технологий, честных обзоров софта и практических гайдов читайте на медиапортале Техстена.

Первоисточник: TechCrunch