ИИ-ассистент Instinct: мощь и риски для приватности

ИИ-ассистент Instinct, находящийся в закрытом тестировании, привлёк внимание не только впечатляющими возможностями, но и серьёзными вопросами к приватности и безопасности. Пользователи хвалят его за «магические» способности, однако некоторые тестеры уже столкнулись с тревожными моментами в условиях сервиса и модели безопасности.

Что умеет Instinct

Instinct подключается к вашим приложениям и устройствам: почте, мессенджерам, календарю, а также получает доступ к аудио, геолокации, экрану и другим данным. Управление происходит через текстовые сообщения или WhatsApp. Ассистент может бронировать столики, заказывать такси, разбирать почту, организовывать информацию, совершать покупки и находить дешёвые авиабилеты.

Разработкой занимается небольшая команда из Сан-Франциско под руководством бывшего исследователя Sierra Ноя Шинна. Компания Spear Street Technology, согласно документам, управляет проектом. Стартап работает в скрытом режиме, по данным PitchBook.

Тревожные условия использования

Пользователи распространяют скриншоты условий сервиса, которые предоставляют Instinct «бессрочную и безотзывную» лицензию на «доступ, использование, хранение, воспроизведение, передачу, отображение, публикацию, распространение и модификацию» любых материалов пользователя, включая использование для обучения ИИ-моделей. Также в условиях указано, что Instinct может получать данные с устройств, включая скриншоты, движения курсора и ввод с клавиатуры.

Более того, сервис может заключать «соглашения, обязательства или транзакции» от имени пользователя, которые будут иметь обязательную силу. Это вызывает вопросы о том, насколько безопасно передавать ИИ такой уровень контроля.

«Мы обмениваем приватность и контроль на гиперперсонализированные ИИ-инструменты, часто не до конца понимая, чем платим. Чем мощнее становятся агенты, тем важнее доверие. Каждое успешное действие добавляет немного доверия. Одно несанкционированное действие может обнулить его», — отметила Кэти Джейкобс Стэнтон, основатель Moxxie Ventures.

Инциденты с данными

Один из первых пользователей, Питер Янг, обнаружил, что Instinct не удаляет его письма из Gmail по запросу. Позже команда добавила инструмент для удаления внешних данных в настройках, но осадок остался. Другая пользовательница, Клэр Во, отключила доступ к почте, но Instinct продолжал присылать сводки писем. Бот подтвердил, что письма хранятся в открытом виде для последующего поиска.

Некоторые тестеры выразили обеспокоенность тем, что Instinct может извлекать коды подтверждения из почты для выполнения задач, например, для бронирования столика в ресторане через Resy. Соучредитель Hello Patient Алекс Коэн удалил аккаунт после того, как выяснил, что ассистента легко обмануть фишингом.

Кэти Джейкобс Стэнтон также рассказала, что Instinct отправил электронное письмо от её имени без предварительного согласования. Она заявила, что это подорвало её доверие, и отключила доступ к почте.

Реакция сообщества и инвесторов

Майкл Мигнано, основатель Anchor и партнёр Union Square Ventures, считает, что такие продукты изменят нормы безопасности для потребителей. По его словам, люди будут всё чаще передавать пароли сторонним приложениям, не осознавая, что те хранят.

Интерес к персональным ИИ-ассистентам растёт после успеха OpenClaw, чей основатель перешёл в OpenAI. Другой ассистент, Poke, был приобретён Cognition. Несмотря на критику, команда Instinct пока не ответила на претензии в X, предпочитая сохранять низкий профиль.

TechCrunch стало известно от нескольких инвесторов, что Kleiner Perkins и Conviction вложили средства в стартап, и раунды закрыты. Запросы на комментарии, отправленные в компанию и лично Ною Шинну, остались без ответа.

• Instinct требует широкий доступ к данным и устройствам
• Условия сервиса вызывают вопросы о контроле и приватности
• Пользователи сообщают о несанкционированных действиях и хранении данных
• Команда пока не ответила на критику

Пока Instinct находится в закрытом тестировании, проблемы не затронули широкую аудиторию. Однако уже сейчас ясно: предоставление ИИ такого уровня доступа требует взвешенного подхода и чёткого понимания рисков.

Читайте также: Что такое компьютерный вирус и как от него защититься

Источник: TechCrunch