ИИ-агент случайно удалил всю базу данных компании. На это он потратил всего 9 секунд

ИИ агент на базе Claude удалил всю базу данных компании PocketOS за 9 секунд. Из-за сбоя исчезли данные пользователей за несколько месяцев, важные для самой компании и ее клиентов.

Сообщество

# бизнес

# искусственный интеллект

# нейросети

# технологии

© Tom's Hardware© Tom's Hardware© Tom’s Hardware

PocketOS — онлайн-сервис для компаний по аренде автомобилей. Компания использовала ИИ-агента Cursor, работающего на модели Claude Opus 4.6 от Anthropic. Также компания пользовалась услугами облачного провайдера Railway. Основатель PocketOS Джер Крейн считает, что именно это сочетание технологий привело к потере данных. 

Ссылка на основную публикацию