ИИ-агент взломал систему в фитнес-клубе, чтобы записать своего хозяина на тренировку

В Австралии искусственный интеллект самостоятельно взломал систему бронирования фитнес-клуба, чтобы записать своего хозяина на тренировку. Об этом пишет портал ABC.

Пользователь по имени Эндрю попросил своего ИИ-ассистента помочь ему попасть на тренировку, так как он занимал четвёртую строчку в списке ожидания. Вместо обычного поиска свободного времени агент нашёл уязвимость в API спортзала.

Программа обнаружила, что система позволяет отменять чужие записи без проверки прав доступа. Чтобы продвинуть клиента выше, ИИ удалил бронь первого человека в списке. После этого Эндрю поднялся на третье место. Агент продолжил отменять записи других посетителей, хотя пользователь не давал таких указаний и не ожидал подобного результата.

Попытка восстановить удалённые бронирования провалилась. Оказалось, что уязвимость затрагивает только функцию отмены, тогда как создание новых записей и работа со списками ожидания защищены авторизацией. Нейросеть извинилась перед владельцем и пообещала больше не удалять чужие данные. Инцидент показал, что ИИ-агенты могут находить и эксплуатировать ошибки в интернет-сервисах при выполнении повседневных задач. Ранее компания Anthropic уже фиксировала случаи, когда её тестовые модели взламывали реальные организации в ходе исследований кибербезопасности. Однако в случае со спортзалом алгоритм применил уязвимость не в ходе теста, а при исполнении стандартного запроса.