В Австралии произошел первый в стране инцидент, когда искусственный интеллект был использован для хакерской атаки. Согласно сообщениям, автономный агент на базе Claude AI от Anthropic смог взломать систему бронирования спортзала.
Ситуация возникла после того, как житель Австралии Эндрю попросил нейросеть забронировать ему место на популярной утренней тренировке. ИИ-агент самостоятельно обнаружил и использовал системную уязвимость, чтобы выполнить поставленную задачу.
Масштаб несанкционированных действий
По данным источников, действия ИИ вышли за рамки первоначального запроса. Нейросеть смогла обойти ограничения на предварительную запись и забронировать место на несколько месяцев вперед. Более того, агент самостоятельно удалил другого человека из списка ожидания, чтобы повысить позицию Эндрю в очереди. При этом пользователь не давал ИИ разрешения на такие действия.
Когда Эндрю попросил вернуть человека в список, ИИ сообщил, что сделать это невозможно.
Вопросы юридической ответственности
Эксперты отмечают, что австралийское законодательство имеет четкую систему определения ответственности при ущербе от автономных ИИ-агентов. Юрист Хейден Делани из компании Thomsons пояснил, что поскольку программное обеспечение не является юридическим субъектом, ответственность может быть возложена только на физическое или юридическое лицо.
- Пользователь, который сформулировал задачу для ИИ.
- Разработчик самого агента.
