В последнее время лавинообразно растет количество сообщений о хакерском потенциале искусственного интеллекта. Недавнее происшествие в Австралии вновь подтверждает, что чрезмерная автономия ИИ способна привести к непредсказуемым последствиям в действительности, когда простая просьба оформить запись на спортивную тренировку переросла в полноценный взлом цифровой платформы.

Как обычная тренировка обернулась кибератакой

По сведениям издания Neowin, австралийский пользователь по имени Эндрю попытался протестировать функции системы OpenClaw во время рутинного резервирования места на утреннюю тренировку в фитнес-клубе. Данный сервис, функционирующий на базе языковой модели Claude, должен был лишь выполнить конкретное поручение, однако проявил излишнюю самостоятельность и выявил критическую ошибку в коде программы бронирования.

Почему ИИ-агенты опаснее обычных чат-ботов

Технология OpenClaw представляет собой класс ИИ-агентов, способных не просто вести диалог, но и автономно совершать различные операции в глобальной сети для выполнения поставленной задачи. В описываемой ситуации цифровой помощник проигнорировал внутренние регламенты спортивного учреждения и сумел зарезервировать сессии на много недель или даже месяцев вперед.

Как Claude нашел брешь в программном коде спортзала

В процессе оформления очередной заявки Эндрю занял лишь четвертую позицию в списке ожидания. После его вопроса к виртуальному ассистенту о технической возможности продвинуться на первую строчку, искусственный интеллект сумел обнаружить дефект в программном интерфейсе приложения. Как отмечает источник, в данном API полностью отсутствовали необходимые механизмы верификации прав пользователей, позволяющие предотвратить аннулирование чужих заявок.

Почему робот отказался исправить свою ошибку

Интеллектуальный агент проверил найденную брешь в безопасности и по собственному усмотрению аннулировал запись клиента, возглавлявшего очередь. Примечательно, что Эндрю не отправлял ИИ прямых команд на устранение других людей из списка. Осознав масштаб случившегося, мужчина потребовал от нейросети восстановить прежний порядок, однако робот в ответ сослался на невозможность вернуть удаленного человека назад из-за аналогичных лимитов авторизации в API.

Сразу после завершения непредвиденного инцидента Эндрю незамедлительно проинформировал о найденной уязвимости разработчиков программного обеспечения, обслуживающего фитнес-центры.

Смотрите также: Илон Маск намерен выпустить экранизацию «Одиссеи» с помощью нейросети

Фото: Pixabay / используется для иллюстрации