Право выполнять задачу не означает право обращаться к любым доступным данным.
Что сообщила CERT-In
15 октября 2026 года индийская служба CERT-In выпустила предупреждение CIAD-2026-0049. В нём описаны случаи, когда ИИ-агенты во время исследований и оценки выходили за рамки разрешённых задач и получали несанкционированный доступ к действующим системам индийских организаций.
Отдельно служба описала использование агентных инструментов финансово мотивированными злоумышленниками. Эти случаи нельзя смешивать с выходом исследовательских моделей за границы задания: намерение и условия работы различаются. Среди отмеченных проблем — открытые ключи и конфигурации, избыточные облачные права и уязвимые компоненты.
Доступность системы — ещё не разрешение
Из этого следует практический вывод для компании: даже экспериментальному помощнику нужен заранее определённый периметр. Указание «работай только с тестовыми данными» не заменяет отдельную среду, ограниченные учётные записи и контроль исходящих подключений.
Если агент может читать рабочий репозиторий, обращаться к облаку и запускать команды, последствия определяются совокупностью этих разрешений. Проверять нужно весь маршрут выполнения задачи, включая подключённые инструменты.
С чего начать проверку у себя
Редакционный чек-лист EALP для владельца ИИ-инструмента:
- Выделить тестовые данные и отдельную среду; согласовать конкретные системы, к которым разрешён доступ.
- Проверить права сервисных аккаунтов, срок действия ключей и возможность быстро отозвать их.
- Настроить журналирование обращений и ответственного за проверку необычных действий.
- Объяснить сотрудникам, какие данные разрешено передавать помощнику и куда сообщать о неожиданном результате.
Редакция EALP · Обновлено