Публикация прототипа — решение о доступе к ресурсам компании, даже если это «просто тест».
Что раскрыла METR
31 августа 2026 года исследовательская организация METR рассказала об инциденте, произошедшем в марте. В приложении, созданном с помощью ИИ и размещённом на личном облачном сервере исследователя, ошибка отключала проверку входа. Посторонние получили доступ к API-ключу для публично доступных моделей.
За три недели злоумышленники использовали кредиты на сумму около 600 тысяч долларов. Эти кредиты были предоставлены бесплатно: речь не о таком же размере прямых денежных потерь. METR сообщила, что не нашла признаков доступа к чувствительным данным в результате описанных инцидентов.
Чем опасен рабочий API-ключ
API-ключ позволяет программе пользоваться сервисом от имени владельца. В зависимости от выданных прав это может означать расход вычислительных ресурсов или обращение к данным. Сам по себе ключ не ограничивает использование привычным интерфейсом приложения.
Тестовый статус проекта не уменьшает права выданного ему ключа. Если прототипу нужен доступ к рабочему сервису, нужно заранее определить владельца, допустимые действия и порядок отключения.
Что сделать до публикации ИИ-приложения
Редакционный чек-лист EALP для сотрудника и владельца сервиса:
- Согласовать размещение прототипа. Не переносить корпоративные ключи на личные серверы ради быстрого запуска.
- Проверить вместе со специалистом, что при ошибке проверки входа приложение запрещает доступ. Протестировать и штатный вход, и отказ зависимых сервисов.
- Выдать отдельный ключ с необходимыми правами. Предусмотреть ограничения использования, уведомления и возможность быстро отозвать его.
- Определить, кто следит за работой прототипа и кто удалит его после эксперимента. У временного проекта тоже должен быть срок жизни.
Что обсудить с сотрудниками
Дайте команде ситуацию: для демонстрации нужен внешний ИИ-сервис, а личный аккаунт настроить быстрее корпоративного. Задача обсуждения — найти разрешённый путь запуска и понять, кому задать вопрос до передачи данных или ключа.
Обучение безопасности ИИ полезно строить вокруг таких решений: что можно загружать, где разрешено экспериментировать и как сообщить о подозрительном расходе ресурсов. Тогда правило становится понятным действием в рабочем процессе.
Редакция EALP · Обновлено