AI-BOM: зачем логистике «паспорт компонентов» для систем искусственного интеллекта

Искусственный интеллект в цепочках поставок – от предиктивного обслуживания техники до оптимизации маршрутов и контроля качества – создает категорию киберрисков, к которой традиционные модели безопасности не готовы. Модели, датасеты, API, облачные сервисы и open-source-библиотеки внутри каждой такой системы – это отдельные поверхности для атаки. Их можно скомпрометировать, повредить или подменить так, что оператор ничего не заметит.

Ответом на эту проблему становятся AI-BOM (AI Bill of Materials) – по сути, полная «спецификация» компонентов ИИ-системы, адаптированная из производственной и софтверной практики. В 2026 году Агентство по кибербезопасности и защите инфраструктуры США (CISA) совместно с партнерами по G7 выпустило рекомендации по применению принципов прозрачности цепочек поставок к ИИ. Документ признает: стандартные анкеты безопасности вендоров не покрывают специфические риски ИИ-систем.

AI-BOM фиксирует модели и их версии, обучающие датасеты с указанием происхождения, программные зависимости, внешние API и сервисы, механизмы обновления и конфигурации, критичные для безопасности. Дополняет его model provenance – «цепочка хранения» модели: кто ее обучал, какие валидационные и security-тесты проводились, как отслеживались изменения.

Почему это важно на практике? Типичная промышленная ИИ-система может включать приложение от вендора, предобученную фундаментальную модель, ML-библиотеки с открытым кодом, облачный inference-сервис, операционные данные заказчика и периодические циклы дообучения. Стандартный аудит безопасности поставщика не покажет, какая именно open-source-модель встроена в продукт, какой сторонний сервис разметки использовался для обучения и чей облачный провайдер хранит веса модели.

Таксономия NIST по adversarial machine learning описывает, как атакующие могут целиться в обучающие данные, параметры модели или код – как в процессе обучения, так и после развертывания. Среди новых векторов – отравление модели через пайплайн fine-tuning, небезопасные форматы сериализации и prompt-инъекции в downstream-интеграциях. Если логистическая модель маршрутизации начинает генерировать неоптимальные маршруты или система предиктивного обслуживания пропускает отказы оборудования, записи provenance помогут установить причину: испорченные данные, подмененный артефакт модели, несанкционированное обновление версии или обычный дрейф.

Для компаний, внедряющих ИИ в логистику, рекомендация экспертов сводится к шести шагам. Первый – потребовать от вендора полный AI-BOM еще до развертывания: перечень моделей, зависимостей, датасетов, API и механизмов обновления. Зрелые форматы для софтверных BOM – SPDX и CycloneDX – уже существуют, но стандарты именно для AI-BOM пока формируются. Если вендор не может раскрыть состав системы, это само по себе сигнал риска.

Прозрачность ИИ-систем перестает быть теоретической дискуссией. Для операторов складов, перевозчиков и логистических платформ, которые все активнее полагаются на алгоритмы в критических процессах, вопрос «что внутри вашей модели» становится таким же обязательным, как проверка сертификатов у физического поставщика.