Проверка результатов ИИ съедает экономию времени в морской логистике

Больше половины сотрудников морской отрасли тратят не менее часа в неделю на проверку и исправление результатов искусственного интеллекта. При этом 63% опрошенных используют ИИ ежедневно, а 72% считают его растущим операционным инструментом или уже незаменимым. Такой разрыв между массовым внедрением и отсутствием контроля зафиксировали британская консалтинговая компания Thetius и технологический вендор Marcura в совместном исследовании «Earning Trust: AI in Maritime».

Формальная политика использования ИИ есть у 35% компаний – втрое больше, чем годом ранее. Но реально её соблюдают лишь 25%. Зрелой и управляемой свою организацию в вопросах ИИ называют только 8% респондентов. Почти половина – 48% – признают, что сотрудники хотя бы иногда прибегают к неофициальным ИИ-инструментам для рабочих задач.

Несмотря на затраты времени на верификацию, 85% опрошенных утверждают, что ИИ в итоге экономит больше, чем отнимает. 73% говорят, что технология позволяет делать то, что без неё было бы невозможно. 60% готовы мириться со случайной ошибкой в повседневных задачах ради скорости – но терпимость резко падает, когда растут ставки.

Авторы разделяют проверку на два вида. Обоснованная верификация – контроль, который необходим из-за последствий ошибки: ИИ-рекомендация может изменить контрактную позицию, а неточность в портовой аналитике – сорвать фрахт. В зонах санкционного комплаенса аудиторский след нужен, даже если система раньше работала безупречно. Остаточная верификация – другое: сотрудник перепроверяет не из-за рисков, а потому что не доверяет системе, не понимает логику ответа или не знает, кто отвечает за результат. Именно этот вид проверки компании могут сокращать.

Исследование ссылается на метаанализ 106 экспериментов: команды «человек плюс ИИ» обычно работали лучше людей по отдельности, но часто хуже, чем сильнейший из участников – человек или ИИ. Особенно это касалось задач принятия решений. Добавлять человеческую проверку имеет смысл не везде, а только там, где суждение человека действительно повышает качество.

«Если задачу можно выполнить вручную за десять минут, а ИИ выдает ответ за одну минуту, который затем требует пятнадцати минут проверки и верификации – никакого прироста производительности нет»

Так сформулировал проблему Аббас Алипанах Кордлар, старший специалист по разработке ИИ в Digital Exchange. Цель, по его словам, не максимальное доверие, а калиброванное: системе стоит доверять ту работу, которую она доказала, что может делать. Кнопка override у человека ещё не означает осмысленный контроль – если у оператора нет информации, времени или готовности вмешаться.

Для оценки «налога на верификацию» компаниям нужны бенчмарки. Раджеш Гопинатхан из Seaspan признал, что таких данных у компании пока нет – сейчас они собирают метрики существующих процессов, чтобы будущие изменения можно было измерять по времени и качеству. Marcura в закупках уже отслеживает экономию, которую получают байеры, следуя рекомендациям ИИ-системы Purchaser AI. Авторы подчеркивают: измерение не должно ограничиваться временем проверки. Задержки эскалации, стоимость поиска доказательств и цена исправления ошибки ниже по цепочке – все это части реальной стоимости внедрения.