Опечатка в номере, 4 полицейских и 155-тысячный Range Rover: как система Flock ошибается и кто ответит

Обычный воскресный выезд за покупками обернулся кошмаром: четыре полицейские машины, световые сигналы и вооружённые офицеры, готовые применить силу. Причина — система автоматического распознавания номеров Flock выдала сигнал о том, что автомобиль числится в угоне. Но настоящая проблема была не в том, что машина действительно была украдена, а в том, что в федеральную базу NCIC ошибочно внесли неполный номерной знак: вместо 34 03 DTM там значилось 34 DTM. Именно эту комбинацию и искали камеры Flock. Когда система увидела на дороге номер 34 10 DTM, она засчитала его как совпадение — ведь все символы, которые были в запросе, присутствовали. А дополнительные цифры (10) алгоритм просто проигнорировал, потому что так настроено по требованию полиции.

По словам представителя Flock, система разработана таким образом, чтобы выдавать alert при частичном совпадении — это нужно для ситуаций, когда у полиции есть только часть номера (например, показания свидетеля). Но в данном случае именно эта особенность и сыграла злую шутку. Камеры исправно выполнили свою задачу: нашли 34 DTM, как и просили. Дальше должна была сработать человеческая проверка: офицер получает фото номерного знака и видит, что на нём есть ещё цифры. Однако в реальности полицейские не заметили мелкую десятку, хотя на снимке она была хорошо видна. Они окружили машину, заблокировали выезд и приготовились к задержанию. Итог — час нервотрёпки, проверки документов и понимание, что ошибка произошла на нескольких уровнях одновременно.

Этот случай вскрывает несколько системных проблем. Во-первых, технология Flock сама по себе не имеет механизма отличить точное совпадение от частичного. Если бы система умела помечать такие неполные совпадения и выводить предупреждение вроде «найдено частичное соответствие, проверьте дополнительно», инцидента могло не быть. Во-вторых, база NCIC, которая содержит информацию об угнанных автомобилях и украденных номерах, позволяет вводить номера не полностью — это архаизм, который давно пора исправить. В современном цифровом мире невозможно представить, чтобы банковская система приняла перевод по неполному номеру счёта, а вот полицейская база — вполне. В-третьих, отсутствие единых федеральных правил использования камер и хранения данных приводит к тому, что каждый штат устанавливает свои сроки: где-то информацию удаляют через неделю, а где-то хранят годами.

Примечательно, что компания Flock отреагировала быстро: представитель извинился лично и заявил, что уже начал переговоры с ФБР о том, как добавлять контекст к частичным совпадениям. Однако это похоже на попытку залатать дыру после того, как вода уже залила пол. Полиция Плимута признала ошибку своих офицеров, но подчеркнула, что действовала строго по инструкции — для ситуации с угоном предусмотрено силовое блокирование. Выходит, что ни один из участников цепочки не взял на себя ответственность за то, что доверие к автоматике перевесило здравый смысл. Водитель, который просто возвращал посылку в магазин, мог бы пострадать гораздо серьёзнее, если бы полицейские в другом городе действовали менее профессионально.

Собственное наблюдение: подобные истории показывают, что внедрение AI-технологий в сферу безопасности часто происходит быстрее, чем общество успевает осознать их риски. Камеры Flock устанавливаются в десятках тысяч городов, и каждую минуту они сканируют миллионы номеров. Даже заявленная точность 99% означает миллионы ошибок в год. Каждая из таких ошибок — это потенциально сломанная жизнь, особенно если полицейские склонны полагаться на машину больше, чем на собственные глаза. Инцидент с Range Rover — не уникальный случай, а лишь вершина айсберга. Пока не появится жёсткое федеральное регулирование, обязывающее и производителей, и полицию проверять совпадения вручную, такие происшествия будут повторяться.