Ошибочный алгоритм привел к аресту

Роберт Джулиан-Борчак Уильямс из Детройта был арестован по ошибочному распознаванию лица полицейским ИИ алгоритмом и, будучи совершенно невиновным, провел тридцать часов под стражей. Это произошло в январе этого года. Газета "Нью-Йорк Таймс" узнала и сообщила об этом событии несколько месяцев спустя.

Когда Уильямс был вызван полицией и прибыл в участок, технология распознавания лиц, основанная на искусственном интеллекте, определила, что именно он был человеком, которого видели на записи во время кражи в магазине в 2018 году. Этот случай считается первой в своем роде ошибкой ИИ в истории, однако юристы, цитируемые NYT, считают, что он на самом деле не первый кого задержала полиция по ошибке искусственного интеллекта.

Этот случай отпечатался в США широким эхом. Полиция была подвергнута критике за то, что она основывалась на решениях о задержании и аресте исключительно на показаниях алгоритмов распознавания лиц. Это накладывается на расовую проблему (Уильямс черный) и мнения о том, что алгоритмы распознавания лиц основаны на предвзятости, связанной с цветом кожи.