Специальные цветные таблички делают человека почти невидимым для искусственного интеллекта

by @popmeh
Специальные цветные таблички делают человека почти невидимым для искусственного интеллекта

Группа инженеров из университета К. Ю. Левена (Бельгия) на прошлой неделе опубликовала статью о том, как с помощью простых печатных шаблонов можно обмануть систему ИИ, предназначенную для идентификации изображений.

К примеру, достаточно повесить на шею специально распечатанную табличку, и с точки зрения ИИ это будет равносильно использованию плаща-невидимки.

Это может показаться странным, но на самом деле речь идет о достаточно известном явлении в мире ИИ. Такие шаблоны носят название состязательных примеров, они используют недостатки интеллекта систем компьютерного зрения. В результате происходит визуальный обман и ИИ видит то, чего нет.

В прошлом состязательные системы использовались для обмана систем распознавания лиц, когда, надев очки, человек превращался для ИИ, к примеру, в Милу Йовович.

Одновременно многие исследователи предупреждают об опасности использования состязательных примеров. В частности, таким образом можно обмануть автомобиль-беспилотник, который может принять важный дорожный знак за обычный фонарный столб.

источник

"Популярная Механика"

April 26, 2019
by @popmeh