Приборы уже врали

Хинтон предупреждает: в ближайшие год-два может произойти авария уровня Чернобыля. Сценарий он называет конкретный: электросети, финансовая система и вся та инфраструктура, о которой мы обычно не думаем.

Большинство обсуждает это иначе: «выйдет ли ИИ из-под контроля». Но настоящий урок Чернобыля не в реакторе, а в людях. Показания приборов уже не сходились, а дежурный не поверил им и не нажал кнопку аварийной остановки. Авария началась не со взрыва, а с «давайте подождём ещё немного».

Вернёмся к повседневности. ИИ уже проник в то, что мы видим: пустые кадры в сериалах, картинки товаров, иллюстрации в новостях, фотографии, которые присылают друзья. Способность отличить сгенерированное у нас близка к нулю — и чаще всего мы и не собираемся отличать: достаточно, чтобы выглядело правдоподобно.

Поэтому моё маленькое дело — смотреть на картину дольше. Не для того, чтобы понять, что хотел сказать автор, а чтобы тренировать одно простое действие: остановиться, посмотреть ещё раз и спросить: «кто это сделал и почему именно так».

Обычно это умение бесполезно. Но однажды именно оно нажмёт кнопку аварийной остановки за вас.