Такие компании, как Amazon и Microsoft, "ставят мир под угрозу" убийцы AI

Опрос основных игроков в отрасли приходит к выводу, что ведущие технологические компании, такие как Amazon и Microsoft, ставят мир "под угрозу" убийственного ИИ.

ПАКС, голландская неправительственная организация, исследует 50 фирм на основе трех критериев:

Если технология, которую они разрабатывают, может быть использована для убийственного ИИ.
Их участие в военных проектах.
Если они взяли на себя обязательство не участвовать в военных приложениях в будущем.
Microsoft и Amazon названы одними из самых "рискованных" технологических компаний в мире, подвергающих мир риску, в то время как Google лидирует среди крупных технологических компаний, реализующих надлежащие гарантии.

Рейтинг Google среди самых безопасных технологических компаний может быть неожиданным для некоторых, учитывая репутацию компании для массового сбора данных. Маунтин-Вью также был охвачен протестом по поводу его спорного контракта "Project Maven" с Пентагоном.

Проект Maven был контрактом Google с Пентагоном на поставку технологий искусственного интеллекта для военных беспилотников. Несколько высокопоставленных сотрудников уволились из-за контракта, в то время как более 4000 сотрудников Google подписали петицию с требованием к их руководству прекратить проект и никогда больше не “строить военные технологии".”

Следуя проекту Maven backlash, генеральный директор Google Сундар Пичай пообещал в своем блоге, что компания не будет разрабатывать технологии или оружие, которые наносят вред, или что-либо, что может быть использовано для наблюдения, нарушающего “международно признанные нормы” или “общепринятые принципы международного права и прав человека”.

Обещание Пичая не участвовать в таких контрактах в будущем, похоже, удовлетворило PAX в их рейтинге. С тех пор Google попыталась улучшить свой публичный имидж вокруг своих разработок в области ИИ с такими вещами, как создание специальной группы по этике, но это быстро провалилось и рухнуло после того, как в нем появился член Правого мозгового центра и оборонный дрон-магнат.

"Почему такие компании, как Microsoft и Amazon, не отрицают, что в настоящее время они разрабатывают это весьма спорное оружие, которое может решить убивать людей без прямого участия человека?"сказал Фрэнк Слийпер, ведущий автор доклада, опубликованного на этой неделе.

Microsoft, которая входит в число самых рискованных технологических компаний в списке PAX, еще в феврале предупредила инвесторов, что ее предложения AI могут повредить репутации компании.

В ежеквартальном отчете Microsoft написала::

"Некоторые сценарии ИИ представляют этические проблемы. Если мы включаем или предлагаем решения ИИ, которые являются спорными из-за их влияния на права человека, конфиденциальность, занятость или другие социальные вопросы, мы можем столкнуться с брендом или репутационным ущербом.”

Некоторые из набегов Microsoft на технологию уже оказались хлопотными, например, чат-бот "Tay", который стал расистским, сексистским, в целом довольно неприятным персонажем после того, как пользователи интернета воспользовались его возможностями машинного обучения.

Microsoft и Amazon в настоящее время торгуются за контракт Пентагона на сумму 10 миллиардов долларов для обеспечения облачной инфраструктуры для американских военных.

"Технологические компании должны знать, что если они не примут меры, их технология может способствовать разработке летального автономного оружия”, - комментирует Даан Кайзер, руководитель проекта PAX по автономному оружию. "Создание четкой, общедоступной политики является важной стратегией для предотвращения этого.”

Источник: artificialintelligence-news.com