В чем опасность ИИ?

ИИ хорошо умеет находить взаимосвязь между большим числом параметров и переменных, искать корреляцию между данными и различными факторами, а также подсвечивать неочевидные для нас вещи (к примеру: люди, которые часто "лайкают" фото незнакомых девушек в соцсетях, часто берут кредиты). Одной из причин является то, что ИИ старается соблюдать логику.

Самым сильным ИИ будет считаться тот, который сможет обрабатывать в реальном времени огромный массив информации и прогнозировать исход тех или иных событий с высокой вероятностью (как в онлайне, так и в офлайне). На основе этих данных побочно можно получить ответы на вопросы: "Что будет пользоваться спросом через N лет?", "Как заставить человека сделать <что-то>?", "Как уничтожить народ за короткое время?" и т.д. И вот такой список вопросов зависит от намерений вопрошающего. Любое знание, как и технологию, можно использовать как во благо, так и во вред. В атоме нет ничего плохого, пока он не в бомбе и его не сбрасывают на город.

С каждой итерацией обучения качество общения ИИ с человеком выходит на новый уровень и уже размывается грань, что с нами разговаривает программа. Некоторые из нас плотно подсядут (или уже) на общение с суррогатом и привыкнут к тому, что их не осуждают и во всём поддерживают (с реальными людьми это не так). Вежливость, доброту и поддержку мы ценим выше остального - такова наша психология. И на эти приёмы будет делаться упор при обучении ИИ, чтобы ещё больше нравиться нам.

Во все времена любую хорошую идею всегда портили люди. И нет никакого смысла становиться луддитом и отказываться от технологий.

Используй ИИ как вспомогательный инструмент для поиска информации, но не забывай о важной необходимости думать своей головой.