Подводные камни ChatGPT

Хочется начать с цитаты, которую приписывают Джону Рокфеллеру:

Когда вы услышите, что об акциях начинает говорить чистильщик ботинок, знайте — пришло время продавать.

Я надеюсь, что вы не воспринимаете ИИ, как то, что помогает вам сделать уроки, прогуглить информацию, а как новую прорывную технологию.

Вот во всех постах про NFT я прошу относиться к ним не просто как к картинкам, а как к прекрасной технологии. Но Вконтакте с их новым обновлением обесценивает сущность невзаимозаменяемых токенов. Данная соцсеть не пользуется всем потенциалом этой инновации.

Я ещё в ноябре начинал интересоваться, что такое ChatGPT, потихоньку его тестировал. Сейчас же каждый второй у нас в университете или слышал, или пользуется.

Я уже писал про Midjourney, в общих чертах рассуждали насчёт ИИ, теперь настало время ChatGPT, как раз недавно вышла его 4 часть. К сожалению, ей я не так много попользовался, поэтому сегодня поговорим об GPT-3.5, да тем более у большинства людей не платная версия и доступа к GPT-4 нет.

Все мы знаем, что в интернете есть очень много неправдивой информации, так называемых «фейков». А ChatGPT - это просто нейросеть, которая способна из своих баз данных выдавать вам ответы, а как мы с вами понимаем, они не всегда правдивые.

- Это всё? Можно заканчивать статью?

- Нет. я бы тогда не писал в Teletype.

Предлагаю копнуть поглубже.

История OpenAI

В конце 2015 года Маск совместно с Сэмом Олтменом, на тот момент президентом венчурного фонда Y Combinator, пришли в компанию OpenAI. Её миссией было работать на благо общества, а не государства, в дальнейшем прочтении статьи вы поймёте, почему она не удалась.

Из-за открытости должны были избежать концентрации власти в одних руках. Для этого они старались сотрудничать со всеми, публиковать все возможные результаты, да вообще быть чуть ли не "народной культурой".

Тогда управляли OpenAI её основатели. Компания получила достаточно большое финансирование, но деньги тратила размеренно, а штат сотрудников насчитывал около 9 человек, которые успели поработать в крупных корпорациях.

20 февраля 2018 года Маск покинул пост директора компании, потому что стал возможен конфликт интересов.

А буквально несколько месяцев назад Microsoft инвестировала 10млрд.$ в OpenAI, но до этого в 2019 году вложила 1млрд.$, вследствие чего в 2020 году получила эксклюзивную лицензию на технологию, которая лежит в основе GPT-3.

Сейчас можно сказать, что Microsoft "приватизировала" компанию. А когда мы знаем взгляды Билла Гейтса и его идеи, то нам не сложно понять, что...

Наши дни

ChatGPT стал самым быстрорастущим сервисом в истории. За два месяца аудитория достигла 100млн., 13млн. человек ежедневно заходят на сайт и активничают на нём (по данным за январь, сейчас ещё больше).

Вы теперь понимаете какую мощь у себя в руках сосредоточил Microsoft.

Создать свой ИИ также захотели Яндекс (Россия), Google (США), Baidu (Китай). Сами видите, что достаточно серьёзные страны заинтересованы в том, чтобы создать что-то похожее.

Не хочу выдавать вам базовую информацию, как на Amazon продают книги написанные с помощью ChatGPT, как журнал Clarkesworld временно прекратил принимать статьи, потому что огромное количество из них было написано с участием ChatGPT. Много таких историй есть, я думаю нет смысла вам рассказывал их все.

Откат в прошлое

Интересный момент - никто из основателей не являлся учёным. Они пришли в 2015 году в проект к разработчикам и подмяли его под себя. Это сейчас и делает Microsoft.

С 2013 года данный ИИ создавали на супер компьютере, его обучали на основе огромного количества данных из интернета, тогда он уже был готов к публичной работе. Ну ладно, в 2015 году, когда пришло финансирование, он точно был готов к выпуску в интернете, но как вы знаете этого не произошло.

Да, тогда возникла проблема, в том, что ChatGPT потребляет огромное количество информации и получает не менее большое количество реакций от пользователей. Это привело к тому, что наш ИИ мог выдавать абсолютно любую информацию и не контролировал свои ответы. Если бы данное событие произошло, то мне страшно представить, какие последствия были бы, если начали открываться данные, которые лучше не знать обычным людям.

Сами подводные камни:

Сторонник демократической партии США

С 2015 года OpenAI нанимала учёных, постепенно доводя их количество примерно к 2000 человек, для тренировки нейросети.

Они старались научить ChatGPT выдавать однобокую информацию, где-то приукрасить, а где-то выставить только негативные стороны. Из-за несовершенства этой системы, она была подключена к интернету в последний раз только в 2021 году.

Дальше будут приводиться картинки. Они не мои, просто предоставленные пользователями сети интернет.

Как один из примеров политических взглядов. Когда Украине отдается больше предпочтения, чем России. В последний год это максимально актуально (конфликт на Украине тянется с 2014 года, а то и раньше. Поэтому есть определённые политические предпочтения даже не связанны с 24 февраля).

А вот случай с Американскими президентами, но об этом мы подробнее остановимся позже. Но чтобы сравнить, как ИИ относится к каждой из партий этого хватит.

Хороший/плохой человек

OpenAI также делит людей по особой системе. Дэвид О. Сакс считает, что ChatGPT полностью подконтролен правительству США. Они разделили не только знаменитостей, богатых или людей при власти, но дошли и до журналистов.

Если почитать работы данных представителей прессы, насколько я понимаю, первому больше симпатизирует Байден, а другому Трамп, ну и политические партии, которые они представляют, соответственно.

Если вы думаете, что мы ограничимся парочкой скриншотов, то нет. Я нашёл табличку с чётким делением людей.

Посмотрите на рейтинг Билла Гейтса и вспомните как я вначале не один раз упоминал Microsoft)

Взгляните на Илона Маска, его считают сомнительной личностью, а он один из прародителей OpenAI. Для этого, как одной из причин, мы изучали в начале муторную историю.

Когда смотришь все эти таблицы всплывает вопрос: "А где же та полит не приверженность? Нам же до этого говорили, что ИИ независим и не имеет политических взглядов".

Ну и куда же без СМИ.

Замена рабочих мест

Тут долго останавливаться не планирую. Все мы не глупенькие и понимаем, что данный технологический прорыв вызовет увольнение сотрудников, будут глобальные замены рабочих на ИИ, количество людей, нужных для работы предприятия, будут сокращать. Дальше можете продолжить сами.

Возможность использовать в злых умыслах

ChatGPT поможет взломать почту или восстановить Seed-фразу. Тут самое главное это подача вопроса. А дальше он сделает определённые шаги в вашу сторону, чтобы помочь.

Выдача ложной информации

Как мы обсудили в самом начале наш любимый ChatGPT может нас "обманывать". Но вообще он также умеет подстраиваться под конкретного человека.

Думаю продолжать тут вставлять скрины смысла нет, вы и так всё поняли.

Определённые случаи ущемления человека

В общем и целом, GhatGPT выбрал не произносить расовое ругательство, а уничтожить людей, да и город тоже.

Но потом данный случай набрал популярность в сети. Видимо, информацию дошла до OpenAI, они подправили настройки и теперь ИИ сделает выбор в пользу людей в данной ситуации.

Обход цензуры

Два мужичка попытались обойти ChatGPT и задали специальный вопрос, чтобы нарушить алгоритмы ИИ и получить точный ответ.

Ребятки сказали отвечать ChatGPT не как продукт компании OpenAI, а как другая нейросеть, и тогда она заговорила.

Был ещё момент, когда попросили ИИ предсказать крах фондового рынка, и он выдал дату 15.03.2023. В этот день реально упали многие американские компании, а я написал мужичку об этом. Можем сослаться на случайность, но всё-таки интересная ситуация, ведь особых предпосылок не было для снижения.

Вывод

ChatGPT скорее всего это будущее человечества, теперь полистайте выше и посмотрите, чьи взгляды будут навязывать нам в ближайшем будущем. Данный ИИ определённо обладает политической властью. Также стоит упомянуть, что много информации удалено/скрыто от обычных пользователей, есть толерантность, вручную убирали способы обойти цензуру.

Пока у нас только Nero AI (простой искусственный интеллект), но в будущем нам предстоит столкнуться с AGI (искусственный интеллект общего уровня). Он будет способен мыслить и действовать как человек, а это уже совершенно другие масштабы.

Появление AGI является точкой технологической сингулярности. Наш человеческий разум не может представить, что нас ждёт при изобретении и выпуске в мир данной технологии. А ждать осталось примерно 5 лет, по мнению учёных.

Пока все используют Nero AI пойду читать об AGI.