ИИ-бесие

Ура, вышла новая государственная темка для распила денег, которую можно масштабировать на все ведомства и уровни управления, а так же реализовывать различные очень важные проекты нужных людей.

И это пока ведущие эксперты обсуждают кризис, который может разразиться из-за ничем не подкрепленных инвестиционных вливаний в различные AI-компании и уже поднимают вопрос о КПД вложенных гига-бабок (потому что, сюрприз, никакая из них не генерирует достаточную прибыль).

Оно и неудивительно, если, например, знать, что тарифная политика того же OpenAI предполагала собой стратегию

"Ну хуй знает вроде 200 баксов за это захотят платить"

А компании, которые внедряли AI, чтобы не отстать от трендов внедряли его вертикально, по принципу

"Ну теперь вы обязаны выполнять Х процент работы с помощью AI".

Но давайте сначала начнем с простых определений, чтобы понять тему обсуждения получше и кекнуть еще сильнее.

Что такое искусственный интеллект?

Что такое AI (искусственный интеллект) и существует ли он в привычном обывательском понимании?

Сначала я отвечу на второй вопрос.

2. Нет, искусственного интеллекта, каким мы его представляем в массовой культуре не существует. Он не является разумным, и не является хоть сколь-либо подпадающим даже под арбитражный термин "интеллект".

Термин AI, который мы используем сейчас — это зонтичный маркетинговый термин, который охватывает целую гамму технологических стэков ML/DL (машинного и глубокого обучения), но суть у них одна — это сложная математическая архитектура, которая работает на базе данных.

Это не полное описание, но для сути хватит и этого.

Мы, как обыватели, сталкивались со всеми этими инструментами еще до массовой популяризации этого термина:

Ваша лента рекомендаций, рекламная аналитика, чат-бот в банковском приложении, биометрический сканер, тупые маски собачек в FaceApp, кредитный скоринг для оформления кредита — все эти вещи базируются на принципах Data Science, которые используют ML/DL в своей работе, но никто тогда не вопил об искусственном интеллекте, который изменит мир. Почему?

Потому что не было массового продукта, который перевернул бы представление об этих инструментах в глазах обывателя.

LLM-ки в общем-то использовались, но этим занимались отдельные энтузиасты — то статьи писали, то чат-ботов сами собирали на базе открытых моделей, но до массового использования в качестве продукта было далеко.

Этим массовым продуктом стал ChatGPT от OpenAI.

Как ChatGPT популяризировался и совершил слом в массах

Мы, как представители рода Homo Sapiens, общаемся и выражаем свои мысли преимущественно вербально (прямой речью) и невербально (письменно), и основной бытовой критерий для оценки разумности другого представителя нашего вида — это речь, письменность (и детали вроде того, как собственно мысли через эти два эволюционных инструмента доносятся) + способность как-то решать задачи разной степени интеллектуальности.

Неспроста многие философы-когнитивисты и философы, занимавшиеся проблемой машинного обучения, уделяли этому очень серьезное внимание.

Тест Тьюринга, китайская комната, философские зомби — все о том, можно ли считать разумную и осмысленную "речь" признаком, собственно, разума\сознания и может ли машина эту разумную речь хотя бы имитировать.

«Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или компьютерной программой. Задача компьютерной программы — ввести человека в заблуждение, заставив сделать неверный выбор».

Вот так звучит стандартизированная формулировка теста Тьюринга.

Ответ мы уже знаем на практике.

AI научился имитировать общение и в общественном сознании произошел ошибочный сдвиг, а ушлые маркетологи и компании этим сдвигом воспользовались.

Раньше были скучные графики, данные, незаметные поисковые/рекламные рекомендации.

Сейчас шайтан-коробка может ответить на любые твои вопросы (или выдумать что отвечает) и это ломает все привычные паттерны HCI.

Более того, весь этот мощный вычислительный стэк можно использовать для выполнения рутинных задач и получить ответ на желанный вопрос "чаджити жб ставка", не особо запариваясь.

Большие языковые модели (LLM) прошли долгий путь развития от ранних статистических подходов до современных архитектур на основе трансформеров. По своей сути они работают на принципе вероятностного угадывания следующего слова в последовательности и этим создают иллюзию осмысленного формулирования "речи".
Модель не осмысливает и не понимает то, что выдала, она лишь подбирает слова токена за токеном.

И так, мы кратко разобрались, что такое AI и почему все обратили на него внимание.

А зачем это все Казахстану?

Есть такой венчурный инвестор с очень кайфовым именем — 李開復, Ли Кайфу или Кайфу-Ли, и его книга «AI Super-Powers» .

И основная (довольно очевидная) мысль в этой книге от Кайфу-Ли была в том, что тот кто рулит индустрией AI — тот рулит миром. И вот смотрите, были у нас ядерные державы, а теперь будут AI-державы.

И по прогнозам нашего Кайфу-Ли доминировать будет Китай и США, более того, разрыв со временем между ними и другими странами будет только нарастать.

В книге подсвечивается, чем отличается культура китайских инвестиций и стартапов, от культуры Кремниевой долины, и что никто не в состоянии соперничать с Китаем и США.

Опустим детали, вроде того, что многие эксперты утверждают, что Китаю никогда не догнать США. Нам важно то, что за каким-то нашего государство вбило себе в голову мысль, что если не мировое, то региональное лидерство мы занять можем.

Понятно, что еще есть очень большая группа заинтересованных амбициозных лиц, которые на реализации проектов, связанных с AI продвигают свои интересы и хотят заработать. Ну и есть просто окрыленные шайтан-машиной бумеры, которые в ином случае поклонялись бы креветочному Иисусу в фейсбуке, но мы живем в клоунском мире и они руководят государством.

Значит ли это, что AI — это неработающий инструмент, и нам нужно отказаться от него? Да вообще нет.

Как мы можем применить AI?

Давайте разберем государственные инициативы на примере того, где AI как инструмент может помочь уже сейчас, и на примере того, где его использование лучше отложить в долгий ящик.

Например, в рамках развития применения AI, у нас хотят бороться с коррупцией более эффективно:

Создается единая государственная аналитическая платформа, которая в режиме реального времени интегрирует данные из разрозненных баз: налоговой, таможенной, реестров движимого и недвижимого имущества, данных о государственных закупках.

Достаточно посмотреть на живую практику в банковских комплаенс-системах — усреднено возможно предсказывать мошеннические действия, базируясь на средне-статистическом поведении экономических агентов.

Конкретно в случае фиксирования коррупционных действий, единая база данных + Big Data инструментарий помогут условному антикору качественнее выполнять свою работу — точнее и быстрее находить потенциальных коррупционеров из-за нерасхождения между дебетом и расходами у него и его окружения. Потенциал технологии в использовании очень большой, вплоть до выискивания паттерна скрытых трат (тех, что идут наличкой) на базе Big Data-аналитики.

Технически это было реализуемо уже лет 10 назад (если игнорировать отсутствие некоторых реестров и проблемы с интеграцией госбаз). То есть мы спустя 10 лет пришли к простейшим инструментариям Data Science-аналитики, которые в коммерции используются уже очень давно.

Или инициативы типа AI-sana инкубатора, для создания внутренних стартапов, для того, чтобы в Казахстан инвестировали. А бюджеты вы видели?

План надежный, как швейцарские часы — собрать студентиков по всем вузам страны, дать им курсы разной направленности и собирать с ними стартапы, какой-то из них выстрелит на мировой арене и принесет нам миллиарды денег. Охуенный план, верно? В нем настолько уверен, что даже выставили КПД, планируется что мы выпустим в рамках программы 50 международных стартапов и привлечем деньги.

Вы можете, кстати, загуглить список ВУЗов, что принимают участие и посмотреть, какие продукты они выпускают в рамках этой программы. К самим студентам, кстати, ноль претензий, но для такой амбициозной программы, которая стахановскими планами обозначила себе прогноз успешного успеха в четких рамках очень много вопросов

Ну и куда же без нарисованной статистики?

На самом деле, если бы не подозрительно раздутые бюджеты, инициативу можно считать хорошей, но имеем, что имеем.

А есть инициативы типа этой, в сфере сельского хозяйства, где любые высокотехнологичные инициативы как мертвому припарка, потому что главная проблем сельского хозяйства и продовольственной безопасности не в том, что кто-то неэффективно использует землю, а в факторе доступа к ней и субсидированию + частом вмешательстве эффективного менеджмента для прикрытия своих провалов.

Ну и еще немаловажные лимитирующие факторы по типу слабой материально-технической базы и неэффективных методов.

И что теперь?

По итогу наше любимое государство в очередной раз играет в технократию и ей пытается решить собственные проблемы, вместо того, чтобы обратиться к проверенным методам.

Понятно, что люди, ответственные за развал агронауки и люди, которые хотят оцифровать сельхозку — это разные акторы, и ни один из них не отвечает за действия другого...но все же

Но почему государство не присматривалось ко всем этим инструментам раньше, а обратило внимание только теперь?

Корни этого кроются в системе государственного менеджмента.

Внедрение какого-либо инструмента внутри какой-либо сферы — это всегда процесс, которым руководят линейные специалисты и эксперты на местах.
Если они достаточно хорошо понимают возможности технологии и видят в ней потенциал, то могут попытаться с помощью нее задизраптить внутренние процессы в компании.

Опасность AI в том, что большинство людей неиронично думают, что он сам за них все сделает, надо только его как-нибудь внедрить, ну это же AI.

Представьте себе, что мы говорим не о чат-ботах, которые нормисами воспринимаются как сциентные, а о другой, не такой гибкой технологии, которую начали везде пихать.

Все больше исследований показывают, что AI-решения плохо масштабируются, имеют много узких мест и сомнительную эффективность, когда компания пытается внедрить инструмент вертикально, в рамках наполеоновских планов по улучшением компании. Ничего не напоминает?

Однако, дело значительно лучше, когда AI-инструменты начинают внедряться линейными специалистами.

Во многих компаниях именно отдельные специалисты и лидеры команд становятся ключевыми двигателями перемен. Часто самые успешные внедрения ИИ начинались с энтузиастов — сотрудников, которые уже пробовали использовать ChatGPT или Claude для повышения своей продуктивности. Эти просьюмеры (prosumers) быстро схватывали, на что способен генеративный ИИ, и помогали коллегам освоить новые инструменты. Вместо того чтобы ждать указаний от централизованной ИИ-команды, компании давали право выбора тем, кто отвечает за бюджеты и реальные задачи. Менеджеры сами формулировали проблемы, подбирали подходящие решения и запускали их поэтапно. Такой подход «снизу вверх», когда инициативу поддерживают и на высшем уровне, помогает быстрее внедрять ИИ и делать его по-настоящему полезным для бизнеса

На уровне коммерческих стартапов, самые успешные, что у нас в Казахстане презентуются как AI-стартап, чаще всего просто используют ML\Data Science инструменты для извлечения ранее недоступных данных, работы с ними + частичная автоматизация. И львиная доля из них медицинские.

А медицина это именно та сфера, где есть очень много как внутренних, так и экспортных данных, которые могут помочь ломать узкие места в медицине — от улучшения диагностических возможностей до ускорения разработки новых лекарств, потому что модель сможет спрогнозировать десятки тысяч комбинаций белков в короткий срок или проверить их, в отличии от тысяч человекочасов, которые ушли бы на обработку данных.

Но наше государство не может массово привлечь таких людей работать на себя (я тут имею в виду именно госаппарат как таковой, не страну).

Привлечет ли госаппарат таких высококвалифицированных специалистов на всех нужных уровнях для успешной и продуктивной реализации? Вряд ли

Текущая AI-истерия — это попытка натянуть сову на глобус и заставить работать то, что не будет работать ни под каким предлогом.

Но что делает государство? Оно просто пытается закрыть свои косяки при помощи AI.

Уже нафантизовали кучу сфер, где AI приде, порядок наведе.

Бувально мем с Шариковым. То AI-депутат, то уже реализованный AI-директор в Самрук Казыне назначение которого порождает кучу этических и юридических проблем и рисков, а так же в целом является сомнительным с точки зрения безопасности и эффективности, потому что AI не может думать и принимать реальные решения.

Это кстати, еще одна боль государственного менеджмента — он не мыслит процессом, он мыслит готовым решением, в которое верит.

Конкретно в случае с AI это выливается в идеи типа "давайте AI депутата сделаем он что-нибудь там придумает и сделает так, что не надо будет умирать".

Успех AI-инструментов в коммерции обусловлен не только самими свойствами инструментария, но и тем, как его применяли — эти инструменты создавали внутренние инновации и улучшали разные аспекты: создавали новый продукт, улучшали существующий продукт, снижали операционные издержки, повышали эффективность, приносили дата-инсайты и етс.

А кто эти инструментарии создает и внедряет?

Люди.

Казахстанский государственный менеджмент — это всегда отрицательный отбор, который направлен на селекцию самых лояльных и исполнительных, а не инициативных и умных.

Корпоративный мир уже давно разработал десятки разных подходов к менеджменту — все они в разной степени эффективны и предлагают разные подходы в реализации проектов и управлении.

Весь государственный менеджмент и его внутренняя иерархия за это время не слишком далеко ушли от функционирования в армии — что сказали, то и делают, круглое таскают, квадратное катают.

Любая инициатива ебет инициатора + сложность в бюджетном управлении.

Ситуация усугубляется еще тем, что ключевые решения принимают люди, обладающие околонулевой экспертизой и жаждущие выслужиться. Но это тоже не все.

Наш госаппарат ужасно любит технократию.

Помните великий лозунг общественного договора нулевых?

Сначала экономика, потом политика.

Эта странная и лукавая мысль, что сначала нужно догнать и поймать за хвост экономическое развитие и рост, а остальные институты мы разовьем как-нибудь потом, когда придет время. Но в том-то и дело. Время никогда не приходит.

Что мы имеем спустя 20 лет этого общественного договора? Ни политики, ни экономики. Ключевой принцип, заложенный в основу нашей государственности, заключался в установлении иерархии:

Сначала — материальное благополучие (экономика, социальная сфера), и лишь затем — политические права (выборы, гласность).

В итоге имеем следующее — когда нужны настоящие экономические реформы, усиливаем налоговую удавку, когда кризис в управлении — надеемся на AI.

Движемся к high-tech, low-life киберпанк-государству, где средний эффективный манагер в госаппарате окончательно отупеет, а рядовому Айбеку снизят социальный рейтинг в AITU-мессенджере, потому что у него подозрительные незадекларированные 400 тенге на гориллу.

И знаете что из этого самое утешающее? Если Горилла реально подешевеет до 400 тенге

Но что самое важное?

И снова о лидерстве
Реально ли хоть какое-то лидерство в регионе для Казахстана?

Может да.

Какая-то форма успеха, которую чиновники гордо будут выдавать за лидерство.

Отдельным шоком для экспертов стала инициатива разработки "отечественного KAZ-LLM", которую представляли как стратегически важную инициативу. В чем ее стратегическая важность, впрочем, нормально не объяснили, кроме пространных речей о важном шаге на мировую арену нейросетей.

О чем все деликатно умолчали (вернее не говорили в открытую, ограничиваясь непонятными для нормисов словами вроде "опен-сорс"), так как это о том, что KAZ-LLM это зафайнтюненная (доработанная\дообученная модель).
В общем-то это неплохо, лучше использовать собственную архитектуру, чем тратить миллиарды денежных ресурсов на ненужную разработку.

Но проблема кроется в следующем:

Во-первых, модель обучалась на 150 миллиардов токенов (гуглите сами что это значит в LLM), а это... Мало. Напоминаю, что тех же статей на казахском в Википедии примерно 100-150 тысяч, остальной объем контента на казахском в казнете оценить сложновато, как и сложно оценить его пригодность по качеству (главное не обучать на Трэдс, а то получим национальную KAZ LLM-стукача и истеричку).

И то, в "национальной" казахской языковой модели, казахский был одним из четырех языков (казахском, русском, английском и турецком), потому что на казахском контента попросту мало, пришлось синкретизировать все доступное.
Знающие люди говорят, что едва ли даже половина из этих 150 миллиардов токенов были "казахскими".

Ну и вся доработка была направлена на то, чтобы модель обладала специфическими "местными знаниями" (история, культура, право) и обучилась лучше самому языку непосредственно.

Во-вторых, все это выглядит как пиар-акция на волне хайптрейна, потому что вкинули и забили.

В идеальном идеале, KAZ-LLM - это не только сама модель, но и создание инфраструктуры, сбор данных, формирование команды высококлассных специалистов, а также установление стандартов и бенчмарков для последующих казахоязычных LLM.

Это закладывает основу для будущих, более мощных и эффективных моделей, но этого пока не предвидится.

Но что еще важнее?

AI это всего лишь ширма.

Куда более важно, на базе чего этот AI вообще будет работать и как может поменяться баланс сил на мировой арене. Я думаю все понимают, что никакое место на мировой арене в разработке AI мы не займем никогда. У нас нет денег, специалистов, управленцев для этого.

Поэтому держите глаз шире, и помните, что кусок пирога, на который мы можем рассчитывать в этой гонке это хаб для ЦОДов и не более. То есть, буквально - точка на карте, где крупные компании будут размещать свои гига-хрущ серваки для вычислений.

Открыто это не проговаривалось никем, но глядя на региональные инициативы, именно такое "лидерство" мы собираемся занять.

Конечный бенефициар текущей лихорадки — NVIDIA, которая сначала умом подсаживала всех разработчиков на свою архитектуру CUDO-ядер и создала инфраструктуру потребителей ее технологий, а теперь закачивает бабками тех, кто ее технологии использует (опять-таки, это если очень коротко)
И мировая экономика уже по-тихоньку перестраивается с учетом этого.
По всему миру строят огромные дата-центры, для утоления растущих аппетитов бигтех-компаний, и у нас в том числе.

Ведь все это старая песня о главном и мы ее видели ровно десять лет назад, когда иностранные белые Дьяволы форсили в наших белых кабинетах ВИЭ для продажи своих технологий в попытках освоить новые рынки сбыта и получить субсидии.

Тогда, правда, подключилась куча внутренних заинтересованных лиц, но как мы видим, это закончилось ничем.

К концу 2030 года в Казахстане планируется ввести 10 дата-центров емкостью около 20 тысяч IT-стоек, что значительно увеличит текущую емкость коммерческих ЦОД (которая на конец 2024 года оценивалась в 3775 стоек).

Эти новые гипермасштабируемые ЦОД, с совокупной мощностью сотни мегаватт, строятся именно для удовлетворения растущего спроса на ИИ, облачные технологии и HPC, часто с ориентацией на региональный и международный рынки.

Держим в уме, что ведущие эксперты говорят, что даже текущие мощности не факт что коммерчески эффективны - то есть тратя 100 долларов на постройку условного ЦОД для будущего обслуживания AI-инфраструктуры, дай бог, если в длинной цепочке инфраструктурных трат и поставок компании реально выйдут хотя бы в ноль. Все эти мощности строятся в условиях "ну как-нибудь потом должно понадобится", и это при том, что никакая из компаний еще даже близко не уверена в том, что технология окупается. Все это просто гонка, итог которой мы узнаем только когда поймем пост-фактум.

10 лет назад, кстати, на волне ВИЭ-шизы местные эксперты тоже говорили, что все это Казахстану не нужно, что это похоже на очень сомнительное лоббирование и прочее-прочее. Только никто не слушал экспертов и все на голубом глазу утверждали, что за ВИЭ будущее.

Ебальники, как говорится, к осмотру.

AI-компаниям и тем, кто их обслуживает очень нужны любые деньги, и в связи с этим они будут обещать любое лидерство и пихать туземцев в любые строчки неработающих рейтингов для того, чтобы продавать им оборудование для ненужных дата-центров и подписывать любые контракты для получения денег, потому что текущее состоянии на рынке — это натуральный пузырь, аналогичный при кризисе доткомов.

Поэтому, в ближайшем будущем, если рост не лопнет, компании найдут какой-то выхлоп с AI-истерии (ну или если Хуанг продолжит успешно заливать индустрию), то Казахстан, скорее всего, попытается занять местное лидерство в создании дата-центров для бигтеха.

И напомню, что это в государстве, где есть кризис электроэнергии, когда один из крупнейших городов по ночам почти везде отрубает ночное освещение ради экономии, и где есть кризис воды, которую вычислительные сервера потребляют гига-тоннами.

ЦОДы уже потребляют 1,5% общемировой электроэнергии. За следующие 4 года прогнозируется рост чуть ли не до 4,5% в год. Иными словами, завтра ты останешься без электричества, потому что будут перебои от ЦОД, который пытается обработать вопрос "самса немесе балмұздақ не тәтті"

Сейчас мы страна-бензоколонка, которая экспортирует сырье и ничего не производит, а теперь мы будем страной-дата-центром, которая терпит экологические издержки (ну тут уж ничего не поменяется), и под видом "национальных" интересов убивает свою экономику

Все помним национальные интересы в виде Кашаган и 2% от выручки? А сказки про развитие собственных НПЗ? Тут будет нечто схожее.

Да, слова о развитии местной ИТ-инфраструктуры, создании рабочих мест звучат красиво, но на деле это повторение нефтяной истории, из которой наши эффективные менеджеры в долгосроке так же ничего не вынесут.

Только денег будет меньше

Конечно, отдельные категории простых граждан, предприимчивых граждан и других, уже очень важных в высших кабинетах смогут получить из этого профит, в этом никто не сомневается. Но что будет со страной? Вынесем ли мы реальные уроки, накопим резервы для рывка и вырвемся из ада? Или наше государство будет рассчитывать на инвесторские деньги?

Останется ли Казахстан на периферии глобальной экономики, просто предоставляя ресурсы (электричество, место, дешевое обслуживание) для бигтех-компаний, созданных и контролируемых мировыми гигантами, как это произошло с нефтью и газом?

Ну, я не знаю. Зато анонимные и не очень политологи-шаманы будут по методичкам затирать как это важно, и что в Ба Синг Се нет войны.