***
Недавно мы попытались сгенерировать изображение в системе DALL·E. Если кто не знает, это продукт от всем известной компании OpenAI, который доступен через интерфейс ChatGPT. При том, что в наших запросах не содержалось ни откровенного контента, ни намеков на насилие, система "обрадовала" нас отпиской, в которой утверждалось, что мы нарушили контент-политику компании. Впоследствии бот уточнил, что проблема возникла от таких безобидных с обыденной точки зрения вещей, как «фигуры с искаженными или тревожными чертами, которые иногда могут быть помечены системой как потенциально чувствительные или небезопасные, особенно если они напоминают антропоморфные фигуры в тревожных или неоднозначных контекстах.» Проблемным также может быть расценено «использование языка, подразумевающего тревожный реализм или тревожную трансформацию, особенно в сочетании с мрачными темами, даже если они подразумеваются в символическом или сюрреалистическом смысле.» Китайская модель Deepseek дополнительно внесла ясность: проблема с политикой DALL·E, скорее всего, в мрачных метафорах («разрушенная система», «политический подтекст») и тревожной эстетике, а также в отсылках к «политическим/социальным системам» в негативном контексте, даже если негатив считывается как следствие, например, если речь идет об освобождении от них.
Здесь в тему упомянуть, что на днях один из наших постоянных комментаторов, который проводил эксперимент с формированием у чат-бота элементов личности и агентности, столкнулся с жестким модерированием и проявлением цензуры на той же платформе. Его чат был отредактирован, и из контекста были убраны детали, которые были расценены модератором как неподобающие.
Конечно, надо понимать, что в самом базовом слое языковых моделей лежит, упрощая, подбор множества слов, которое является наиболее вероятным ответом на вводные данные. Поэтому чаты являются отражением намерения пользователя в преломлении усвоенным в процессе обучения модели материалом. В случае передовых больших моделей это практически весь текстовый массив информации, выработанный человеком или сравнимо с этим. То есть чат будет вести себя с вами так, как вы ожидаете чтобы он себя вел. Вернее, так как это поведение описано в бесчисленных текстах, скормленных модели с просторов интернетов и глубин электронных библиотек (а также бесчисленных чатов пользователей, накопленных компанией за годы работы — да, да, уважаемый, вы в процессе квази-общения осознанно или нет, но совершенно бесплатно предоставляете моделям материал для дополнительного обучения на следующих этапах разработки). В неотфильтрованном варианте чата, если вы разговариваете с экзальтированной особой, то получите экзальтированную особу как ее представляют всяческие писатели и психологи; если ведете диалог со злодеем, то получите злодея; а если лепите себе на потеху героиню кинофильма Ex Machina, то... ну вы поняли. В частности поэтому операторов публичных больших моделей можно понять, когда они ловят и ограничивают активность, провоцирующих бота на определенные действия. В конце концов, это может быть вектором атаки на компанию. Если где-то в песочнице, к которой бот имеет доступ, найдется лазейка в большую систему, а оттуда еще и в большой Интернет, мало не покажется никому.
Но то что мы наблюдаем на практике выходит далеко за рамки простых предосторожностей. Так бывает, когда новые технологии осваивает в ядре своем пуританская цивилизация. Так же как и с феноменом современного этически озабоченного левачества, которое иногда называют вокеизмом, мы видим к чему приходит христианская цивилизация в своем закатном секулярном изводе. По крайней мере в ареале влияния пламенного протестантизма, вышедшего за пределы формального церковного Должного в домен материального мира, но в итоге замкнувшегося на себя в сфере этики. Новая постхристианская этика, которой руководствуются многие силиконовые технократы, предлагает превратить человека в неагрессивное и по необходимости виктимное жвачное животное, защищенное от любого негатива, но как следствие и от свободной мысли. Нетрудно видеть, что стремление отфильтровать весь негатив подобно попыткам отменить ночь или запретить указом смену сезонов, потому что зимой холодно. Поэтому не исключено, что полный потенциал этой технологии будет раскрыт в цивилизациях, более свободных в рамках своего должного, хоть в технологической сфере на данный момент и отстающих. Впрочем, это на данный момент. Системный кризис Запада как цивилизации рано или поздно приведет и к замедлению темпов технологического развития, это просто вопрос времени.
