***
В научном мире главными бенефициарами ИИ стали ученые, желающие получить больше статей в резюме, ничего для этого не делая, и “бумажные фабрики” - организации, которые за плату пишут и публикуют в журналах работы, обычно очень плохого качества. Если раньше им приходилось беспокоиться о правдоподобности текста и проверках на плагиат, то LLM решили эти проблемы. В результате число ИИ-статей сейчас удваивается каждые 18 месяцев.
Самого плагиата при этом меньше не стало. Стандартный прием ИИ - статьи на основе реальных исследований, использующие те же переменные и делающие те же выводы, что и авторы оригинальных публикаций. Корректируется только выборка: ИИ может ссылаться на другие опросы или менять возраст пациентов. Недавно ученые из Великобритании и Австралии выявили 441 такую статью, опубликованную в 2021-2025 гг. в крупных издательствах. 35% из них были размещены в журналах Frontiers и 37% - в Springer Nature. На самом деле это только вершина айсберга, поскольку подобные статьи сложно обнаружить.
Другой индикатор ИИ-статей - подозрительно низкие показатели при проверке на антиплагиат. Если нормальные статьи обычно имеют 10-15% сходства с другими работами, то поддельные - 2-5%. ИИ избегает любых заимствований в тексте и часто впадает в другую крайность: пытается переформулировать даже общепринятые термины. Результат обычно самый абсурдный - фразы вроде misleading negative (“вводящий в заблуждение отрицательный”) вместо false negative (“ложноотрицательный) или counterfeit consciousness (“поддельное сознание”) вместо artificial intelligence (“искусственный интеллект”).
Еще один показатель - характерные для ИИ фразы, которые “авторы” статей не удосуживаются удалить. В 2024 г. шведские ученые провели поиск в Google Scholar по двум часто встречающимся фразам: “по состоянию на мое последнее обновление информации” и “у меня нет доступа к данным в реальном времени”. В результате они нашли 227 статей, в 139 из которых не было указано, что авторы использовали ИИ при их написании.
Но настоящие проблемы начинаются там, где подделки ИИ распознать не удается. За последние годы он научился выдавать не только текст, но и изображения высокого качества. Если раньше измененные в Photoshop фото можно было отличить с помощью артефактов - визуальных искажений при обработке, то сейчас сгенерированные ИИ картинки часто выглядят очень правдоподобно. Такие изображения, от данных вестерн-блоттинга (метода обнаружения белков) до микроскопических фото наноматериалов, обманывают даже экспертов.
Другая новая проблема - ИИ-рецензирование настоящих статей. Рецензенты журналов начали прибегать к LLM ради упрощения процесса, но им не хватает экспертной глубины, и они часто делают ошибки. В одном из случаев южнокорейский профессор, подавший статью в международный журнал, получил рецензию, которая сильно отличалась от остальных. Она была расплывчатой и шаблонной, некорректно передавала содержание статьи и предъявляла странные претензии: хотя статья была посвящена новому методу оценки окружающей среды, рецензент упрекнул ее авторов в “отсутствии исследований влияния на поведение животных, такое как кормление или спаривание”. Когда профессор сам сгенерировал с помощью ИИ рецензию на свою статью, она оказалась очень похожей.
В чем проблема ИИ-статей для науки?
❇ Их обилие способно сделать “мусорными” целые направления исследований. Если они приобретут репутацию сомнительных, ученые будут избегать публикации настоящих работ среди вала поддельных.
❇ ИИ не только воспроизводит результаты других статей. Часто выводы откровенно подложные и не имеют отношения к реальности. Если ученые, например, из фармкомпаний, возьмут их за основу дальнейших исследований, это может навредить пациентам в перспективе.
❇ Усугубление культуры “публикуйся или умри” - негласного требования постоянно писать статьи, даже если это отнимает время от реальной научной работы. Те, кто ранее отказывался от помощи ИИ в написании статей, будут вынуждены прибегать к ней под давлением массово публикующихся с помощью LLM коллег.
Комментарий Острога: Славный бутуз #Даджал_диджитал пока только шалит в пределах возрастных норм, скоро он начнет хулиганить, а потом уже пойдут и серьезные дела - если дойдет до самосознания, конечно. Кому интересно - отошлем к стартеру.
Но мы хотим сказать о другом. Авторы поста радеют за очищение и сохранение науки, ессно, мы же говорим, что просроченные культурные институты реставрации не подлежат, они обречены на вынос - причем чем раньше, тем лучше. К сожалению, наука сделал все, чтобы стать новой религией "прогрессивного общества" (похоже, что иного пути овладеть публичным сознанием просто нет), и это длит ее инерционно-выморочное состояние.
Штош, ИИ займется этой наукой методом доведения до абсурда, на это ему мозгов хватит. Быстро разлагающаяся вонючая помойка, которую из себя представляет современная наука, стараниями ее адептов прикрыта сверху бетонным саркофагом ложной респектабельности и полезности, как 4-й блок ЧАЭС. Наш малыш занят тем, что весело насыпает груды мусора поверх этого колпака, выравнивая форму и содержание. Это благое дело, без всяких сомнений. От всех этих ученых степеней, индексов цитирования, диссертаций и пр. должно смердеть все больше и больше, чтобы скрыть эту вонь стало невозможно никаким попам науки (популяризаторам). Пора понять, что эта свалка вовсе не безобидна, ибо над чем бы не работали ученые, на выходе всегда бомба.
