Некоторые стартапы, занимающиеся обнаружением и идентификацией искусственного интеллекта (ИИ), утверждают, что Amazon может пометить книги,
Amazon предприняла некоторые шаги, чтобы остановить волны книг, написанных искусственным интеллектом, но другое решение, возможно, уже существует.
У AMAZON ЕСТЬ проблема искусственного интеллекта. А именно, что его "магазин-все" заполнен книгами, написанными ботами. Несколько стартапов по обнаружению ИИ утверждают, что у них есть простое решение, чтобы помочь клиентам: сообщать им, когда книга создана с помощью ИИ. Однако до сих пор Amazon не принимает технологию обнаружения.
Неясно, сколько книг, созданных с помощью ИИ, в настоящее время продаются на платформе, которая является как крупнейшим книжным продавцом в мире, так и поставщиком самой популярной системы самостоятельного издания в Kindle Direct Publishing. Определенные жанры, такие как путеводители и руководства по сбору пищи, значительно пострадали от избытка низкокачественных изданий. Также пострадали списки бестселлеров романов для подростков и молодых взрослых, которые автор Кейтлин Линч назвала "бредом ИИ" в X (ранее известной как Twitter) этим летом.
Некоторые из этих книг, созданных с помощью ИИ, даже используют имена и образы человеческих авторов; например, летом этого года писатель и эксперт индустрии издательства Джейн Фридман обнаружила пять отдельных книг, ложно перечисленных как ее работы, продаваемых на Amazon. Одним из поддельных заголовков было "Как быстро написать и опубликовать электронную книгу".
КОНЕЧНО, БОТЫ ИИ не создают эти книги самостоятельно. (Пока.) Существует целая волна видео на YouTube, посвященных культуре обмана, которые призывают людей быстро разбогатеть, создавая книги, созданные с помощью ИИ, для Kindle, с такими заголовками, как "Как создать НЕОБНАРУЖИМЫЙ контент ИИ для Amazon KDP (Гарантированный метод)". К сожалению, для обычных людей, пытающихся купить книги в Интернете, эта новая схема заработка усложняет поиск качественных книг, написанных людьми.
За последние несколько недель Amazon предпринял шаги по решению проблемы, ограничивая количество книг, которые автор может самостоятельно опубликовать, и вводя политику, требующую, чтобы самостоятельно опубликованные авторы указывали, создана ли работа с помощью ИИ. Но три разных стартапа по обнаружению ИИ отдельно сообщили WIRED, что Amazon и другие интернет-книжные магазины могут использовать их услуги для активного обнаружения материалов, созданных с помощью ИИ.
Reality Defender, один из самых известных новых стартапов по обнаружению ИИ, начал с обнаружения подделанных изображений, но затем расширил свои услуги, чтобы предлагать обнаружение текста. Среди его клиентов уже есть крупные компании, включая Visa, Microsoft, Министерство обороны США и Министерство внутренней безопасности США. Генеральный директор и сооснователь Бен Колман говорит, что компания в настоящее время обладает способностью предоставлять эти услуги в таком масштабе, который потребуется Amazon. "Пока только на английском языке", - говорит он.
Другие стартапы по обнаружению ИИ разделяют такой высокий уровень уверенности. "Мы абсолютно можем предоставить технологию платформам электронной коммерции, и в настоящее время мы ведем переговоры с различными поставщиками", - говорит главный сотрудник GPTZero Джонатан Уайт.
Основатель Winston AI Джон Рено также говорит, что его компания "абсолютно" может оснастить интернет-платформы, такие как Amazon, для обнаружения книг, созданных с помощью ИИ. Компания уже имеет несколько издателей в числе своих клиентов.
РАСТУЩИЙ ХОР голосов в мире издательств считают, что Amazon и другие книжные продавцы обязаны хотя бы попытаться сообщить покупателям, написаны ли книги людьми или машинами.
"Amazon обязана эти сведения раскрывать с этической точки зрения. Авторы и издатели уже должны сообщать об этом, но если они этого не делают, то Amazon должна налагать это требование - так же, как и каждый другой розничный и оптовый продавец", говорит Джейн Фридман. "Не делая этого, мы, как отрасль, выращиваем недоверие и путаницу. Автор и книга начнут терять значительный авторитет, которым они пользовались до сих пор".
"Мы выступаем за законодательство, которое требует, чтобы материал, созданный искусственным интеллектом, был помечен как таковой платформами или издателями, в общем порядке", - говорит генеральный директор Гильдии авторов Мэри Разенбергер.
У Amazon есть явный стимул это сделать. "Они хотят довольных клиентов", - говорит Разенбергер. "И когда кто-то покупает книгу, думая, что это работа написанная человеком, а получает что-то сгенерированное искусственным интеллектом и не очень хорошее, они не довольны".
ТАК ПОЧЕМУ ЖЕ компания не использует инструменты обнаружения искусственного интеллекта? Почему она ждет, чтобы авторы сообщали, использовали ли они ИИ? На прямой вопрос WIRED о том, рассматривается ли активное обозначение ИИ, компания отказалась отвечать. Вместо этого представитель компании Эшли Ваничек предоставила письменное заявление о обновленных руководящих принципах компании и объемных ограничениях для самостоятельных авторов. "Amazon постоянно оценивает новые технологии и стремится предоставить лучший возможный опыт покупок, чтения и публикации для авторов и клиентов", - добавила Ваничек.
Конечно, это не означает, что Amazon отказалась от такого рода технологий. Она просто пока молчит о возможных обсуждениях, которые могут происходить за кулисами. Существует несколько причин, по которым компания могла бы подходить к обнаружению ИИ осторожно. Прежде всего, существует скептическое отношение к тому, насколько точны в настоящее время результаты этих инструментов.
В марте исследователи из Университета Мэриленда опубликовали статью, в которой указали на ошибки детекторов ИИ. "В практических сценариях эти детекторы ненадежны", - писали они. В июле исследователи из Стэнфордского университета опубликовали статью, в которой подчеркнули, как детекторы проявляют предвзятость против авторов, не являющихся носителями английского языка.
Некоторые детекторы были закрыты после признания их недостаточной эффективностью. OpenAI прекратила свою функцию классификации ИИ после того, как ее критиковали за ужасную точность.
Проблемы с ложноположительными результатами привели к тому, что некоторые университеты прекратили использование различных версий этих инструментов для проверки студенческих работ. "Мы не считаем, что программное обеспечение обнаружения ИИ является эффективным инструментом, которым следует пользоваться", - написал Майкл Коули из Вандербильтского университета в августе после неудачного эксперимента с программой обнаружения ИИ Turnitin. Также Мичиганский государственный университет, Университет Северо-Западной Иллинойса и Университет Техаса в Остине временно отказались от использования программного обеспечения обнаружения Turnitin.
В то время как Гильдия авторов поддерживает обозначение ИИ, Разенбергер говорит, что ожидает, что ложноположительные результаты будут проблемой для ее членов. "Об этом мы услышим очень много, я вам обещаю", - говорит она.
Опасения относительно точности текущей группы программ обнаружения вполне обоснованы, и даже самые точные детекторы никогда не будут безупречными, но они не отменяют желания покупателей книг в сети видеть обозначение ИИ, особенно тех, кто ищет научно-популярные темы и ожидает человеческой экспертизы. "Я не думаю, что это вызывает споры или является неразумным сказать, что читатели заботятся о том, кто несет ответственность за создание книги, которую они могут приобрести", - говорит Фридман.