Соавторство с ИИ: грань дозволенного
О чем поговорим сегодня?
Короткой строкой: письмо человеческое и письмо искусственное
- Искусственный интеллект (ИИ) меняет процесс написания текстов.
- ИИ может быть полезен для мышления в диалоге, но не рекомендуется для замены собственного мышления.
- Использование ИИ в качестве партнера по диалогу может помочь прояснить мысли и выявить ошибки.
- Вопрос о моральных аспектах использования ИИ в разных ситуациях остается открытым.
- Проблема заключается в энтропии, возникающей при использовании искусственного текста, который является статистической смесью человеческих цитат.
- Необходимо различать человеческий текст и текст робота, и это зависит от автора быть прозрачным в отношении своего авторства.
Об авторах:
iA — Основана в 2005 году в Ниси-Азабу, Токио. Сегодня iA — это глобальная, распределенная команда дизайнеров и разработчиков. Мы создаем быстрые и красивые информационные системы, которые фокусируются на своей основной цели.
Ссылка на оригинал статьи: https://ia.net/topics/writing-with-ai
Вы слышали: ИИ спасет мир. ИИ уничтожит мир. ИИ станет сознательным. ИИ тупой. ИИ гениален. ИИ начинается. ИИ закончился. Одни надеются, что ИИ станет богом роботов, другие предсказывают его энтропийную смерть. Это изнуряет. Если вы работаете в сфере технологий, вы не можете его игнорировать. К сожалению, не всякая шумиха оказывается просто шумихой. Так что же происходит? Насколько ИИ действительно хорош для написания текстов?
Насколько хорош ИИ для письма?
Не все так хорошо
Можно предположить, что ИИ будет совершенствоваться, но никто не знает, что ждет нас в будущем. Сейчас же, если у вас есть более высокие ожидания, чем просто так или иначе написать текст, писать с ChatGPT не так уж и эффективно.
Наблюдая и экспериментируя с ИИ, не только мы находили как удовольствие, так и боль, преимущества и недостатки в письме, разрабатываемом ИИ. Некоторые из опасностей, такие как галлюцинации и ложная логика, наблюдаемы и легко воспроизводимы. Другие являются долгосрочными проблемами, а некоторые вероятные ловушки несколько умозрительны. В настоящее время она не так уж хороша с точки зрения:
- Качество: Сам по себе он допускает много ошибок и поэтому нуждается в тщательном контроле, чтобы оставаться точным и осмысленным.
- Стиль: Позволяя машине говорить вместо вас, вы чувствуете себя инструментом.
- Удовлетворение: Гострайтер ИИ, пишущий за вас, заставляет вас учиться, расти и добиваться таких же успехов, как победа в шахматах с помощью компьютера.
Да и с моральной точки зрения это не так уж хорошо: почему кто-то должен утруждать себя чтением того, что вы не удосужились написать?
Но и не все так плохо
ИИ может писать код, статьи, книги, электронные письма и заниматься математикой. Иногда он точен, иногда выдумывает. Ему всегда нужен присмотр. Предоставленный самому себе, он может совершить самые нелепые ошибки и выставить вас полным дураком.
Он одновременно шокирующе плох и шокирующе хорош в объяснении сложных вопросов. ChatGPT может объяснить Канта, теорию относительности и перевести клинопись с пугающей скоростью. Имейте в виду: Вы не можете ему доверять. У него нет ни капли совести. Он не понимает, что делает, и не знает, что хорошо, а что плохо.
Но если вы застрянете, читая ИИ статью о «Метафизике» Аристотеля на древнегреческом языке, это может все прояснить. И даже — ну, особенно — когда ИИ ошибается, он может дать вам новую перспективу. Это отличный партнер по обучению и диалогу. Несмотря на все свои минусы, ИИ — это дешево, быстро и безболезненно.
Убийственно удобно
Несмотря на непрекращающуюся шумиху, страх и истерию, использование ИИ для написания текстов обладает убийственным качеством: удобством. Он пишет быстрее, четче и с меньшим количеством опечаток, чем большинство учеников средней школы. Это можно сравнить с ранними шахматными компьютерами, которые быстро побеждали средних игроков, но требовалось некоторое время, чтобы достичь уровня гроссмейстера. Если посмотреть на то, как развивались технологии за последние 20 лет, становится ясно, что удобство — ключевой фактор успеха.
Мы считаем, что использование ИИ для написания текстов станет таким же обычным делом, как использование посудомоечных машин, средств проверки орфографии и карманных калькуляторов. Вопрос в том, как он будет использоваться? Как и проверка орфографии, посудомоечные машины, шахматные компьютеры и карманные калькуляторы, письмо с помощью ИИ будет подчиняться разным правилам в разных условиях.
Чтобы справиться с этой новой реальностью для письма, нам нужно было наблюдать и обдумывать новый процесс письма. Нам нужно проверить его на прочность.
Когда письмо с помощью ИИ полезно, а когда нет?
Бесполезно: думать меньше
ИИ превращает вдумчивые задачи в бездумные. Не думать — это рецепт катастрофы. Независимо от того, как будет развиваться ИИ, позволить ему писать вместо нас — это классика научной фантастики.
Меньше думать там, где важно думать, не рекомендуется, если только вы не делегируете эту работу другому, лучше думающему человеку, которому вы доверяете. И все же. В нашей первоначальной оценке мы упустили ключевое преимущество. Истинная польза от письма с помощью ИИ проявится только при интенсивном использовании.
Писать — это не просто выводить буквы на странице. Это не просто работа с текстом. Это поиск ясного и простого выражения того, что мы чувствуем, имеем в виду и хотим выразить. Писать — значит думать с помощью букв. Обычно мы делаем это в одиночку. С искусственным интеллектом вы пишете в диалоге. В конце концов, он поставляется с чат-интерфейсом. Так что не просто пишите команды, а разговаривайте с ним.
Полезно: думать больше
Писать в диалоге с ИИ — это неожиданно вдохновляюще и захватывающе. Использование ИИ в диалоге при выполнении письменного задания — действительно новый опыт. Использование искусственного интеллекта в качестве партнера по диалогу во время подготовки, при возникновении затруднений и при редактировании — это удивительно полезно. И эта штука терпелива, как никто другой! Он никогда не устает от вас.
Думать в диалоге проще и интереснее, чем в одиночку бороться с чувствами, буквами, грамматикой и стилем. Используя искусственный интеллект в качестве партнера по писательскому диалогу, ChatGPT может стать катализатором для прояснения того, что мы хотим сказать. Даже если он не прав. Иногда нам нужно услышать, что что-то не так, чтобы понять, что правильно.
ИИ часто допускает множество фактических и логических ошибок. Ошибки, если их выявить, могут помочь вам думать. Если мы видим четкий текст, что не так или, по крайней мере, что мы не имеем в виду, это может помочь нам понять, что мы действительно имеем в виду. Если вы зашли в тупик, вы также можете просто позволить ему задавать вам вопросы. Если вы не знаете, как улучшить ситуацию, вы можете попросить его быть злым в своей критике вашего письма.
ИИ может разрушить ваш стиль и доверие к вам, если вы лениво позволите ему писать вместо вас. Как писатели мы не можем позволить ИИ заменить наше собственное мышление. Мы должны использовать его для имитации мышления отсутствующего партнера по диалогу. Чтобы писать лучше, мы должны думать больше, а не меньше.
Когда использовать ИИ правильно, а когда нет?
Когда речь заходит о морали, каждый видит ее по-своему. Но, тем не менее, большинство людей согласны с самыми основами добра и зла. Большинство людей по всему миру согласятся с тем, что воровство, ложь и убийство — это плохо. А есть ли в письме что-то, что соответствует воровству, лжи и убийству?
Спектр на письме
Давайте рассмотрим несколько примеров. Спросите себя, как вы оцениваете человека, использующего ИИ, по следующему спектру:
- Партнер по обсуждению для подготовки письменных работ
- Проверка орфографии и грамматики для исправления технических ошибок
- Проверка фактов, чтобы избавиться от не замеченных фактических ошибок
- Друг, который помогает, когда вы не можете найти нужное слово, которое вертится на языке
- Частичный гострайтер
- Полноценный гострайтер, но затем вы проверяете, что ИИ написал
- Полноценный гострайтер и вы не проверяете за ним
Скорее всего, у разных людей будут разные этические стандарты в средней части. У кого-то будут разные стандарты для себя и для других, и с этим не будет проблем. Другими словами, в крайних точках все ясно, а в середине все зависит от нас. Существуют границы дозволенного и недозволенного.
Крайности и серая зона
Не так уж сложно определить, какое использование в целом разумно, а какое — нет. Просто сравните использование ИИ с тем, как мы решали подобные вопросы до появления ИИ.
- Обсуждение написанного с другими — общепринятая практика, которая считается универсально полезной; честные писатели отдают должное своим партнерам по обсуждению
- Мы уже используем программы проверки орфографии и грамматики
- Обычная практика заключается в использовании человеческих редакторов для существенного или незначительного редактирования наших публичных текстов
- Очевидно, что использование словарей и тезаурусов для поиска нужного выражения не является преступлением
Когда мы позволяем кому-то другому писать часть нашей работы, все становится сложнее. И если вы посмотрите на то, как работает цитирование в академическом письме, то цитирование одного выражения, которое вы придумали не сами, с академической точки зрения неприемлемо. Даже транскрибирование мысли, которой вы обязаны другому человеку, недопустимо. За пределами академического письма мы, писатели, сами решаем, сколько искусственности нам удобно использовать и насколько прозрачными мы хотим быть в этом.
Так в чем же проблема?
Энтропия: цитирование
Не нужно быть академиком, чтобы понять, что мы не должны притворяться, что знаем то, чего не понимаем, говорить то, чего не имеем в виду, выражать то, чего не чувствуем. Растущая энтропия ИИ, питающего самого себя, уже не только создает проблемы социального доверия и совести, но и технические проблемы. Как насчет того, чтобы попытаться решить проблему энтропии, а не увеличивать ее еще больше?
Искусственный текст — это статистическая мешанина из человеческих цитат. Когда мы цитируем ИИ, мы цитируем цитаты. Так, наши данные повторяются из раза в раз. При нынешнем раскладе ИИ скорее достигнет теплой энтропии, чем ледяного супер-интеллекта.
Использование ИИ в редакторе заменяет мышление. Использование ИИ в диалоге повышает уровень мышления. Итак, как соединить редактор и окно чата, не создавая беспорядка? Есть ли способ разделить человеческий и искусственный текст?
Основная проблема: использование ИИ текста — это лоскутное шитье
Если вы используете ChatGPT, то неизбежно будете смешивать сгенерированный ИИ текст со своим собственным, размывая границы авторства. Вот что произойдет, если вы будете использовать ChatGPT в текстовом редакторе:
Наверняка вы не вспомните. И снова: Простое избегание интеграции ИИ не решает проблему. Люди будут использовать ChatGPT вместе с нашими приложениями. Люди будут вставлять текст роботам, а потом редактировать и забывать, что принадлежит им, а что заимствовано.
Что дальше?
Доверие и авторство
Честность с другими начинается с честности с самим собой, с осознания того, что является нашим, а что — заимствованным. Это начинается в процессе написания текста. Мы должны различать человеческий голос и текст робота. Современные текстовые редакторы не позволяют с легкостью отследить, что является вашим, а что нет.
Определение разницы между людьми и машинами не может и не должно быть делегировано машине. Это не может быть поручено никому, кроме писателя. Именно вы, писатель, должны быть прозрачны в том, что является вашим, а что нет. Только вы знаете, насколько сильно вы использовали ИИ для написания текста. Честность зависит от вас. От нас зависит, чтобы вам было проще разобраться.
Будьте проще
В эпоху громких заявлений и преувеличенных обещаний мы должны сохранять простоту. А это очень быстро становится очень сложным. Мы хотим предложить простое решение для тех, кто хочет использовать искусственный интеллект и в то же время сохранять контроль над тем, что они пишут.
- Как показать разницу между искусственным и человеческим текстом, не создавая при этом беспорядка?
- Как сохранить его в виде обычного текста, не добавляя тонны разметки?
- Как сделать так, чтобы человеческий и искусственный текст можно было различить в процессе написания, не добавляя при этом множество методических, технических и графических сложностей?
Сначала мы думали, что нужно просто цитировать ИИ, как мы цитируем других авторов. Но вскоре мы обнаружили, что разметка совсем не работает. Цитирование ИИ — это не то же самое, что цитирование людей. Когда мы используем искусственный текст, мы не обязательно заимствуем целые предложения или абзацы. Происходит лишь мелкая и неглубокая разметка. Так как же разделить Искусственное письмо с человеческим? Возможно, ответ кроется в программировании и дизайне таких программ.