В начале сентября популярное международное объединение писателей National Novel Writing Month, или Национальный месяц написания романов (NaNoWriMo), имело неосторожность объявить, что не отвергает в писательстве инструментов генеративного искусственного интеллекта на базе больших языковых моделей типа GPT. Предсказуемо, разразился шторм. Многие писатели не без оснований опасаются, что ИИ вначале бесплатно обучится на их текстах, а потом и вовсе вытеснит из профессии. К счастью, научные исследования показывают, что в сфере создания художественных текстов искусственному интеллекту до талантливого человека пока далеко.
Давний спор
Писатель Джонатан Свифт в «Путешествиях Гулливера» описал машину, которая, составляя бесконечные случайные комбинации слов, должна была, по замыслу создателя, постичь в конце концов все тайны мира. «Каждому известно, как трудно изучать науки и искусства по общепринятой методе; между тем благодаря его изобретению самый невежественный человек с помощью умеренных затрат и небольших физических усилий может писать книги по философии, поэзии, политике, праву, математике и богословию при полном отсутствии эрудиции и таланта», — писал Свифт в 1726 году. Он, конечно, шутил, но насчет того, что происходит с писателями сейчас попал прямо в точку.
Не исключено, что в своих фантазиях Свифт вдохновлялся еще более ранней работой каталонского поэта и теолога Раймунда Луллия Ars generalis ultima («Высшее общее искусство», 1308 год), в которой тот описал метод использования механических средств для создания новых знаний из комбинаций концепций. Инструмент, созданный Луллием, состоял из семи бумажных дисков или кругов, на которых были перечислены концепции (например, атрибуты бога, такие как доброта, величие, вечность, сила, мудрость, любовь, добродетель, истина и слава), диски можно было вращать, чтобы создавать комбинации концепций для получения ответов на теологические вопросы.
В 60-70-х годах XX века идеей машинного творчества всерьез увлекался известный британский писатель-фантаст Джеймс Грэм Баллард. Мир, в котором стихи пишут машины, а поэты из творцов превратились в простых техников при своих «автоверсификаторах», он изобразил в 1961 году в рассказе «Звездная улица, вилла номер пять». «Я и сам писал когда-то, и немало. Но желание сочинять растаяло, когда я смог купить автоверс. Раньше поэту приходилось всю жизнь без остатка посвящать овладению мастерством. Теперь техника версификации сводится к нажатию нескольких клавиш, которыми задаются размер, рифмы, аллитерации, — и нет нужды в самопожертвовании, нет нужды в изобретении идеала», — говорит герой рассказа. Поразительно похоже на современные «промпты» для GPT, правда? Судя по сюжету, тогда Баллард эту идею не очень одобрял: машины в конце концов были разрушены, и поэты вернулись к живому творчеству.
Тем не менее, в 70-х годах Баллард, похоже, вернулся к идее машинного творчества и даже опубликовал несколько сгенерированных компьютером стихотворений в альманахе Ambit, который он редактировал, пишет BBC.
В современном мире эта идея из области фантастики перешла в разряд весьма насущных практических вопросов.
Увидимся в суде
«С новыми возможностями ИИ мы можем создать общее процветание в такой степени, которая сегодня кажется невообразимой. В будущем жизнь каждого может быть лучше, чем сейчас», — написал глава OpenAI Сэм Альтман в опубликованном недавно супероптимистическом манифесте о будущем искусственного интеллекта.
Но писатели вряд ли с ним согласятся. Весь 2023 год мир ИИ сотрясали скандалы. Ряд известных писателей, включая автора «Игры престолов» Джорджа Мартина, подали судебные иски против разработчиков генеративного ИИ – OpenAI и Meta. Основная претензия – их книги использовали для обучения ИИ без всякой компенсации. О масштабе явления говорит тот факт, что Meta, например, использовала нелегальные копии 191 000 книг для обучения своей ИИ-модели LLama. Журнал The Atlantic создал целую базу данных этих текстов, каждый автор может поискать себя там (и, скорее всего, найдет).
Разумеется, предприимчивые люди тут же бросились генерировать книги с помощью ИИ и выкладывать их для продажи на Amazon. Компании даже пришлось принять специальные правила, обязывающие авторов раскрывать тот факт, что текст создан при помощи ИИ. Однако пока неясно, как именно Amazon собирается это проверять, если автор (точнее, наверное, сказать не автор, а оператор ИИ) соврет.
Более того, опыт писательницы Джейн Фридман показал, что удалить с площадки книги, сгенерированные ИИ от ее имени, не так-то просто. «Это выглядит ужасно. Это заставляет меня выглядеть так, будто я пытаюсь нажиться на людях с помощью действительно паршивых книг», — цитирует писательницу The Guardian. Компания Amazon вначале отказала ей на том основании, что ее имя не является зарегистрированным товарным знаком, и лишь после немалого шума в соцсетях пошла на уступки и удалила из магазина пять книг.
В свете всего этого более чем настороженное отношение писателей к ИИ выглядит вполне оправданным.
Ошибка NaNoWriMo
Национальный месяц написания романов «случайно», как он утверждает, придумал в 1999 году писатель Крис Бэйти. Идея была проста – чтобы преодолеть «писательский блок», люди принимают на себя добровольное обязательство в течение 1 месяца написать не менее 50 тысяч слов, чтобы создать по крайней мере черновик будущего романа. Идея оказалось удачной — за 25 лет сообщество разрослось с 20 человек до 300 000 участников. Месяц написания романов ежегодно проводится в ноябре. В 2006 году сообщество зарегистрировалось как некоммерческая организация, и, помимо соревнования писателей, проводит мастер-классы, летние лагеря и многое другое. В NaNoWriMo начинали многие ныне известные писатели, например, Сара Груэн, автор книги «Воды слонам!», по которой в 2011 году сняли одноименный фильм.
В начале сентября сообщество NaNoWriMo опубликовало заявление, в котором говорилось, что оно «не поддерживает, но и не отвергает» ни один подход к созданию текстов, в том числе с использованием ИИ. Что тут началось! Несколько авторов публично вышли из состава совета директоров некоммерческой организации, пишет Slate. «После всего, что я узнала за последнюю неделю, я больше не буду использовать или рекомендовать NaNoWriMo», — написала автор заметки Лора Уитман Хилл. Один из авторов и ведущий архитектор сюжета проекта Star Wars: The High Republic Дэниэл Хосе Олдер на своем сайте назвал позицию NaNoWriMo «подлой, трусливой и бессовестной», а также обвинил организацию в том, что она пошла на поводу у своего спонсора – компании ProWrightingAid которая предлагает инструменты для писателей, в том числе с использованием ИИ.
«ИИ ужасен для человечества и для окружающей среды. Он убивает рабочие места, убивает растения и животных. А еще создает проклятый, бездушный мусор… ИИ – это еще один пузырь в форме клоуна, который вот-вот лопнет, и чем скорее, тем лучше», – написал Олдер. Поразительный контраст с прекраснодушными мечтаниями Сэма Альтмана.
Надежда еще есть
Писатели – люди эмоциональные, но интересно было бы понять, способен ли ИИ в самом деле писать художественные тексты как минимум не хуже человека? Именно этим вопросом задалась группа ученых из Испании, их исследование вышло в начале июля.
Они устроили соревнование между большой языковой моделью GPT-4 Turbo и известным аргентинским романистом Патрисио Проном. Им предложили придумать по 30 названий для фильмов, а потом по всем названиям (и своим, и конкурента) создать краткое содержание сюжета объемом около 600 слов каждое. Таким образом получилось 60 текстов, созданных ИИ и еще 60 – человеком.
Шестерых экспертов (известных литературных критиков и ученых из университетов) попросили оценить эти произведения по критериям привлекательности, креативности, оригинальности, соответствия жанру и так далее.
В общем, чтобы не утомлять вас цифрами — ИИ с треском проиграл человеку по всем пунктам, особенно, как нетрудно догадаться, в категориях «Оригинальность» и «Свой стиль».
«В целом, эти результаты убедительно свидетельствуют о том, что нынешнее поколение больших языковых моделей еще не готово конкурировать с лучшими писателями-фантастами», – делают вывод ученые.
Более того, они полагают, что поскольку ИИ генерируют текст на основе наиболее вероятных слов, это придает ему связность, но лишает оригинальности. Поэтому по самой своей природе большие языковые модели вряд ли будут когда-либо способны приблизится к лучшим человеческим писателям.
И слава богу.
———————————————
«Курсив» дарит подарки: подпишитесь на e-mail рассылку, участвуйте в конкурсе и получайте умные призы.
