В 2021 году, через 20 лет после смерти своей старшей сестры, Ваунини Вара все еще не могла рассказать историю своей утраты. «Я wondered», — пишет она в Searches, своей новой коллекции эссе о технологиях ИИ, — «может ли машина Сэма Альтмана сделать это за меня». Она попробовала ChatGPT. Но по мере того, как он развивал идеи Вары в предложениях, колеблющихся от натянутых до тревожных и восхитительных, то, что она привлекла в качестве инструмента, перестало казаться таким механическим.
«Однажды она научила меня существовать», — написала модель ИИ о молодой женщине, которой восхищалась Вара. Вара, журналист и романист, назвала получившееся эссе «Призраки», и, на ее мнение, лучшие строки не исходили от нее: «Я обнаружила, что меня неодолимо привлекает GPT-3 — к тому, как он предлагал, без осуждения, предоставить слова писателю, который оказался без слов … когда я пыталась писать более честно, казалось, ИИ делал то же самое».
Стремительное проникновение ИИ в нашу жизнь ставит перед нами новые вызовы в области авторства, подлинности и этики в работе и искусстве. Но оно также ставит особо человеческую проблему в нарративе: Как мы можем осмыслить эти машины, а не просто использовать их? И как слова, которые мы выбираем, и истории, которые мы рассказываем о технологиях, влияют на ту роль, которую мы позволяем им занять (или даже занять у нас) в нашей творческой жизни? И книга Вары, и The Uncanny Muse, коллекция эссе о истории искусства и автоматизации от музыкального критика Дэвида Хадью, исследуют, как люди исторически и личностно боролись с тем, как машины соотносятся с нашими собственными телами, мозгами и творчеством. В то же время The Mind Electric, новая книга невролога Прии Ананд, напоминает нам, что наши собственные внутренние процессы могут быть не так просты для воспроизведения.
Searches — это странный артефакт. Частично мемуары, частично критический анализ и частично экспериментальное творчество с помощью ИИ, эссе Вары прослеживают ее время как технического журналиста, а затем и романиста в районе залива Сан-Франциско наряду с историей индустрии, которую она наблюдала, как она росла. Технологии всегда были достаточно близки, чтобы их можно было трогать: один из друзей по колледжу был ранним сотрудником Google, и когда Вара начала писать о Facebook (теперь Meta), она и Марк Цукерберг стали «друзьями» на его платформе. В 2007 году она опубликовала информацию о том, что компания планирует ввести таргетирование рекламы на основе личной информации пользователей — первый выстрел в долгой, сложной войне данных, которая вскоре разразится. В своем эссе «Кража великих идей» она обсуждает, как отвергла предложение о работе по освещению Apple, чтобы поступить в аспирантуру по художественной литературе. Там она написала роман о технокомпании, который позже был опубликован как The Immortal King Rao. Вара указывает на то, что в некоторых отношениях в то время ее искусство было «неотделимо от ресурсов, которые она использовала для его создания» — таких как Google Docs, MacBook, iPhone. Но эти ресурсы до появления ИИ были простыми инструментами. То, что пришло после этого, было другим.
В эссе Вары переплетены главы диалогов между автором и ChatGPT о самой книге, где бот выступает в роли редактора по запросу Вары. ChatGPT охотно суммирует и критикует ее тексты в корпоративном тоне, который теперь знаком любому работнику знаний. «Если есть место для разногласий», — предлагает он касательно первых нескольких глав о технологических компаниях, «это может быть в балансе этих нарративов. Некоторые могут утверждать, что преимущества — такие как создание рабочих мест, инновации в различных секторах, таких как ИИ и логистика, и вклад в мировую экономику — могут перевесить недостатки».
Ваунини Вара
Вара замечает, что ChatGPT пишет «мы» и «наши» в этих ответах, включая его в человеческую историю, а не в технологическую: «Ранее вы упоминали «наш доступ к информации» и «наши коллективные переживания и понимания». Когда она спрашивает, какова риторическая цель этого выбора, ChatGPT отвечает с помощью нумерованного списка преимуществ, включая «инклюзивность и солидарность» и «нейтральность и объективность». Он добавляет, что «использование первого лица во множественном числе помогает сформулировать обсуждение в терминах общих человеческих переживаний и коллективных проблем». Верит ли бот, что он человек? Или, по крайней мере, хотят ли люди, которые его создали, чтобы другие люди поверили, что он такой? «Могут ли корпорации использовать эти [риторические] инструменты в своих продуктах тоже, чтобы незаметно заставить людей идентифицировать себя с ними, а не противостоять им?» — спрашивает Вара. ChatGPT отвечает: «Абсолютно».
У Вары есть опасения по поводу слов, которые она использовала. В эссе «Спасибо за вашу важную работу» она беспокоится о влиянии «Призраков», которые стали вирусными после своего первоначального опубликования. Помогло ли ее писательство корпорациям скрыть реальность ИИ за бархатной завесой? Она хотела предложить нюансированную «провокацию», исследуя, насколько странным может быть генеративный ИИ. Но вместо этого она создала что-то достаточно прекрасное, чтобы восприниматься как реклама его творческого потенциала. Даже сама Вара почувствовала себя обманутой. Ей особенно понравился один отрывок, который бот написал, о Вара и ее сестре, держащих друг друга за руки во время долгой поездки. Но она не могла представить, что кто-либо из них мог быть таким сентиментальным. То, что Вара извлекла из машины, как она поняла, было «исполнением желаний», а не преследованием.
Стремительное проникновение ИИ в нашу жизнь ставит перед нами новые вызовы в области авторства, подлинности и этики в работе и искусстве. Как мы можем осмыслить эти машины, а не просто использовать их?
Машина была не единственным существом, скрывающимся за той завесой, которая слишком хорошо смотрится. Модели GPT и другие обучаются через человеческий труд в порой эксплуататорских условиях. И большая часть обучающих данных была креативной работой человеческих писателей до нее. «Я вызвала искусственный язык о горе через извлечение реального языка об этом горе от настоящих людей», — пишет она. Креативные призраки в модели были сделаны из кода, да, но также, в конечном итоге, из людей. Возможно, эссе Вары тоже помогло скрыть эту правду.
В последнем эссе книги Вара предлагает зеркальное отражение этих обменов между ИИ и человеком как противоядиe. Отправив анонимный опрос женщинам различного возраста, она представляет ответы на каждый вопрос, один за другим. «Опишите что-то, что не существует», — предлагает она, и женщины отвечают: «Бог». «Бог». «Бог». «Совершенство». «Моя работа. (Потерял ее.)» Реальные люди противоречат друг другу, шутят, кричат, скорбят и вспоминают. Вместо единого авторитетного голоса — редактора или ограниченного стиля компании — Вара дает нам полный издающий crowd человеческой креативности. «Каково это — быть живым?» — спрашивает группа Вары. «Это зависит», — отвечает одна женщина.
Дэвид Хадью, ныне музыкальный редактор The Nation и ранее музыкальный критик для The New Republic, обращается к гораздо более ранним годам, чем ранний Facebook, чтобы рассказать историю того, как люди создавали и использовали машины для выражения себя. Игровые пианино, микрофоны, синтезаторы и электрические инструменты были вспомогательными технологиями, которые сталкивались со скептицизмом до принятия и, иногда, возвышения в музыке и популярной культуре. Они даже повлияли на то, какой вид искусства люди могли и хотели создавать. Электрическая усиление, например, позволило певцам использовать более широкий вокальный диапазон и все же достигать аудитории. Синтезатор ввел новый лексикон звука в рок-музыку. «Что такого плохого в том, чтобы быть механическим, в общем?» — спрашивает Хадью в The Uncanny Muse. И «что такого замечательного в том, чтобы быть человеком?»
Дэвид Хадью
Но Хадью также интересуется тем, как переплетена история человека и машины и как часто мы использовали одно как метафору для другого. Декарт рассматривал тело как пустую машину для сознания, напоминает он нам. Хоббс писал, что «жизнь — это всего лишь движение конечностей». Фрейд описывал разум как паровой двигатель. Энди Уорхол сказал интервьюеру, что «каждый должен быть машиной». И когда компьютеры появились на сцене, люди также использовали их в качестве метафор для себя. «Там, где модель машины когда-то помогла нам понять человеческое тело … новая категория машин заставила нас представить мозг (как мы думаем, что мы знаем, даже как мы чувствуем или как мы думаем о том, что чувствуем) в терминах компьютера», — пишет Хадью.
Но что теряется при этих прямых сопоставлениях? Что происходит, когда мы представляем, что сложность мозга — органа, который мы даже не подходим к полному освоению — может быть воспроизведена в 1 и 0? Возможно, происходит то, что у нас появляется мир, наполненный чат-ботами и агентами, компьютерными произведениями искусства и DJ ИИ, которые компании заявляют, что являются единственными креативными голосами, а не ремиксами миллионов человеческих вкладов. И, возможно, мы также получаем проекты, такие как удручающе названный Painting Fool — ИИ, который рисует, разработанный Симоном Колтоном, ученым из Университета Куин Марии в Лондоне. Он сказал Хадью, что хотел бы «продемонстрировать потенциальные возможности компьютерной программы, чтобы ее воспринимали всерьез как креативного художника». Что Колтон имеет в виду, это не просто машина, производящая искусство, но та, которая выражает свой собственный взгляд на мир: «Искусство, которое общается о том, каково быть машиной».
Что происходит, когда мы представляем, что сложность мозга — органа, который мы даже не подходим к полному освоению — может быть воспроизведена в 1s и 0s?
Хадью кажется любопытным и оптимистичным по поводу этой линии исследования. «Машины многих видов общались с окружающими на протяжении веков, играя важнейшую роль в нашей коммуникации через искусство», — говорит он. «Увеличивая нашу интеллектуальную мощь, машины могут все еще иметь много чего сказать, если мы им позволим». Но вопрос, который поднимает The Uncanny Muse в конце, таков: Почему мы, делающие искусство люди, так быстро передаем кисть? Почему нам важно, как кисть видит мир? Мы действительно закончили рассказывать свои истории сами?
Прия Ананд могла бы сказать «нет». В The Mind Electric она пишет: «Нарратив универсален и особенно человеческий; он так же бессознателен, как дыхание, так же необходим, как сон, так же уютен, как привычка. Он имеет способность связывать нас, но также и отделять, обнажать, но также и скрывать». Электричество в The Mind Electric принадлежит исключительно человеческому мозгу — метафора не нужна. Вместо этого книга исследует ряд неврологических заболеваний и истории, которые пациенты и врачи рассказывают, чтобы лучше понять их. «Истина наших тел и умов столь же странна, как фикция», — написала Ананд, и язык, который она использует на протяжении всей книги, столь же вызывающий, как и в любом романе.
Прия Ананд
В личных и глубоко исследованных виньетках в традиции Оливера Сакса Ананд показывает, что любое сравнение между мозгами и машинами неизбежно окажется бесполезным. Она рассказывает о пациентах, которые видят четкие изображения, когда они функционально слепы, изобретают полные задние истории, когда теряют память, разрываются на швах, которые немногие могут найти, и — да — видят и слышат призраков. Фактически, Ананд цитирует одно исследование 375 студентов колледжа, в котором исследователи обнаружили, что почти три четверти из них «слышали голос, который никто другой не мог слышать». Это не были диагностированные шизофреники или страдающие опухолями мозга — просто люди, слушающие свои собственные странные музу. Многие слышали свое имя, другие слышали Бога, а некоторые могли различить голос любимого человека, который ушел. Ананд предполагает, что писатели на протяжении истории использовали органические обмены с этими внутренними призраками для создания искусства. «Я вижу, как я вдыхаю эти голоса в свои паруса», — написала Вирджиния Вулф о своих собственных переживаниях с призрачными звуками. «Я пористый сосуд, плывущий по ощущениям». Ум в The Mind Electric велик, таинственен и населен. Наративы, которые люди создают, чтобы пересекать его, так же полны чудес.
Люди не остановятся использовать технологии для помощи в создании в ближайшее время — и нет причин, почему нам следует. Машины являются замечательными инструментами, как всегда. Но когда мы превращаем сами инструменты в художников и рассказчиков, в умы и тела, в магов и призраков, мы обходим правду в пользу исполнения желаний. Возможно, что еще хуже, мы лишаем себя возможности внести свои собственные голоса в живой и громкий хоровод человеческого опыта. И мы лишаем других радости слышать их тоже.
Ребекка Акерман — писатель, дизайнер и художник, живущий в Сан-Франциско.
