«Зловещая долина» и розыгрыш

Кукла или статуя?

Ю. М. Лотман в статье «Куклы в системе культуры» ¹ анализирует куклу как сложный семиотический объект между реальностью и условностью. Лотман подчеркивает, что кукла — это не просто игрушка, а «модель широкого круга социальных фактов», которая функционирует в двух режимах: как предмет игры (активное взаимодействие, достраивание смысла зрителем) и как культурный символ (носитель мифологических, социальных и художественных кодов). Не будучи до конца преданной ни тому, ни другому режиму, в своей игривости уклоняясь от окончательного слияния с режимом, кукла может предъявить только незавершенность как главное собственное свойство: «Кукла требует не созерцания чужой мысли, а игры. Поэтому излишнее сходство, натуральность, подавляющая фантазию слишком большая подробность вложенного в нее сообщения ей вредит. Известно, что радующие взрослых дорогие „натуральные“ игрушки менее пригодны для игры, чем схематические самоделки, чьи детали требуют напряженного воображения. Статуя — посредник, передающий нам чужое творчество, статуя требует серьезности, кукла — игры».

Генеративные нейросети тоже схематичны, они опираются не на подробности, а на вероятностные модели. Но главное в мысли Лотмана — не само по себе сравнение миметической статуи и антимиметической, авангардной по своей природе куклы. Для Лотмана оживление куклы — акт интерпретации, а не простой вовлеченности в игру. Эта интерпретация есть системный отказ от серьезности.

Серьезность выступает как один универсум, который не вовлекает, но сразу нормирует поведение, а игра — как другой универсум, в котором мы не должны стать вовлеченными больше меры. Нигде в своих трудах Лотман не говорит об азарте игры или уходе в игру; знаток и карточных игр русского дворянства, и интеллектуальных парадоксов науки ХХ века, он подчеркивал не азарт, а семиотическое устройство игры, нормирующей ситуацию, в отличие от устройства серьезной жизни, нормирующей действия человека. Серьезная жизнь отводит человеку место, сразу назначает те или иные топосы, и человек в своей повседневной деятельности скользит по поверхности этих топосов. Игра, наоборот, позволяет постоянно менять топосы, свободно преодолевая даже фундаментальную границу между естественным и неестественным. Но это вовсе не вовлеченность — наоборот, Лотман постоянно подчеркивает момент отталкивания, не-вхождения, абъекции, пользуясь термином Юлии Кристевой.

«Движущаяся кукла, заводной автомат, неизбежно вызывает двойное отношение: в сопоставлении с неподвижной куклой активизируются черты возросшей натуральности — она менее кукла и более человек, но в сопоставлении с живым человеком резче выступает условность и ненатуральность. Чувство неестественности прерывистых и скачкообразных движений возникает именно при взгляде на заводную куклу или марионетку, в то время как неподвижная кукла, чье движение мы себе представляем, такого чувства не вызывает. Особенно наглядно это в отношении выражения лица: неподвижная кукла не поражает нас неподвижностью своих черт, но стоит привести ее в движение внутренним механизмом — и лицо ее как бы застывает. Возможность сопоставления с живым существом увеличивает мертвенность куклы». Лотман и описывает не механизмы вхождения в мир культуры, но, напротив, отталкивания, столкновения с поверхностью зеркала, непроницаемости. Всё это рассуждение говорит о знаменитом «эффекте зловещей долины» (uncanny valley) — почти человеческий, но с изъянами облик и движения вызывают у наблюдателя чувство дискомфорта и отторжения, в отличие от схематичных изображений.

Где нельзя включиться в жизнь непосредственно, где есть только зеркала семиозиса, там оживление куклы зависит от интерпретации: понимается ли она, например, как достаточно натуралистичная или нет, каковы критерии натурализма в этой культуре или как понимается движение, или какова имплицитная концепция механизма. От этого будет зависеть и степень «зловещести» куклы.

Генеративная нейросеть — это «кукла», которую человек «заставляет говорить», проецируя на нее свои ожидания. В момент взаимодействия мы видим человеческое в ней, как ребенок, играющий с тряпичной куклой. В эпоху нейросетей и метавселенных мы сталкиваемся с новым витком «кукольности»: алгоритмические персонажи (от виртуальных инфлюенсеров до чат-ботов) наследуют ту самую двойственность, которую Лотман отмечал у театральных марионеток, — они одновременно «реальны» и искусственны, вызывая то же тревожное ощущение, что и слишком натуралистичные автоматы XVIII века. Современные дискуссии о правах роботов (Люси Сачмен) показывают: граница между субъектом и объектом становится всё более зыбкой — и кукла, этот древнейший культурный артефакт, оказывается идеальной метафорой для осмысления новой реальности.

Жалость и цифровой ужас: риторика сострадания к неживому

Сразу заметим, что «эффект зловещей долины» был известен античной риторике. Современные нейроинтерфейсы и виртуальные ассистенты сталкиваются с той же проблемой, что и античные ораторы: как создать убедительную иллюзию, не перейдя черту, за которой искусственное становится пугающим. Размышления Цицерона и Плиния о возможности совершенного оратора зеркально отражаются в современных дебатах о достижении «сингулярности», где риторический идеал античности трансформируется в вопрос о создании безупречного искусственного интеллекта.

Аристотель в «Риторике» прямо говорил, что страшнее всего не совершить ошибку, а не иметь возможности ее исправить, т. е. оказаться в той ситуации фрустрации, в которой ты всё время натыкаешься на несовершенную статую своих намерений, на осуществление замысла, но с изъянами. «И всё страшное еще страшнее во всех тех случаях, когда совершившим ошибку не удается исправить ее, когда [исправление ее] или совсем невозможно, или зависит не от нас, а от наших противников. [Страшно] и то, в чем нельзя или нелегко оказать помощь. Вообще же говоря, страшно всё то, что возбуждает в нас сострадание, когда случается или должно случиться с другими людьми» (1382b, пер. Н. Платоновой).

Эффект «зловещей долины» возникает именно в момент, когда мы начинаем бессознательно приписывать машине способность страдать — когда ее «прерывистые и скачкообразные движения» (по выражению Лотмана) вызывают не рациональный анализ, а эмоциональный отклик. Современные дизайнеры, как древние риторы, должны рассчитывать эту тонкую грань: Аристотель пишет, что для того, чтобы мы жалели других людей, требуется, чтобы они были нашими знакомыми, но из-за того, что они слишком похожи на нас, сострадание переходит в страх. Натыкаясь на непроницаемое зеркало другого, мы интерпретируем ситуацию, но боимся ее больше, чем прежде.

Аристотелевский анализ особенно проницателен в описании ситуаций, где «нет помощи или она труднодоступна» (αὶ ὧν βοήθειαι μή εἰσιν ἢ μὴ ῥᾴδιαι). В контексте «зловещей долины» это соответствует моментам, когда пользователь понимает, что не может «исправить» поведение алгоритма — ни через интерфейс, ни через апелляцию к здравому смыслу. Современные системы ИИ часто воспроизводят социальные предрассудки или генерируют абсурдные выводы; но в отличие от человеческой речи, их нельзя «увещевать» или «переубеждать». Это создает особый вид цифрового ужаса — страх перед системой, которая ошибается «не по-человечески», демонстрируя не невежество, а чуждую нам логику. Как отмечал Аристотель, наибольший страх вызывает «ожидаемое страдание» (ἢ μέλλοντα ἐλεεινά, жалкое, которое будет) — в цифровую эпоху этим страданием становится невозможность диалога с алгоритмом на привычных риторических основаниях.

Решение Аристотель видел в риторической «технэ» — искусстве, которое превращает потенциально страшное в предмет рационального анализа. Современные разработчики интуитивно следуют этому принципу, сознательно ограничивая «человечность» интерфейсов: голосовые помощники намеренно делают свои реакции чуть более механистичными, а аватары — менее реалистичными. Это не просто техническое решение, а глубоко риторическая стратегия: как античный оратор должен был избегать излишнего пафоса, чтобы не вызвать недоверия, так и создатели ИИ вынуждены балансировать между убедительностью и отстраненностью.

В этом смысле «зловещая долина» — не техническая проблема, а экзистенциально-риторический вызов, требующий нового понимания аристотелевского вопроса: как говорить с тем, что кажется почти-живым, но остается принципиально не-человеческим? Ответ, как и в «Риторике», лежит в области интерпретирующего разума, осознанного конструирования дистанции — той самой «еще страшнее» (более пугающей дистанции), которая одновременно притягивает и отталкивает.

Технологическая неисправимость, культура и взрыв

Небольшая статья Лотмана написана ради финала, где ученый соединяет куклу, маску и амплуа в единую систему культурных знаков. Этот тройственный союз он рассматривает не как случайное сближение театральных форм, а как фундаментальный механизм культуры, где условность становится способом постижения реальности. Все три явления суть вариации на тему границы между «я» и «другим», между подлинным и исполняемым. Иначе говоря, интерпретации другого, а не непосредственная встреча с ним. Но сам театр, сама упомянутая перформативность начинает действовать в статье особым образом, как бы взрывая рассуждения об «эффекте зловещей долины».

У Лотмана кукольный театр — не просто развлечение, но особый способ бытия культуры, где границы между живым и неживым, серьезным и игровым, истинным и мнимым оказываются проницаемыми. Как в детской игре, где палка становится мечом, а тряпичная кукла — живым существом, так и в кукольном театре условность не скрывается, а выставляется напоказ, становясь предметом размышления. Но именно эта нарочитая искусственность, это «как будто» и позволяет говорить о самом главном — о природе человеческого, о том, что значит быть живым, о тайне движения и неподвижности. Кукла у Лотмана — это не упрощенный человек, а его философский двойник, заставляющий нас задуматься: а не являемся ли и мы в каком-то смысле марионетками, чьи нити скрыты от нас самих?

В этом театре теней и деревянных фигурок, где актер спрятан за ширмой, а зритель прекрасно знает об обмане, происходит странное таинство: через предельную условность прорывается подлинное. Как в древних мистериях, где маска не скрывала, а открывала суть, так и здесь — механическое движение куклы вдруг становится более выразительным, чем натуральная игра живого актера. Лотман показывает, что кукольный театр — это не низшая ступень театрального искусства, а его сгущенная суть, обнажающая саму природу театральности. В этом мире, где всё «понарошку», вдруг оказывается возможным сказать то, что невозможно сказать всерьез, — и в этом парадоксальном сочетании детской простоты и философской глубины, возможно, и кроется тайна подлинного искусства.

Марионетка у Лотмана — не просто объект, а зеркало реальности, раскрывающее театральную природу самого существования. Когда кукловод приводит деревянную фигурку в движение, он не создает жизнь — он обнажает зыбкость нашей собственной. А что, если и мы всего лишь актеры на сцене, чьи кулисы скрыты от нас? Здесь неожиданно перекликается гипотеза Ника Бострома ²: что если наша Вселенная — симуляция, игра вычисленных знаков, созданная непостижимым разумом? Марионетка, как и человек в Матрице, обретает бытие лишь через взгляд зрителя — ее «жизнь» всего лишь отражение.

Кукольный театр по Лотману строится на удвоении: кукла играет не персонажа, а актера, который играет персонажа. Этот бесконечный зеркальный эффект перекликается с рассуждениями Бострома: если цивилизация способна симулировать сознание, то вероятность того, что мы сами — симулякры, становится пугающе высокой. Марионетка, как и наша предполагаемая реальность, — это текст без оригинала, копия, отсылающая к другим копиям. Лотман предчувствовал это: «Кукла на сцене <…> становится изображением изображения», — а мы, наблюдатели собственного бытия, возможно, всего лишь тени в космическом спектакле.

Но если Бостром остается в рамках холодных расчетов вероятности, Лотман напоминает: марионетка по своей сути иронична. Она не обманывает, а обнажает механику обмана. Зритель кукольного представления знает, что Пульчинелла — просто деревяшка, и именно это знание рождает эстетическое наслаждение. Так и гипотеза симуляции, будь она доказана, не превратила бы нас в автоматов — скорее пригласила бы играть свою роль осознанно, с изяществом того, кто видит нити.

В конечном счете марионетка и симуляция сходятся в одном парадоксе: они превращают вопрос «Что есть реальность?» в «Как нам жить внутри вымысла?». Лотман видел в кукольном театре не низкий жанр, а метафизику в действии — урок свободы внутри иллюзии. Если Бостром прав, и космос — лишь грандиозная сцена, то мы одновременно и куклы, и кукловоды, и зачарованные зрители. Остается лишь понять, научит ли нас «искусство куклы» смеяться над этим положением — или возвыситься над ним.

Александр Марков, профессор РГГУ
Оксана Штайн, доцент УрФУ

¹ Лотман Ю. М. Куклы в системе культуры // Лотман Ю. М. Избранные статьи. В 3-х т. т. Т. I. — Таллинн, 1992, с. 377–380.

² Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии [Superintelligence: Paths, Dangers, Strategies, 2014]. — М.: Манн, Иванов и Фербер, 2016. — 446 с.