Тест Тьюринга и Электроник: машинная чувственность

Солипсизм без телепатии

«Вычислительные машины и разум» (1950) — классическая работа Алана Тьюринга, как будто не оставляющая в себе никаких неизвестных показателей. Словно бы от нее идет широкая, без шероховатостей и выбоин, дорога к GPT и другим новейшим разработкам в области искусственного интеллекта. Но гениальный труд Тьюринга наполнен настоящим английским остроумием, вполне в духе «шоу Фрая и Лори», и кто не споткнулся об это остроумие по два раза на странице, Тьюринга не читал.

Опровергая «аргумент от сознания», возражения, что некоторые вводные человеческого сознания, такие, как аффекты, ведущие к творчеству, не будут доступны искусственному мозгу, Тьюринг замечает, что это аргумент вовсе не от природы аффектов или мыслей, о которой мы ничего не знаем, но только от устройства сознания. Отреагировать на аффект и написать стихотворение для человека означает не реализовать некоторый объективно существующий алгоритм, в котором есть на входе аффект, а на выходе — стихотворение, но осознать себя в качестве пишущего-стихотворение-испытавшего-этот-аффект существа. Самотождество предшествует той политике аффектов, которую проводит человек.

Тогда отрицание за машиной такого осознания себя возможно только при допущении радикального солипсизма: «Согласно самой крайней форме этого взгляда, единственный способ, с помощью которого можно удостовериться в том, что машина может мыслить, состоит в том, чтобы стать машиной и осознавать процесс собственного мышления. Свои переживания можно было бы потом описать другим, но, конечно, подобное сообщение никого бы не удовлетворило. Точно так же, если следовать этому взгляду, то окажется, что единственный способ убедиться в том, что данный человек действительно мыслит, состоит в том, чтобы стать именно этим человеком. Фактически эта точка зрения является солипсистской» ¹. От противного Тьюринг предлагает считать, что мы все мыслим и понимаем друг друга и можем оценивая свои творческие решения, не делая паузу, эксплицировать их для других, например объяснять в живом диалоге, почему мы в сонете сказали так, а не иначе. А значит, эксплицирующая такие же решения машина, не менее живо представляющая, почему она приняла такие решения при написании сонета, вполне может думать как мы.

Конечно, читатель вспомнит постоянные споры Тьюринга и Витгенштейна в Кембридже. Если следовать за Витгенштейном, толкуя повседневность нашего мышления, то мы признаем, что все алгоритмы, в том числе алгоритмы создания сонетов и самоотчета при создании сонетов, могут быть переизобретены в самих основаниях. В таком случае человек и машина связаны некоторым виртуальным изобретателем, который передает человеку и машине единый импульс. Противопоставление Тьюрингом примитивной машины, в которой сонеты записаны на проигрываемых валиках, и изощренной машины, программирующей эти валики, для такого витгенштейнианца не было бы понятно: и то, и другое — часть изобретательского порыва, часть той начальной боли изобретателя, которая отдается и в валиках, и в самообучающихся изощренных программах. Вовремя опустить иглу звукосъема на валик не менее творческая задача, чем объяснить, почему будет неуместно менять даже слово в сонете.

В. В. Бибихин прекрасно написал об этом солипсическом первоимпульсе, который и не позволяет отличить настоящий крик от искусственного: «У солипсиста не будет в отношении боли противопоставления „настоящая — симулированная“, не будет подозрения, что, может быть, крик только кажется криком боли, а на самом деле актерство: всё, что почувствовано как боль, настоящей болью и будет признано. — Замены языка не произошло, изменение словоупотребления минимальное, может быть, даже незаметное для неподготовленного взгляда. Но смещение взгляда, или чувства, или слуха решительное: для него вдруг исчезает, стирается граница между тем, что его задевает, задевать должно и тем, что его не задевает, не должно задевать: мир вдруг расширяется — для солипсиста! — и его начинает задевать всё задевающее, и далекое тоже» ². Каждый изобретатель начального импульса для другого — солипсист, он чувствует, что сейчас я остаюсь наедине с собой, и пока я допускаю существование других, я не могу до конца стать проводником чистой боли, чистого отражения в себе чего-то подлинного, которому только и должно существовать. Это уже потом, когда импульс пойдет по валикам, иглам, мышцам и нейронам других людей или механизмов, я призна́ю их бытие.

Здесь, по Бибихину, творческим оказывается не усилие человека, а сам мир. Он сотворен, он прямо сейчас рождается в боли. Только «смена аспекта» вообще может сделать мир принимаемым во внимание, рассматриваемым и не закрытым для нас болью, т. е. нами самими.

Бибихин толкует, конечно, известный эпизод из «Голубой книги» Витгенштейна об общей кисти. «Ибо мы можем вообразить, так сказать, радиосвязь между двумя телами, заставляющую одного человека чувствовать боль в своей голове, когда другой подвергает свою голову воздействию холодного воздуха. В этом случае можно возразить, что боль является моей, потому что она ощущается в моей голове; но, предположим, я и кто-то другой имеем общую часть тела, скажем, кисть. Вообразим, что нервы и сухожилия моей руки и руки А связаны с этой кистью. Теперь вообразим, что эту кисть ужалила оса. Мы оба орём, искажаем лица, даём одно и то же описание боли и т. д. Должны ли мы теперь сказать, что обладаем одной и той же болью или разными болями?» ³

Расхождение Тьюринга с Витгенштейном, вероятно, состоит в том, что такая ситуация тотальной боли для него не действительная, а возможная. Для Витгенштейна первый импульс и есть действительность, для Тьюринга — скорее что-то эсхатологическое. Завершает он полемическую часть рассуждением о том, что допущение специфически человеческой телепатии разрушает имитационную игру (тест Тьюринга), человек тогда поймет человека в его радости и боли. Для телепата мир увиден с самого начала, телепат как уже-шпион представляет собой попытку онтологизации шпионажа в холодную войну: о телепатии как альтернативе кибернетике в этот период писали Наталья Конрадова ⁴ и Алексей Конаков ⁵. Получается, что Тьюринг живет как бы в атмосфере шпионажа, подглядывания за ним, предвидя собственное мученичество.

Черное и белое

Напомним, что имитационная игра викторианской эпохи должна была различить мужчину и женщину за закрытыми дверями по содержанию ответов, при этом само ее устройство должно было исключить какие-либо преимущества мужчины или женщины в качестве игрока, задающего вопросы. То есть никакая так называемая женская интуиция или мужской так называемый здравый смысл не приблизил бы победы, точного распознавания, кто отвечает за какой дверью. В этом смысле имитационная игра боролась с социальными, групповыми предрассудками, требуя просто учитывать, каковы границы возможного речевого подражания мужчины женщине и наоборот. Имитационная игра риторична — она имеет дело с речью, которая должна ввести в заблуждение, представив более убедительный образ, чем тот образ, которым обладает обычно речевой субъект. Следовательно, задача игрока, получающего сообщения из-за двух закрытых дверей, — понять, в какой момент произошло переключение от простого отзыва, вынужденного ответа на вопрос, к нарочитой имитации того, кем ты не являешься.

Например, ответ о любимом занятии «я люблю скачки» может принадлежать женщине, потому что женщина вполне может хотеть ходить на скачки. Ответ «я люблю розы» ожидаем от женщины, и потому имитируется мужчиной. А ответ «я люблю вышивать» как раз выдает имитацию мужчиной женщины, потому что женщина, даже если больше всего на свете любит вышивать, не скажет про это как про любовь жизни. Когда мужчина имитирует женщину, то имитационная игра вскоре будет выиграна задающим вопросы, особенно при уточняющих вопросах. А вот если и женщина начнет имитировать мужчину, и они будут равно успешно имитировать друг друга, то в идеальном случае, если, например, не учитываются некоторые гендерно окрашенные речевые клише, имитационная игра не будет выиграна спрашивающим.

Последовательный витгенштейновец допускает такую равновесную игру, где одинаковая боль от реальности, озадачившая и мужчину, и женщину, делает их ответы попытками хоть как-то вписать себя в ситуацию мира; и если мужчина будет представлять себе женские ситуации, а женщина — мужские, то игра будет идти до бесконечности. Тьюринг допускает такую бесконечную игру машины, но имея в виду не начальную озадаченность, а границы самих задач, что некоторые из них оказываются бессмысленными. Например, бессмысленно учить машину радоваться клубнике со сливками, хотя имитировать человека, любящего клубнику со сливками, она научится весьма скоро при должном объеме памяти.

«Эта неспособность машины приобретает значение лишь в сочетании с другими труднодоступными для нее вещами, например, в сочетании с трудностью установления между нею и человеком такого же отношения дружелюбия, какое бывает между двумя людьми» ⁶. В английском оригинале стоит «между белым мужчиной и белым мужчиной или между черным мужчиной и черным мужчиной», т. е. между теми, между кем уже есть эмоциональная связь. Для Витгенштейна такая эмоциональная связь уже бытие, уже данность нашего бытия в мире. Для Тьюринга — скорее ситуация, которую нужно защитить от идиотских, т. е. слишком частных вопросов.

Маразм крепчал

Софья Яновская в предисловии к советскому изданию статьи Тьюринга одобряет его тест для мыслящих машин: Тьюринг полезен марксизму-ленинизму, потому что исходит из познаваемости мира через опыт, который по Ленину и есть критерий достоверного знания. Конечно, для Яновской было важна и финальная часть статьи Тьюринга, про воспитание машиной машины, методика которого не противоречит советским воспитательным проектам.

Один из изводов такого воспитательного проекта — повесть Евгения Велтистова «Электроник: мальчик из чемодана» (1964). В одной из глав этой повести профессор Громов, опечаленный пропажей изобретенного им андроида, заставляет коллегу Светловидова осуществить тест Тьюринга. Велтистов прямо взял у Тьюринга практически все подробности теста, включая шахматную задачу и комментарии к словоупотреблению в поэзии, только заменил машинно написанный сонет на первую строку «Евгения Онегина». Казалось бы, это просто пересказ Тьюринга для советских школьников. Но не тут-то было.

Сам персонаж (андроид) Электроник — механизм, имеющий импульс (темперамент, разряд тока, который может слишком сильно сократить его мышцы и погнать его по улице), при этом всегда успешно проходящий тест Тьюринга во всех повестях Велтистова. Возможен теоретически и его маразм, при истощении аккумуляторов, просто он ни разу не показан в трилогии, где розетку Электроник находит всегда. За ним, как и за Сыроежкиным, стоят образы советских пионеров-героев, выдерживавших пытки, т. е. начальная витгенштейновская боль в нем овнешнена — как и в тесте в варианте Велтистова оказываются овнешнены многие вещи: машина не пишет сонеты, а пользуется готовым мировым культурным наследием. Советское воспитание, в том числе гипотетическое воспитание машин или инопланетян, требовало знакомить их с Рафаэлем и Пушкиным.

Но самое интересное, кто выступает в этом тесте для Светловидова человеком. Это помощник Громова Пумпонов, маразматик, который точно помнит всё математическое и отвлеченное, но не помнит ни сколько ему лет, ни что от него недавно требовал профессор. Он не солипсист, поневоле имитирует машину и отвергает для себя как для человека все задачи, которые у Тьюринга бессмысленны только для машины, вроде любви к клубнике со сливками — он интеллигент-аскет не от мира сего. Казалось бы, теперь тест Тьюринга может длиться сколько угодно.

Но Пумпонова выдает пристрастие к фильмам категории Б: пересказывая один такой фильм, он по-человечески возмущается числом бандитов, а после, став машиной, считает число выстрелов. Становится понятно, что это не машина, а человек, отчасти вольно, а отчасти невольно имитирующий машину. Таким образом как раз кино категории Б и оказывается достаточным ресурсом бессмысленных вопросов, которые ломают подражание человека машине не хуже той телепатии, о которой писал Тьюринг.

Александр Марков, профессор РГГУ
Оксана Штайн, доцент УрФУ

¹ Тьюринг А. Может ли машина мыслить? / пер. с англ. Ю. А. Данилова, ред. проф. С. А. Яновской. — М.: Государственное издательство физико-математической литературы, 1960. С. 38.

² Бибихин В. В. Витгенштейн. bibikhin.ru/vitgenshtein (курсив автора)

³ Витгенштейн Л. Голубая и коричневая книги / пер. с англ. В. А. Суровцева, В. В. Иткина. — Новосибирск: Сибирское университетское издательство, 2008. С. 90.

⁴ Конрадова Н. Археология русского интернета. Телепатия, телемосты и другие техноутопии холодной войны. — М.: Corpus, 2022.

⁵ Конаков А. Убывающий мир. История «невероятного» в позднем СССР. — М.: Музей современного искусства «Гараж», 2022.

⁶ Тьюринг… С. 40.