Беседа о том, как будет развиваться наука в ближайшие десятилетия, состоялась на YouTube-канале Павла Амнуэля «Наука будущего» (youtube.com/@Amnuel44). Разговор начался с обсуждения двух статей, опубликованных в ТрВ-Наука, однако затем быстро переключился на более общие темы. Собеседники задавались вопросами о том, как повлияет на развитие науки принцип гарантированного дохода, они говорили о повышение роли искусственного интеллекта (благо ли это или опасная тенденция?), насколько «эзотерична» современная наука, общедоступна ли научная информация, что такое корпоративная наука, к каким целям наука стремится и сможет ли она их достичь. На эти и на многие другие важные и интересные вопросы пытались дать свои ответы Сергей Попов (астрофизик, профессор РАН, популяризатор науки), Александр Сергеев (научный журналист, редактор интернет-издания T-invariant) и Павел Амнуэль (астрофизик, канд. физ.-мат. наук, писатель, популяризатор науки). Приводим авторизованную текстовую версию этой беседы, а с видеоверсией можно ознакомиться по адресу youtube.com/watch?v=qt4EB8-gfxc.
Citizen science и искуственный интеллект
Павел Амнуэль: Сегодня мы поговорим о будущем науки с известным астрофизиком, доктором наук, профессором РАН Сергеем Поповым и журналистом Александром Сергеевым. В газете «Троицкий вариант — Наука» было опубликовано эссе Сергея Попова о том, что ждет организацию и структуру науки в будущем, в ближайшие десятилетия 1. В последнем номере ТрВ-Наука было опубликовано мое эссе на эту же тему 2. Мы пригласили в нашу беседу и научного журналиста Александра Сергеева, который тоже хорошо известен, полагаю, всем, кто интересуется наукой и научной журналистикой. Поскольку Сергей Попов начал эту дискуссию (если это дискуссия), то, пожалуйста, Сергей, вам слово!
Сергей Попов: Западное общество так устроено, что различные его «подинституты» реагируют на запросы внутри общества.
И одно из глобальных изменений заключается в том, что общество действительно, к счастью, становится более стабильным: повышается роль роботизации производства, использования искусственного интеллекта в таком труде, который раньше считался умеренно интеллектуальным, но теперь он передается всё больше ИИ. Я говорю о базовом переводе, о составлении технических писем… Не нужно уже иметь секретаря, чтобы сказать ему: вот три тезиса, напиши про это, пожалуйста, письмо синьору такому-то на итальянском языке. Это всё уже будет сделано компьютером, и в этом смысле секретаря уже можно уволить.
Но экономика в целом растет, и поэтому, естественно, для устойчивого развития общества вам нужно эти ресурсы перераспределять. И это приводит к концепции гарантированного дохода, который уже потихоньку даже начинал тестироваться. И в ближайшие десятилетия, если не произойдет никакой катастрофы (хотя некоторые страны в мире очень этому способствуют), то будет совсем иная ситуация. Появится много людей с хорошим образованием (поскольку образование очень доступно в западном мире), которым не придется работать для выживания. И уже сейчас не у дел оказывается большое количество авторов, фотографов… Прямо сегодня, перед передачей, я смотрел новости: National Geographic уволил последних своих штатных авторов. Теперь материалы для National Geographic делают только фрилансеры — некие путешествующие блогеры, какие-то люди с фотоаппаратами. А профессионалов становится меньше. Но остается, конечно, профессиональная редакция, которая модерирует эти материалы.
Вот, на мой взгляд, нечто похожее будет происходить и в науке: появится много людей с образованием, которые готовы часть времени (или часть времени регулярно или не регулярно — скажем, по два часа в день, два дня в неделю…) посвящать научным исследованиям. Западная наука на это, безусловно, откликнется, и это будет citizen science на новом уровне. Сейчас в гражданской науке всё равно участвуют люди с образованием и компьютерными навыками, которые работают над научными статьями. А так будет новая социальная группа «ученых», работающих на полставки. Основная наука, конечно, останется, но ее задачей будет организация работы этой новой группы «ученых».
Еще один тренд — повышение роли искусственного интеллекта в научных исследованиях. Это уже происходит сейчас: люди отмечают в статьях, что часть современных текстов, скажем, введение, написана с использованием ИИ. В ближайшие 20–30 лет будут появляться статьи, которые будут созданы полностью искусственным интеллектом. Сейчас можно поймать студента, дать ему задачу и отправить его на пару лет думать. А в недалеком будущем можно будет заручиться помощью ИИ: пусть он, скажем, поищет среди спектров массивных звезд нейтронные звезды, которые могут быть в двойных системах. Искусственный интеллект будет перебирать данные, писать программы (а может быть, и заявки на наблюдения), обрабатывать и присылать результаты.
Вот такие два тренда. Более дискуссионный, на мой взгляд, — новая социальная группа ученых на долю ставки.
Александр Сергеев: Я очень остро чувствую ситуацию с искусственным интеллектом. В моей области — в журналистике — уже сейчас без использования искусственного интеллекта нельзя обойтись. Сейчас на ум пришел случай: Карлов университет в Праге объявил магистерскую программу по российским исследованиям. Абитуриенту предлагается за два месяца ознакомиться с литературой — где-то пятьдесят книг страниц на пятьсот каждая. В ход идут различные summarisers и навигационные искусственно-интеллектные штуки, позволяющие составить представление о том, что ты за это время не успеешь детально усвоить.
С. П.: Я не удержусь, извини, Саш: поскольку Бориса Гребенщикова на днях объявили иноагентом, не премину воспользоваться поводом процитировать из моих любимых его строк: «Из моря информации, в котором мы тонем, единственный выход — это саморазрушенье; мы до сих пор поем, но нам уже недолго ждать» 3.
А. С.: Я для себя еще лет двадцать назад понял, что рост объема информации в Интернете говорит о том, что первичным ее потребителем будет не человек. Он будет управлять агентами, получая информацию в «перелопаченном» виде и принимая решения. Все нынешние попытки сопротивляться внедрению искусственного интеллекта (например, среди научных журналов, заявляющих, что они не будут принимать статьи, написанные с помощью ИИ) — не более, чем синдром луддизма, который рано или поздно пройдет. Более того, я думаю, что чтением будет в основном заниматься компьютер, а человек уже потом будет осматривать прочитанное, точечно вникая в ключевые аспекты.
Другой момент: на мой взгляд, в науке за последние 50–70 лет ее развития сложилась своеобразное внутреннее противоречие. Формально наука считается общедоступной — каждый может всё проверить и изучить, — и в этом она противостоит религиозной эзотерике, в которой знания только для посвященных. Но по факту современная наука стала куда эзотеричнее религии во многих своих разделах. Если ты очень тяжелые и глубокие вещи перелопатить не способен, то лишен доступа к научной информации и научному пониманию мира, но есть сфера, где с такой проблемой научились справляться, причем при жестких обстоятельствах. Я говорю о программировании.
Наука vs программирование
А. С.: Когда в 1940-х и 1950-х годах создавались первые компьютеры, на них смотрели как на сложное и специфичное лабораторное оборудование, которое исследователи и инженеры как-нибудь к месту настроят. Это и считалось тогда программированием. А в 1960-х годах на эту проблему взглянули по другому. У Фредерика Брукса об этом периоде написана замечательная книжка «Мифический человеко-месяц»4, где он описывает опыт, накопленный в процессе создания операционной системы OS/360. Программирование — это сфера производства, в которой для получения единой работающей системы нужно сконцентрировать тысячи человеко-лет умственной работы. В те годы программирование пошло по пути, принципиально отличному от пути науки. Наука шла по пути выращивания сверхмощных интеллектов, которые знают всё и решают проблемы от начала до конца. А в программировании оказалось, что можно воспользоваться способностями кодеров средней руки, если правильно их организовать и научить думать и работать так, чтобы конечный результат складывался будто бы из кубиков. В науке такую схему комбинирования построить пока что не получается. Но, возможно, этого добиться нам помогут искусственный интеллект и новые технологии научных коммуникаций. Научная статья — штука тяжеловесная, и читать их приходится десятками, всерьез погружаясь в детали проблемы. Может быть, найдется некий более модульный подход, который позволит людям включаться в науку подобно кодерам, выкладывающим свои наработки в репозитории.
С. П.: А не получается ли, что такая методология в науку не переносима потому, что, программируя, мы решаем созидательную задачу: мы воплощаем в жизнь то, чего у нас не было? В принципе, так сделать можно: например, возвести готический собор, собрав людей, которые про готический собор ничего не знают — главное, чтобы они умели пилить доски, изготавливать детали… А в науке, которую мы представляем сейчас, основная цель — открыть, описать законы природы. Тут забавно, что нас не устраивают любые законы природы. Мы считаем, что есть какие-то «правильные» законы природы, что наука не представляет собой только описание. Но не приведет ли это к тому, что наука может выродиться в чистое описание, как писал Стивен Вольфрам? Мы не знаем в деталях, как излучают радиопульсары, но, может быть, можно написать программу, которая будет в трех измерениях рассчитывать из входных данных все нужные параметры — т. е. создать искусственный пульсар в компьютере. Но у нас не будет понимания того, как это работает. Ведь мы привыкли к тому, что, условно говоря, записываем такое в виде дифференциальных уравнений и называем их законами Иванова — Петрова — Сидорова. Это могут быть методологически разные подходы. Другое дело, что их можно соединить так, что одно будет работать на другое, но наверху в любом случае должен быть обобщенный Эдвард Виттен, понимающий теорию струн целиком. Ведь если теория не укладывается в одной человеческой голове, то кажется, что цель науки попросту не достигается.
А. С.: Я не уверен, что всё это удастся обойти старыми способами. Почему у нас есть разные уровни научного знания? Почему нельзя, отталкиваясь от первичных принципов, решать задачи биологии или социологии? А потому, что мы сталкиваемся с проблемой непреодолимого сложностного барьера: даже если мы сможем смоделировать соответствующее поведение, то не факт, что сможем его понять. Это некий барьер, положенный на пути классической науки Галилея и Ньютона. Мы должны понять, что эмерджентные теории, появляющиеся на следующем уровне сложности организации систем, по-видимому, сводимы к базовым принципам лишь в части неких граничных условий, вроде ненарушения принципов сохранения. Но мы не можем выводить их, записывая и решая простые дифференциальные уравнения. Придется смиряться с тем, что наука на высоких уровнях будет описательной.
Мы можем часть нагрузки переложить на плечи искусственного интеллекта, который, вероятно, будет лучше справляться с описательной сложностью. Мечту же свести всё к базовым принципам в духе лапласовского детерминизма стоит оставить в прошлом.
С. П.: Как я пишу в одном из приложений к книжке «Все формулы мира»: возможно, в будущем искусственный интеллект будет заниматься наукой и писать для людей научно-популярные книги…
П. А.: Научно-популярные книги искусственный интеллект будет писать наверняка, а вот эмерджентных теорий от него ждать не придется: это останется за человеком. Может быть, те, кто занимаются ИИ, уже крепко взялись за эту проблему, но я пока не вижу способа, как научить компьютер ставить свои собственные цели, а не просто достигать поставленных. Без этого искусственный интеллект попросту не сможет двигать науку вперед, а будет вынужден лишь заниматься задачами на более низком уровне — скажем, решать дифференциальные уравнения. Если из этого выйдет толк, то хорошо; а вот качественного скачка ждать не стоит. Наука останется в руках будущих нобелевских лауреатов, а ИИ будет всего-навсего помогать им решать задачи.
С. П.: Да, можно сказать, что ИИ не может заниматься экстраполяцией и его удел — интерполяция. Но давайте возьмем что-то простое, например шахматный движок. Ему ставят простую цель: выиграть партию. В этом смысле ИИ ставит перед собой и все промежуточные цели, необходимые для достижения результата, ведь до финала еще очень далеко. Вот мы, например, сформировали концепцию теории струн, и в ней есть недостающие вещи. Их можно расставить на уровне интерполяции от очень далекой точки. С другой стороны, если вычислительные мощности не ограничены или ограничены слабо, то экстраполяции можно делать переборами. Звучит жутко, но вспомните хотя бы фантастический рассказ Артура Кларка «Девять миллиардов имен Бога»5, когда эти самые имена попросту взяли — да перебрали. В этом смысле эта задача решаема при поддержке обезьян на пишущих машинках — гениальные стихи можно создавать перебором. Человеку остается только отбирать, более того, отбирать более-менее годные стихи среди когерентных результатов, которые заранее отобрал искусственный интеллект.
Меня больше волнует вопрос мотивации. Есть люди, считающие, что во Вселенной нет сверхцивилизаций по следующей причине: с течением времени задачи становятся слишком сложными, и у самых выдающихся рождающихся умов не возникает желания заниматься наукой. Она становится слишком сложной, так что приходится заниматься чем-то другим — от компьютерных игр до игры на скрипке. Утешает, что это перспектива не на ближайшие 20–30 лет.
А. С.: Во-первых, выбор лучшего из предложенного ничуть не менее сложен, фотографу приходится делать сотни снимков, и его класс кроется в том, чтобы выбрать тот один, который будет по-настоящему хорош; а то и зарубить все и отправиться снимать по новой. Плохой же фотограф может сделать гениальный снимок, но не заметить его.
С. П.: Да, в этом разница между живописью и фотографией. Сейчас наука выглядит как живопись, а, по сути, будет выглядеть как фотография…
А. С.: Второй момент касается постановки целей. Чтобы передать поставленную цель другому человеку, нужно сформулировать ее словами, а это не более, чем текст — его ИИ может генерировать получше нашего. Если закачать в программу необходимый набор текстов и спросить, какие проблемы тут не решены, то весьма вероятно, что мы получим хорошие задачи, которыми искусственный интеллект может заняться дальше.
П. А.: Искусственный интеллект отберет эту самую тысячу задач — и ему надо будет указать, какую из них нужно решать, — мы сталкиваемся с теми же проблемами, что и фотограф.
А. С.: Это вопрос приоритезации, который тоже прекрасно решается.
Трансгуманизм и киборгизация
П. А.: Здесь возникает вот какая проблема. Да, сейчас наука похожа на классическую живопись, потом она станет похожа на фотографию и, возможно, рано или поздно станет подобна абстрактной живописи. Тогда уже ничего нельзя будет представить — мир будет выражаться в уравнениях, а как человеку его воспринять, как осознать? Возможно, наука будущего придет именно к такому типу. Реальность — то, как мы представляем мир, — попросту разрушится, и наука будет заниматься совершенно непредставимыми вещами. Сможет ли тогда человек ставить задачи, даже если искусственный интеллект даст ему миллион разных вариантов?
А. С.: Мы как люди всё равно не сохранимся в текущем виде. Трансгуманизм одолеет нас — так или иначе, пойдет киборгизация: внешняя память, интеллектуальные модули… Мы будем пользоваться устройствами, не сильно отделяя себя от них. Непредставимое можно будет представить себе при помощи дополнительных, интегрированных инструментов. Границы расширятся — Вселенная, в общем-то, не создана для человека. В нашем нынешнем виде на межзвездные полеты мы рассчитывать не можем.
П. А.: Ну да, обо всем этом нужно задуматься уже сейчас. Понятно, что человек эволюционирует. За несколько тысяч лет цивилизации он почти не изменился, но сохранимся ли мы в таком виде спустя миллионы лет? Конечно, разница между человеком из далекого будущего и нами будет куда больше, нежели разница между современным человеком и гориллой. Может быть, через многие века люди смогут представлять себе то, что мы не можем представить сейчас: мыслить уравнениями, решая их в уме.
А. С.: Я иногда смотрю на то, как ныне дети осваивают компьютеры: они подходят к этому далеко не так, как подходили мы. Мне как-то попался пост американского профессора, сетовавшего на то, что он не понимает, как его студенты усваивают материал. Вместо того, чтобы сделать много разных каталогов по темам, студенты делают одну папку и валят туда все файлы, при этом давая им такие имена, по которым умудряются найти нужный документ за пару секунд. Когда предлагаешь обучающимся структурировать материалы иерархически, они недоумевают: зачем? у нас же есть компьютер.
П. А.: Ну да, они правы, коли так делают.
А. С.: Думаю, что то же самое происходит, когда утверждают, что вот раньше было настоящее знание, а теперь вы всё тащите из «Википедии», а сами даже даты с именами позабыли. Но структура в голове есть, и когда ты идешь ее проверять, то всё равно влезаешь в детали, представляя ее во всей полноте. В том, чтобы знать все имена и цитаты дословно, теперь смысла мало — нужно лишь быстро уметь нырять в мириаду деталей и выплывать обратно, окидывая тему общим взглядом. Это какой-то новый способ мышления о реальности с соучастием искусственного интеллекта в текущей форме, вроде поисковика Google. Дальше будет больше…
П. А.: Ну, наверное, так.
Поддержка науки обществом
А. С.: Еще больше меня волнует проблема, как бы вся наша познавательная научная деятельность не схлопнулась из-за потери общественной поддержки. Мы уже 70 лет как не можем решить проблему отрыва науки от общей культуры — вот в чем реальная угроза. Всё больше людей говорят об ученых как о сумасшедших профессорах, изучающих непонятно что и делающих зараженных комаров да прививки с чипированием. Еще в 1950-х годах Чарлз Перси Сноу писал о подобном разрыве 6: обсудить на светском рауте пару строк из Гомера в оригинале — хорошо, а вот ядерные превращения и коллайдер — увольте…
С. П.: Тут я не соглашусь. Сноу говорил о сложившейся традиции, приводя в пример китайских чиновников, которые должны были читать стихи, и сравнивая их — я, конечно, чуть утрирую — с чиновниками британскими, обучавшимися в Итоне и ограничивающимися классической английской литературой. Остальное считалось своего рода низким стилем, уделом маглов. Маги занимаются политикой и словесностью, а маглы льют чугун и решают уравнения. Но со временем ситуация улучшалась, и ныне даже в России куча популяризаторов зарабатывает тем, что читает лекции на корпоративах. Меня это поначалу шокировало. Конечно, не на всех корпоративах охотно слушают научно-популярные лекции (они звучат в основном на собраниях IT-подразделений), но тем не менее это факт: даже люди из топ-менеджмента читали Стивена Хокинга и Роберта Сапольски. Герман Греф, например, фанат Митио Каку — в свое время он привозил японского популяризатора в Россию за безумные деньги. Хотя это и вопрос моды…
Наука, во-первых, ассоциируется у общества с опасностью (те же байки о зараженных комарах), а во-вторых, дорогая. Сидеть и тихонько придумывать теорию струн можно так же, как стихи, — относительно задешево; а вот пока мы говорим, очередной космический телескоп «Евклид» отправляется в полет — дорого, по крайней мере, с бытовой точки зрения, это больше бюджета Барселоны, или дороже спортивной команды «Феррари». Если потеряется поддержка общества, то будет сложно — и тут мы приходим к тому, о чем писал в своей статье Павел: финансирование науки ляжет на плечи частных предпринимателей, как в Штатах. Если глава транснациональной корпорации вроде Билла Гейтса хочет поддерживать науку, то он может потратить на нее пару миллиардов долларов. А вот налогоплательщики (по крайней мере, в демократических странах) попросят доказать, почему подобное вложение — дорогое и на первый взгляд непонятное и некрасивое — важно и нужно. Но вопрос пиара решен: в европейских странах — членах ЦЕРН — проводились опросы населения:. какую часть годового дохода жители готовы отдать на нужды Центра ядерных исследований? Оказалось, люди готовы тратить больше, чем тратится реально. Причем опрос проводился среди всех жителей, а не просто среди каких-либо покупателей научно-популярной литературы! Но это они готовы тратить на ЦЕРН, а спроси их, сколько они готовы вкладывать в «никому не нужные» фундаментальные исследования, то, может, ответ будет другим. Это и есть вызов для связей с общественностью: убеждать людей, что наука достойна финансирования.
П. А.: Наука и раньше была оторвана от общества — куда сильнее, чем сейчас. Ныне за счет популяризации науки простой рабочий знает, по крайней мере, что такое телескоп «Джеймс Уэбб» и гравитационные волны, понимая науку хотя бы на таком уровне. А в XVIII–XIX веках на светских раутах и в салонах никто не говорил о науке, не обсуждал Ньютона с Лейбницем; не рассуждал, почему небо темное, а не светлое.
С. П.: Но все-таки, насколько я знаю, астроном Камиль Фламмарион блистал в некоторых салонах…
П. А.: Ну это Фламмарион — один человек на всю Францию. Да и блистать ему пришлось только в тех салонах, где собирались люди, более близкие к науке. А среди простых людей же и не велось разговоров о том, чем занимаются ученые…
А. С.: О БАК говорят как о самом дорогом научном приборе (хотя сейчас «Джеймс Уэбб» его немножко обогнал), на который ушло порядка 10 млрд долл. За эти деньги можно построить авианосец или пару энергоблоков АЭС, каких по миру 400 штук. В результате фундаментальная наука в большинстве случаев оказалась целиком под патронажем государств — не говоря, конечно, о сугубо прикладных работах, ведущихся в рамках бизнеса.
С. П.: В США большая доля фундаментальной науки финансируется не через госбюджет, а за счет частных пожертвований. Конечно, для такого нужно и много богатых людей, которые думают о чем-то, помимо скакунов и роскоши, и разумный трансфер средств в налоговой системе. Вот я сейчас на позиции, целиком оплаченной частным фондом. Хотя это, конечно, куда дешевле, чем запуск космического телескопа. Думаю, в Европе по сравнению со Штатами так финансируется где-то только 10% науки.
Окончание — в следующем номере
1 trv-science.ru/2023/06/mirovuyu-nauku-zhdut-peremeny
2 trv-science.ru/2023/06/peremen-my-zhdem-peremen
3 planetaquarium.com/discography/songs/igra_naver478.html
4 Brooks F.P. The Mythical Man-Month: Essays on Software Engineering, 20th Anniversary Edition. Reading, MA: Addison-Wesley, 1995. cs.unc.edu/~brooks/
Русский перевод: Брукс Ф. Мифический человеко-месяц, или Как создаются программные системы. — СПб.: Символ-Плюс, 2000.
5 The Nine Billion Names of God: The Best Short Stories of Arthur C. Clarke. NY: Harcourt, Brace & World, 1967.
(6 оценок, среднее: 4,83 из 5)
Загрузка...
Как я рад, что С. П., как и я, полон надежд в связи с частной оплатой науки. Я даже рад, что чиновники и военные отстраняются. США в начале XX века показали удивительные примеры плодотворности такого устройства. И вот, после катастрофы Второй войны, США, во всяком случае, с помощью Кремниевой долины, как прежде с помощью нефтяников и стальных магнатов, создают новую общественную науку, ставят великие цели.
Тут и выясняется, что государство и военные всё больше мешают, чем когда помогали.