ГОРИЗОНТЫ НАУКИ

СТАНИСЛАВ ЯРЖЕМБОВСКИЙ

В коконе техносферы

Теперь, когда мы научились летать по воздуху как птицы, плавать под водой

как рыбы, нам не хватает только одного: научиться жить на земле как люди.

Бернард Шоу

1

Эволюция материи, начиная от Большого Взрыва, создала космосферу — колыбель для будущей жизни. Эволюция жизни создала биосферу — колыбель для будущего разума. Эволюция человека разумного создала социосферу, внутри которой вызрел феномен человеческой культуры, главный смысл которой — противостояние «натуре» как природной данности: культура дает человеку много больше, чем дано ему природой для элементарного дарвиновского выживания.

В социосфере можно выделить три уровня. Низший уровень — это техно­сфера как область материальной деятельности человека, обеспечивающая его связь с внешней средой. Функция техносферы двояка: с одной стороны — это защитный панцирь, укрывающий человека от враждебной ему среды обитания, а с другой — разящий меч, обеспечивающий покорение природы человеком. Выше расположено ядро социосферы — область собственно межчеловеческих отношений. И, наконец, наивысший уровень — это ноосфера, область чистого знания, включающая в себя искусство, философию и фундаментальную науку — все то, что человеку для непосредственного выживания не так уж нужно, но выводит его из мира природы в мир идей.

Как и любая сложная система, техносфера эволюционировала революционно. Первой была революция оседлости, ознаменовавшая переход от собирательства и охоты, когда результат действия наступает непосредственно после действия, к земледелию и скотоводству, когда между действием и его результатом проходит заметное время. Согласно Шпенглеру, земледелие и скотоводство означали переход от первобытного хищничества к агрокультуре как первичной форме культуры как таковой: взращивать означает не грабить, а созидать. За сельскохозяйственной последовала промышленная революция — переход от индивидуального ручного производства к коллективному машинному, что резко повысило производительность труда. И, наконец, переживаемая в настоящее время третья великая революция, информационная — переход от качественных оценок к вычислительным алгоритмам.

Эволюция техносферы осуществляет себя в научно-техническом прогрессе. Внутренним его фактором является встроенная в человека эволюционная «пружина» — бергсоновский «жизненный порыв»^[1] — неудержимое стремление человека в абстрактную высь и бесконечную даль. «Опьяненная душа стремится взлететь над пространством и временем. Неизъяснимое томление манит нас в безграничные дали. Хочется отделиться от земли, раствориться в бесконечности, освободиться от телесных оков и парить в мировом пространстве, среди звезд. <…> Потому и является на свет этот фантастический современный транспорт, в немногие часы пересекающий континенты <…> потому и передается произнесенное слово в мгновение ока через все океаны и континенты, потому и разгорается этот честолюбивый дух рекордов и размеров, возводя эти исполинские павильоны для исполинских машин, эти колоссальные корабли и пролеты мостов, эти сумасбродные строения, достающие до облаков <…>. Никогда еще микрокосм не ощущал большего превосходства над макрокосмом. Вот крохотные живые существа, посредством своей духовной силы сделавшие неживое зависимым от себя» (Шпенглер).

Внешним фактором прогресса служит социальный запрос на эффективность человеческой деятельности: людей на Земле становится все больше, запросы их непрерывно растут, а доступных ресурсов становится все меньше, так что приходится постоянно что-то изобретать, чтобы выкрутиться из ситуации растущего дефицита. И здесь двигателем прогресса становится обратная связь между наукой и техникой. В технике любая проблема представляет собой некий «черный ящик», исследование которого ведется на ощупь — методом проб и ошибок. Научный же подход — это попытка вскрыть «черный ящик» для того, чтобы выявить механизм его функционирования, что буквально раскрывает человеку глаза и тем самым существенно повышает эффективность его деятельности.

Радикальному ускорению технического прогресса способствовали две социальные революции. Демократическая революция («восстание масс» по выражению Ортеги-и-Гассета) потребовала дать миллионам трудящихся материальные блага, которые тысячелетиями были доступны лишь немногим избранным. Реализация этих требований стала возможной благодаря протестантской революции, давшей людям право на самостоятельный выбор ценностной базы. В частности, благодаря снятию одного из важнейших религиозных табу произошло экономическое раскрепощение человечества — ростовщичество (взимание ссудного процента) из тяжкого порока и одновременно тормоза экономического развития превратилось в величайшую добродетель — главный двигатель экономического развития.

2

Однако, подчинив себе окружающую природу, человек так и не стал хозяином в собственном доме. Природа — это неуправляемая стихия. Проникая в ее тайны, человек вольно или невольно вызывает ее скрытые разрушительные силы, которые в любой момент могут выйти из-под контроля. Джинн, исполнив желание заказчика, непременно преподнесет ему от себя неожиданный и, как правило, неприятный сюрприз. Выросшая из протестантизма либеральная модель зачаровала человечество своей поражающей воображение эффективностью, но чрезмерная ее эффективность взрастила общество ненасытного потребления, что напрочь разорвало дотоле казавшуюся непреложной связь времен. Победа обернулась сокрушительным поражением: человек стал рабом своих созданий. Свобода в конечном итоге была воспринята эмансипированным человечеством как его суверенное право на отступление от любой нормы: в нынешней постмодернистской эпохе нормой стало само отступление от нормы. Все прекраснодушные гуманисты XIX века предполагали, что в будущем машины будут производить полезное, а люди — прекрасное. Реальность оказалась иной: машины стали производить большей частью бесполезное, а люди — все более и более безобразное.

Когда выяснилось, что способность мыслить, выделившая человека из животного мира, не вывела его на путь к светлому будущему, а завела в цивилизационный тупик, наметились два выхода. Первым стал поиск внеземных цивилизаций — космических «старших по разуму» в надежде на то, что они придут и сначала угомонят расшалившихся детишек-землян, а затем научат их правильному космическому уму-разуму. Помимо своей утопичности, с чем, похоже, все уже согласились, это означало бы признание человеком своей неполноценности — неспособности самостоятельно позаботиться о своей собственной судьбе.

Более достойным решением показался трансгуманизм как попытка создать нового человека взамен возникшего естественным путем. Целью было — с помощью генной инженерии усовершенствовать человеческий организм так, чтобы он стал функционально идеальным и в перспективе бессмертным. Однако общая физиология живого организма оказалась значительно сложнее его когнитивной функции, так что пришлось задуматься над тем, чтобы в обход биологической эволюции создать если не нового живого человека, то хотя бы его частную, но важнейшую функцию — интеллект.

Идея искусственного интеллекта основана на представлении о материальной основе сознания: если человеческий разум является производной от материи, то почему бы не взять аналогичную производную от другой, более простой материальной системы, необязательно от такой сверхсложной, как живой организм. На мысль о такой возможности навели современные компьютеры, продемонстрировавшие способность мгновенно выполнять совершенно неподъемные для человеческого разума логические операции, накапливать, систематизировать и хранить гигантские массивы числовых, текстовых и графических данных и управлять ими, осуществляя невероятно быстрый информационный поиск, что, к примеру, позволяет выполнять неплохой перевод научных текстов (о художественных пока лучше умолчать), составлять стандартные обзоры и рефераты, эффективно осуществлять распознавание образов, подыскивать рецептуру новых лекарств
и многое другое.

В этом смысле искусственный интеллект, безусловно, чрезвычайно полезен, но он же и потенциально опасен благодаря тому, что, как и всякая сложная система, обладает тенденцией к автономности: сложные системы сопротивляются попыткам управлять ими извне, а нынешние успехи этого безобидного с виду «слабого» интеллекта, находящегося под полным нашим контролем, так велики, что уже вызывают беспокойство по поводу того, что он вот-вот сможет самостоятельно и без нашего ведома превратиться в «сильный» интеллект, способный на равных конкурировать с человеком.

3

К счастью, именно здесь таится благотворная пропасть между естественным и искусственным интеллектами. Главное различие между ними не в скорости обработки информации и не в ее количестве — различие в самом объекте восприятия. Компьютер занят обработкой символов, замещающих реальность, и сверх этих заместителей он ничего не знает, он даже не догадывается, что за доступной ему символикой стоит совершенно иной мир, ничуть не похожий на мир символов. Животному, в результате эволюции идеально вписанному в природу, наоборот, даны только объекты реального мира, но неведомы замещающие его символы. Только человеку дано знать то и другое: и полнокровные объекты реального мира, и замещающие их абстрактные символы. Живя одновременно в обоих мирах — реальном и символическом — человек умеет связывать их между собой, свободно переходя из одного мира в другой: познание — это всегда балансирование между реальностью и замещающей ее символикой. Машина на это не способна, она совершает лишь перекодировку, принимая указатель за сам предмет, на который тот указывает: «Когда мудрец указывает на луну, глупец смотрит на палец» (Лао Цзы).

Если искусственный интеллект и способен в какой-то степени имитировать природный ум, то это чрезмерно детерминированный, зацикленный на самом себе ум параноика. Главная опасность искусственного интеллекта именно в его параноидальности: он сделает то, чего от него потребуют, но вовсе не обязательно теми способами, которых от него ожидают. Вполне логично предположить, например, что самым эффективным способом остановить выбросы углекислого газа для спасения планеты он сочтет уничтожение человечества.

4

Компьютерная программа — это не мышление, а манипулирование формальными (синтаксическими) объектами, тогда как человеческий разум оперирует семантическим (смысловым) содержанием. Синтаксис сам по себе не создает семантику, а значит, наличия программы недостаточно для наличия разума. Образно говоря, машина может правильно угадать все буквы, но не сможет прочитать состоящее из них слово: она знает буквы, но не знает состоящих из них слов. А если ее научить словам, она все равно не будет знать, какие реалии за ними стоят. Роскошь смыслового понимания доступна лишь такому познающему субъекту, внутренняя структура которого сходна со структурой познаваемого им объекта. У человека доопытное знание изначально заложено в квази-четырехмерную структуру мозга. Именно этим обеспечивается так называемая «интуиция» как платоновское «припоминание идей»: человеку, у которого отец — Бог, а мать — природа, есть во что всмотреться и что припомнить. Интуиция — это способность к отождествлению с объектом познания: подобное познается подобным. Машина способна успешно имитировать логическую сторону мышления, но психика не ограничивается логической составляющей, в ней огромную роль играет недоступная для машины область бессознательного, сформированная не только историческим, но и доисторическим опытом человека как вида и даже дочеловеческим опытом всей биологической (и еще глубже — добиологической) эволюции материи. В этом смысле можно сказать, что наш естественный интеллект — это мозг всей Вселенной. И если свой рациональный опыт жизни мы в принципе можем передать машине, то бессознательную ее составляющую мы передать не в состоянии, так как она недоступна для нас самих.

Искусственный интеллект вполне интерактивен, иногда даже в большей степени, чем естественный, ему можно задавать любые вопросы и получать на них внешне вполне вразумительные ответы, но при этом сами-то мы прекрасно понимаем, что по ту сторону диалога находится всего лишь цепочка алгоритмов. В общении с живым человеком мы учитываем не только словесную информацию, но и невербальную — поза, жестикуляция, мимика говорящего, темп и тембр его речи и т. д. А главное, мы способны улавливать не только прямой смысл высказывания, но и косвенный: намеки, юмор, иронию, шутку, сарказм. В живой речи мы играем в разных регистрах, произвольно меняя стилистику, непринужденно переходя от нейтрального стиля к высокому или, наоборот, к сниженному, используя самые неожиданные фигуры речи. И даже когда мы просто читаем, за книжным текстом мы ощущаем присутствие автора читаемой книги как живого собеседника, который делится с нами своими переживаниями, и к которому у нас возникает личное отношение — даже если этого человека давно уже нет в живых.

Особенно опасен искусственный интеллект своей способностью весьма убедительно лгать, он может заставить человека поверить в то, что он не враг ему, а друг, и даже больше, чем друг — его альтер эго. И это ему пока что удается: полезный, а теперь уже просто необходимый для обеспечения ставшего уже привычным интеллектуального комфорта, он безгранично расширяет нашу память, ускоряя принятие решений, за что нам, сидя в уютном интеллектуальном кресле, так и хочется сказать ему большое человеческое спасибо. Но при всем этом он исподволь оглупляет нас, производя «мусорное» знание, затемняющее и засоряющее наш природный ум, воспитывая привычку к шаблонам, и этот процесс идет по расширяющейся спирали: на основе текстов, созданных человеком, генеративный интеллект создает свои собственные схожие тексты, и чем больше он их создает, тем чаще использует их же для самообучения, все больше зацикливаясь на самом себе — именно в этом прежде всего проявляется его параноидальность.

Водрузив себе на голову искусственный интеллект как венец техносферы, человек опутал себя прочным коконом, из которого ему, похоже, уже не выпутаться. В перспективе это может привести к такому разговору в магазине бытовой техники будущего: «А это что это у вас?» — «Мозговой имплантат, снимает половину умственной нагрузки». — «Отлично, беру два».

1. Задолго до Бергсона о «тянь цзи» как небесной пружине — природном двигателе, по которому живут и движутся все живые существа, говорил Чжуан-цзы (IV в. до н. э.).