ТОП 10 лучших статей российской прессы за
Июль 11, 2018

Барон Мюнхгаузен и порог разумности

Можно ли искусственно создать мыслящее существо? Назовём здесь «существом» в более широком смысле «то, что существует», неважно, электронное или биологическое. Из всех существ мыслящим мы можем назвать только человека. Значит, задача состоит в том, чтобы воспроизвести мозг человека, скопировать его? Но такая задача, даже будь она выполнима, оказалась бы бессмысленной. «Объясните мне, пожалуйста, — восклицал профессор Преображенский из булгаковского «Собачьего сердца», — зачем нужно искусственно фабриковать Спиноз, когда любая баба может его родить когда угодно?» Следовательно, задача иная. Не подобие, а превосходство, путь вперёд, следующая ступень эволюции — только так может стоять вопрос. Изобретатели, придумавшие автомобиль, не задавались целью соорудить механическую лошадь, в точности похожую на настоящую со всеми внутренними рефлексами и реакциями, чтобы она тащила ту же повозку.

Но можно ли создать «усиленный разум», если разум «базовый», то есть человеческий, станет конструировать его непосредственно? Такие попытки весьма напоминали бы подвиг барона Мюнхгаузена, вытащившего за волосы из болота самого себя.

Первые поколения энтузиастов кибернетики то ли вовсе не заметили этого непреодолимого барьера, то ли в эйфории множащихся успехов недооценили. Однако вскоре стало ясно, что речь может идти лишь о создании некоего «эмбриона», который с одного прекрасного мгновения начнёт развиваться сам и себя совершенствовать. То есть о том, что Станислав Лем называл «порогом разумности». Не достигшая этого порога система не сможет развиваться дальше. Напрашивается аналогия с цепной реакцией, которая не способна самоподдерживаться ниже критической массы. Это в ядерной физике, а метафорой такой критической массы можно считать «информационную массу» мыслящей системы. Конечно, это не масса в механическом смысле, а совокупность эвристических процессов, или, если угодно, «эвристическое разрастание». О нём ещё поговорим, но лишь таким путём будущий носитель искусственного разума сможет перейти из категории объекта в категорию субъекта, личности, стать не «машиной строителей», но «машиной, строящей себя».

Ваш ход, компьютер!

Для примера, пожалуй, сгодятся шахматы. Как род спортивного состязания шахматы утратили своё значение с тех пор, как машины научились обыгрывать чемпионов. «Это элементарно, Ватсон!» Компьютерные шахматные программы совершенствуются каждый день и час, а люди остаются прежними.

В 60—70-х годах прошлого века эксперименты по обучению электронно-вычислительных машин (тогда они так именовались) игре в шахматы были в большой моде. Международный термин «компьютер», привычный сейчас, ещё не привился, хотя означает в переводе ровно то же самое — «вычислитель». Но коль скоро мы повели речь о тех временах, будем пользоваться признанным тогда обозначением ЭВМ.

Так вот, игра в шахматы оказалась в те годы весьма привлекательной моделью для выяснения возможностей ЭВМ в решении задач игрового характера (и в развёрнутом плане для нащупывания перспектив машинного «мышления»). Эпоха электронных гроссмейстеров тогда ещё не наступила, и мало кто ожидал её в ближайшем будущем, но электронные шахматисты уже играли. Что же это были за программы? Они отличались одна от другой в деталях, но одно у них было общее: все они были эвристическими. Суть эвристического программирования в самых общих чертах состоит в следующем. В отличие от алгоритмов точного анализа, дающих строго оптимальное решение проблемы, эвристические алгоритмы довольствуются меньшим. Они определяют решение, которое «по-видимому, достаточно близко к оптимальному». Вывод этот делается обычно на основе тех или иных соображений интуитивного характера. А разве не так поступает каждый из нас?

Разумеется, для реализации таких соображений интуитивная сторона должна была быть в большей или меньшей степени формализована. В шахматах часто удавалось за счёт потери качества резко уменьшить трудоёмкость задачи. Это означает, что ходы, избираемые программой, вообще говоря, не являлись лучшими, но представлялись таковыми за счёт приблизительного учёта общих факторов. Тогда и был задан вопрос: могут ли ЭВМ, пользуясь быстродействием, играть безошибочно? В самом деле, шахматы относятся к разряду так называемых игр с полной информацией, для которых существование безошибочных стратегий строго доказано. Отыскание такой стратегии возможно за конечное число операций. Но для шахмат это число оказывалось недостижимым, десять в пятидесятой или шестидесятой степени. По тогдашним меркам, если бы поручить расчёты миллиарду ЭВМ, каждая из которых обладала бы в миллиард раз большим быстродействием, чем лучшие в то время машины, то и за миллиард лет они не проделали бы всей необходимой работы. Теперь такое быстродействие не только достигнуто, но и многократно превзойдено. А в те годы полагали, что точный анализ связан с принципиально новыми сверхмощными математическими методами. Но сейчас мы видим, что ничего принципиально нового здесь нет, просто люди научили машины считать быстрее.

Однако так ли уж важны эвристические идеи, связанные только с одной настольной игрой? Например, Эдгар По по этому поводу заметил: «В шахматах, где фигуры неравноценны и где им присвоены самые разнообразные и причудливые ходы, сложность (как это нередко бывает) ошибочно принимается за глубину. Между тем здесь всё решает внимание. Стоит ему ослабеть, и вы совершаете оплошность, которая приводит к просчёту или к поражению. А поскольку шахматные ходы не только многообразны, но и многозначны, то шансы на оплошность растут, и в девяти случаях из десяти выигрывает не более способный, а более сосредоточенный игрок. Другое дело шашки, где ход только один. Здесь чистый поединок интеллектов. За отсутствием других возможностей, аналитик старается проникнуть в мысли противника, ставит себя на его место».

Здесь мы и подходим к ответу на наш главный вопрос: может ли машина (или любое искусственное существо) мыслить? Считать она, безусловно, может, и быстрее любого человека. Но разве «считать» означает «мыслить»? Вовсе нет. Мышление означает свободу мотивировок. Ни один компьютер пока не программирует сам себя, ни один не в состоянии уклониться от заданной программы по собственной прихоти. Мыслить — это значит ставить задачи себе самому. Представьте шахматный компьютер, который выглядит как человек. Разве можно вообразить, что посреди партии он вдруг встанет и скажет сопернику: «Знаешь что, мне надоело играть, я придумал кое-что поинтереснее. Я пойду, а ты, если хочешь, считай меня проигравшим, мне всё равно». А вот человек на такое способен.

Контуры искусственной жизни

Искусственная жизнь… Не правда ли, звучит жутковато, почти шокирующе? Готическая фантазия, низкие давящие своды мрачной и таинственной лаборатории Франкенштейна… Но в науке термин этот лишён магической ауры. Его ввёл в употребление американский учёный Кристофер Лэнгтон в 1987 году на семинаре в Лос-Аламосе, посвящённом проблемам синтеза и моделирования живого. По Лэнгтону, направление «искусственной жизни» (A-life) призвано исследовать закономерности жизни и рассмотреть возможности создания искусственных систем, способных действовать наподобие живых организмов. Лэнгтон, в сущности, не выдумал ничего нового. Ещё в конце 1960-х годов английский математик Джон Конуэй публиковал работы о так называемых клеточных автоматах. Их активную и пассивную фазы Конуэй скорее поэтично, нежели формально, связывал с «жизнью» и «смертью». Позднее тот же Конуэй, расширяя ассоциации, говорил уже о «рождении» и «выживании», описывая закономерности переключения между состояниями. Но и Конуэй не был первым. Отцом-основателем представлений об «искусственной жизни» следует считать Андрея Николаевича Колмогорова.

В апреле 1961 года, на семинаре Мехмата МГУ, он прочёл доклад «Автоматы и жизнь». Можно ли сконструировать руко-творное существо, воплотить его в таком качестве, чтобы оно было способно не только размножаться (это занятно, но не более), но и эволюционировать? Может ли такое существо обладать мышлением, волей, эмоциями? Вот какие вопросы задавал Колмогоров… И отвечал на них. «Если свойство той или иной материальной системы ”быть живой”, — утверждал Андрей Николаевич в этом докладе, — или обладать способностью ”мыслить” будет определено чисто функциональным образом (например, любая система, с которой можно обсуждать проблемы современной науки и литературы, будет признаваться мыслящей), то придётся признать в принципе вполне осуществимым искусственное создание живых и мыслящих существ». И дальше развивал свою мысль так (снова цитируем его доклад, напомним, от 1961 года!): «При анализе явлений жизни существенна не диалектика бесконечного, а диалектика большого. Чисто арифметическая комбинация большого числа элементов создаёт и непрерывность, и новые качества. На естественнонаучном уровне строгости возможно точное определение таких понятий, как мышление, воля, эмоции».

Отсюда следует, что вопрос об искусственной жизни очевидным образом дополняет вопрос об искусственном интеллекте. Если в системах искусственного интеллекта мы видим жёсткое следование правилам и алгоритмам, то системы искусственной жизни воссоздают биологические процессы, свойственные живому. Это самоорганизация, мутации, игра случайных эффектов, которые ведь в модель не заложишь, как батарейку в корпус фонарика.

Но любые разговоры о «воспроизведении под копирку» человеческого мозга в основе своей лишены смысла. Воспроизведение какого именно человеческого мозга? Все люди разные, ни одно человеческое «я» не повторяет другое. Самосознания не идентичны и не могут быть идентичны по определению, поскольку в начале слова стоит ключевое «само». Человек обучается мышлению не посредством программирования (иначе за рамки программы он и не вышел бы, о каком тогда развитии говорить). Он воспринимает весь мир сразу и целиком в процессе воспитания и образования в доступных ему пределах. Как он этой информацией воспользуется, как её творчески разовьёт, предугадать невозможно, да и не нужно.

Что же касается пресловутых опасений по поводу «искусственного разума», это, скорее, для фильмов в духе «Терминатора». Вспоминается диалог из одного фантастического романа:

«— А что, настоящий машинный разум у вас не изобрели?

— Изобрели, к несчастью. Подлинный разум свободен, будь он машинный или какой другой. Когда в него вводятся искусственные ограничения, он перестаёт быть разумом, с какой бы скоростью ни обрабатывал информацию. А кто знает заранее, что надумает разумная, то есть свободная машина? Вот некоторые и надумали… Планета Алгондо выжжена дотла, многим другим планетам тоже не поздоровилось… Было и такое — боевой звездолёт, управляемый разумным компьютером, открыл огонь по научной орбитальной станции и уничтожил её… Далеко не все они были такими, ведь и мы не все мыслим одинаково, но… С тех пор производство таких компьютеров строжайше запрещено, даже теоретические изыскания в этой области — тяжкое преступление».

Вот так. Но что, спрашивается, делить людям и мыслящим машинам? Компьютерам не нужны «алмазы пламенные в лабазах каменных», не нужны территории, воздух, вода и пища. Электричество только нужно, но пока светит Солнце и текут реки, в нём недостатка не будет. Так что пессимисты могут успокоиться. Машины на нас не нападут. Впрочем, как заметил в своём «Эссе о некоторых дискуссионных вопросах» английский естествоиспытатель доктор Томас Генри Хаксли, «не уходя от сходства с тем, что уже известно, нужно просто заселить космос существами возрастающего масштаба, пока мы не достигнем чего-то фактически неотличимого от всемогущества, вездесущности и всеведения». Ровно тем же самым (только в отношении не космоса, а искусственного интеллекта) упомянутые пессимисты и занимаются.

Третьего не дано?

Рассказывая о научном вкладе А. Н. Колмогорова в исследования в области «рукотворного разума», трудно удержаться от искушения ввернуть в текст пару-другую формул. И выглядит солидно, и скептики не придерутся, поди опровергни. Но вот шутливое замечание Стивена Хокинга в его книге «Краткая история времени»: «Мне сказали, что каждая включённая в книгу формула вдвое уменьшит количество покупателей. Тогда я решил вообще обходиться без формул». Последуем его примеру.

Один из важнейших критериев человеческого разума — эффективная обработка неполной, противоречивой, неточной информации. А уровень «разумности» машин зависит напрямую от их способностей работать с информацией такого рода. Колмогоров уже в 1925 году обращал внимание на относительность ряда принятых логических законов, например «закона исключённого третьего». Что это такое? Не что иное, как знаменитое латинское «tertium non datur», то есть «третьего не дано». Этот закон классической логики гласит, что два суждения, одно из которых отрицает другое, не могут быть одновременно истинными или ложными. Вздор, заявляет Колмогоров. Могут, да ещё как. В этом и состоит тайна творчества. И в 1932 году в работе «К толкованию интуиционистской логики» он предлагает «исчисление проблем», имеющее прямое отношение к искусственному интеллекту. Это, собственно, интуиционистское исчисление высказываний. «Закон исключённого третьего» (или «двойного отрицания», что одно и то же), вытесненный более слабым принципом противоречия. Общепринятая формулировка была предложена профессором Амстердамского университета Арендом Гейтингом в 1930 году. Но уже в 1932-м Колмогоров выдвигает новый подход к интуиционистскому исчислению предикатов Гейтинга. Интерпретация Колмогорова ставит значениями переменных в формулах любые задачи. Это направление было развито в трудах американского математика и логика Стивена Клини и основоположника российской школы конструктивной математики Андрея Андреевича Маркова и получило название конструктивной логики.

Ироничный Станислав Лем рассуждал о трёх категориях гениев. Первая — это те, кто признаны при жизни. Представителям второй категории суждено быть оценёнными лишь посмертно, может быть, через поколения. И наконец, третья — это те, кого в полной мере не признают никогда, потому что пути, которые они пролагают, неизмеримо далеки от магистральных дорог человечества. Но почему же никогда? Ведь и дороги ведут дальше. Мы соглашаемся с тем, что окружающий нас мир реален и познаваем сверху донизу, от альфы до омеги, от аза до ижицы, от «а» до «я». Но должны ли мы согласиться и с тем, что он познаваем именно человеком? Или тем высшим разумом, самоорганизующимся и самоопределяющимся, что будет самим человеком вызван к бытию?

Так или иначе, мы стоим на пороге нового мира. И за этим порогом нас ждёт не «война интеллектов», а их свободное творческое содружество, открывающее новые горизонты.

***

Человечество всегда мне представлялось в виде множества блуждающих в тумане огоньков, которые лишь смутно чувствуют сияние, рассеиваемое всеми другими. Но они связаны сетью ясных огненных нитей, каждый в одном, двух, трёх… направлениях. И возникновение таких прорывов через туман к другому огоньку вполне разумно называть чудом.
Академик А. Н. Колмогоров.

Цитата из сборника «Колмогоров и кибернетика». — Новосибирск: Институт вычислительной математики и математической геофизики Сибирского отделения РАН, 2001.

***

От самого математика зависит, останется ли его роль вспомогательной или он внесёт в работу достаточно значительную свою собственную выдумку.
Академик А. Н. Колмогоров.

Цитируется по сборнику «Колмогоров в воспоминаниях современников». — М.: Изд-во МЦНМО, 2006.