1. Человеческий и искусственный интеллект.

«Разумеется, что такое “мыслить”, знает каждый из нас.
Но, когда говорим о способности мыслить,
то это оказывается трудной задачей.»
Герман Хакен [1]

Прежде чем начать разговор об искусственном интеллекте (далее - ИИ), попробуем разобраться, что мы понимаем под обычным человеческим интеллектом.
Обратимся к Российскому энциклопедическому словарю [2] «ИНТЕЛЛЕКТ (от лат. intellectus - познание, понимание, рассудок), способность мышления, рационального познания. Лат. перевод др.-греч. понятия нус (“ум”), тождественный ему по смыслу. Термин “И.” в философии и богословии может обозначать способность к образованию понятий, сверхчувственное постижение духовных сущностей и др.»
Энциклопедический словарь Брокгауза и Эфрона отводит значительное место разъяснению термина ИНТЕЛЛЕКТЪ, который авторами раздела соотносится с термином - УМ. [3] «Ум.- В процессах сложившегося сознания самонаблюдение различает три основных группы явлений: 1) восприятия и их интеллектуальную переработку; 2) изменения эмоционального равновесия; 3) волевые импульсы. Различение это имеет характер абстракции в том смысле, что мы не знаем состояния сознания, в котором какой-либо из этих элементов отсутствовал бы совершенно; но возможность различной количественной и качественной их комбинировки и невозможность сведения одного из них на другие заставляет нас различать их так же, как различаем мы в объективных предметах форму и цвет, никогда не наблюдаемые в чистом виде. Первая из основных групп психических процессов носит название У.,...».

В своей книге «Психика и реальность: единая теория психических процессов» в главе 15 «Мышление как интегратор интеллекта» Лев Маркович Веккер пишет: «Целостно функционирующая совокупность познавательных процессов, включающая все уровни, начиная от сенсорного и кончая концептуальным, ближе и полнее всего охватывается категорией “интеллект”.» [4]

И, наконец, «Большой толковый психологический словарь» определяет интеллект следующим образом: «Первоначально этот термин относился исключительно к рациональным мыслительным функциям человеческой психики; сегодня это родовой термин, охватывающий познавательные процессы в целом.»[5]

Даже эти отрывочные, и отнюдь не представительные цитаты, показывают, сколь широко поле определения понятия “интеллект”. В некоторых случаях интеллект включает в себя ощущения, восприятия, мышление; в других, эти понятия не только разводятся друг от друга, но изучаются различными специалистами, в рамках своих специфических теорий.

Известный физик и математик Роджер Пенроуз в книге «Новый ум короля» [6] пишет по этому поводу следующее: « Если мы согласимся с тем, что в нашей способности познавать - а, следовательно, и в нашей сознательной деятельности в целом - есть нечто, выходящее за пределы чисто алгоритмических действий, то следующим шагом мы должны попытаться выяснить, в каких из наших физических действий может проявляться «существенно неалгоритмическое поведение»» и далее «Смысл вопроса глубоко философский. Что значит - думать или чувствовать? Что есть разум? Существует ли он объективно? И если да, то в какой степени он функционально зависим от физических структур, с которыми его ассоциируют?....»

Вместе с тем, все сходятся на том, что интеллект отличает способность концептуализации познаваемой среды, вне зависимости от природы последней. Есть еще одна показательная особенность большинства из этих формулировок - интеллекту вменяется обязанность образования “понятий”, в том числе - метафизических. Таким образом, говоря об ИИ, мы собираемся рассматривать объект, который, как минимум: - способен получать адекватную информацию об окружающей среде, включая в это понятие и себя самого; - концептуализировать полученную информацию; - образовывать, в рамках концептуального пространства, понятия, в том числе, абстрактные.

Термин «искусственный интеллект» в разных источниках так же трактуется по-разному, однако, изначально он подразумевал раздел информатики, изучающий алгоритмическую реализацию человеческих способов решения задач. Теорией явно не определено, что именно считать необходимыми и достаточными условиями достижения интеллектуальности. Есть учёные, которые развивают теоретическую модель, в которой за осуществление интеллектуальной деятельности отвечает около 120 факторов. Обычно к реализации интеллектуальных систем подходят с точки зрения моделирования человеческой интеллектуальности. Таким образом, в рамках ИИ различают два основных направления: - символьное (семиотическое, нисходящее) основано на моделировании высокоуровневых процессов мышления человека, на представлении и использовании знаний; - нейрокибернетическое (нейросетевое, восходящее) основано на моделировании отдельных низкоуровневых структур мозга (нейронов).

Как считает специалист по теории игр Майкл Генесерет (Michael Genesereth), профессор информатики в Stanford Logic Group [7], говоря об ИИ, мы должны исходить из необходимости выработки им правильной стратегии в играх общего характера, а не специализированных играх (типа шахмат). Программы вроде Deep Blue демонстрируют «скорее ум программиста, нежели ум программы», - пишет Генесерет. В том же, что касается ИИ – более важным является «ум» самой программы. Игры общего вида требуют самостоятельного раскрытия правил игры, тогда как программы типа Deep Blue содержат «зашитые» внутрь подробнейшие правила и алгоритмы игры.

Рассматривая проблемы, связанные с ИИ, мы не можем обойти вниманием две статьи, направленные на выяснение вопроса: Может ли машина мыслить? Это статьи Джона Сирла - «Разум мозга - компьютерная программа?» [8] и Пола М. Черчленд, Патриции Смит Черчленд - «Искусственный интеллект: Может ли машина мыслить?». [9] Джон Сирл критикуя энтузиастов скорого создания ИИ, делит их на сторонников «сильного» и «слабого» ИИ. При этом сторонники сильного ИИ утверждают, что мышление — это не что иное, как манипулирование формализованными символами, а именно этим занимаются компьютерные программы. Следовательно, задача сводится к написанию правильной программы. Сторонники слабого ИИ не столь категоричны. Более осторожный подход заключается в том, чтобы рассматривать компьютерные модели как полезное средство для изучения разума, подобно тому, как они применяются при изучении погоды, пищеварения, экономики или механизмов молекулярной биологии. Сирл считает, что позиция сильного ИИ не имеет под собой прочного фундамента. Свое доказательство он строит на ставшей хрестоматийной «китайской комнате», мыслительном эксперименте, доказывающем не сводимость человеческого мышления к выполнению алгоритмических процедур. Черчленд, в свою очередь, критикует Сирла за очевидное заужение подходов к реализации ИИ. В ответ на «китайскую комнату» он проводит мыслительный эксперимент с «комнатой Максвелла», показывающий, что, следуя логике Сирла, гипотеза Максвелла об идентичности световых и электромагнитных волн была бы легко опровергнута.

Интересен подход А.Л.Шамиса, который характеризует мышление человека, как попытку свести многоэкстремальную задачу, которую можно решать только методом перебора, к градиентной, одноэкстремальной, которую вообще не надо решать: «Так как в каждой точке нужно оценить и сравнить очень ограниченное число вариантов. То есть, человек создает новое информационное отображение среды: он решает задачу с помощью обобщения и укрупнения. За счет этого в знакомой среде можно действовать почти автоматически – по прогнозируемому градиенту эмоциональной оценки ситуации. Т.о. мозг нужен для создания одноэкстремальной модели среды, позволяющей поменьше думать, полагаясь в знаковых ситуациях на эмоциональный выбор.» [10] И далее: «Важнейшим аспектом восприятия является предвидение на основе иерархичной модели мира и многоуровневого процесса восприятия. Обращение к уровню детального восприятия происходит только по мере поведенческой необходимости или при рассогласовании предвидения и реального выхода.» [11]

В тоже время, нынешнее состояние проекта «Искусственный интеллект» отнюдь не предвещает ничего подобного. Как уже отмечалось, под ИИ сегодня понимается разрозненный набор задач, направленных на создание специализированных устройств и технологий, к которым, в первую очередь относятся:

- Системы машинного распознавания текста и его перевода.
- Системы распознавания образов.
- Программные продукты для роботов.
- Технологии автономных агентов.
- Нейронные сети.
- Технологии клеточных автоматов.
- Кибернетические устройства – полностью электронные или построенные на базе живых существ и способные эффективно выполнять присущие человеку действия, как интеллектуальные, так и двигательные.
- Биотехнологии.
- Игрушки.

Специальный реферативный журнал вводит следующее разделение ИИ на проблемы:
- Экспертные системы.
- Применение искусственного интеллекта.
- Автоматическое программирование.
- Автоматическое доказательство теорем.
- Логическое программирование.
- Обучение.
- Естественный язык.
- Поиск.
- Управление и планирование.
- Робототехника.
- Зрение и обработка изображений.
- Распознавание образов.
- Когнитивное моделирование.
- Взаимодействие человека и ЭВМ.
- Технические средства для искусственного интеллекта.

Список достаточно внушительный. Задачи очень разные. Что же их объединяет? Сверхзадача построения компьютерной интеллектуальной системы, которая обладала бы уровнем эффективности решений неформализованных задач, сравнимым с человеческим или превосходящим его. В качестве критерия и конструктивного определения интеллектуальности в современной постановке можно рассматривать эту задачу как задачу приближения сингулярности [12] в её сверхинтеллектуальном понимании.

То, что делается сегодня, значительно скромнее. Но, тем не менее, впечатляет. Калифорнийская компания Artificial Development (AD) продолжает работу, начатую в 2003 году по созданию системы CCortex, которая должна стать самой крупной в мире нейронной сетью. CCortex – это создание эмуляции человеческого мозга с 20 миллиардами нейронов и 20 триллионами связей между ними. По словам AD, их попытка в 10 тысяч раз масштабнее любых предыдущих попыток копировать, частично или полностью, первичные характеристики человеческого интеллекта. CCortex, по идее, сможет решать множество задач, ранее недоступных традиционным методам вычисления, воссоздавая сложность и функциональные возможности тех корковых областей, которые ответственны за обработку процессов высокого уровня человеческого интеллекта. Для достижения своей цели Artificial Development решилась собрать один из 20 лучших и самых быстрых компьютеров в мире – задуманная производительность 4800 гигафлопов. Известно, что данная супермашина работает под Linux. Она будет составлена из 500 узлов и одной тысячи процессоров Intel и AMD, собирается иметь 1,5 терабайта оперативной памяти и хранить в себе 80 терабайт данных. [13]

В Московском энергетическом институте (техническом университете) совместно с ЦНИИКА рассматриваются базовые принципы конструирования интеллектуальных систем поддержки принятия решений реального времени (ИСППР РВ) семиотического типа и возможности их реализации в высокоэффективной инструментальной среде G2-GDA. Реализовать ИСППР РВ в полном объеме возможно при использовании современных технологий конструирования интеллектуальных систем, основанных на концепциях распределенного искусственного интеллекта, динамических (адаптивных) моделей знаний, параллельной обработки информации при поиске решения на основе методов правдоподобного вывода. [14]

2. Технологическая сингулярность.

Выше мы уже упомянули понятие сингулярности. Вернемся к нему, так как оно является ключевым для дальнейших рассуждений. В 1993 году математик и писатель Вернор Виндж в статье «Грядущая технологическая сингулярность: как выжить в пост-человеческую эру» сформулировал ряд ключевых позиций, касающихся нашего ближайшего будущего. Одной из особенностей XXI века, по его мнению, является дальнейшее ускорение технического прогресса. Человечество стоит на грани перемен, которые сравнимы с появлением на земле Homo Sapiens. Главная причина этих перемен в том, что совершенствование и развитие техники приводит к тому, что техника становится всё более изощрённой и «умной». Всё это ведёт к созданию сущности с интеллектом, превышающим человеческий. Видится несколько путей, по которым наука может достичь такого прорыва:

1. Компьютеры обретут "сознание", и возникнет сверхчеловеческий интеллект. (В настоящее время нет единого мнения о том, сумеем ли мы создать машину, равную человеку, однако, если это получится, несомненно, вскоре затем можно будет сконструировать еще более разумные существа).
2. Крупные компьютерные сети (и их объединенные пользователи) могут "осознать себя" как сверхчеловечески разумные сущности.
3. Машинно-человеческий интерфейс станет настолько тесным, что интеллект пользователей можно будет обоснованно считать сверхчеловеческим.
4. Биология может обеспечить нас средствами улучшения естественного человеческого интеллекта.

Первые три возможности напрямую связаны с совершенствованием компьютерного аппаратного обеспечения. Четвёртая возможность также зависит от этого, хотя и косвенно. Прогресс аппаратного обеспечения на протяжении уже нескольких десятилетий поразительно стабилен. Исходя из этой тенденции, Виндж делает выводы, что интеллект, превосходящий человеческий, появится в течение ближайших тридцати лет, между 2005 и 2030 годами. Заявление это было сделано ещё в 1993 году, а в 2004 автор, дополняя свою статью комментариями, подтвердил свою уверенность в этих сроках. Скорее всего, он опирался на реализацию закона Мура, утверждающего, что количество транзисторов на новых кристаллах микропроцессоров удваивается каждые полтора года. Как раз между 2015–2030 годами вычислительная мощность компьютеров сравняется с мощью человеческого мозга, оцениваемой в 1016 операций в секунду (а затем превзойдёт её). Конечно, у специалистов возникает вопрос о справедливости закона Мура в условиях, когда мы приближаемся к ограничению на плотность, с которой материя может хранить и обрабатывать информацию. Ряд из них считает, что около 2007 года мы достигнем физического предела сегодняшней кремниевой технологии. Ограничение Бекенштейна дает верхний предел количества информации, которая может содержаться в пределах заданного объема при использовании заданного количества энергии. [15] Однако, применение новых технологий накопления и обработки информации, таких как, искусственные нейронной сети, экспертные системы (системы основанные на знаниях) и генетические алгоритмы могут существенно повлиять на ситуацию. По мнению специалистов [16], в недалекой перспективе экспертные системы будут играть ведущую роль во всех фазах проектирования, разработки, производства, распределения, продажи, поддержки и оказания услуг. Их технология, получив коммерческое распространение, обеспечит революционный прорыв в интеграции приложений из готовых интеллектуально-взаимодействующих модулей. Коммерческий рынок продуктов ИИ в мире в 1993 году оценивался примерно в 0,9 млрд. долларов; из них 600 млн. приходится на долю США [17] .

Каковы же будут последствия научного прорыва и появления сверхчеловеческого разума? Верон Виндж остроумно сопоставляет грядущую ситуацию с нашим эволюционным прошлым: «Животные могут приспособиться и проявлять изобретательность, но скорость эволюции ограничена естественным отбором. В случае естественного отбора мир сам выступает в роли собственного симулятора. Мы с вами обладаем способностью усваивать окружающий мир и выстраивать у себя в голове причинно-следственные связи, поэтому мы решаем многие проблемы в тысячи раз быстрее, чем механизм естественного отбора. Когда же появится возможность просчитывать эти модели с более высокими скоростями, мы войдём в режим, который отличается от нашего человеческого прошлого не менее радикально, чем мы, люди, сами отличаемся от низших животных.» [18] Изменения будут развиваться по экспоненте, без всякой надежды на восстановление контроля над ситуацией. Именно это событие Виндж назвал Сингулярностью и определил ее так: «Это точка, в которой наши старые модели придётся отбросить, воцарится новая реальность. Это мир, очертания которого будут становиться всё четче, надвигаясь на современное человечество, пока эта новая реальность не заслонит собой окружающую действительность, став обыденностью. И всё же, когда мы такой точки, наконец, достигнем, это событие все равно станет великой неожиданностью и ещё большей неизвестностью».

Термин сингулярность (лат. singularis – отдельный, особый) заимствован у астрофизиков, которые используют его при описании космических черных дыр и, в некоторых теориях, начала вселенной – точки с бесконечно большими массой и температурой и нулевым объемом. Математически сингулярность – точка функции, ее значение в которой стремится к бесконечности, либо другие подобные "интересные" точки.

Как отмечалось выше, работы над проектом «Искусственный интеллект» ведутся по целому ряду разрозненных направлений, но это, к сожалению, не отменяет наступление сингулярности. В своей работе 1997 года «Сколько осталось до суперинтеллекта?» Ник Бостром, профессор факультета философии, логики и научной методологии Лондонской школы экономики, в заключение подробнейшего рассмотрения состояния проблемы, заявленной в названии, утверждает: "Сильный и все увеличивающийся прессинг будет улучшать искусственный интеллект (ИИ) вплоть до человеческого уровня. Если найдется способ гарантировать, что сверхчеловеческий ИИ будет подчиняться людям, то такой интеллект будет создан. Если нет возможности это гарантировать, тем не менее, вероятно, он все равно будет создан." [19]

Один из самых известных британских футурологов - Ян Пирсон опубликовал прогноз на ближайшие 30 лет с точными датами 500 событий. [20] Вот некоторые из дат этого прогноза: - после 2011 г. практически все программное обеспечение будет писаться машинами; - после 2030 г. роботы и физически, и умственно превзойдут людей, и, скорее всего, не захотят терпеть диктата своих создателей-людей; - к 2030 г. нанотехнология позволит напрямую подключать компьютер к человеческому мозгу на молекулярном уровне, что в свою очередь позволит "скидывать на диск" свое сознание. Предсказание будущего, конечно, не является точной наукой. Однако Пирсон уже доказал свои способности: первый список "памятных дат будущего", опубликованный в 1991 г., сбылся на 85%.

Показательным, по нашему мнению, является определение точки сингулярности (не технологической!) А.Д.Пановым [21], который, рассматривая планетарную эволюцию, включает в нее эволюцию земной биосферы и человеческой цивилизации и констатирует, что революции планетарного значения (такие, как - возникновение жизни на Земле или распад социалистического лагеря) происходят со все сокращающимися промежутками времени между ними, вплоть до «неограниченного» возрастания вблизи точки сингулярности. В своей работе Панов определяет точку сингулярности 2015 годом и характеризует ее следующим образом: «Так как в истории бесконечные скорости недостижимы, то характер эволюции всей планетарной системы неизбежно должен глубочайшим образом измениться, история должна пройти через точку сингулярности и пойти по совершенно новому руслу... Скорее всего, точка кризиса глобального аттрактора истории является и точкой бифуркации - возможны разные траектории развития в постсингулярной стадии... Глобальная катастрофа, к сожалению, остается одной из возможностей.» [22]

3. Человек в преддверии пост-человеческой истории.

«Интересы же человечества в своей прогрессивной основе носят «нечеловеческий» характер, поскольку его (человечества) эволюция направлена на интенсификацию метаболизмов и рост связанности «всего со всем», а не на достижение людьми индивидуального счастья.» С.Д.Хайтун [23]

Существуют различные сценарии сосуществования человека и ИИ.

Айзик Азимов был одним из пионеров научной фантастики, разрабатывающих эту проблематику. Его законы робототехники не раз цитировались, в том числе и в научной литературе. Сам автор настолько серьезно относился к своему детищу, что запатентовал эти законы. При этом, текст запатентованных законов нигде не публиковался. Азимов считал возможным сосуществование человека и ИИ, причем последний должен занимать подчиненное по отношению к человеку положение.

Известный специалист в области космонавтики, авиации, вычислительной техники и математики, доктор технических наук Александр Болонкин, с которым автор данной статьи переписывался, является приверженцем наступления века Е-технологии (электронной технологии). Его мнение однозначно: «... бесполезно надеяться на какое-то снисхождение к нам как к "разумным" существам. Мы "разумны" только с нашей точки зрения, в пределах наших знаний и биологической формации. Животные в пределах своих знаний и опыта, видимо, тоже кажутся себе умными, но это не спасает их от полного порабощения, а если нужно, то и от уничтожения человеком... ...Надо осознать нашу роль в развитии Природы, в развитии Высшего Разума. И смириться с ней. Человечество выполнило историческую миссию, подошло к своему концу, дав начало более высокой электронной цивилизации. И оно должно уйти с исторической сцены. Уйти достойно, не цепляясь за существование и не чиня всевозможных препятствий появлению нового электронного общества. Нашим утешением может быть то обстоятельство, что мы, видимо, первые в нашей Галактике, а возможно, и во Вселенной породим электронную цивилизацию.» [24]

Достаточно жестко похожая позиция заявлена в цитированной выше монографии Сергея Давыдовича Хайтуна «Феномен человека на фоне универсальной эволюции». В ней говорится, что: «Вопреки Тейяру де Шардену, человек - это не главная цель и итог эволюции, но, являясь ее промежуточным финишем на одной из ветвей биологической мутовки разумных существ, может породить в будущем собственную мутовку.» [25] Развивая этот тезис он продолжает: «Если люди при этом перестанут быть людьми, человечество это как-нибудь переживет, подобно тому как «неандертальчество» благополучно пережило свое преобразование в «кроманьончество» (т.е. в собственно человечество). «Неандертальчеству» при этом не было дела до того, что составляющие его неандертальцы не только что лишились личного счастья, но и вообще исчезли с лица Земли.» [26]

Соглашаясь с «нечеловеческой» логикой эволюции, мы считаем необходимым учитывать тот ресурс знаний и культуры, который позволяет человечеству, в его современном виде, более или менее разумно выстраивать стратегии своего развития. Мы не склонны сводить сегодняшнюю ситуацию к «неандертальческой», т.к. наиболее активные в социальном плане группы людей пытаются анализировать последствия своих действий и выстраивают стратегии, защищающие Homo Sapiens от исчезновения. Само появление книг, подобных цитируемой выше, влияет на самосборку будущего.

Реальность создания ИИ заставляет нас думать не только о возможных последствиях этого события, но, в большей мере, о путях предупреждения катастрофических, для человека, изменений в ходе эволюции земной ноосферы. В одной из предыдущих работ мы уже касались целого ряда эволюционных проблем человечества [27]. С сожалением следует отметить общую неготовность философии, да и не только ее, к осмыслению, даже в рамках человеческого измерения, основополагающих характеристик разума, интеллекта, души. Тем более в соотнесении их с ИИ. Однако, это слишком широкое поле проблем для этой статьи. В данном контексте, для нас важны нравственно-этические аспекты эволюции человека, которые не могут быть заданы извне, но должны порождаться внутренней логикой развития человеческого общества. В тоже время, именно от возможности формализации нравственно-этического ядра человека во многом зависит наша дальнейшая судьба, так как только включение в программное ядро ИИ неизменяемого блока человеческой этики, позволит мирно сосуществовать сегодняшнему человеку и ИИ. В противном случае, необходимо направить усилия на такую модернизацию человека, которая позволит ему на равных конкурировать со своим детищем - ИИ. Однако об этом уже было написано в упоминавшейся выше статье «За пределами эволюции Homo Sapiens.

До сих пор, человек, осознавая или не осознавая этого, остается человеком в рамках той системы ценностей, которые принято называть культурой. Социальная природа человека, не ограниченная, в отличие от «социальных» животных или насекомых, «естественной моралью», требует особой «договорной» системы моральных и нравственных координат. Мы придерживаемся этой, может быть радикальной точки зрения, хотя в ряде исследований [28] говориться о генетической обусловленности человеческой этики.Пусть наш радикализм пойдет в запас "прочности".
И.Г.Яковенко рассматривая диалектику взаимодействия человека и культуры, так определяет ее основное содержание: «Что же касается программ человеческого поведения, то здесь культура надстраивается над пакетом программ биологических, частично деформируя последние. Отсюда вырастает следующее определение: Культуру можно определить как самоорганизующийся пакет внебиологических программ человеческой деятельности, представленный как в идеальной форме, так и в сумме результатов этой деятельности.» [29]
Такая система, с развитием общественных отношений, требует уточнения и корректировки. Попытки осмыслить взаимовлияние новейших технологий и культуры становится предметом диссертационных работ. [30] Однако системного подхода к пересмотру аксиологических координат в известных нам работах не наблюдается. В тоже время, необходимость такого пересмотра очевидна.

Эрик Декстер в своей книге «Машины создания. Грядущая эра нанатехнологий» [31] отмечает: «Определенные виды репликаторов и систем ИИ могут столкнуть нас с формами технических средств, способных к быстрому эффективному независимому действию. Но новизна этой угрозы, происходящей от самих машин, не должна скрывать от нашего взора более традиционную опасность. Репликаторы и системы ИИ могут также служить великолепными машинами власти, если ими свободно завладеют суверенные государства.»

В каком же направлении необходимо повернуть координатную ось этики?

Нам кажется, что «Всеобщая декларация прав человека» должна быть дополнена, принятой на столь же высоком уровне «Всеобщей декларацией обязанностей человека». Права и обязанности - тот тандем, который, будем надеяться, позволит человеку пройти через «игольное ушко» технологической сингулярности.