Имитационные игры — быть или казаться?

Имитационные игры — быть или казаться?

В современном понимании главным для всех направлений развития искусственного интеллекта является его способность извлекать информацию из окружающей среды и использовать ее для "самообучения", по сути дела перепрограммирования, с целью выбора оптимальной стратегии действий. Этот вопрос был разобран в нашей предыдущей статье. Важно отметить, что "окружающей средой" для искусственного интеллекта является то, что он может воспринимать с помощью своих рецепторов-сенсоров, поэтому, в зависимости от типа задач и назначения, ей может являться как обычная реальность, так и некоторая абстрактная среда с формализованными правилами поведения и законами.

Можно выделить несколько основных направлений современных разработок систем искусственного интеллекта. Среди них широко известны программы, предназначенные для ведения абстрактных игр — в частности, для игры в шахматы. Крупным успехом этого направления явилась победа компьютера IBM "Deep Blue", обыгравшего чемпиона мира Гарри Каспарова в 1997 году. Очевидно, что "окружающая среда" для "Deep Blue" ограничена 64 клетками шахматной доски. Однако на этом поле он достиг превосходных результатов.

Практически более важными являются машины, берущие на себя интеллектуальные функции человека-оператора при управлении сложными системами. Подобных систем достаточно много: это и военные разработки, включающие в себя прогнозирование действий противника, сравнительную оценку важности и опасности целей и наведения оружия; комплексы управления сложными производствами и энергетическими системами; исследовательские аппараты для дальнего космоса, где непосредственное управление наземным оператором становится неэффективным ввиду значительной временной задержки сигнала; программы прогнозирования и выбора стратегии действий в экономических и социальных системах — например, "идеальный брокер", играющий на бирже, — и многие другие.

Но человеческое сознание обычно в большей мере поражают не сложные, действительно по-своему интеллектуальные системы, а устройства для имитации внешнего вида и действий человека, хотя они пока еще являются скорее игрушками, чем прототипами реальных машин.

Вообще, машинная имитация действий, свойственных исключительно человеку, имеет многовековую историю, начиная со средневекового "шахматного автомата", где рукой манекена двигал игрок, спрятанный под столиком и наблюдавший за доской через систему зеркал.

Последние достижения "киберимитаторов" человека выглядят впечатляюще и затрагивают почти все виды специфической человеческой деятельности — от ее глубинных творческих проявлений до чисто внешних. В качестве примера можно привести программу EMI, "написавшую" 42-ю симфонию Моцарта в соавторстве с Дэвидом Коупом (David Cope), исполненную в концертном зале Университета Калифорнии в Санта-Круз. (Напомню, что последняя (41-я) симфония была написана Моцартом более 200 лет назад.) По крайней мере, никто из экспертов не мог абсолютно уверенно сказать, что "это — не Моцарт". На ежегодной встрече Американской ассоциации ученых, работающих в области искусственного интеллекта, в Орландо (Флорида) всеобщее внимание привлек к себе неожиданный участник — Office Boy 2000. Это цилиндрическое устройство на колесиках прогуливалось по холлу отеля и приставало к "коллегам" с многочисленными вопросами, суетилось и выражало свои эмоции беспорядочными восклицаниями. Однако по внешнему виду, его, конечно, нельзя было спутать с прочими участниками.

Результатом одной из наиболее известных программ имитации внешности и мимики человека явилась зеленоволосая девушка с экзотическим именем Ананова (Ananova — это не фамилия, ударение на "о"). Хотя, конечно, она не "вникает" в содержание зачитываемых сообщений, а действует по заложенному сценарию.

Очевидно, что недалек тот момент, когда автономное и ориентирующееся в окружающей среде лучше, чем Office Boy, более реалистичное, чем Ananova, и не только комбинирующее фрагменты, как EMI, а способное к реальному творчеству существо встретится вам если не на улице, то по крайней мере на какой-нибудь выставке.

Граница между "кажущимися" интеллектуальными системами и устройствами или существами, реально являющимися таковыми, размыта и неопределенна. Попытку определить, что здесь что, наверное, можно осуществить только в реальном взаимодействии "испытуемого" с внешней средой или хотя бы одним единственным человеком.

В 1950 году английский математик Тьюринг определил условия имитационной игры, позволяющей выяснить, является или нет автоматическое устройство искусственным интеллектом, по его способности пройти "тест Тьюринга".

Представьте себе оператора-экспериментатора, соединенного двумя терминалами с машиной и другим человеком. Причем наш экспериментатор не знает, кто из них есть тестируемый искусственный интеллект, а кто — человек. Его "человеческий" партнер должен по возможности честно отвечать на вопросы, задаваемые оператором, а машина имеет право и обязана "обманывать", стараясь доказать, что именно она и есть человек. Если ей это удается, то ее следует признать достаточно развитым искусственным интеллектом. За прошедшие десятилетия этот тест ставился неоднократно во многих исследовательских центрах. Машине удавалось достичь успеха только в случае жестко ограниченных областей и тематик "допросов". Сейчас это выглядит несколько наивным, но в 60-е годы подобные эксперименты являлись поводом для многих спекуляций и сенсационных заявлений.

Надо сказать, что Тьюринг описывает свой тест применительно к конкретной "бумажной" машине, основа концепции которой была сформулирована еще в 30-е годы. Тогда это был лишь абстрактный "мысленный эксперимент". Развитие технологии делает его предположения об устройстве, способном не только выполнять последовательность операций, записанных на бумажной ленте, но и вносить на нее новые записи, то есть перепрограммироваться и, таким образом, "самообучаться", наивными технологически, но не примитивными концептуально. Собственно, принцип действия "Машины Тьюринга", работающей "по правилам", лег в основу создания алгоритмических языков, да и самого понятия алгоритма. А концепция Всемирной Машины Тьюринга, способной использовать записи любой другой машины Тьюринга, определила принципы совместимости и взаимодействия электронных устройств. Главным ограничением Машины являлось то, что она могла находиться только в конечном количестве логических состояний в "Мире Тьюринга", причем занимать не более одного из них в каждый отдельный момент времени.

Тьюринг полагал, что машина будет способна когда-нибудь расширить свой "Мир Тьюринга", состоящий из взаимоисключающих и однозначных событий, до отражения реальности и выиграть имитационную игру и, соответственно, будет признана "разумной". В своих работах он перечислил девять возможных аргументов против возможности признания машины "разумной" и если не опроверг, то по крайней мере остроумно прокомментировал их.

1. Способность к мышлению есть функция бессмертной души человека. Так как компьютеры не имеют души, компьютеры не могут думать.

Возражение. По причине собственного всемогущества, Бог может наделить компьютер душой, если Он того пожелает. Так же, как мы выращиваем своих детей для размещения душ, данных Богом, мы можем, выполняя его волю, создавать мыслящие компьютеры.

2. Ужасно, если бы механизмы могли бы сравняться с нами в способности к мышлению!

Возражение (комментарий). Это действительно было бы очень плохо (для нас)!

3. Формальная логика неопровержимо доказывает, что невозможно создать компьютер, который смог бы найти ответ на любой вопрос.

Возражение. А возможно ли найти человека, который смог бы ответить на любой вопрос? Компьютеры — не глупее, чем мы. Хотя никто не может дать ответы на все вопросы, почему бы не наделить машину способностью к самовоспроизводству и созданию в последующих поколениях все более совершенных устройств, так чтоб приближение к истине становилось сколь угодно более точным?

4. Хотя компьютеры и могут производить мысли или суждения, они не могут ощущать того, что произвели. Они не могут испытывать удовольствия от успеха, сожаления о своих ошибках и разочарования, когда не получают желаемого.

Возражение. Единственный способ убедиться, имеет ли компьютер чувства, заключается в том, чтобы стать им. Более практичен был бы эксперимент по созданию компьютера, способного поэтапно объяснить ход своих рассуждений, побуждений и указывать на препятствия, которые приходится преодолевать, — а также анализировать эмоционально насыщенную информацию — например, поэзию. Очевидно, что такая машина уже не сможет просто "казаться" мыслящей. Ей придется быть таковой.

5. Компьютер не может быть добр, находчив, дружелюбен, обладать инициативой, чувством юмора, различать правильное и неправильное, делать ошибки, влюбляться, лакомиться земляникой и побудить кого-то к этому, использовать слова должным образом и быть предметом своих собственных мыслей.

Возражение. Почему нет? Хотя такой компьютер не был пока создан, все же это возможно в будущем.

6. Компьютер никогда не сможет создать что-либо оригинальное или удивительное. Он делает только то, что заложено в программу.

Возражение. Откуда вы знаете, что так называемое "оригинальное" человеческое произведение не есть лишь росток того, что было заложено с воспитанием и образованием либо является просто применением общих принципов? И почему вы считаете, что правильный ответ компьютера на сложный вопрос, не согласующийся с грубым и ошибочным первоначальным предположением человека, не является "оригинальным" и "удивительным"?

7. Нервные клетки имеют плавную шкалу возможной электрической активности. Вы можете ощущать: "чуть-чуть", "немного", "что-то вроде", в то время как компьютер различает только два возможных логических состояния — "да" или "нет".

Возражение. Используя "генератор случайных чисел", можно заставить компьютер имитировать неустойчивое и вероятностное поведение нервной системы, так что наблюдатель не сможет заметить разницы.

8. Невозможно всю жизнь разложить на правила. Например, если правила дорожного движения требуют остановиться при красном свете и продолжать движение при зеленом, что вы будете делать, если светофор испортился и одновременно горят красный и зеленый огни? Возможно, следует добавить новое правило, предписывающее остановиться и в этом случае, но и оно не будет исчерпывать все возможные варианты. Так как поведение компьютера управляется правилами, то заведомо будут существовать ситуации, когда он окажется беспомощен или допустит ошибку.

Возражение. Хотя жизнь не исчерпывается набором правил, можно определить ряд наиболее общих принципов поведения, свойственных человеческой психике, и обучить им машину.

9. Человек обладает экстрасенсорным восприятием, а компьютер — нет.

Возражение. Возможно, что генератор случайных чисел сможет оказывать на поведение машины такое же влияние, как и экстрасенсорное восприятие на поведение человека. В крайнем случае при проведении теста можно попытаться исключить его влияние соответствующей экранировкой.

Не правда ли, сейчас, по прошествии полувека, многие из мыслей Тьюринга и его гипотетического оппонента выглядят не более чем забавными. Да и сама затея с размещением испытателя и испытуемого в изолированных комнатах с терминалами уже кажется наивной. Во-первых, машины вполне сносно воспринимают и воспроизводят устную речь и могут даже имитировать выражение эмоций на своем синтезированном "лице", а во-вторых, условия теста выполняются с буквальной точностью в любом чате или форуме, который уже стал частью реальности для многих из нас. Интернет является той искусственной средой, в которой несовершенство рецепторов искусственного интеллекта не оказывает влияния на его восприятие виртуального мира.

Конечно, тест Тьюринга не полностью отвечает современным представлениям об искусственном интеллекте. Но главное, наверное, не в наивном оптимизме Тьюринга по поводу возможностей его машины, а в тех ограничениях ее возможностей, которые он видел лучше других и которые он не привел в списке типичных возражений примитивного "антропоцентриста". В частности, он сформулировал понятие "оракула Тьюринга" (oracle), способного работать с "невычисляемыми числами" (uncomputable numbers), о котором написано только то, "что — это, очевидно, не может быть машиной". Сами же "невычисляемые числа" возникают в результате "неразрешимой" ситуации и являются причиной остановки машины Тьюринга. Именно над проблемой этих "невычисляемых чисел", которые, на современном жаргоне, способны "завешивать" систему, и работал Тьюринг на протяжении нескольких десятилетий.

Первобытные люди примерно одновременно перестали быть просто стадными животными и создали себе первую примитивную систему верований. Оракул или Бог являлся необходимым условием определенного уровня развития интеллекта — как для машины Тьюринга, так и в человеческой истории. В этом есть причинно-следственная связь, а не просто формальное совпадение. Тонкая и неуловимая грань отличает машину от человека, как, впрочем, и одного человека от другого. Машина станет чем-то большим, чем просто машиной, когда создаст себе "сверхъестественный" способ решения неразрешимых ситуаций и нахождения ответов на "невычисляемые" вопросы. Но ведь отнюдь не каждый человек способен к этому, что, впрочем, не лишает его права считаться человеком. Однако мы уже выяснили, что считаться и являться — не всегда означает одно и то же.

Главный вывод заключается в том, что создание искусственного интеллекта является закономерным этапом общего эволюционного процесса, а его "искусственность" не имеет принципиального значения. В процессе естественного отбора и соревнования искусственного и естественного интеллекта доминирующей станет именно та компонента глобального сознания, которая сможет наиболее эффективно адаптироваться к условиям окружающей среды, в том числе и различных виртуальных реальностей. Вероятно, этой компонентой будет именно кибернетическая, но она уже не будет "искусственной", так как пройдет процесс естественного отбора, и будет включать в себя все достижения биологической составляющей, открывая дорогу к реальному бессмертию индивидуальной личности с сохранением персональной памяти.

Алан Тьюринг был лаконичен, сформулировав тезис о том, что "наука — это дифференциальное уравнение, а религия — граничное условие". Важно соблюсти это "граничное условие". Сложной личности и трагической судьбе Алана Тьюринга будет посвящена следующая статья цикла.