2. Нейронные сети

2. Нейронные сети

Когдая поступил в Калифорнийский Университет в Беркли в январе 1986, первым, что я сделал, было собрание истории теорий интеллекта и функций мозга. Я прочел сотни статей анатомов, физиологов, философов, лингвистов, компьютерщиков и психологов. Множество людей из множества областей широко описали мышление и интеллект. В каждой область науки был свой набор журналов и в каждой использовалась своя терминология. Я нашел их описания неподходящими и неполными. Лингвисты говорили об интеллекте в терминах «синтаксис» и «семантика». Для них мозг и интеллект существовали только как язык. Специалисты по зрению ссылались на 2-мерные, 2.5-мерные, 3-хмерные модели. Для них мозг и интеллект существовали только как визуальное распознавание паттернов. Компьютерщики говорили про схемы и фреймы, новые термины, которые они придумали для представления данных. Никто из этих людей не говорил про структуру мозга и про то, как бы в нем укладывалась любая из их теорий. С другой стороны, анатомы и нейрофизиологи широко описали о структуре мозга и о том, как ведут себя нейроны, но они в большинстве своем избегали любых попыток построить крупномасштабную теорию. Было сложно и тщетно пытаться ухватить смысл этих разнообразных подходов и гор экспериментальных данных, сопровождающих их.

Примерно в это же время на сцену вышел новый обещающий подход к интеллекту. Нейронные сети существовали еще с конца 60-х в той или иной форме, но нейронные сети и движение ИИ были конкурентами, и за деньги и за умы агентов, занимающихся вложениями в исследования. Исследователи нейронных сетей существенно игнорировались исследовательскими фондами в течение нескольких лет. Тем не менее, немногие продолжали задумываться о них, и к середине 80-х они окончательно добились места под солнцем. Сложно сказать точно, откуда взялся неожиданный интерес к нейронным сетям, но несомненно одним содействующим фактором стали продолжительные неудачи в искусственном интеллекте. Люди прогнозировали насчет альтернатив к ИИ и нашли одну в искусственных нейронных сетях.

Нейронные сети были подлинным улучшением после ИИ-подхода, потому что их архитектура базируется, хотя и очень слабо, на реальных нейронных сетях. Вместо программирования компьютеров, исследователи нейронных сетей, известные также как коннекционисты, интересовались изучением того, какое поведение может быть продемонстрировано связыванием группы нейронов вместе. Мозг состоит из нейронов; таким образом, мозг — это нейронная сеть. Это факт. Надежда коннекционистов была в том, что эфемерные свойства интеллекта могли бы проясниться изучением того, как нейроны взаимодействуют, и некоторые из проблем, которые не решались с помощью ИИ, могли бы быть решены репликацией соответствующего соединения между популяциями нейронов. Нейронные сети отличаются от компьютера тем, что в них нет процессора, и они не хранят информацию в централизованной памяти. Знания и память сети распределены по ее соединениям — прямо как в реальном мозге.

На первый взгляд, нейронные сети казались наилучшим приложением моих интересов. Но я быстро развеял свои иллюзии в этой области. За это время у меня сформировалось мнение, что три вещи были существенными для понимания мозга. Первым моим критерием было включение времени в функции мозга. Реальный мозг быстро обрабатывает потоки информации. Нет ничего статического в потоках информации, поступающих в мозг и из мозга.

Вторым критерием была важность обратных связей. Нейроанатомы давно осведомлены о том, что мозг насыщен обратными связями. Например, в контуре между неокортексом и нижележащей структурой, называемой таламусом, количество соединений, идущих обратно (в сторону входа) превышает количество идущих в прямом направлении более чем в десять раз! То есть, на каждое волокно, передающее информацию в направлении неокортекса приходится десять волокон, передающих информацию в направлении органов чувств. Обратные связи преобладают также и в большинстве соединений внутри неокортекса. Никто не понял конкретную роль этих обратных связей, но из опубликованных исследований ясно, что они есть везде. Я полагаю, что это должно быть важным.

Третьим критерием было то, что теория или модель мозга должна учитывать физическую архитектуру мозга. Неокортекс не является простой структурой. Как мы увидим далее, он организован как повторяющаяся иерархия. Ни одна нейронная сеть, не обладающая такой структурой, определенно не будет работать как мозг.

Но как только феномен нейронных сетей покинул сцену, ее занял класс очень простых моделей, которые не удовлетворяли ни одному из этих критериев. Большинство нейронных сетей состоят из небольшого количества нейронов, соединенных в три слоя. Паттерн (вход) подается на первый слой. Эти входные нейроны соединены со следующим слоем нейронов, так называемым скрытым слоем. Скрытый слой затем соединяется с последним слоем нейронов, выходным. Соединения между нейронами имеют различный вес, подразумевая, что активность одного нейрона может усиливать активность другого нейрона и ослаблять активность третьего в зависимости от веса соединения. Изменяя эти веса, нейронная сеть обучается отображать входные паттерны на выходные.

Такие простые нейронные сети обрабатывали только статические паттерны, не использовали обратных связей и не были чем-то похожим на мозг. Наиболее общий тип нейронных сетей, называемых сетями «обратного распространения», обучались путем распространения ошибки от выходных слоев обратно к входным. Вы могли бы подумать, что это одна из форм обратной связи, но это не так. Обратное распространение ошибки возникало только во время фазы обучения. Когда нейронная сеть работала в обычном режиме после того, как она была обучена, информация распространялась только в одну сторону. От выходов к входам не было обратных связей. И у этих моделей не было времени. Статический входной паттерн преобразовывался в статический выходной. Затем подставлялся другой входной паттерн. В сети не было какой либо истории или записей о том, что происходило даже чуть раньше. И наконец архитектура этих нейронных сетей была тривиальной по сравнению со сложной и иерархической структурой мозга.

Я думал, что это направление быстро перейдет к более реалистичным сетям, но этого не произошло. Поскольку эти простые нейронные сети были способны на интересные вещи, казалось, что исследования остановятся прямо там на годы. Был найден новый и интересный инструмент, и неожиданно тысячи ученых, инженеров и студентов бросились получать гранты, зарабатывать ученые степени и писать книги о нейронных сетях. Были созданы компании, использующие нейронные сети для предсказания курсов на фондовых рынках, обработки заявок на получение кредитов, проверки подписей и выполнения сотен других приложений по классификации паттернов. Хотя намерения исследователей в этой области могли бы быть более общими, эта область стала доминирующей стараниями людей, которые не были заинтересованы в понимании того, как работает мозг или что такое интеллект.

Популярная пресса не понимала различий. Газеты, журналы и телевизионные научные программы представляли нейронные сети «мозгоподобными», или работающими по тем же принципам, что и мозг. В отличие от ИИ, где все должно было быть запрограммировано, нейронные сети обучались на примерах, что казалось более интеллектуальным. Наиболее заметной демонстрацией был NetTalk. Эта нейронная сеть обучалась отображать последовательности букв в произносимые звуки. Как только сеть была обучена на печатных примерах, она начала произносить «компьютерным» голосом читаемые слова. Легко было вообразить, что чуть больше времени — и нейронная сеть начнет общаться с людьми. NetTalk была ошибочно провозглашена в национальных новостях как машина, обучающаяся чтению. NetTalk была отменной демонстрацией, но то, что она действительно делала, было тривиальным. Она не читала, она не понимала и не имела большого практического значения. Она просто сопоставляла подходящие паттерны букв предопределенным звуковым паттернам.

Позвольте привести вам аналогию, чтоб показать, как далеки были нейронные сети от реального мозга. Вообразите, что вместо того, чтоб пытаться понять, как работает мозг, мы попытаемся понять, как работает цифровая вычислительная машина. Через годы изучения мы откроем, что все в компьютере состоит из транзисторов. В компьютере есть сотни миллионов транзисторов и они соединены между собой определенным сложным образом. Но мы не понимаем, как работает компьютер или почему транзисторы соединены именно так. Итак, однажды мы решаем соединить всего лишь несколько транзисторов, чтоб увидеть, что происходит. Вот смотрите, мы обнаружили, что несколько транзисторов, когда соединяются вместе определенным образом, становятся усилителем! Слабый сигнал, поданный на один конец, усиливается на другом конце (подобным образом делают усилители в радиоприемниках и телевизорах). Это важное открытие, и немедленно вырастает индустрия, выпускающая транзисторные радиоприемники, телевизоры и другие электронные приборы на транзисторных усилителях. Все это хорошо, но это ничего не говорит нам о том, как работает компьютер. Хотя и усилитель и компьютер сделаны из транзисторов, они не имеют почти ничего общего. Точно так же и реальный мозг и трехслойная нейронная сеть построены из нейронов, но не имеют почти ничего общего.

Летом 1987 я получил опыт, который еще больше охладил мой и так невысокий энтузиазм относительно нейронных сетей. Я пришел на конференцию по нейронным сетям, где я увидел презентацию, устроенную компанией, называемой Nestor. Nestor пыталась продать приложение на нейронной сети для распознавания рукописных символов на подложке. Она предлагала лицензию на программу за один миллион долларов. Это привлекло мое внимание. Хотя Nestor провела улучшение алгоритма ее нейронной сети и рекламировала ее как еще один большой прорыв, я чувствовал, что проблема распознавания рукописных символов могла бы быть решена более простым, более традиционным путем. Я пришел домой той ночью, размышляя о проблеме, и за два дня разработал распознаватель рукописных символов который был быстрым, маленьким и гибким. Мое решение не использовало нейронную сеть и оно работало совершенно не так, как мозг. Хотя эта конференция разожгла мой интерес в разработке компьютеров со стилусом (в конечном счете приведший к проекту PalmPilot десять лет спустя), это также убедило меня, что нейронные сети были не таким уж большим улучшением по сравнению с традиционными методами. Распознаватель рукописных символов, который я создал, пригодился в конечном счете для системы текстового ввода, названной Graffiti, использованной в первых сериях продукции Palm. Я думаю, компания Nestor ушла из бизнеса.

Слишком много для простых нейронных сетей. Большинство их возможностей легко воспроизводились другими методами и в итоге шумиха в СМИ спала. Наконец, исследователи нейронных сетей перестали объявлять свои модели интеллектуальными. Ведь это были очень простые нейронные сети и делали гораздо меньше, чем ИИ-программы. Я не хочу оставить у вас впечатление, что все нейронные сети являются простыми трехслойными. Некоторые исследователи продолжали изучать нейронные сети различных конфигураций. Сегодня термин нейронные сети используется для описания различных множеств моделей, некоторые из них являются биологически более точными, некоторые — нет. Но почти ни одна из них не является попыткой охватить полностью функции или архитектуру неокортекса.

По моему мнению, большинство фундаментальных проблем с большинством нейронных сетей — это особенности, которые они разделяют с ИИ-программами. И те и другие обременены тем, что фокусируются на поведении. Называют ли они это поведение «ответами», «паттернами» или «выходными данными», и ИИ и нейронные сети полагают, что интеллект заключается в поведении, которое программа или нейронная сеть демонстрирует после обработки заданных входных данных. Наиболее важным атрибутом компьютерной программы или нейронной сети является то, выдает ли она правильные или желаемые результаты. Как навязано Аланом Тьюрингом, интеллект эквивалентен поведению.

Но суть интеллекта не только в действии или интеллектуальном поведении. Поведение — это проявление интеллекта, но не центральная характеристика или первичное определение интеллекта. Рефлексия доказывает это: вы можете быть интеллектуальным просто лежа в темноте, размышляя и понимая. Игнорирование того, что происходит в вашей голове и фокусирование вместо этого на поведении было большой преградой на пути понимания интеллекта и построения интеллектуальных машин.

* * *

Прежде, чем мы исследуем новое определение интеллекта, я хочу рассказать вам о других коннекционистских подходах, которые подошли гораздо ближе к описанию того, как работает мозг. Проблема в том, что слишком мало людей, кажется, осознали важность этих исследований.

Тогда как нейронные сети привлекли основное внимание, небольшая отколовшаяся группа теоретиков по нейронным сетям строила сети, которые не фокусировались на поведении. Названные самоассоциативной памятью, они были также построены из простых «нейронов», которые были соединены друг с другом и возбуждались, когда достигали определенного порога. Но они были соединены по-другому, с использованием большого количества обратных связей. Вместо того, чтоб передавать информацию только вперед, самоассоциативная память возвращала свои выходные данные на вход — что-то вроде того, как если б вы звонили самому себе по телефону. Эти циклы на обратных связях привели к некоторым интересным свойствам. Когда паттерн активности был приложен к искусственным нейронам, они формировали память на этот паттерн. Самоассоциативные сети ассоциировали паттерны с самими собой, отсюда термин самоассоциативная память.

Результаты такой записи на первый взгляд кажутся нелепыми. Чтоб выбрать паттерн, хранящийся в такой памяти, вы должны задать паттерн, который хотите выбрать. Это все равно, что вы пойдете к торговцу и попросите связку бананов. Когда торговец спросит вас, как вы собираетесь расплачиваться, вы скажете, что будете платить бананами. Вы можете спросить: «Какой в этом смысл?». Но автоассоциативная память обладает несколькими важными свойствами, которые обнаружены в реальном мозге.

Наиболее важным свойством является то, что вам не обязательно иметь целиком тот паттерн, который вы хотите выбрать. У вас может быть только часть паттерна, или у вас может быть немного искаженный паттерн. Самоассоциативная память может выбрать корректный паттерн, такой, каким он был сохранен изначально, даже если вы начали с искаженной версии. Это все равно, что вы придете к торговцу с наполовину съеденными коричневыми бананами и получите целые зеленые бананы назад. Или придете в банк с порванной и нечитаемой банкнотой, а кассир вам скажет: «я думаю, это испорченная 100-долларовая купюра, дайте ее мне, а я вам дам новую хрустящую 100-долларовую купюру».

Второе свойство, отличное от других нейронных сетей, это то, что самоассоциативная память может быть спроектирована для хранения последовательностей паттернов, или временных паттернов. Это свойство достигается добавлением временных задержек к обратным связям. С такими задержками вы можете подать на автоассоциативную память последовательность паттернов, похожих на мелодию, и она может вспомнить всю последовательность. Я мог бы подать несколько первых нот «В лесу родилась елочка» и память вернула бы песню целиком. Когда подставляется часть последовательности, память может вспомнить оставшуюся часть. Как мы увидим далее, люди обучаются практически любым вещам, как последовательностям паттернов. Я предполагаю, что мозг использует контуры, аналогично тому, как это делает автоассоциативная память.

Автоассоциативные воспоминания указывают на потенциальную важность обратных связей для входных данных, изменяющихся во времени. Но подавляющее большинство ученых в области ИИ, нейронных сетей, и познания игнорируют время и обратные связи.

Ученые в области нейронаук в целом не улучшили ситуацию. Они также осведомлены об обратных связях — они были теми, кто их открыл — но у большинства из них нет теории (не дальше неопределенных разговоров о «фазах» и «модуляциях»), объясняющей, для чего они нужны мозгу в таком большом количестве. А время занимает небольшую или не центральную роль в большинстве их идей о функционировании мозга в целом. Они намерены отобразить мозг в терминах того, где происходят вещи, но не когда или как паттерны возбуждения взаимодействуют во времени. Частично это предубеждение исходит из ограниченности нашей экспериментальной аппаратуры. Одна из предпочитаемых технологий декады 90-х, известной как Декада Мозга, это функциональное отображение. Аппараты функционального отображения могут получать картины мозговой активности человека. Однако они не способны отслеживать быстрые изменения. Исследователь просит испытуемого сконцентрироваться на одной задаче снова и снова, так же как если бы фотограф просил его оставаться неподвижными, только это ментальный фотограф. Результатом является множество данных о том, где возникает определенные задачи в мозгу, но очень мало данных о том, как действительно потоки данных протекают через мозг. Функциональное отображение дает возможность узнать, где что-то происходит в заданный момент, но не может ухватить, как активность мозга меняется во времени. Ученые хотели бы получить такие данные, но практически нет аппаратуры для этого. Таким образом большинство ученых в области когнитивных нейронаук попадаться на удочку парадигмы ввода-вывода. Вы подставляете фиксированные входные данные и видите, какие получились выходные. Диаграммы связей коры головного мозга имеют тенденцию отображать блок-схему, которая начинается в первичных сенсорных областях, куда сходятся зрение, слух и осязание, затем проходят в высшие аналитические отделы, отделы планирования и в моторные области и затем передают указания мускулам. Сначала вы чувствуете, затем действуете.

Я не хочу намекать, что все игнорировали время и обратные связи. Это настолько большое поле деятельности, что виртуально у каждой идеи есть свои приверженцы. В последние годы вера в важность обратных связей, времени и предсказания последовательностей находится на подъеме. Но грохот ИИ и классических нейронных сетей заглушил другие подходы и недооцененными на многие годы.

* * *

Несложно понять, почему люди — дилетанты и специалисты — считали, что интеллект определяется поведением. Несколько сотен лет люди соотносили способности мозга с часовым механизмом, с насосами и трубами, затем с паровой машиной и, в последнее время, с компьютером. Десятилетия научной фантастики плавали в идеях ИИ, от трех законов робототехники Айзека Азимова до C3PO из Звездных Войн. Идея интеллектуальных машин укоренилась в нашем воображении. Все машины, сделанные людьми или воображаемые, предназначены для того, чтоб что-то делать. У нас нет машин, которые думают, у нас есть машины, которые делают. Даже когда мы наблюдаем за людьми, мы фокусируемся на их поведении, а не на их скрытых мыслях. Следовательно, интуитивно кажется очевидным, что интеллектуальное поведение должно быть метрикой интеллектуальной системы.

Однако, смотря на историю науки, мы увидим, что наша интуиция часто является громадным препятствием на пути к истине. Система научных взглядов трудна для понимания, не потому что она сложная, а потому что интуитивные но некорректные предположения удерживают нас от того, чтоб увидеть правильный ответ. Астрономы до Коперника (1472–1543) ошибочно предполагали, что земля покоится в центре вселенной, потому что она ощущается, как неподвижная и кажется, что является центром вселенной. Было интуитивно очевидным, что все звезды являются частью гигантской вращающейся сферы, а мы находимся в ее центре. Чтобы предположить, что Земля вращается, что ее поверхность движется со скоростью около тысячи миль в час, и что Земля несется сквозь пространство — не говоря уж о том, что звезды удалены на триллионы миль — вы должны представить себя в качестве лунатика. Но это обернулось корректной системой взглядов. Простой для понимания, но интуитивно некорректной.

До Дарвина (1809–1882), казалось очевидным, что все виды животных неизменны в их форме. Крокодил не скрещивается с колибри; они различны и несовместимы. Идея о эволюции видов пришла в противоречие не только с религиозными учениями, но и со здравым смыслом. Эволюция предполагает, что у нас один общий предок со всеми живыми организмами на этой планете, включая червей и домашние растения на вашей кухне. Сейчас мы знаем, что это правда, но интуиция говорит обратное.

Я упомянул эти известные примеры, потому что я уверен, что поиски интеллектуальных машин были обременены интуитивными предположениями, которые препятствуют нашему прогрессу. Когда вы спросите себя, «Чем занимается интеллектуальная система?», интуитивно очевидно размышлять в терминах поведения. Мы демонстрируем человеческий интеллект посредством речи, письменности, действий, верно? Да, но только с одной точки зрения. Интеллект — это что-то, что происходит в вашей голове. Поведение — это только дополнительный ингредиент. Это не является интуитивно очевидным, но не сложно для понимания.

* * *

Весной 1986 года, как только я сел за мой стол после целого дня чтения научной литературы, написания истории интеллекта, и рассмотрения эволюции ИИ и нейронных сетей, я оказался за обдумыванием деталей. Был нескончаемый поток вещей, которые надо было изучить и прочитать, но я не достиг какого либо прояснения в понимании того, как действительно мозг работает в целом, или даже что он делает. Так было потому, что область нейронаук погрязла в деталях. И это до сих пор так. Каждый год публикуются тысячи исследовательских отчетов, но они тяготеют к добавлению новых данных в кучу, вместо того, чтоб организовать их. До сих пор нет общей теории, нет системы взглядов, объясняющей, что ваш мозг делает и как он это делает.

Я начал воображать, на что должно быть похоже решение этой проблемы. Должно ли оно быть крайне сложным из-за сложности мозга? Должно ли оно занять сотни страниц сплошной математики для того, чтобы описать работу мозга? Должны ли мы отобразить сотни или тысячи отдельных контуров, прежде чем мы сможем понять что-то полезное? Я так не думаю. История показывает, что лучшие решения научных проблем просты и элегантны. Тогда как детали забываются и дорога к конечной теории может быть трудной, конечная концептуальная модель в общем проста.

Без глубинного объяснения того, в каком направлении вести исследования, ученым в области нейронаук не следует больше продолжать пытаться объединить все имеющиеся детали в согласованную картину. Мозг невероятно сложный, обширный и устрашающий клубок нервных клеток. На первый взгляд он похож на стадион, полный приготовленных спагетти. Так же его можно описать, как кошмар электрика. Но при более близком и аккуратном рассмотрении мы увидим, что мозг — не беспорядочная куча. В нем много структурной организации — но слишком много для того, чтоб можно было надеяться постичь интуитивно его работу как целого, точно также мы могли бы увидеть, как осколки разбитой вазы собираются обратно вместе. Наша неудача не от недостатка данных или даже правильной части данных; все что нам нужно — это смена перспективы. С правильной моделью детали станут значимыми и управляемыми. Рассмотрим следующую причудливую аналогию, чтоб ухватить суть того, что я имею в виду.

Вообразите, что тысячелетия спустя человечество пришло к своему закату, и исследователи из удаленных внеземных цивилизаций приземляются на Землю. Они хотят понять, как мы жили. В особенности они озадачены сетью наших дорог. Для чего эти причудливые искусные структуры? Они начинают классифицировать все, и со спутников и с земли. Они дотошные археологи. Они записывают расположение каждого случайного фрагмента асфальта, каждый дорожный указатель, который опрокинулся и был унесен под откос эрозией, любую деталь, которую им удается найти. Они замечают, что некоторые дорожные сети отличаются от других; в некоторых местах они ветреные, узкие и в основном случайно ориентированные, в других — в виде красивой периодической сетки, в некоторых участках они становятся плотными и идут на сотни миль через пустыню. Они собирают горы деталей, но эти детали ничего не значат для них. Они продолжают собирать еще больше деталей в надежде найти какие-то новые данные, которые объяснят все. Они остаются в тупике надолго.

Это только до тех пор, пока они не скажет, «Эврика! Мне кажется, я вижу… эти создания не могли телепортировать сами себя, как можем мы. Они вынуждены были путешествовать с места на место, возможно на мобильных платформах хитрой конструкции». С этой точки зрения многие детали становятся на свои места. Маленькие извилистые сети улиц остались с ранних времен, когда средства передвижения были очень медленными. Широкие длинные дороги были сделаны для путешествий на длинные дистанции на высоких скоростях, предполагается, наконец, объяснение, для чего на знаках были нарисованы различные числа. Ученые начинают отличать жилые зоны от индустриальных, понимать способы, которыми могли бы взаимодействовать коммерческие и транспортные инфраструктуры, и т. д. Множество деталей, которые они каталогизировали, оказались не совсем существенными, просто из-за катастроф или требований местной географии. Остается то же самое количество сырых данных, но они больше не представляют из себя головоломку.

Мы можем быть уверены, что прорыв подобного рода позволит нам понять, к чему относятся все детали мозга.

* * *

К несчастью, не все верят, что мы можем понять, как работает мозг. Впечатляющее количество людей, включая некоторых нейрофизиологов, верят, что так или иначе мозг и интеллект находятся за пределами объяснимого. А некоторые верят, что даже если мы сможем понять их, будет невозможно построить машину, которая будет работать подобным образом, что интеллект требует человеческого тела, нейронов и, возможно, каких-то новых и непостижимых законов физики. Когда я слышу подобные аргументы, я представляю мудрецов из прошлого, которые выступали против изучения небес или против вскрытия трупов, чтоб увидеть, как работают наши тела. «Не утруждайте себя изучением этого, это не приведет ни к чему хорошему, и даже если вы сможете понять, как это работает, мы ничего не сможем сделать с этими знаниями». Аргументы, подобные этим, ведут нас к направлению философии, называемому функционализмом, нашей последней остановке в краткой истории наших размышлений над мышлением.

Согласно функционализму, интеллект или разум безоговорочно является свойством организации, и по сути неважно, организации чего именно. Разум существует в любой системе, чьи составляющие части имеют правильные причинные отношения друг с другом, но эти части могут быть нейронами, силиконовыми чипами или чем-нибудь еще. Ясно, что эта точка зрения — стандартный выход для любого потенциального проектировщика интеллектуальных машин.

Рассмотрим ситуацию: будет ли игра в шахматы менее реальной, если при игре в нее вместо коней поставить солонки? Ясно, что нет. Солонка функционально эквивалентна «реальному» коню по тому, как она двигается по доске и взаимодействует с другими фигурами, таким образом это будет действительно игра в шахматы, а не просто их симуляция. Или, например, будет ли эта фраза той же самой, если я пройдусь по ней курсором, удаляя каждый символ, потом заново его печатая? Или возьмем пример ближе к сути, рассмотрим тот факт, что каждые несколько лет ваше тело замещает большинство составляющих его атомов. Несмотря на это, вы остаетесь самим собой во всех смыслах, которые касаются вас. Один атом ни чем не хуже другого, если он играет ту же функциональную роль в вашей молекулярной структуре. Та же самая история должна относиться и к мозгу: если какой-то сумасшедший ученый решит заместить каждый ваш нейрон функционально эквивалентным микроскопическим машинным заменителем, вы должны уйти с процедуры, чувствуя себя не менее тем же самым, каким вы были вначале.

Следуя этому принципу, искусственная система, использующая ту же самую функциональную архитектуру, что и интеллектуальный живой мозг, должна быть точно так же интеллектуальной — и не просто с какими то натяжками, а действительно, истинно интеллектуальной.

Сторонники ИИ, коннекционисты и Я — мы все функционалисты, до тех пор, пока мы верим, что по существу нет ничего специального или магического в мозгу, что делает его интеллектуальным. Все мы верим, что мы способны построить интеллектуальные машины как-нибудь и когда-нибудь. Но есть различные интерпретации функционализма. Тогда как я утверждаю, что я вижу центральную неудачу ИИ и коннекционистской парадигмы — ошибочность подхода «ввод-вывод» — есть более ценное высказывание насчет того, почему мы еще не способны разработать интеллектуальную машину. Пока сторонники ИИ принимают то, что я рассматриваю как бескомпромиссное обречение на провал, коннекционисты, с моей точки зрения, в основном всего лишь застенчивы.

ИИ-исследователи спрашивают, «Почему мы, инженеры, должны быть ограничены решениями, на которые наткнулась эволюция?». В принципе, в этом есть свой резон. Биологические системы, подобные мозгу и генетическому аппарату, печально известны своей неэлегантностью. Общей метафорой является машина Руба Голдберга, названная так после «великой депрессии» карикатуристами, которые нарисовали комически сверхсложное приспособление для выполнения тривиальных задач. У разработчиков ПО есть подобный термин, клудж, для обозначения программ, которые написаны без предусмотрительности и наполнены обременительной, ненужной сложностью, часто приводящей к тому, что программа становится непонятной даже программисту, написавшему ее. Исследователи ИИ боятся, что аналогично и мозг — беспорядочный несколько-сот-миллионолетний клудж, битком набитый неэффективным и эволюционным «наследственным кодом». Если так, удивляются они, почему бы просто не выбросить без сожаления эту кутерьму и не начать с нуля?

Большинство философов и когнитивных психологов благожелательны к этой точке зрения. Им нравится метафора разума, как программы, которая работает в мозгу, органическом аналоге компьютера. В компьютере аппаратный и программный уровни четко разделяются друг от друга. Одна и та же программа может выполняться на любой Универсальной Машине Тьюринга. Вы можете запустить WordPerfect на PC, Макинтоше, или на суперкомпьютере Cray, например, даже если все три системы имеют различные аппаратные конфигурации. И аппаратура не имеет никакого значения для вашего обучения, если вы пытаетесь изучить WordPerfect. По аналогии, следует мысль, мозг не может научить нас чему либо о разуме.

Защитники ИИ также любят указывать на исторические ситуации, в которых инженерные решения радикально отличались от природных версий. Например, как мы преуспели в построении летающих машин? Имитацией махательных движений у крылатых животных? Нет. Мы сделали это с помощью фиксированных крыльев и пропеллеров, а затем — с помощью реактивных двигателей. Это не так, как сделано в природе, но это работает — и работает гораздо лучше, чем машущие крылья.

Аналогично, мы сделали наземные транспортные средства, которые могут обогнать гепарда, не изготовлением четырехногих гепардоподобных бегающих машин, а изобретением колеса. Колеса — великолепный способ передвигаться по плоской местности, и то, что эволюция не наткнулась на эту определенную стратегию, не значит, что это блестящий путь для нас, чтоб обойти ее. Некоторые философы разума приняли расположение к метафоре «когнитивных колес», то есть, ИИ-решению некоторых проблем, которое хотя полностью отличается от того, что делает мозг, делает это действительно хорошо. Другими словами, программа, которая воспроизводит выходные данные, подобные (или превосходящие) человеческие решения задач каким то узким, но полезным способом, действительно хороший путь делать то, что делает мозг.

Я верю, что этот род интерпретаций функционализма — цель оправдывает средства — ведет ИИ исследователей в сторону. Как показал Серл в своей Китайской Комнате, эквивалентности поведения не достаточно. Поскольку интеллект внутреннее свойство мозга, мы должны смотреть внутрь мозга, чтоб понять, что такое интеллект. В наших исследованиях мозга, и в особенности неокортекса, нам необходимо быть осторожными в понимании того, какие детали всего лишь избыточная «замороженная случайность» эволюционного прошлого; несомненно, множество процессов в стиле Руба Голдберга перемешаны с важными свойствами. Но, как мы скоро увидим, там скрыта элегантность и великая мощь, опережающая наши лучшие компьютеры, ожидая, пока мы ее извлечем из нейронных цепей.

Коннекционисты интуитивно чувствовали, что мозг не просто компьютер, и что его секрет лежит в том, как ведут себя нейроны, соединенные вместе. Это было хорошим началом, но эта область лишь немного сдвинулась от своих ранних успехов. Хотя тысячи людей работали с трехслойными сетями, и многие продолжают, исследования над биологически-реалистичными нейронными сетями были и остаются редкими.

За половину столетия мы вкладывали все усилия чтобы попытаться запрограммировать интеллект в компьютерах. По пути мы пришли к текстовым процессорам, базам данных, видеоиграм, Интернету, мобильным телефонам и анимировали динозавров на компьютере. Но интеллектуальных машин до сих пор нигде не видать. Чтоб добиться успеха, мы должны будем достаточно основательно подглядеть у природного механизма интеллекта, у неокортекса. Мы должны выделить интеллект из мозга. Другой дороги у нас не будет.