Глава 3 Ноосфера — просто другое название внутреннего тролля

We use cookies. Read the Privacy and Cookie Policy

Глава 3

Ноосфера — просто другое название внутреннего тролля

Некоторые из выдуманных объектов кибернетического тотализма (вроде ноосферы, которая предположительно является глобальным мозгом, состоящим из мозгов всех людей, соединенных посредством Сети) мотивируют неудачные технологические построения. Так, конструкции, в центре которых лежит идея ноосферы, имеют тенденцию возбуждать внутреннего тролля, или попросту плохое в человеке.

Моральный императив создать безликую, насколько это возможно, Библию

В соответствие с новым учением мы, технологи, превращаем самих себя, планету, наш вид, вообще все во внешние устройства, подключенные к огромным вычислительным облакам. Теперь все происходит не с нами, а с огромным вычислительным объектом, который больше нас.

Коллеги, с которыми я не согласен, часто рассматривают наши дискуссии как спор между луддитом (это я-то луддит?) и будущим. Но ведь возможно более одного варианта технологического будущего, и спор должен вестись о том, как лучше выявить и как лучше поступить с теми свободами, которые у нас еще остались, а не о том, кто из нас луддит.

Некоторые утверждают, что скептики вроде меня, подвергающие сомнению единственно верный путь, похожи на высохших средневековых служителей церкви, боровшихся с печатным прессом Иоганна Гутенберга. Нас обвиняют в том, что мы боимся перемен, точно так же как средневековая церковь боялась печатного пресса. (Нам могут также заявить, что такие, как мы, репрессировали бы Галилея или Дарвина.)

Все эти критики забывают, что сам по себе печатный пресс не дает гарантии просвещенного исхода. Ренессанс был сделан руками людей, а не машинами. К примеру, сегодняшняя печатная продукция Северной Кореи — не более чем пропаганда культа личности. В печатных прессах важны авторы, а не машина.

Как только речь заходит об авторстве, Кремниевую долину охватывает непреодолимая потеря слуха. Это стало абсолютно ясным, когда Джон Апдайк и Кевин Келли в 2006 году обменялись взглядами на авторство. Кевин считает, что, когда все книги мира будут оцифрованы и доступны для поиска, а отрывки из них можно будет перемешать, они быстро станут «одной книгой» в универсальном вычислительном облаке, и что это не просто хорошо, но и является «моральным императивом».

Чтобы передать важность сохранения различий между отдельными авторами, Апдайк использовал метафору обрезов физического листа бумаги в физической книге. Это было бесполезно. Доктринеры-энтузиасты веб 2.0 лишь посчитали, что Апдайк излишне сентиментален в отношении старых технологий.

Тот подход к цифровой культуре, который я ненавижу, действительно превратит все книги в одну, как прогнозировал Кевин. Этот процесс может начаться уже в следующем десятилетии или около того. В ходе крупного «Манхэттенского проекта» оцифровывания культуры Google и другие компании сканируют библиотечные книги и помещают их в облако. Важно, что произойдет дальше. Если книги в облаке будут доступны через интерфейсы, поощряющие мэшапы фрагментов, которые скрывают контекст и авторство, останется лишь одна книга. Именно это сегодня происходит с большой долей контента; часто вы не знаете, откуда взята цитата в новостях, кто написал комментарий или снял видео. Продолжение существующего тренда сделает из нас что-то похожее на средневековую империю или Северную Корею — общество с единственной книгой.[10]

Случилось так, что «божественная» технология замены печатного станка цифровым получила серьезный толчок как раз в то время, когда в технологической культуре доминирует заслуживающая сожаления и критикуемая мной идеология. Авторство — сама идея индивидуальной точки зрения — в новой идеологии приоритетом не является.

Сегодня цифровое низведение выражения мыслей до глобального шума еще не навязывается сверху, как это можно наблюдать в случае печатных станков Северной Кореи. Вместо этого устройство программного обеспечения встраивает идеологию в те действия, которые наиболее просто осуществить в программах, получающих массовое распространение. Используя эти инструменты, люди могут писать книги, или блоги, или что угодно, но экономика бесплатного содержания, динамика толпы и владельцы агрегаторов поощряют их публиковать фрагменты вместо продуманных мнений или аргументов. Усилия авторов оцениваются так, что границы между ними стираются.

Одна коллективная книга — это совсем не то же самое, что библиотека книг, написанных личностями, которых она обанкротит. Некоторые верят, что это к лучшему; другие, включая меня, считают, что это ведет к катастрофе. Как в известной фразе из «Пожнешь бурю»: «Библия — это книга… но это не только книга». Любая отдельная, исключительная книга, даже коллективная, аккумулированная в облаке, становится жестокой, если доступна только она одна.

Редукционизм компьютерных фанатиков

Одной из первых печатных книг помимо Библии, была Hypnerotomachia Poliphili, или «Любовное борение во сне Полифила», 1499 года, иллюстрированное эротическое оккультное приключение в фантастическом архитектурном окружении. Что особенно интересно в этой книге, которая выглядит и читается как фантазия в виртуальной реальности, так это то, что в ее подходе к жизни есть нечто фундаментальное — ее взгляд на мир враждебен Церкви и Библии.

Совсем не сложно вообразить альтернативную историю, где все, что напечатано на первых станках, проходит цензуру Церкви и рассматривается как продолжение Библии. «Любовное борение» могло бы существовать в этом альтернативном мире и остаться почти таким же. «Легкие» изменения состояли бы в исключении враждебных отрывков. Книга уже не была бы настолько странной. И это изменение, даже если бы оно касалось ничтожного количества слов, оказалось бы трагическим.

Именно так произошло, когда миссионеры пытались сохранить элементы туземных культур путем поглощения собственной. К примеру, мы немного знаем о том, как звучала музыка ацтеков или инков, но лишь части, адаптированные к европейским церковным песнопениям, считались наиболее важными. Однако изюминка есть во враждебных и потому не адаптированных частях. Они — порталы в странную философию. Какая потеря — не иметь возможности услышать неадаптированную музыку Нового Света! Конечно, некоторые мелодии и ритмы выжили, но целое утеряно.

С появлением веб 2.0 с Интернетом произошло нечто вроде миссионерского редукционизма. Странность была выхолощена процессом создания шума. Отдельные веб-страницы, какими они впервые появились в начале 1990-х, еще несли отпечаток личности. MySpace сохранил часть этой персонализации, хотя уже начался процесс упорядоченного форматирования. Facebook пошел дальше, организуя людей в субъекты множественного выбора, а «Википедия» вообще пытается уничтожить различия точек зрения.

Если бы этим занимались Церковь или государство, все заговорили бы об авторитаризме, но когда виноваты технологи, их считают изобретательными, привносящими свежие идеи и всячески поощряют. Идеи, которые были бы с негодованием отвергнуты в любом другом виде, будучи представленными в технологической форме, принимаются людьми. Крайне странно слышать, как мои старые друзья из мира цифровой культуры заявляют, что они являются истинными последователями Ренессанса, не понимая, что использование компьютеров для умаления персональной экспрессии есть примитивная, реакционная деятельность независимо от того, насколько совершенны инструменты.

Отказ от идеи качества приводит к потере качества

Фрагменты человеческих усилий, наводнившие Интернет, некоторыми рассматриваются как составные части коллективного разума или ноосферы. Вот лишь отдельные термины, использующиеся для описания того, что считают новым сверхразумом, в глобальных масштабах возникающим в Сети. Некоторые люди, как Ларри Пейдж, один из соучредителей Google, ожидают, что в какой-то момент Интернет оживет, тогда как другие, типа ученого-историка Джорджа Дайсона, думают, что это уже случилось. Популярные термины, такие как «блогосфера», стали общеупотребимыми.

Модной идеей в технических кругах является то, что количество в какой-то момент не только переходит в качество, но и делает это в соответствии с принципами, которые мы уже понимаем. Часть моих коллег думает, что если сложные секретные статистические алгоритмы будут комбинировать миллион, может быть, даже миллиард фрагментарных оскорблений, то в конце концов получится мудрость, превосходящая ту, что содержится в любом хорошо продуманном эссе. Я не согласен. На ум приходит правило ранних дней информатики: мусор на входе — мусор на выходе.

Среди энтузиастов культуры веб 2.0 так много тех, кто пренебрегает идеей качества, что трудно выбрать кого-либо одного. Пожалуй, остановлюсь на мыслях энтузиаста коллективного разума Клэя Ширки о том, что существует огромный избыток познания, который ждет, чтобы его использовали.

Безусловно, все согласятся, что есть гигантское количество людей, не получивших достаточного образования. Из тех, кто хорошо образован, многие работают неполный рабочий день или неделю. Если мы хотим поговорить о нереализованном человеческом потенциале, мы также можем упомянуть множество неимущих. Расточительство человеческого потенциала просто ошеломляет. Но это не те проблемы, о которых говорит Ширки.

Он считает, что количество может превзойти качество в самовыражении человека. Вот цитата из выступления Ширки в апреле 2008 года:

«И это — еще одна характеристика избытка познания, о котором мы говорим. Он настолько велик, что даже небольшое изменение может иметь гигантские последствия. Скажем, все останется на 99 процентов неизменным, люди в 99 процентах случаев смотрят телевизор столько же, сколько и раньше, но один процент времени высвобожден для производства и раздачи результатов. Население, имеющее выход в Интернет, смотрит телевидение примерно триллион часов в год… Один процент от этого — это эквивалент 98 проектов „Википедии“ в год…»

Итак, сколько секунд спасенного от телевидения времени потребуется, чтобы воспроизвести достижения, ну, скажем, Альберта Эйнштейна? Мне кажется, даже если бы мы могли объединить Сетью всех возможных инопланетян в галактике — может быть, квадриллионы существ — и дали бы каждому несколько секунд для того, чтобы внести свой вклад в «Вики», мы не воспроизвели бы достижений даже одного среднего физика, не говоря уже о великом физике.

Отсутствие интеллектуальной скромности

Есть по крайней мере два способа верить в идею качества. Вы можете думать, что в человеческом разуме происходит нечто, не поддающееся описанию, либо полагать, что мы просто пока не понимаем этого качества разума, хотя однажды сможем понять. И то и то позволяет отличить количество от качества. Чтобы спутать количество и качество, вам придется отказаться от обеих возможностей.

Простая возможность существования чего-то невыразимого в личности заставляет многих технологов отрицать понятие качества. Они хотят жить в совершенной реальности, напоминающей компьютерную программу, в которой все понятно и нет места фундаментальным тайнам. Они отшатываются даже при намеке на потенциальную зону таинственного или неразрешимого в чьем-то мировоззрении.

Такое желание абсолютного порядка обычно приводит к расколам в делах человеческих, поэтому есть исторические причины не доверять этому желанию. Материалисты экстремистского толка уже давно полны решимости выиграть гонку у религиозных фанатиков: кто сможет причинить больше вреда большему количеству людей?

В любом случае нет свидетельств того, что количество переходит в качество в области самовыражения или достижений человека. Вместо этого, как мне кажется, имеет значение чувство фокуса, состояние ума в эффективной концентрации и смелое индивидуальное воображение, отличающееся от воображения толпы.

Конечно, я не могу описать, что именно происходит в уме, и никто не может. Мы не понимаем, как работает мозг. Мы много знаем о том, как работают части мозга, но есть фундаментальный вопрос, который полностью еще даже не сформулирован, не говоря уже об ответе на него.

Например, как работает рассудок? Или осмысление? Обычные идеи, обсуждаемые сегодня, представляют собой вариации теории, что в мозгу происходит псевдодарвиновский отбор. Мозг пробует различные мыслительные схемы, и та, которая работает лучше, закрепляется. Звучит туманно. Но нет причин, по которым эволюция по Дарвину не могла пробудить в человеческом мозгу процессы, которые вышли за пределы дарвиновской прогрессии. В то время как физически мозг есть продукт эволюции в нашем понимании, культурно мозг может быть способом трансформации эволюционировавшего разума согласно принципам, которые нельзя объяснить в терминах эволюции.

Иначе говоря, помимо селекции может существовать другая форма созидания. Я, конечно, не знаю наверняка, но мне кажется, бесполезно настаивать на том, что того, что мы уже понимаем, должно быть достаточно для объяснения того, что мы пока не понимаем.

Что меня поразило, так это отсутствие интеллектуальной скромности в сообществе информатики. Мы рады воплотить в своих разработках простые и к тому же не вполне ясные гипотезы относительно самых трудных и глубоких вопросов, стоящих перед наукой, как будто мы уже обладаем точными ответами.

Если в конечном счете окажется, что в разуме отдельного человека есть нечто, отличное от того, что может быть достигнуто ноосферой, этот «особый элемент» потенциально будет способен обладать самыми разными свойствами. Возможно, прежде чем мы в достаточной степени оценим собственный мозг, нам придется ждать научных результатов, которые появятся через пятьдесят, пятьсот или пять тысяч лет.

Или окажется, что различие всегда будет основано на принципах, которыми мы не умеем манипулировать. Это может быть связано с типами коммуникаций, уникальных для физического мозга, основанных, вероятно, на таких формах причинно-следственных связей, которые зависят от заметных и невоспроизводимых физических условий. Или это будет связано с программным обеспечением, которое может быть создано только в ходе длительной эволюции и которое нельзя будет реконструировать или испортить ни одним доступным способом. Или это окажется пугающим некоторых шансом дуализма, реальностью сознания независимо от механизма.

Суть в том, что мы не знаем. Я люблю поговорить о том, как работает мозг. Позже я поделюсь мыслями по поводу того, как использовать вычислительные метафоры, чтобы хоть чуть-чуть представить, как может происходить процесс осмысления. Но я бы не хотел, чтобы кто-то пользовался моими спекуляциями как основой для разработки инструмента, предназначенного для реальных людей. Авиационный инженер никогда не посадит пассажиров в самолет, построенный на непроверенной, спекулятивной теории, но ученые от информатики совершают подобные преступления постоянно.

Основная проблема такова: технологи слишком остро реагируют на религиозных экстремистов. Если ученый-кибернетик говорит, что мы не понимаем, как работает мозг, дает ли это право идеологу заявлять, что мы тем самым поддерживаем какую-то религию? Вот реальная опасность, но слишком громкие заявления технологов — еще большая опасность, ведь мы запутываем сами себя.

Сохранилась ли возможность избавиться от идеологии толпы в сетевых приложениях

С точки зрения разработчика, разница между сайтом социальной сети и сайтами, какими они были до появления соцсетей, совсем невелика. Вы всегда можете создать на своем сайте список ссылок на странички своих друзей, и у вас всегда есть возможность послать электронную почту своему кругу друзей, написав то, что вам кажется нужным. Все, что предлагают социальные сервисы, — побуждение пользоваться Сетью определенным способом, в соответствии с определенной философией.

Если бы кто-то захотел переосмыслить приложения социальных сетей, было бы достаточно просто занять отстраненную позицию и описать, что происходит между людьми. Людям вполне можно оставить право сообщать все, что они хотят сказать о своих отношениях, так, как они считают нужным.

Если кто-то, описывая себя, хочет использовать слова вроде «не женат / не замужем» или «ищу», никто не собирается этому мешать. Поисковые машины без труда найдут примеры этих слов. Нет никакой необходимости в навязанной официальной категории.

Если вы читаете что-то, написанное кем-то, кто использовал выражение «не замужем / не женат» в предложении собственного сочинения, вы неизбежно почувствуете первый намек на неуловимый опыт автора, нечто, чего нельзя получить из базы данных с множественным выбором. Да, для этого всем придется чуть больше постараться, но преимущества полуавтоматического описания самого себя иллюзорны. Если вы начинаете с того, что подделываете себя, рано или поздно вам придется потратить вдвое больше усилий, чтобы развеять иллюзии, если у вас вообще что-то получится.

Это пример простого способа, которым могли бы воспользоваться разработчики, чтобы казаться скромнее в своих заявлениях о понимании ими природы человека. Просвещенные разработчики оставляют возможность существования либо метафизической особости человека, либо потенциала непредвиденного процесса творчества. Такие черты не объясняются идеями вроде эволюции, которую, как мы думаем, уже можно воспроизводить в программных системах. Такого рода скромность является отличительным признаком людей, ставящих во главу угла человека.

Но не обойдется и без издержек. Принятие метафизически скромного подхода усложнило бы использование баз данных для мгновенного выбора людей, которые, скажем, эмо, одиноки и богаты. Но я не считаю это такой уж большой потерей. Поток вводящей в заблуждение информации не является ценностью.

Все зависит от того, как вы определяете себя. Человек, получающий поток отчетов о романтическом статусе группы своих друзей, должен научиться думать в терминах этого потока, если считает, что это вообще стоит читать. То есть вот вам еще один пример того, как люди способны умалять самих себя, чтобы компьютер казался точнее. Обвиняю ли я все те сотни миллионов пользователей социальных сетей в умалении самих себя с тем, чтобы успешно пользоваться сервисами? Да, именно так.

Я знаю немало людей, в основном молодых, которые гордо заявляют, что у них тысячи друзей на Facebook. Очевидно, это заявление может быть истинно только в том случае, если умалено само понятие дружбы. Настоящая дружба должна давать каждому почувствовать неожиданные странности другого. Каждый знакомый — чужак, кладезь неизученных различий в жизненном опыте, который нельзя представить или получить каким-либо способом, кроме реального общения. Идея дружбы в отфильтрованном по базам данных мире социальных сетей, очевидно, гораздо уже.

Важно также отметить схожесть между господами и слугами вычислительного облака. Управляющий хедж-фондом может делать деньги, используя вычислительную мощность облака и рассчитывая фантастические финансовые схемы, которые ставят на производные финансовые инструменты таким образом, чтобы из ниоткуда произвести фиктивные виртуальные залоги для сумасшедших рисков. Это скрытая форма подделки и в точности тот же маневр, который совершает пытающийся обосноваться в социуме подросток для сбора фантастического количества «друзей» на сервисах вроде Facebook.

Ритуально-фальшивые отношения призывают мессию, который может никогда не прийти

Но давайте предположим, будто вы не согласны с тем, что понятие дружбы умаляется, зато уверены, что можете четко различать два значения этого слова — старое и новое. Даже тогда придется помнить, что пользователь соцсетей не является их участником.

Настоящий клиент — это рекламодатель будущего, но такое создание еще не появилось. Вся уловка, вся идея поддельной дружбы есть простая наживка, выложенная владельцами облаков для привлечения гипотетических рекламодателей — назовем их мессианскими рекламодателями, — которые могут когда-нибудь появиться.

Тысячи стартапов Кремниевой долины уповают на то, что фирмы вроде Facebook собирают чрезвычайно важную информацию, называемую «социальный граф». Рекламодатель, используя эту информацию, гипотетически может целевым образом воздействовать на группу равных прямо во время того, как те формируют свои мнения о брендах, привычках и т. д.

Рассуждения примерно таковы: давление со стороны окружения является огромной силой, влияющей на поведение подростков, и подростковый выбор становится выбором жизни. Таким образом, если кому-то удастся раскрыть тайну того, как делать идеальную рекламу, пользуясь социальным графом, то рекламодатель сможет создать нужное ему давление окружения в обществе реальных людей, которые захотят покупать то, что всю свою жизнь продает рекламодатель.

Ситуация с социальными сетями напоминает скопление абсурда. Идея рекламы до сих пор еще никому не принесла денег, потому что доллар рекламодателя, оказывается, эффективнее потратить на рекламу в поисковиках и на веб-страницах. Если выручки так и нет, то странное применение идеологии «база данных как реальность» будет красить поколения по группам и романтическому опыту вовсе без цели.

С другой стороны, если выручка появится, как мы знаем из предыдущего опыта, ее влияние будет поистине негативным. Когда в прошлом Facebook попробовал превратить социальный граф в центр получения прибыли, это повлекло за собой этические катастрофы.

Знаменитый пример — Beacon, появившийся в 2007 году, неожиданно введенный сервис, от которого было непросто отказаться. Когда пользователь Facebook покупал что-либо где угодно в Интернете, это транслировалось всем его «друзьям». Мотивом была попытка упаковать давление окружения как сервис, который можно было бы продать рекламодателям. Но этот сервис уничтожил, например, возможность купить неожиданный подарок на день рождения. Коммерческая жизнь пользователей Facebook больше им не принадлежала.

Идея немедленно привела к катастрофе и инспирировала бунт. Так, сеть MoveOn, которая обычно занята выборами, использовала огромное число своих членов, чтобы громко возмутиться. Facebook быстро сдался.

Эпизод с Beacon приободрил меня и укрепил веру в то, что люди все еще способны управлять развитием сети. Это было важное свидетельство против метачеловеческого технологического детерминизма. Сеть не создает себя сама. Мы создаем ее.

Но даже после фиаско Beacon стремление вкладывать деньги в сайты социальных сетей не исчезло. С точки зрения бизнеса у сайтов соцсетей есть единственная надежда на появление магической формулы, в которой какой-то способ нарушения частной жизни и достоинства будет приемлемым. Эпизод с Beacon доказал, что это не может произойти слишком быстро, так что теперь стоит вопрос, получится ли уговорить империю пользователей Facebook принять это постепенно.

Правда о толпах

Термин «мудрость толпы» является заголовком книги Джеймса Шуровьески, на нее часто ссылаются, упоминая историю о быке на ярмарке. В этой истории группа людей угадывала вес животного, и оказалось, что усредненный результат был более точным, чем оценка любого отдельного человека.

Принято считать, что это работает, потому что ошибки отдельных людей взаимно уничтожаются. Дополнительное и более важное соображение состоит в том, что предположения и логика, на основе которых построена большая часть догадок, верны хотя бы отчасти, поэтому все они находятся вокруг правильного ответа. (Это соображение подчеркивает, что в центре коллективного явления находится разум отдельного человека.) В любом случае такой эффект воспроизводим, и очень многие считают его основой как рыночной экономики, так и демократии.

Последнее время люди с фанатичным упорством пытались использовать вычислительные облака, чтобы воспользоваться эффектом коллективного разума. Существуют, например, хорошо финансируемые, хоть и преждевременно получившие доверие схемы применения систем, похожих на системы фондового рынка, для программ, в которых люди делают ставки на верность ответов на, казалось бы, неразрешимые вопросы. Например, когда случится следующая атака террористов или когда терапия с использованием стволовых клеток позволит людям выращивать новые зубы. Огромное количество энергии вложено также в агрегацию суждений пользователей Интернета для создания контента, как на сайте коллективно собираемых ссылок Digg.

Как эффективно использовать толпу

Причина, по которой коллективное может иметь ценность, заключается именно в том, что пики коллективных разума и глупости не совпадают с теми, которые демонстрируют отдельные люди.

Например, рынок работает из-за сочетания коллективного и индивидуального разума. Рынок не может существовать только на основе цен, определяемых конкуренцией, необходимы еще и предприниматели, выходящие на рынок с изначально конкурирующими продуктами. Другими словами, умные личности, герои рынков, задают вопросы, на которые отвечает коллективное поведение. Они приводят на рынок быка.

Есть определенные типы ответов, которые не должны даваться отдельными людьми. Например, когда государственный чиновник устанавливает цену, результат часто хуже, чем если бы эту цену назначал в достаточной степени информированный, свободный от манипуляций или выходящих из-под контроля внутренних противоречий коллектив. Но когда коллектив разрабатывает продукт, вы получаете нечто, сделанное «рабочей группой», — немного уничижительное выражение.

Коллективы могут быть не менее глупыми, чем отдельные люди, а в некоторых важных случаях даже глупее. Интересно, можно ли перечислить случаи, когда один умнее многих?

У этой темы — серьезный дискуссионный опыт, и полезные результаты есть в самых разных дисциплинах. Каждый реальный случай проявления коллективного разума, о котором мне известно, показывает, каким образом коллектив направлялся или вдохновлялся отдельными личностями с благими намерениями. Эти люди направляли действия коллектива, а в отдельных случаях даже спасали от некоторых распространенных видов провалов коллективного разума. Баланс влияния между отдельными личностями и коллективами лежит в основе устройства демократий, научных сообществ и многих других проектов, успешных длительное время.

Великолепные примеры того, как контроль качества, осуществляемый отдельными людьми, способен улучшить коллективный разум, можно найти в мире до Интернета. Например, журналисты независимой прессы, имеющие репутацию и авторитет, обеспечивают новости политики, такие как репортаж об Уотергейте Боба Вудворда и Карла Бернстайна. Без независимой прессы, состоящей из героических голосов, коллективное становится глупым и ненадежным, что было продемонстрировано на множестве исторических примеров, самые недавние из них — из времени правления администрации Джорджа Буша-младшего.

Научные сообщества тоже добиваются качества путем кооперативного процесса, включающего сдержки и балансы, а в конечном счете — основывающегося на фундаменте доброжелательности и слепой элитарности (слепой в том смысле, что в идеале каждый может войти в элиту, но только на основании достижений). Система постоянных должностей и многие другие аспекты академического мира придуманы для поддержки идеи важности отдельных исследователей, а не коллективного процесса.

Да, было много скандалов в правительстве, академических кругах и прессе. Не существует идеальных механизмов. Но мы все еще здесь, и мы получили блага от всех этих институтов. Конечно, мы знаем кучу плохих репортеров, обманувшихся ученых, некомпетентных бюрократов и т. д. Способен ли коллективный разум помочь удержать их под контролем? Ответ, полученный в экспериментах эпохи до Интернета — да, но лишь в том случае, если в цикл встроен механизм обработки сигналов.

Обработка сигналов — это такой цилиндр фокусника, которым инженеры пользуются, чтобы управлять потоками информации. Распространенный пример — способ, которым вы можете выставить уровни высоких и низких частот аудиосигнала. Приглушая высокие, вы уменьшаете количество энергии, идущей на производство высоких частот, которые представляют собой более плотные и короткие звуковые волны. Аналогично, повышая басы, вы усиливаете самые широкие звуковые волны.

Некоторые из наиболее успешных механизмов регулирования коллективов в мире до Интернета можно описать метафорами контроля высоких и низких частот. Например, что делать, если коллектив нервничает и движется слишком быстро, с нарочитой готовностью, вместо того чтобы успокоиться и выдать устойчивый ответ? Такое, к примеру, случается на наиболее активных страницах «Википедии» или во время некоторых спекулятивных паник на открытых рынках.

Одной из функций, выполняемых типичной демократией, является функция фильтра низких частот, что равносильно увеличению уровня басов и понижению уровня высоких частот. Представьте нервные метания, если бы «Вики» позволили писать законы. Даже подумать страшно. Сверхэнергичные люди боролись бы за изменение текста налогового кодекса неистово и бесконечно. Интернет превратился бы в болото.

Хоть и не окончательно, но этого хаоса можно избежать обычным способом, замедлив процессы выборов и судебных разбирательств. Как с басами. Успокаивающий эффект упорядоченной демократии дает больше, чем сглаживание аристотелевской борьбы за консенсус. Он также уменьшает потенциал неожиданного перехода коллектива в перевозбужденное состояние, когда слишком много быстрых изменений приводят к тому, что они перестают нивелировать друг друга.

Так, фондовые рынки могут принять автоматические остановки торгов, если цена или объемы торгов меняются слишком резко. (В гл. 6 я расскажу о том, как идеологи Кремниевой долины недавно сыграли роль в убеждении Уолл-стрит в том, что можно обойтись без некоторых из таких сдерживающих толпу механизмов, и о катастрофических последствиях этого.)

«Википедия» была вынуждена наложить грубый фильтр низких частот на самые неустойчивые статьи, такие как «Президент Джордж Буш-младший». Теперь есть лимит, как часто отдельный человек может удалять фрагменты чьего-то текста. Подозреваю, что такого рода изменения в конечном счете станут примерным отражением демократии, какой она была до появления Интернета.

Но существует и обратная проблема. Коллективный разум может двигаться в правильном направлении, но слишком медленно. Иногда коллективы, если им дать достаточно времени, будут добиваться выдающихся результатов, но порой времени просто нет. Проблема вроде глобального потепления могла бы быть автоматически решена, если бы рынок имел достаточно времени. (Например, возросли бы ставки страхования.) Увы, в этом случае, похоже, времени нет, потому что рыночные переговоры затрудняются влиянием эффекта существующих инвестиций. Следовательно, должен вмешаться какой-то другой процесс, такой как политика, порожденная отдельными личностями.

Еще один пример медленного коллективного разума: за тысячелетия до того как появилось четкое понимание, как основывать свою деятельность на опыте, до того как мы узнали, как создавать техническую литературу, одобренную равными, и строить на ней образование, и до того, как появился эффективный рынок для определения ценности изобретений, было разработано множество технологий — но очень медленно.

Решающим фактором современности является то, что структура и ограничения, а не только чистая открытость и уступки коллективному были частью процесса, ускорившего технологическое развитие. Эту идею мы рассмотрим в гл. 10.

Странный недостаток любопытства

Эффект «мудрости толпы» надо рассматривать как инструмент. А ценность инструмента определяется его полезностью в выполнении поставленной задачи. Восхваление инструмента никогда не может быть самоцелью. К сожалению, ноосферианцы и идеологи упрощенного понимания свободных рынков сообща разводят неоправданные сантименты в отношении избранных любимых инструментов.

Поскольку Интернет делает толпы более доступными, было бы полезно иметь широкий набор четких правил, объясняющих, когда коллективный разум вероятнее всего даст разумные результаты. Шуровьески описывает в своей книге четыре принципа, составленные с точки зрения внутренней динамики толпы. Для сохранения независимости и предотвращения характерного для толпы поведения он предлагает ограничить то, насколько одни члены толпы могут видеть решения, которые принимают другие. Среди прочих ограничений я бы ввел следующее: толпе никогда нельзя позволять формулировать вопрос самой, а ее ответы никогда не должны быть сложнее простого числа или выбора из нескольких возможностей.

Нассим Николас Талеб утверждал, что статистические приложения типа системы коллективного разума надо разделить на четыре категории. Он определяет опасный «четвертый квадрант» как содержащий проблемы, характеризующиеся сложными исходами и неизвестным распределением этих исходов. Он предлагает запретить задавать вопросы из этого квадранта коллективному разуму. Может быть, если соединить вместе все наши подходы, получится практический набор правил для успешного использования коллективного разума. Но может быть и так, что все мы ошибаемся. Проблема в том, что на тестирование таких идей не обращали адекватного внимания.

Наблюдается странное отсутствие любопытства в отношении пределов возможностей коллективного разума. То есть эти системы в большинстве своем основаны на вере. Множество проектов искали ответ на вопрос, как усовершенствовать отдельные рынки и другие системы коллективного разума. Но слишком мало проектов формулировали вопрос более широко, в более общих терминах или проверенных общих гипотезах о том, как работают системы коллективного разума.

Тролли

Анонима, слишком много резвящегося в Сети, называют троллем. Было бы приятно думать, что среди нас живет небольшое количество троллей. Но на самом деле в некрасивые перебранки в Сети втягивается множество людей. И каждый, кто испытал это, познакомился со своим внутренним троллем.

Я пытался научиться контролировать своего тролля. Я заметил, что неожиданно чувствую облегчение, когда в сетевом разговоре унижают или бьют кого-то другого — значит, на данный момент я в безопасности. Если смеются над чьим-нибудь видео на YouTube, то мое временно защищено. Но это также означает, что я — соучастник динамики толпы. Провоцировал ли я когда-нибудь осмеяние кого-либо, чтобы отвести толпу от себя? Да, провоцировал, хотя и не должен был. Я наблюдал, как это делают другие на постоянной основе в местах встреч анонимов в Сети.

Я также обнаружил, что меня можно втянуть в нелепые состязания в Сети такими способами, которые в других обстоятельствах совершенно не работают, причем я ни разу не получал удовлетворения. Из этого никогда не извлекается урок, также как нет катарсиса победы или поражения. Если вы побеждаете анонимно, никто не знает о вашей победе, а если проигрываете, вы просто берете другой псевдоним и начинаете снова, ничуть не изменив свою точку зрения.

Если тролли анонимны, а жертва известна, то динамика еще хуже, чем в случае столкновения анонимных фрагментарных псевдоличностей. В этом случае коллективный разум выступает против индивидуальности. Например, в 2007 году в Китае серия сообщений, известная как Scarlet Letter, спровоцировала онлайн-толпу начать охоту на обвиняемого в прелюбодеянии. В 2008 году внимание переключилось на симпатизирующих Тибету. Одна из самых развитых сетевых культур — корейская, так что эта страна пострадала от едва ли не самых экстремальных случаев троллинга. В 2008 году корейская кинозвезда Чой Джин Сил, которую иногда называли «национальной актрисой», совершила самоубийство, не вынеся преследований троллей. Но она была всего лишь наиболее известной жертвой подобных самоубийств.

В США анонимные интернет-пользователи сосредоточились на таких целях, как Лори Дрю — женщине, которая создала виртуального персонажа с целью разбить сердце однокласснице ее дочери, что привело к самоубийству девочки.

Но гораздо чаще цели выбираются случайно, по принципу, описанному в коротком рассказе «Лотерея» Ширли Джексон. В нем жители спокойного маленького городка каждый год тянут жребий, чтобы определить, кого в этом году забьют камнями до смерти. Похоже на то, что некоторой мере человеческой жестокости должна быть дана воля. А чтобы осуществлять контроль, сохранив при этом элемент случайности, ограничивают зло самым справедливым из доступных способов.

К числу некоторых известных случайных жертв троллей относится блогер Кэти Сьерра. Она неожиданно попала под огонь с самых разных сторон: например, ее фотографии в виде сексуально изувеченного трупа размещались в наиболее доступных местах, очевидно, с расчетом на то, что их увидят ее дети. Видимой причины, почему Сьерра оказалась в центре мишени, не было. Просто ее жребий вытянули.

Другой знаменитый пример — издевательства над родителями покончившего с собой мальчика Митчелла Хендерсона. Их подвергли пыткам отвратительными аудио- и видеосозданиями и другими инструментами, доступными виртуальным садистам. Еще один пример — выбор эпилептиков в качестве цели. Для этого создается мигающий дизайн веб-страниц — в надежде вызвать припадок.

В Сети существует огромный поток записей унизительных расправ над беззащитными жертвами. Культура садизма в Сети очень распространена и даже имеет свой словарь. Например, часто встречающийся термин «лулз» (lulz) означает выражение удовольствия от наблюдения за чужими страданиями через вычислительное облако.[11]

Когда я критикую подобный вид культуры, меня часто либо обвиняют в том, что я старый пердун, либо называют защитником цензуры. И то и другое неправда. Не думаю, что я лучше или моральнее, чем люди, поддерживающие «лулзовые» сайты. Однако я говорю, что пользовательские интерфейсы, построенные в соответствие с идеологией вычислительного облака, делают людей — всех нас — менее человечными. Троллинг — это не цепочка отдельных случаев, это статус-кво сетевого мира.

Стандартная последовательность вызова тролля

В деградации анонимных фрагментарных коммуникаций можно выделить несколько стадий. Если не сформировалась стая, отдельные особи начинают драку. В Сети это происходит постоянно. Следующая стадия начинается, когда установлена субординация. Затем члены стаи становятся милыми и заботливыми друг к другу, даже тогда, когда побуждают друг друга к еще большей ненависти к чужакам.

Можно выдвинуть гипотезу, которая присоединится к ряду идей о том, как обстоятельства эволюции повлияли на нашу природу. Мы, особи с большим мозгом, по-видимому, не пошли путем захвата одной, специфической ниши. Вместо этого мы, должно быть, эволюционировали со способностью менять ниши. Мы развивались, чтобы научиться жить как в одиночку, так и в стае. Наши организмы оптимизированы не столько для того, чтобы быть одним или другим, но чтобы быть и тем и другим попеременно.

Новые схемы социальных связей, уникальные для сетевой культуры, сыграли свою роль в распространении современного сетевого терроризма. Если посмотреть на любой чат, от обсуждения гитар или пуделей до разговоров об аэробике, можно заметить устойчивую схему: чат террористов выглядит точно так же, как чат собачников. Появляется стая, и вы оказываетесь либо в ней, либо против нее. Присоединяясь к стае, вы присоединяетесь и к коллективной ритуальной ненависти.

Если мы будем продолжать сосредотачивать мощь цифровых технологий на проекте деперсонализации и коллективизации дел человеческих, то нам необходимо задуматься, как такой проект станет взаимодействовать с природой человека.

Наиболее изученные генетические аспекты поведения (под рубриками социобиологии или эволюционной психологии) основное внимание уделяли половым различиям в поведении и поведению в период спаривания. Но, думаю, клановая ориентация в ее связи с насилием окажется наиболее важной областью изучения.

В цифровом мире структура определяет этику

Не все обязательно ведут себя в Сети мерзко. От сайта к сайту поведение сильно отличается. Существуют разумные теории того, что заставляет людей проявлять себя с лучшей или худшей стороны в Сети: пол, возраст, экономическое положение, тенденции воспитания детей и, пожалуй, даже среднее время нахождения в Сети могут играть свою роль.

Но я считаю, что наиболее важными факторами являются детали устройства пользовательского интерфейса веб-сайта. Люди, способные спонтанно придумать псевдоним, чтобы оставить комментарий в блоге или YouTube, часто оказываются необыкновенно убогими. Покупатели и продавцы на eBay немного более цивилизованны, несмотря на происходящие время от времени разочарования типа случаев чудаковатости и мошенничества. Основываясь на этих данных, вы можете заключить, что идиотизм в Сети порожден не столько анонимностью, сколько временной анонимностью и безнаказанностью.

Эту гипотезу можно уточнить, имея больше данных. Участники Second Life (виртуального мира в Сети) обычно не так нетерпимы друг к другу, как люди, пишущие комментарии в Slashdot (популярный сайт технологических новостей) или устраивающих редакционные войны в «Википедии», несмотря на то что все ресурсы позволяют пользоваться псевдонимами. Разница, возможно, в том, что в Second Life персонаж с конкретным псевдонимом сам по себе имеет высокую ценность, и требуется немало усилий, чтобы создать его.

Таким образом, более точное описание структуры, способствующей троллям, — не требующая усилий, не приводящая ни к каким последствиям временная анонимность в сервисах, цели которых — такие, например, как продвижение определенной точки зрения — совершенно не связаны с идентификацией или чьей-либо личностью. Назовите это анонимностью попутчика.

У компьютеров есть неприятная тенденция давать нам двоичный выбор на всех уровнях, а не только на самом нижнем, где биты меняют свое значение. Очень просто быть полностью анонимным или полностью открытым, но трудно быть открытым ровно настолько, насколько нужно. Тем не менее в разной степени это происходит. Сайты вроде eBay и Second Life подсказывают, как структура может способствовать этому.

Анонимность возможна, но это необходимо тщательно продумывать. Примеры благодатной анонимности, возникшие до Интернета, — голосование и рецензии коллег. Иногда желательно освободить людей от страха возмездия или позора, чтобы получить честное мнение. Но для реального общения вы должны присутствовать полностью. Вот почему видеть обвинителя является фундаментальным правом обвиняемого.

Не может ли анонимность попутчика разрастись так же, как коммунизм и фашизм?

Сеть по большей части преподносила приятные и неожиданные новости о человеческом потенциале. Как я указывал ранее, развитие Всемирной паутины в начале 1990-х годов происходило без лидеров, идеологии, рекламы, коммерции или чего-то, отличного от позитивной отзывчивости, разделяемой миллионами людей. Кто мог предположить, что такое возможно? С тех пор на основе положительных событий в Сети постоянно строятся утопические экстраполяции. Каждый раз, когда блогер унижает корпорацию, размещая сообщение о невезучем представителе обслуживающего персонала, можно ожидать триумфальных криков об окончании эры корпоративных злоупотреблений.

Однако резонно было бы предположить, что Сеть может подчеркивать и негативные поведенческие схемы или даже создавать непредвиденные социальные патологии. Последние сто лет новые технологии СМИ часто играли заметную роль в массовых всплесках организованного насилия.

Например, нацистский режим был главным первопроходцем в радио- и кинопропаганде. Советский Союз тоже был одержим пропагандистскими технологиями. Сталин даже лелеял «Манхэттенский проект» разработки трехмерного кинотеатра с невероятными, массивными оптическими элементами, которые бы транслировали высококачественную пропаганду. Будь этот проект реализован, он стал бы злым двойником виртуальной реальности. Многие люди исламского мира получили доступ к спутниковому телевидению и Интернету только недавно. Эти медиа, несомненно, способствовали наблюдаемой сегодня волне крайнего радикализма. Намерение пропагандировать было всегда, но намерение — это еще не все.

Совсем не безумно волноваться по поводу того, что из миллионов людей, соединенных с помощью посредника, который иногда поднимает на поверхность их худшие стороны, неожиданно могут появиться массовые толпы, настроенные аналогично фашистам. Я беспокоюсь о следующем поколении молодежи во всем мире, выросшем на сетевых технологиях, которые усиливают формирование толп, как это происходит сегодня. Будут ли они более склонны поддаваться динамике стаи, когда станут совершеннолетними? Что помешает развиться повышенной раздражительности? К сожалению, история учит, что коллективистские идеалы могут быстро разрастись до крупномасштабных социальных катастроф. Коммуны и фасции прошлого начинались с небольшого числа идеалистов-революционеров.

Боюсь, мы готовим себе сюрприз. Рецепт, который привел к социальной катастрофе в прошлом, состоит из экономического унижения вместе с коллективистской идеологией. У нас уже есть идеология в ее новой, цифровой, форме, и очень возможно, что в предстоящие десятилетия мы столкнемся с опасно болезненными экономическими потрясениями.

Идеология насилия

Интернет наполнился идеологией насилия. Когда некоторые из наиболее харизматических фигур сетевого мира, в том числе Джимми Уэлс, один из основателей «Википедии», и Тим О’Рейли, придумавший термин «веб 2.0», во время травли Кэти Сьерры предложили добровольный кодекс поведения, начался массовый протест, и их предложения были забыты.