Десять страхов: крах интернета, Big Data, утрата знаний и другие вещи, которые пугают учёных и футурологов Олег Парамонов

Десять страхов: крах интернета, Big Data, утрата знаний и другие вещи, которые пугают учёных и футурологов

Олег Парамонов

Опубликовано 22 мая 2013

Каждый год издание Edge публикует результаты грандиозного опроса известных учёных, футурологов и экспертов разного рода. В этом году темой опроса были страхи. Что беспокоит людей, которые знают о том, что будет дальше, побольше других? Edge собрал почти полторы сотни ответов. Мы отобрали те из них, которые имеют прямое отношение к постоянным темам «Компьютерры».

Интернет в руках врага

Брюс Шнейер, едва ли не самый известный в мире специалист по компьютерной безопасности:

«Обычно говорят, что интернет даёт новые возможности тем, кто был их лишён, но это лишь половина истории. Интернет даёт новые возможности всем без исключения. Влиятельные организации, возможно, не торопятся их использовать, но они обладают влиянием, которое позволит сделать это куда эффективнее».

Брюс Шнейер опасается, что власти и корпорации воспользуются богатейшими возможностями, которые даёт интернет, в собственных интересах, редко совпадающими с интересами общества. Хуже того, они могут попытаться переделать Сеть под себя, исправив «недоработки», которые мешают повсеместной слежке, цензуре и выжиманию денег на каждом шагу. Ситуация усугубляется тем, что положительные и отрицательные стороны интернета тесно переплетены. Борьба с хакерами, детской порнографией и другими пороками — хороший повод для того, чтобы затянуть гайки. Но можно ли избавиться от минусов интернета, сохранив плюсы? Это совсем не факт.

За примерами того, о чём идёт речь, далеко ходить не надо: цензура в Рунете, как известно, вводится под знаменем защиты детей от вредной информации. До сих пор «чёрные списки», созданные с этой целью, были не столько вредны, сколько бессмысленны и нелепы, но их опасность вряд ли у кого-то вызывает оптимизм. В США аналогичные механизмы пытаются пропихнуть попеременно для борьбы с пиратами и с киберпреступниками, но пока без особого успеха.

Наши чужие данные

Дэвид Роуэн, редактор британского издания Wired:

«Кем вас считать, всё чаще решаете не вы сами, а «олигополисты данных». У кредитных агентств, работодателей, потенциальных сексуальных партнёров, даже у спецслужб имеется чёткое представление о вас, основанное на онлайновой информации, пропущенной через поисковики, соцсети и рейтинговые сервисы. То, насколько верны и актуальны эти данные, никого не заботит. Хотите исправить ошибки, которые причиняют вам вред? Удачи. Как постепенно осознают пользователи сервисов вроде Facebook и Instagram, они не в силах повлиять на то, что произойдёт с их персональной информацией».

По мнению Дэвида Роуэна, концентрация огромного количества персональных данных в чужих руках ведёт к новой форме неравенства. Те, кто обладает данными и знает, что с ними делать, оказывается в гораздо более выгодном положении, чем все остальные. Ещё недавно эта проблема была чисто теоретической, но с некоторых пор последствия сбора персональных данных стали совсем не виртуальными. От того, что следует из собранной информации, может зависеть, например, получит ли человек кредит и сколько будет стоить его медицинская страховка (а это порой вопрос жизни и смерти). Роуэн полагает, что проблема заключается в отсутствии регулирования: «Баланс сил должен быть смещён в пользу нас как частных лиц и граждан».

Справедливости ради нужно заметить, что в этих рассуждениях имеется слабое место. «Работодатели и потенциальные сексуальные партнёры», о которых пишет Роуэн, не являются «олигополистами данных» — они просто знают, как пользоваться Google. Иными словами, проблемы, о которых идёт речь, создаёт не столько концентрация, сколько легкодоступность данных. Нетрудно понять, почему от неё может хотеться избавиться, но как это сделать? Запретить поисковики? Это решение будет похуже самой проблемы.

Изнанка Big Data

Виктория Стодден, профессор статистики:

«Если у нас не будет возможности поставить под вопрос результаты [полученные методами Big Data], есть риск попасть в ситуацию, когда мы ошибочно думаем, что пожинаем плоды информационной эпохи, в то время как в действительности наши решения основаны на фактах, которые не понимает никто, кроме, возможно, людей, которые сгенерировали их».

Виктория Стодден считает опасным безудержное доверие к Big Data. На волне шумихи методы Big Data начинают применять в самых разных областях, в том числе и в тех, которые совершенно не готовы к этому. Отношение к выводам, полученным в результате изучения статистики, особое: принято считать, что цифры не врут и спорить с ними бесполезно. Проблема в том, что это не так. Цифры могут врать. Ошибки могут быть случайно или преднамеренно внесены на любой стадии, однако никто не ищет их, потому что критическое отношение к данным пока не вошло в обычай за пределами научного сообщества.

Злоупотребления Big Data в последнее время привлекают всё больше внимания. Погоня за модой до добра не доводит, и мода на данные не исключение. Понимание того, что количество данных не так важно, как их качество, начинает появляться лишь сейчас.

Поисковики решают за нас

Дэнни Хиллис, основатель компании Applied Minds и фонда Long Now, создатель суперкомпьютера Connection Machine:

«В прошлом смысл определяли только люди. Теперь его определяют ещё и технические средства, которые приносят нам информацию. Отныне у поисковых систем имеется собственный взгляд на вещи, и результаты поиска отражают его. Игнорировать допущения, лежащие в основе результатов поиска, больше нельзя».

Задача поисковых систем — не только находить, но и фильтровать данные. Именно это происходит, когда алгоритм решает, как интерпретировать запрос и как отсортировать найденные документы. Многие его решения неизбежно будут двусмысленными. Хиллис приводит пример запроса, на который заведомо нет однозначного ответа: «провинции Китая». Поисковику волей-неволей придётся встать либо на сторону Китая, считающего Тайвань своей двадцать третьей провинцией, либо на сторону Тайваня, полагающего себя независимой державой. Само по себе это не беда. Плохо то, что пользователи далеко не всегда осознают, сколько таких решений скрыто за каждым результатом. В известном смысле наблюдения Хиллиса перекликаются с тем, что пишет Виктория Стодден о Big Data: и в том и в другом случае проблема заключается в непонимании того, как был сделан вывод.

В теории, таким образом поисковики могли бы влиять на общественное мнение, но на практике происходит обратное: они изо всех сил пытаются угодить пользователю, подстраиваясь под его вкусы и пряча всю неугодную ему информацию. В результате получается, что увидеть альтернативные точки зрения становится всё труднее. Эту проблему уже окрестили «фильтрационный пузырь», и у неё те же корни: неявные решения, которые принимает поисковая система.

Когда интернет сломается

Джордж Дайсон, историк техники:

«Рано или поздно, случайно или по злому умыслу, мы столкнёмся с катастрофическим крахом интернета. При этом у нас нет запасного варианта, позволяющего поднять примитивную аварийную сеть с низкой пропускной способностью в том случае, если основная сеть, на которую мы привыкли полагаться, станет недоступна».

Неисправность, в результате которой интернет придётся запускать заново, — это типичный «чёрный лебедь» из книг Нассима Талеба, крайне маловероятная, но оттого особенно болезненная катастрофа. Дайсон описывает вполне правдоподобный сценарий, при котором гипотетическая авария вызовет лишь увеличение количества запросов к неисправной сети, которое помешает восстановлению ещё сильнее. Чтобы избежать этого, нужны план действий на случай катастрофы и примитивная коммуникационная сеть с низкой пропускной способностью и долгим временем ожидания, которую можно было бы соорудить на основе мобильных телефонов и ноутбуков.

Потерянные технологии

Нил Гершенфельд, глава «Центра битов и атомов» при Массачусетском технологическом институте, занимающемся персональным изготовлением вещей (3D-печать и т.п.), нанотехнологиями и квантовыми вычислениями:

«Религиозные фанатики, пытающие вернуть средневековые порядки со спутниковыми телефонами в руках, или креационисты, не верящие в эволюцию, но избегающие эпидемий благодаря прививкам, которые были бы невозможны без анализа сезонных мутаций вируса гриппа, вызывают когнитивный диссонанс. Связь тут в невидимости того, как всё работает: устройство мобильника для них так же неисповедимо, как пути господни».

Нил Гершенфельд видит угрозу в потребительском отношении к технологиям. Техника становится сложнее, а людей, желающих разбираться в её устройстве, всё меньше. Хуже того, этому нежеланию стало модно потакать. «Мобильные ОС прячут файловую систему, сенсорные интерфейсы делают ненужной мелкую моторику, автомобили не позволяют пользователям обращаться к данным обслуживания», — перечисляет Гершенфельд. Это плохо кончится: если относиться к технике как к волшебству, можно утратить способность развивать её. И что тогда?

Падение Рима 2.0

Тим О’Рейли, основатель издательства O’Reilly Media, известный сторонник свободного софта, автор термина «Web 2.0?:

«Так называемые тёмные века европейской истории не были навязаны извне. Цивилизация погибла не в результате нашествия варваров, а по собственному выбору, отказавшись от знаний в пользу религиозного фундаментализма».

О’Рейли полагает, что главная угроза будущему цивилизации заключается в расцвете антиинтеллектуализма. Он наблюдает эту печальную тенденцию в Соединённых Штатах, но то же самое происходит и в других странах, не исключая и Россию: насаждение религии, отрицание эволюции или климатических изменений, борьба с прививками и так далее — примеров хватает. О’Рейли видит в этом пугающие параллели с падением Римской империи, которое отбросило развитие Европы на века.

Конец роста

Сатьяджит Дас, финансовый эксперт:

«Глубоко в основе политических и экономических течений всех сортов коренится идея здорового экономического роста, объединённая с убеждённостью, что правительства и центральные банки контролируют экономику в достаточной степени, чтобы обеспечить его. В романе «Великий Гэтсби» Скотт Фицджеральд подмечает это фатальное влечение: «Гэтсби верил в зелёный огонёк, свет неимоверного будущего счастья, которое отодвигается с каждым годом. Пусть оно ускользнуло сегодня, не беда — завтра мы побежим ещё быстрее, ещё дальше станем протягивать руки…» Реальность состоит в том, что экономический рост — это относительно недавний феномен».

Сатьяджит Дас опасается, что экономический рост не вечен, а его замедление приведёт к катастрофическим последствиям. Дело в том, что экономические и политические системы, выросшие в течение двадцатого века, работоспособны только в том случае, если рост продолжается. Если темпы роста вернутся к уровню, который был типичен до первой промышленной революции, экономика превратится в игру с нулевой суммой, где главный вопрос — это делёж пирога. У этого вопроса не очень много приятных решений.

«Компьютерра» не так давно писала о замедлении роста, так что вряд ли имеет смысл повторяться. Рассуждения Даса интересны с другой точки зрения: они показывают, что стагнация, к которой ведёт развитие событий, о котором говорят О’Рейли и Гершенфельд, будет печальна не только с эстетической точки зрения.

Неестественная биология

Сейриан Самнер, биолог:

«Понимаем ли мы молекулярные правила в достаточной степени, чтобы рискнуть и выпустить наши синтетические творения в естественные экосистемы? Мы едва разбираемся в эпигенетических процессах, которые регулируют дифференцировку клеток модельных организмов в контролируемых лабораторных условиях».

Сейриан Саммер пугают перспективы развития синтетической биологии, особенно в сочетании с нашим недостаточно крепким пониманием того, как устроены и взаимодействуют живые организмы. Синтетическая биология позволяет создавать новые организмы из готовых генетических блоков. Даже если в лаборатории всё работает прекрасно, а «разработчики» нового организма предусмотрели защитные механизмы, не позволяющие ему эволюционировать, никто не знает, что случится, когда синтетическое существо попадёт в реальную экосистему. И экосистема, и само существо слишком сложны для того, чтобы делать какие-то прогнозы.

Место в мире машин

Дэвид Далримпл, эксперт по вычислительной технике:

«Если специальные машины будут справляться с любой вообразимой человеческой работой, никакого смысла работать на корпорации за деньги, которые можно обменять на вещи и услуги, для людей не будет. Это не первый случай, когда меняется вся парадигма цивилизации; 500 лет назад не было самих корпораций».

Дэвид Далримпл предполагает, что дальнейшее развитие техники приведёт к обесцениванию человеческого труда, что неизбежно повлечёт за собой грандиозные изменения всего уклада жизни. В конечном счёте, всё будет хорошо, но вот процесс… Переход от одного уклада к другому может оказаться весьма болезненным для всех его участников, особенно в том случае, если к нему не подготовиться заранее.

Может показаться, что это слишком фантастический прогноз, однако это будет ошибкой. Изменения начнутся задолго до того, как машины «будут справляться с любой вообразимой человеческой работой». Вспомните, что китайская корпорация Foxconn, собирающая технику Apple, HP, Nintendo, Google, Amazon, Sony и массы других компаний, всерьёз рассматривает замену ручного труда промышленными роботами. В Foxconn работает больше миллиона человек. Если хотя бы половина из них останется без работы, это уже пятьсот тысяч человек, которые стали жертвой того самого болезненного перехода к новой парадигме, о котором пишет Далримпл.

К оглавлению