Когда цензор понимает вас лучше собственной матери

Когда цензор понимает вас лучше собственной матери

Возможна ли такая индивидуализация цензуры? Будут ли цензоры знать о нас столько, что смогут принимать решения автоматически не просто в отношении каждого пользователя, но и с учетом его (или ее) поведения в определенной ситуации?

Если судить по сетевой рекламе, ждать появления “тонкой настройки” такого рода не так уж долго. “Гугл” уже сейчас решает, какие рекламные объявления нам показать, исходя из записей журнала посещений интернет-поисковика и текстов наших электронных писем. “Фейсбук” стремится сделать свою рекламу еще изощреннее: система учитывает, какой контент других сайтов мы одобрили, поставив “лайк”, а также – что понравилось нашим френдам и что они покупали в Сети. Представьте себе цензурные системы, которые подогнаны к запросам пользователей так же тщательно, как поведенческая реклама, с которой мы ежедневно сталкиваемся. Единственное различие между двумя системами заключается в том, что первая собирает данные о нас затем, чтобы показать подходящую рекламу, а вторая – чтобы запретить нам посещение некоторых веб-страниц. Диктаторы не сразу поняли, что механизмы индивидуализации, лежащие в основании “веб 2.0”, можно использовать в собственных целях. Однако они быстро учатся.

Уделяя столько внимания общепринятому и легкому способу контролировать интернет – блокированию доступа к определенным URL-адресам, – мы, возможно, упустили фундаментальные сдвиги в этой сфере. Цензура в интернете стремится к распространению вглубь (все пристальнее изучая, чем мы занимаемся в Сети и даже в офлайне) и вширь (учитывая все больше информационных параметров перед тем, как принять решение о цензурировании чего-либо).

Летом 2009 года китайское правительство объявило, что на любом проданном в стране компьютере должна быть установлена программа “Гриндэм” (GreenDam). Большинство СМИ обратили внимание на грандиозность плана, а также на то, насколько неудачно власти провели демонстрацию “Гриндэм”. Под давлением жесткой критики внутри страны и за ее пределами власти КНР от этого плана отказались, однако в миллионах компьютеров в китайских школах и интернет-кафе это программное обеспечение до сих пор работает.

Оставим в стороне внутреннюю политику. Чем действительно интересен “Гриндэм”, так это инновационным подходом к предварительной цензуре. Эта система предвещает появление в ближайшем будущем индивидуализированной цензуры. “Гриндэм”идет гораздо дальше механического блокирования доступа к сайтам из своего списка. Он анализирует поведение пользователя и решает, соответствует ли оно закону. Это точно не самое сообразительное в интернете ПО: некоторые пользователи сообщили, что “Гриндэм” заблокировал доступ ко всем сайтам, адрес которых начинался с буквы “f”.

Стоит, однако, обратить внимание не на результат, а на принцип работы “Гриндэм”. Программа очень агрессивна. Она изучает поведение пользователей (начиная с выбора сайтов и печатания текстов и кончая просмотром картинок) и пытается пресечь деятельность, которая ей не нравится (чаще всего система просто закрывает соответствующие приложения, например браузер или текстовый редактор).

Скажем, розовый цвет для “Гриндэм” – это первый признак порнографии. Если система замечает на просмотренных пользователем фотографиях избыток розового, она закрывает программу для просмотра изображений. Любопытно, что снимки обнаженных людей с темным цветом кожи программа не распознает.

Тревожнее всего то, что “Гриндэм” снабжен “черным ходом”, который позволяет программе связываться со своим “штабом” в Сети и делиться наблюдениями о характере пользователя, вверенного попечению программы. Это позволяет обучать другие компьютерам в сети новым способам идентификации нежелательного контента. “Гриндэм” – самообучающаяся и обладающая колоссальным потенциалом сетевая система цензуры: как только программа поймет, что некто набирает в поисковике слово “димакратия” вместо “демократия”, чтобы обмануть цензоров, остальные пользователи воспользоваться этой лазейкой больше не смогут.

Вообразите глобальный мозг, который ежесекундно собирает подсказки от миллионов пользователей, пытающихся обвести систему вокруг пальца, и почти сразу же использует их, чтобы закрыть имеющиеся лазейки. “Гриндэм” – это неудачное воплощение в высшей степени плодотворной и опасной идеи.

Данный текст является ознакомительным фрагментом.