Ловля на живца: киберлолита против педофилов Евгений Золотов

Ловля на живца: киберлолита против педофилов

Евгений Золотов

Опубликовано 18 июля 2013

Признание выдающихся научных достижений имеет обыкновение затягиваться. Джон Нэш, имя которого сегодня ассоциируется с теорией игр (а сильно подслащённая биография легла в основу голливудского хита «Игры разума»), ждал Нобелевской премии сорок лет. Пришлось ждать и ребятам из Университета Деусто (Испания) использовавшим наработки Нэша для создания Negobot — революционной компьютерной программы, способной вести диалог с человеком, создавая у того ощущение общения с человеческим существом.

Ещё прошлой осенью они опубликовали свои результаты, но только на днях проект привлёк внимание общественности — после того как стало известно, что им готово воспользоваться местное управление полиции. Согласитесь, одобрение правоохранительными органами в данном случае — всё равно что знак качества. Да, чат-боты, потомки ELIZA, нынче пишутся чуть ли не школьниками — и даже получают бронзовые медали Лёбнера за обведённых вокруг пальца экспертов. Но одно дело — победа в конкурсе, и совсем другое — реальная жизнь, где Negobot должен будет помочь ловить педофилов.

Идея внешне простая: под видом несовершеннолетнего подростка, вступление с которым в половую связь преследуется по закону (в Испании возраст сексуального согласия установлен в 13 лет, но в ближайшее время его, вероятно, поднимут), Negobot внедряют в социальную сеть или чат-пространство. Сейчас это Google+, но, вообще говоря, особого значения место действия не имеет. Важно, что, инициируя диалог или отвечая на запрос извне, бот преследует цель выявить любителей поразвлечься с детьми. Не мне вам объяснять, как трудно написать бота, способного обмануть даже среднестатистического сетянина. Но представьте, насколько сложнее обмануть человека, рыщущего по Сети с криминальными намерениями! И всё-таки Negobot делает это.

_{Работает Negobot. В данном случае спровоцировать собеседника не удалось, градус дискуссии снижается (объяснение см. ниже).}

Как убедить человека, что «на том конце провода» тоже человек, а не программа? Поскольку мыслящая машина до сих пор не изобретена, остаётся имитировать поведение homo sapiens. Создать иллюзию осмысленной беседы с опорой на базу данных, содержащую сотни записанных настоящих чатов человека с человеком (можно позаимствовать её из проекта Perverted Justice, о котором пойдёт речь ниже). Попробовать выделить смысл и корректно сформулировать ответы на естественном языке — скажем, с применением поисковых машин, онлайн-переводчиков, баз знаний на языках вроде AIML. Помнить, о чём шла речь ранее, и не стесняться перехватывать инициативу в разговоре. Дополнить вывод мелочами, присущими только живому существу, — типа орфографических ошибок и опечаток, сокращений, сленга, задержек между ответами, зависящими от количества слов.

Всё перечисленное в Negobot есть, но авторы считают своей главной заслугой реализацию процесса общения в виде игры: бот и человек — противостоящие игроки, вопросы и ответы — «мяч», переходящий из рук в руки, а смыслом игры для бота является извлечение максимального объёма информации о сопернике. Измеряя и изменяя «градус» беседы в сторону увеличения, Negobot лавирует между пугающими прямыми вопросами («Как тебя зовут?», «Дай свой телефон») и располагающими интимными признаниями («Обожаю порно!») — и так подвигается к цели. А попутно избегает прямолинейности и предсказуемости, свойственной ботам. Короче, ведёт себя как настоящий человек.

_{Отрывок из реального чата осужденного педофила с (якобы) 13-летней школьницей. Сопоставив сотни таких документов, можно выявить некоторые закономерности. К примеру, здесь уже на седьмой минуте разговора подозреваемый вспоминает о порнографии.}

Алгоритмически игра в «киберлолиту» выглядит решением задачи методом последовательных приближений. Своё текущее состояние Negobot оценивает по «температурной» шкале от -3 до +3 единиц, где каждая точка соответствует новой степени искренности. Беседа начинается с точки 0, в которой Negobot ведёт нейтральный разговор на общие темы, сообщая собеседнику минимум информации о себе: только город проживания, имя и — главное! — возраст. Если человек не проявляет заинтересованности (градус беседы уходит в область отрицательных значений), бот провоцирует его, переходя на типичные подростковые темы, требующие сочувствия, но без сообщения контактной информации. Киберлолита рассказывает, что в школе над ней смеются или, напротив, не замечают, что у неё проблемы с родителями и тому подобное, вплоть до прямого предложения переспать в обмен на капельку человеческого тепла. Агрессивно? Да. Но исследователи полагают, что законопослушный гражданин найдёт в себе силы отказать ребёнку.

Если же «на том конце» оказывается педофил, градус беседы смещается в положительную сторону. И тут боту остаётся только не спугнуть удачу — и постепенно, скармливая собеседнику информацию личного, а потом и интимного свойства, вывести того на чистую воду. Отношение к алкоголю-наркотикам, любимые фильмы, одежда и тому подобное — это точка +1. Разговор на «взрослые» темы — уже +2. А в точке +3 киберлолита вовсю обсуждает с партнёром детали предстоящего сексуального контакта и выманивает телефоны, адреса, явки. Достижение точек 2 и 3 — это выигрыш: собранная здесь информация будет передана полиции, которая, возможно, инициирует расследование (и заниматься им, естественно, будут уже живые люди).

_{Кстати, тупой бот — это не всегда плохо. Как точно пошутил кто-то из читателей Slashdot, не факт, что 13-летний ребёнок пройдёт тест Тьюринга…}

Красиво? Спору нет. Но и в таком виде решение далеко от идеального. Во-первых, даже игровой подход не избавил Negobot от всех свойственных диалоговым ботам слабостей: он не всегда выдерживает подобающую подростку линию поведения, не понимает смысловых нюансов (иронии, например), с трудом меняет тему разговора. Во-вторых, если дойдёт-таки до суда, реализованный разработчиками агрессивный подход (ведь киберлолита фактически подталкивает собеседника к противоправному деянию) может быть использован обвиняемым для своей защиты: во многих развитых странах такое подстрекательство может разрушить уголовное дело. (Впрочем, ещё хуже, если оно сломает невиновному человеку жизнь!) Однако и испанская полиция намерена использовать Negobot лишь как вспомогательный инструмент — вроде дешёвой наживки, клюнувшие на которую личности заслуживают особого внимания.

Авторы программы планируют развивать её дальше, в том числе и по игровому направлению. В будущем вместо одной киберлолиты педофилов будет ловить команда из нескольких экземпляров Negobot, действующая слаженно, с прицелом на так называемое равновесие Нэша: следуя каждый своей стратегии игры, но ориентируясь на общий результат, боты будут вынуждать собеседника «расколоться».

Ну а до тех пор наиболее эффективным инструментом в борьбе с интернет-педофилами, видимо, останутся люди. Посмотрите на Perverted Justice: это команда добровольцев, которые маскируются под подростков и интервьюируют сомнительных личностей. Совместными усилиями они отправили за решётку уже более пятисот человек.

В статье использована иллюстрация St?fan

К оглавлению