Ловля на живца: киберлолита против педофилов Евгений Золотов
Ловля на живца: киберлолита против педофилов
Евгений Золотов
Опубликовано 18 июля 2013
Признание выдающихся научных достижений имеет обыкновение затягиваться. Джон Нэш, имя которого сегодня ассоциируется с теорией игр (а сильно подслащённая биография легла в основу голливудского хита «Игры разума»), ждал Нобелевской премии сорок лет. Пришлось ждать и ребятам из Университета Деусто (Испания) использовавшим наработки Нэша для создания Negobot — революционной компьютерной программы, способной вести диалог с человеком, создавая у того ощущение общения с человеческим существом.
Ещё прошлой осенью они опубликовали свои результаты, но только на днях проект привлёк внимание общественности — после того как стало известно, что им готово воспользоваться местное управление полиции. Согласитесь, одобрение правоохранительными органами в данном случае — всё равно что знак качества. Да, чат-боты, потомки ELIZA, нынче пишутся чуть ли не школьниками — и даже получают бронзовые медали Лёбнера за обведённых вокруг пальца экспертов. Но одно дело — победа в конкурсе, и совсем другое — реальная жизнь, где Negobot должен будет помочь ловить педофилов.
Идея внешне простая: под видом несовершеннолетнего подростка, вступление с которым в половую связь преследуется по закону (в Испании возраст сексуального согласия установлен в 13 лет, но в ближайшее время его, вероятно, поднимут), Negobot внедряют в социальную сеть или чат-пространство. Сейчас это Google+, но, вообще говоря, особого значения место действия не имеет. Важно, что, инициируя диалог или отвечая на запрос извне, бот преследует цель выявить любителей поразвлечься с детьми. Не мне вам объяснять, как трудно написать бота, способного обмануть даже среднестатистического сетянина. Но представьте, насколько сложнее обмануть человека, рыщущего по Сети с криминальными намерениями! И всё-таки Negobot делает это.
Работает Negobot. В данном случае спровоцировать собеседника не удалось, градус дискуссии снижается (объяснение см. ниже).
Как убедить человека, что «на том конце провода» тоже человек, а не программа? Поскольку мыслящая машина до сих пор не изобретена, остаётся имитировать поведение homo sapiens. Создать иллюзию осмысленной беседы с опорой на базу данных, содержащую сотни записанных настоящих чатов человека с человеком (можно позаимствовать её из проекта Perverted Justice, о котором пойдёт речь ниже). Попробовать выделить смысл и корректно сформулировать ответы на естественном языке — скажем, с применением поисковых машин, онлайн-переводчиков, баз знаний на языках вроде AIML. Помнить, о чём шла речь ранее, и не стесняться перехватывать инициативу в разговоре. Дополнить вывод мелочами, присущими только живому существу, — типа орфографических ошибок и опечаток, сокращений, сленга, задержек между ответами, зависящими от количества слов.
Всё перечисленное в Negobot есть, но авторы считают своей главной заслугой реализацию процесса общения в виде игры: бот и человек — противостоящие игроки, вопросы и ответы — «мяч», переходящий из рук в руки, а смыслом игры для бота является извлечение максимального объёма информации о сопернике. Измеряя и изменяя «градус» беседы в сторону увеличения, Negobot лавирует между пугающими прямыми вопросами («Как тебя зовут?», «Дай свой телефон») и располагающими интимными признаниями («Обожаю порно!») — и так подвигается к цели. А попутно избегает прямолинейности и предсказуемости, свойственной ботам. Короче, ведёт себя как настоящий человек.
Отрывок из реального чата осужденного педофила с (якобы) 13-летней школьницей. Сопоставив сотни таких документов, можно выявить некоторые закономерности. К примеру, здесь уже на седьмой минуте разговора подозреваемый вспоминает о порнографии.
Алгоритмически игра в «киберлолиту» выглядит решением задачи методом последовательных приближений. Своё текущее состояние Negobot оценивает по «температурной» шкале от -3 до +3 единиц, где каждая точка соответствует новой степени искренности. Беседа начинается с точки 0, в которой Negobot ведёт нейтральный разговор на общие темы, сообщая собеседнику минимум информации о себе: только город проживания, имя и — главное! — возраст. Если человек не проявляет заинтересованности (градус беседы уходит в область отрицательных значений), бот провоцирует его, переходя на типичные подростковые темы, требующие сочувствия, но без сообщения контактной информации. Киберлолита рассказывает, что в школе над ней смеются или, напротив, не замечают, что у неё проблемы с родителями и тому подобное, вплоть до прямого предложения переспать в обмен на капельку человеческого тепла. Агрессивно? Да. Но исследователи полагают, что законопослушный гражданин найдёт в себе силы отказать ребёнку.
Если же «на том конце» оказывается педофил, градус беседы смещается в положительную сторону. И тут боту остаётся только не спугнуть удачу — и постепенно, скармливая собеседнику информацию личного, а потом и интимного свойства, вывести того на чистую воду. Отношение к алкоголю-наркотикам, любимые фильмы, одежда и тому подобное — это точка +1. Разговор на «взрослые» темы — уже +2. А в точке +3 киберлолита вовсю обсуждает с партнёром детали предстоящего сексуального контакта и выманивает телефоны, адреса, явки. Достижение точек 2 и 3 — это выигрыш: собранная здесь информация будет передана полиции, которая, возможно, инициирует расследование (и заниматься им, естественно, будут уже живые люди).
Кстати, тупой бот — это не всегда плохо. Как точно пошутил кто-то из читателей Slashdot, не факт, что 13-летний ребёнок пройдёт тест Тьюринга…
Красиво? Спору нет. Но и в таком виде решение далеко от идеального. Во-первых, даже игровой подход не избавил Negobot от всех свойственных диалоговым ботам слабостей: он не всегда выдерживает подобающую подростку линию поведения, не понимает смысловых нюансов (иронии, например), с трудом меняет тему разговора. Во-вторых, если дойдёт-таки до суда, реализованный разработчиками агрессивный подход (ведь киберлолита фактически подталкивает собеседника к противоправному деянию) может быть использован обвиняемым для своей защиты: во многих развитых странах такое подстрекательство может разрушить уголовное дело. (Впрочем, ещё хуже, если оно сломает невиновному человеку жизнь!) Однако и испанская полиция намерена использовать Negobot лишь как вспомогательный инструмент — вроде дешёвой наживки, клюнувшие на которую личности заслуживают особого внимания.
Авторы программы планируют развивать её дальше, в том числе и по игровому направлению. В будущем вместо одной киберлолиты педофилов будет ловить команда из нескольких экземпляров Negobot, действующая слаженно, с прицелом на так называемое равновесие Нэша: следуя каждый своей стратегии игры, но ориентируясь на общий результат, боты будут вынуждать собеседника «расколоться».
Ну а до тех пор наиболее эффективным инструментом в борьбе с интернет-педофилами, видимо, останутся люди. Посмотрите на Perverted Justice: это команда добровольцев, которые маскируются под подростков и интервьюируют сомнительных личностей. Совместными усилиями они отправили за решётку уже более пятисот человек.
В статье использована иллюстрация St?fan
К оглавлению
Более 800 000 книг и аудиокниг! 📚
Получи 2 месяца Литрес Подписки в подарок и наслаждайся неограниченным чтением
ПОЛУЧИТЬ ПОДАРОКЧитайте также
14.9.2. Ловля на живца
14.9.2. Ловля на живца В разд. 4.11 мы затронем тему построения сети, где публичные ресурсы вынесены на самостоятельные серверы и защищаются отдельно от основной сети. Мы уже коснулись вопроса создания серверов-приманок, и сейчас настало время поговорить об этом более
PS4 стартовала, Xbox One на подходе: один на один или двое против всех? Евгений Золотов
PS4 стартовала, Xbox One на подходе: один на один или двое против всех? Евгений Золотов Опубликовано 18 ноября 2013 Затянувшееся перемирие в войне игровых консолей окончено: в пятницу в США стартовали продажи Sony PlayStation 4, а её основной соперник, Xbox One от
Фастфуд для мозгов: цифровая диета против соцсетей Евгений Золотов
Фастфуд для мозгов: цифровая диета против соцсетей Евгений Золотов Опубликовано 21 ноября 2013 Уверен: если спросить вас, читающих сейчас эти строки, об отношении к ТВ, половина (а может быть, и больше) скажут, что не смотрят его давно, и подавляющее
Один на всех, но все против одного: возможен ли универсальный «зарядник» для телефонов? Евгений Золотов
Один на всех, но все против одного: возможен ли универсальный «зарядник» для телефонов? Евгений Золотов Опубликовано 26 декабря 2013 Если взглянуть на сегодняшний цифровой мир глазами пользователя из 90-х, может показаться, что мы живём в раю.
4K? Всё ещё слишком рано! Евгений Золотов
4K? Всё ещё слишком рано! Евгений Золотов Опубликовано 06 декабря 2013 Если только вы не обретаетесь на забытом богом острове в Тихом океане (как там «Инмарсат», не тормозит?), то готов ручаться, уже задумывались над тем, как защитить близких от страшной
BlackBerry всё Евгений Золотов
BlackBerry всё Евгений Золотов Опубликовано 24 сентября 2013 «Когда умирают тираны, в первый момент наступает замешательство: возможно ли это, неужто и они состоят из смертных молекул?»Это сказано про человека, не про компанию. Но именно эти слова
Apple и её «чудеса» Евгений Золотов
Apple и её «чудеса» Евгений Золотов Опубликовано 25 марта 2014 После возвращения Стива Джобса в Apple, у этой компании появилось странное свойство «особого качества». Попросту говоря, её продукции приписывали (и продолжают по сей день) чудесные свойства,
XP: обратный отсчёт Евгений Золотов
XP: обратный отсчёт Евгений Золотов Опубликовано 24 марта 2014 Две недели остаётся до «официальной отставки» Windows XP — и по мере того, как утекают последние часы и сутки, ситуация обретает ощутимый драматический оттенок. 8 апреля 2014 года Microsoft
Ода красивому коду Евгений Золотов
Ода красивому коду Евгений Золотов Опубликовано 04 апреля 2014 0 Какой красивый код!10 Пусть тот, кто устал от этой фразы, первым бросит в меня камень. Это редкая и наверное самая ценная похвала, какой только может удостоиться программист. Деньги?
Chrome против всех: вытеснит ли гугловский браузер операционки Microsoft и Apple? Евгений Золотов
Chrome против всех: вытеснит ли гугловский браузер операционки Microsoft и Apple? Евгений Золотов Опубликовано 13 сентября 2013 По мере того как хиреет PC-индустрия (а прогнозы всё хуже и хуже: по итогам года в мировых масштабах, скажем, IDC ждёт уже 10-процентного
Смартфон за $20: а что хорошего? Евгений Золотов
Смартфон за $20: а что хорошего? Евгений Золотов Опубликовано 08 мая 2014 Смартфон шагает по планете. Пусть из каждых шести землян, пользующихся мобильной связью, пока лишь двое (по самым смелым оценкам — больше трёх) делают это с помощью смартфонов — с
Тоска по аналОгу Евгений Золотов
Тоска по аналОгу Евгений Золотов Опубликовано 11 апреля 2014 Признаться, до этой весны я не думал, что однажды снова возьму в руки «винил». Последние грампластинки домашней коллекции отправились на помойку где-то во второй половине 90-х, но прошло
Без окон, без дверей, или Facebook Home против Android-сообщества Евгений Золотов
Без окон, без дверей, или Facebook Home против Android-сообщества Евгений Золотов Опубликовано 08 апреля 2013 Презентовав в минувшую пятницу свой Home, Facebook дала толчок интереснейшей дискуссионной волне. Редко какой продукт при такой простоте — а ведь Home может
Балмер всё Евгений Золотов
Балмер всё Евгений Золотов Опубликовано 26 августа 2013 Стив Балмер уходит из Microsoft. Честно, думали ли вы дожить до этого дня? Стив оставит пост CEO и компанию в течение следующих двенадцати месяцев, как только для него будет подобран достойный
Доктор Лайтман против персоналки: как измеряют эмоции по лицу и кому это может пригодиться? Евгений Золотов
Доктор Лайтман против персоналки: как измеряют эмоции по лицу и кому это может пригодиться? Евгений Золотов Опубликовано 27 марта 2013 Честно сказать, я не поклонник сериалов. И когда супруга попыталась «подсадить» меня на доктора Лайтмана (помните «Обмани меня»?), поначалу