Кивино гнездо: Беззаконие роботехники Киви Берд

Кивино гнездо: Беззаконие роботехники

Киви Берд

Опубликовано 26 декабря 2011 года

В декабрьском номере американского журнала The Atlantic опубликована большая аналитическая статья под названием «Доклад об этике для дронов: что рассказал ЦРУ ведущий эксперт по роботам» ("Drone-Ethics Briefing: What a Leading Robot Expert Told the CIA"). То, что публикации подобного рода уже определённо необходимы и своевременны, разъяснять, вероятно, уже не требуется.

Несмотря на то что количество роботов, применяемых в военных конфликтах армиями и спецслужбами разных стран, исчисляется десятками (если не сотнями) тысяч штук, никаких законов или международных соглашений, регулирующих их использование, пока не видно.

Когда речь заходит о робоэтике, невозможно не вспомнить знаменитые «Три закона роботехники» из цикла фантастических рассказов Айзека Азимова «Я, робот»:

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

Сопоставляя эти принципы, сформулированные почти семьдесят лет назад, с тем, что происходит в действительности, приходится констатировать, что создателям настоящих роботов неинтересны «утопические и наивные» азимовские идеи. В докладе, который подготовил для ЦРУ Патрик Лин, считающийся одним из ведущих теоретиков в области этичного применения новых технологий, три закона роботехники не упомянуты ни разу.

Зато Лин описал множество примечательных (и вызывающих понятное беспокойство) сценариев и задач, которые подходят для того, чтобы переложить их на плечи роботов.

Три D вместо трёх законов роботехники

В отличие от людей, машины прекрасно работают в условиях, которые известны как «три D». Именно это делает их настолько привлекательными для военных и шпионов.

Первое D — из английского слова Dull, то есть «скучная работа». Такая, к примеру, как продолжительное наблюдение, рекогносцировка на местности, патрулирование территории или охрана периметра в течение длительного времени.

Второе D – от Dirty, «грязная работа». Роботам, как правило, не страшны ядовитые и опасные для человека материалы. Они способны работать в средах, которые не подходят для людей, вроде подводного мира или открытого космоса. Их можно использовать для борьбы с последствиями ядерных или биохимических аварий и атак.

Третье D – от Dangerous, то есть «опасная работа». Типичный пример такого рода задач — обследование туннелей в системах пещер, где прячется противник, контроль над поведением враждебно настроенной толпы или обезвреживание взрывных устройств.

Кроме того, отмечает Лин, ныне в этот комплекс всё чаще добавляют ещё одно «четвёртое D» — Dispassion, то есть способность роботов сохранять бесстрастность. Это, правда, спорный момент (оспаривается не отсутствие у робота эмоций, конечно, а стремление рассматривать этот аспект как важный плюс в работе).

Для себя Лин уже решил, на чьей стороне в этом споре правда. Очевидно, что роботы никогда не будут действовать со зла или из ненависти. Им чужды эмоции, приводящие к совершению военных преступлений вроде резни мирного населения или массовых изнасилований. Суждения машины не искажают адреналин и голод. Они не страдают от недосыпа, низкого морального духа и сомнений, которые влияют на то, как люди оценивают ситуацию. Это, по мнению Лина, означает, что роботы способны воевать не только лучше людей, но и этичнее.

Сценарий: пытки

В многочисленных приложениях роботехники, связанных с пленными и заключёнными, роботов можно было бы использовать не только для охраны зданий, но и для охраны людей. Например, полагает Лин, одним из преимуществ этого стало бы прекращение тюремных издевательств над заключёнными, вроде тех, что имели место в тюрьмах Гуантанамо на Кубе и Абу Граиб в Ираке.

И уж коли речь зашла о пленных и заключённых, то следует упомянуть ещё один близко связанный с этой темой сценарий, касающийся применения роботов во время допросов и пыток. (Тут Патрик Лин на всякий случай объявляет, что сам он не является сторонником применения пыток, однако не видит ничего дурного в том, чтобы порассуждать на эту тему «теоретически»).

Большой плюс от применения роботов в этом непростом деле, по мнению эксперта, – это разрешение дилеммы, касающейся использования врачей при допросах с пристрастием и пытках. Совершенно очевидно, что такого рода деятельность заведомо конфликтует с обязанностью врача заботиться о здоровье людей и с клятвой Гиппократа.

Ну а роботы уже сегодня способны отслеживать признаки жизнедеятельности в допрашиваемых подозреваемых так же хорошо, как это могут делать доктора-люди. Кроме того, на роботов можно возлагать и такие задачи, как управление вводом инъекций в тело допрашиваемых. Наконец, роботы по своей природе «могут вызывать у допрашиваемого болевые ощущения более контролируемым способом, избавленным от озлобленности и предрассудков, которые способны завести дело слишком далеко» (цитируя доводы эксперта дословно).

В этом месте всякий трезвомыслящий человек способен отчётливо осознать, в какие бездны может скатиться роботехника под руководством политиков и государственных спецслужб — причём даже не в тоталитарных, а во вполне себе демократических странах.

Однако на этом интересные области применения роботов отнюдь не заканчиваются. Вот как, к примеру, представляется теоретикам роботехники ещё один перспективный вариант приложений: «роботы как троянские кони или дары со скрытым сюрпризом».

Сценарий: обман

Предлагается рассмотреть такую модификацию хорошо известной по жизни ситуации. На сегодняшний день не являются секретом случаи, когда в Афганистане при расчётах с местными полевыми командирами расплачиваются не деньгами, что слишком уж похоже на подкуп, а пачками, скажем, упаковок с виагрой.

Наряду с деньгами секс, как известно, — это один из основополагающих стимулов в поведении людей. В будущем вполне возможна ситуация, когда один из таких местных вождей или информаторов аборигенов в качестве оплаты за свои услуги захочет получить секс-робота.

Сконцентрировавшись на широких — в потенциале — возможностях секс-роботов, в интересах спецслужб можно выделить тот аспект, что подобные роботы вполне могут также иметь в себе встроенные функции слежки и возможности для нанесения удара. В каком-то смысле это может быть троянский конь в виде «роковой женщины», пусть и механической.

Тот же самый, в сущности, сценарий обмана может работать и с другими роботами, не только моделями для секс-удовольствий. Это может быть и автомобиль, и другая бытовая техника.

Окончание на следующей странице: Военные роботы не удовлетворяют международным законам о гуманном поведении при боевых действиях и размывают границу между войной и шпионажем.

К оглавлению