Кивино гнездо: Беззаконие роботехники

Кивино гнездо: Беззаконие роботехники

Автор: Киви Берд

Опубликовано 26 декабря 2011 года

В декабрьском номере американского журнала The Atlantic опубликована большая аналитическая статья под названием "Доклад об этике для дронов: что рассказал ЦРУ ведущий эксперт по роботам" ("Drone-Ethics Briefing: What a Leading Robot Expert Told the CIA"). То, что публикации подобного рода уже определённо необходимы и своевременны, разъяснять, вероятно, уже не требуется.

Несмотря на то что количество роботов, применяемых в военных конфликтах армиями и спецслужбами разных стран, исчисляется десятками (если не сотнями) тысяч штук, никаких законов или международных соглашений, регулирующих их использование, пока не видно.

Когда речь заходит о робоэтике, невозможно не вспомнить знаменитые "Три закона роботехники" из цикла фантастических рассказов Айзека Азимова "Я, робот":

• Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

• Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

• Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

Сопоставляя эти принципы, сформулированные почти семьдесят лет назад, с тем, что происходит в действительности, приходится констатировать, что создателям настоящих роботов неинтересны "утопические и наивные" азимовские идеи. В докладе, который подготовил для ЦРУ Патрик Лин, считающийся одним из ведущих теоретиков в области этичного применения новых технологий, три закона роботехники не упомянуты ни разу.

Зато Лин описал множество примечательных (и вызывающих понятное беспокойство) сценариев и задач, которые подходят для того, чтобы переложить их на плечи роботов.

Три D вместо трёх законов роботехники

В отличие от людей, машины прекрасно работают в условиях, которые известны как "три D". Именно это делает их настолько привлекательными для военных и шпионов.

Первое D - из английского слова Dull, то есть "скучная работа". Такая, к примеру, как продолжительное наблюдение, рекогносцировка на местности, патрулирование территории или охрана периметра в течение длительного времени.

Второе D – от Dirty, "грязная работа". Роботам, как правило, не страшны ядовитые и опасные для человека материалы. Они способны работать в средах, которые не подходят для людей, вроде подводного мира или открытого космоса. Их можно использовать для борьбы с последствиями ядерных или биохимических аварий и атак.

Третье D – от Dangerous, то есть "опасная работа". Типичный пример такого рода задач - обследование туннелей в системах пещер, где прячется противник, контроль над поведением враждебно настроенной толпы или обезвреживание взрывных устройств.

Кроме того, отмечает Лин, ныне в этот комплекс всё чаще добавляют ещё одно "четвёртое D" - Dispassion, то есть способность роботов сохранять бесстрастность. Это, правда, спорный момент (оспаривается не отсутствие у робота эмоций, конечно, а стремление рассматривать этот аспект как важный плюс в работе).

Для себя Лин уже решил, на чьей стороне в этом споре правда. Очевидно, что роботы никогда не будут действовать со зла или из ненависти. Им чужды эмоции, приводящие к совершению военных преступлений вроде резни мирного населения или массовых изнасилований. Суждения машины не искажают адреналин и голод. Они не страдают от недосыпа, низкого морального духа и сомнений, которые влияют на то, как люди оценивают ситуацию. Это, по мнению Лина, означает, что роботы способны воевать не только лучше людей, но и этичнее.

Сценарий: пытки

В многочисленных приложениях роботехники, связанных с пленными и заключёнными, роботов можно было бы использовать не только для охраны зданий, но и для охраны людей. Например, полагает Лин, одним из преимуществ этого стало бы прекращение тюремных издевательств над заключёнными, вроде тех, что имели место в тюрьмах Гуантанамо на Кубе и Абу Граиб в Ираке.

И уж коли речь зашла о пленных и заключённых, то следует упомянуть ещё один близко связанный с этой темой сценарий, касающийся применения роботов во время допросов и пыток. (Тут Патрик Лин на всякий случай объявляет, что сам он не является сторонником применения пыток, однако не видит ничего дурного в том, чтобы порассуждать на эту тему "теоретически").

Большой плюс от применения роботов в этом непростом деле, по мнению эксперта, – это разрешение дилеммы, касающейся использования врачей при допросах с пристрастием и пытках. Совершенно очевидно, что такого рода деятельность заведомо конфликтует с обязанностью врача заботиться о здоровье людей и с клятвой Гиппократа.

Ну а роботы уже сегодня способны отслеживать признаки жизнедеятельности в допрашиваемых подозреваемых так же хорошо, как это могут делать доктора-люди. Кроме того, на роботов можно возлагать и такие задачи, как управление вводом инъекций в тело допрашиваемых. Наконец, роботы по своей природе "могут вызывать у допрашиваемого болевые ощущения более контролируемым способом, избавленным от озлобленности и предрассудков, которые способны завести дело слишком далеко" (цитируя доводы эксперта дословно).

В этом месте всякий трезвомыслящий человек способен отчётливо осознать, в какие бездны может скатиться роботехника под руководством политиков и государственных спецслужб - причём даже не в тоталитарных, а во вполне себе демократических странах.

Однако на этом интересные области применения роботов отнюдь не заканчиваются. Вот как, к примеру, представляется теоретикам роботехники ещё один перспективный вариант приложений: «роботы как троянские кони или дары со скрытым сюрпризом».

Сценарий: обман

Предлагается рассмотреть такую модификацию хорошо известной по жизни ситуации. На сегодняшний день не являются секретом случаи, когда в Афганистане при расчётах с местными полевыми командирами расплачиваются не деньгами, что слишком уж похоже на подкуп, а пачками, скажем, упаковок с виагрой.

Наряду с деньгами секс, как известно, - это один из основополагающих стимулов в поведении людей. В будущем вполне возможна ситуация, когда один из таких местных вождей или информаторов аборигенов в качестве оплаты за свои услуги захочет получить секс-робота.

Сконцентрировавшись на широких - в потенциале - возможностях секс-роботов, в интересах спецслужб можно выделить тот аспект, что подобные роботы вполне могут также иметь в себе встроенные функции слежки и возможности для нанесения удара. В каком-то смысле это может быть троянский конь в виде "роковой женщины", пусть и механической.

Тот же самый, в сущности, сценарий обмана может работать и с другими роботами, не только моделями для секс-удовольствий. Это может быть и автомобиль, и другая бытовая техника.

Окончание на следующей странице:Военные роботы не удовлетворяют международным законам о гуманном поведении при боевых действиях и размывают границу между войной и шпионажем.