Глава третья Лицо врага

Искусственный интеллект представляет опасность для существования человеческой цивилизации, какую не представляют автокатастрофы, авиакатастрофы, бракованные лекарства или испорченные продукты.

ИЛОН MACK

В октябре 1939 года Альберт Эйнштейн написал президенту Франклину Рузвельту письмо, ставшее впоследствии знаменитым. В нём автор теории относительности фактически потребовал от США начать работы по созданию атомной бомбы. В противном случае, объяснял Эйнштейн, гитлеровская Германия создаст это смертоносное оружие раньше, и судьба мира будет предрешена.

Стивен Хокинг — Эйнштейн нашего времени, но сейчас президентам письма не пишут. И президенты уже не те, да и что они могут? В 2014 году Хокинг выступил на ВВС с пугающим прогнозом: «Разработка полноценного искусственного интеллекта может означать конец человеческой расы».

Илон Маек отозвался в своём Твиттере: «Нам нужно быть предельно аккуратными с искусственным интеллектом. Потенциально он куда более опасен, нежели ядерные боеголовки».

Уже в 2015 году Илон Маек основывает некоммерческую компанию «OpenAI», цель которой — создать открытый и дружественный человеку искусственный интеллект в противовес «злонамеренному искусственному интеллекту», над которым, как считается, работают все остальные — от Сергея Михайловича Брина до Рэя Курцвейла.

Так что есть в этой истории кроме современного Эйнштейна и свой Роберт Оппенгеймер.

Маек провёл переговоры с десятью ведущими специалистами по искусственному интеллекту. Девять из них согласились присоединиться к благотворительному проекту: они оставили свои руководящие должности и баснословные зарплаты в Google и Facebook, чтобы попытаться спасти мир. И число этих робингудов, надо сказать, неуклонно растёт.

Да, «ОрепА!» Илона Маска — это новый «Манхэттенский проект». Но от какого чудища он призван нас защитить? Кто тот Гитлер и работающий на него Гейзенберг, которые грозят «человеческой цивилизации»? И в чём суть этого нового оружия? Возможно ли оно? Как оно будет действовать?