Свидетельство о регистрации средства массовой информации Эл № ФС77-47356 выдано от 16 ноября 2011 г. Федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор)

Читальный зал

национальный проект сбережения
русской литературы

Союз писателей XXI века
Издательство Евгения Степанова
«Вест-Консалтинг»

ЕЛЕНА ЛАРИНА, ВЛАДИМИР ОВЧИНСКИЙ


ЧЕРНЫЙ ШАР И ГЛОБАЛЬНАЯ ИНКВИЗИЦИЯ НИКА БОСТРОМА


В самые последние дни 2018 года журнал Forbes на первое место в рейтинге главных сенсаций года, которые войдут в историю фундаментальной науки, номером один назвал рождении первых детей, которые прошли через редактирование генов, будучи эмбрионами. Об этом эксперименте в конце ноября 2018 года рассказал MIT Technology Review. Эксперимент осуществлен в небольшой китайской больнице, в которой семь пар, включая ВиЧ-положительных мужчин, отдали яйцеклетки и семя доктору Хе Цзянкуй и его коллегам из Южного научно-исследовательского института Шеньчжэня на редактирование с применением CRISPR-Cas 9.
Целью ученых было удаление молекулярной “двери”, которая позволяла вирусу СПИДа проникать в Т-клетки. В результате две девочки-близняшки стали иммунными к ВИЧ. Такой прорыв, казалось бы, должен стать поводом к всемирному ликованию. Ведь проведенный эксперимент открывает путь к выращиванию донорских органов; уничтожению бактерий, которые устойчивы к антибиотикам; лечению слепоты и других заболеваний; эффективной борьбе с раком.
Вместо этого поднялась волна цунами публикаций о грядущем биотехнологическом армагеддоне. Предостерегающее заявление делает ЮНЕСКО, ВОЗ создает специальную группу по расследованию условий проведения эксперимента. Власти Китая держат Хе Цзянкуйя фактически под домашним арестом и круглосуточной охраной, при этом запретили ученым, которые провели описанный эксперимент, продолжать исследования на этом направлении. Одновременно в КНР принято решение, суть которого в том, что китайские ученые, которые совершают научные нарушения, могут лишиться возможности получить банковский кредит, создать компанию или поступить на государственную службу. Что же произошло?
Сразу следует напомнить, что редактирование генов “зародышевой линии” запрещено Конвенцией Совета Европы о правах, человека и биомедицине, Всеобщей декларацией ООН о геноме человека и правах, человека, решениями ЮНЕСКО. Вспоминаются и предостережения выдающихся ученых, которые в предыдущие годы высказывались в связи в редактированием генома человека. Ушедший в прошлом году Стивен Хокинг в своих работах неоднократно писал о возможном негативном вмешательстве в эволюцию человека посредством редактирования генома. Популярный сейчас израильский историк и философ Юваль Харари, рассматривая генетические модификации уже в своей первой книге “Краткая история человечества”, которая появилась до революции CRISPR, писал: “Генная инженерия хотя и необязательно нас убьет, но может дойти до того, что человека больше нельзя будет узнать”. Но, пожалуй, наиболее жестко и конкретно высказался по этому вопросу бывший директор Национальной разведки США Джеймс Клэппер (2010-2017 гг.), который в феврале 2016 года в ежегодном отчете по оценке угроз разведывательному сообществу США добавил редактирование генома в список угроз, относящихся к “оружию массового уничтожения и распространения”. Особенно напугали американские спецслужбы низкая стоимость методики GRISPR и ее относительная простота использования (основные ингредиенты можно приобрести в интернете за 60 долларов США).
Неужели мы стали свидетелями события, которое известный исследователь Ник Бостром назвал извлечением черного шара?

О концепции черного шара

В августе 2018 года по инициативе Белого дома Институт сложности Санта-Фе совместно с Университетом АНБ по инициативе Белого Дома провели конференцию для представителей спецслужб США по наиболее сложным вопросам современности. Перед собравшимися выступили лидеры “фабрик мысли”. С одним из докладов выступил шведский философ, создатель Института будущего человечества Оксфордского университета, автор известного бестселлера об искусственном интеллекте Ник Бостром.
Он заявил, что один из способов взглянуть на человеческую историю — это использовать метафору процесса извлечения шаров из урны, подобно тому, как это происходит при жеребьевке чемпионатов мира. Шары представляют собой всевозможные идеи, технологии, институции, открытия и даже привычки. В течение истории человечество извлекло очень много шаров — в подавляющем большинстве белых, пушистых и полезных.
Однако можно вспомнить несколько случаев извлечения серых шаров, которые наряду с благодеяниями принесли проблемы и головные боли. Если суммировать результаты жеребьевок, которыми является всемирная история, то кумулятивное воздействие этого процесса на состояние человечества до настоящего времени было, несомненно, положительным при некоторых неприятных локальных исключениях. Однако возникает сакраментальный вопрос: где гарантия, что этот праздник жизни продолжится и в будущем? Изучая, что за шары извлекались в процессе всемирной истории, нельзя не заметить, что мы ни разу не извлекли по-настоящему черного шара, который содержал бы технологию, безальтернативно и по умолчанию разрушающую цивилизацию, которая ее создала. Здесь важно обратить внимание на вроде бы неприметное слово — по умолчанию. По логике шар с ядерной энергией дает возможность уничтожить человеческую цивилизацию. Но это не может произойти по умолчанию. Кто-то должен начать глобальную войну. А человеческая история показывает, что даже в самых критических ситуациях политическим лидерам хватало осторожности не запускать машину судного дня. Настоящий черный шар — это технология, которая сама по себе, в рамках саморазвития, незаметно, согласно логике перемен способна до основания или в основном разрушить цивилизацию.
Причина того, что нам не попался настоящий черный шар, по мнению Бострома, не в какой-то особой человеческой мудрости или осмотрительности сильных мира сего. Нам пока просто везло. Похоже, что ни одна человеческая цивилизация не была разрушена до основания своими собственными изобретениями. Внимательный анализ краха цивилизаций позволяет выявить другие причины гибели цивилизации.
Остается открытым ключевой вопрос, а есть ли в урне по-настоящему черные шары? Поскольку мир устроен симметрично, то не может быть вселенной, где присутствуют только белые шары. Черные шары обязательно должны быть. Соответственно, по мнению Бострома, однажды входе НИОКР и технологических разработок человечество обязательно вытащит, а возможно, уже вытащило тот самый роковой черный шар. Наша цивилизация обладает странной способностью подбирать все шары, которые оказываются под ногами, и не обладает силой воли выбросить хоть один обратно в урну. Мы можем совершить открытие, но совершенно не способны к закрытию. Вся человеческая стратегия — это надеяться, что либо черных шаров в корзине нет, либо Божье провидение оставит их на самый последок.
Доклад Бострома развивает некоторые концепции, которые могут помочь лицам, принимающим решения, особенно в разведывательном сообществе, признанном распознавать возможности, риски и угрозы, определить настоящий, а не кажущийся цвет шара. И соответственно, когда черный шар все-таки вытащат, постараться сделать практические шаги, чтобы минимизировать, насколько это возможно, вред от этого события.
Бостром полагает, что ответом на вызов черного шара может быть только создание эшелонированной системы научного мониторинга и постепенное движение от странового к глобальному управлению наукой и технологиями, охватывающему в итоге весь земной шар. С глобальными угрозами можно бороться только используя глобальные институты, которым не просто доверяют, а подчинены все локальные структуры. Патриотизм, по его мнению, хорош для века пароходов, бензина и танков. Нынешние угрозы не могут быть блокированы на страновом уровне. Бостром не относит себя к числу оптимистов, полагающих, что у человечества хватит ума в ближайшие 10-15 лет отказаться от национального эгоизма, страновых правительств, и перейти к глобальному управлению. Однако пытается объяснить безальтернативность этого варианта, т. к. в любом другом случае последствия черного шара будут либо летальными, либо, в лучшем случае, трагическими для человечества.
Для этого Бостром рисует более конкретную картину, как может выглядеть технологический черный шар. Наиболее очевидным видом такого черного шара является технология, которая позволяет очень быстро раскрыть чрезвычайно мощную разрушительную силу и при этом для своего появления и развития не требует массивных общегосударственных или международных программ, подобно тому, как это было с атомным оружием.

Гипотеза уязвимого мира

Теперь мы знаем, что нельзя вызвать ядерный взрыв с помощью лишь стекла, металла и батареи. Создание атомной бомбы потребовало реализации циклопических, непревзойденных до сих пор государственных программ. Эти программы хорошо отслеживались и анализировались всеми конкурирующими сторонами. Таким образом, в 40-е гг., мы к счастью, вытащили не черный, а серый шар.
Бостром вводит гипотезу, что технологическая урна содержит хотя бы один черный шар. Он называет ее “гипотезой уязвимого мира”. Суть гипотезы в том, что существует некоторая технология, имеющая тенденцию к саморазвитию, с огромным разрушительным потенциалом, и при этом относительно малозатратная и саморазвивающаяся. Когда мы найдем такую технологию, цивилизация почти наверняка разрушится, если в самые ближайшие годы не будут реализованы весьма экстраординарные и исторически беспрецедентные мероприятия, связанные как с государственным и трансгосударственным управлением, так и превентивным контролем над поведением.
Вполне вероятно, считает Бостром, что мы уже достали либо вот-вот достанем черный шар, и он покончит с нашей цивилизацией, если мы не выйдем из полуанархического состояния, которым характеризуется современный мир.
Под полуанархическим состоянием подразумевается мировой порядок, а точнее беспорядок, описываемый тремя чертами:
— Законодательно и ценностно ограниченные возможности для превентивного контроля и профилактической полиции. Государства не имеют в настоящее время достаточно надежных средств сплошного наблюдения за частной и общественной жизнью групп и лиц, несущих обществу особую опасность. Эта опасность не обязательно связана с их идеологическими пристрастиями и политическими убеждениями, а порождена, прежде всего, их научно-технологическим компетенциями и знаниями. В настоящее время в США и странах ЕС такой превентивный контроль совсем не одобряет порядка двух третей населения, а умеренно не одобряет еще 15-20%. По факту, население планеты, особенно в развитых странах, завороженное гаджетами и социальными сетями, живет в иллюзорном мире, законодательство которого сложилось в середине прошлого века в совершенно иную технологическую эпоху;
— Крайне ограниченные возможности глобального управления. Международные организации, задуманные как эффективные институты глобального регулирования и сохранения мира после Второй мировой войны, типа ООН, Совета безопасности, Международного валютного фонда, Всемирного банка и т. п. показали, по мнению Бострома, свою полную неэффективность в современном турбулентном мире. Военные блоки, созданные в период “холодной войны”, выглядят как пережитки прошлого и способ возложить военные расходы исключительно на Соединенные Штаты. Различного рода консультативные негосударственные органы типа Трехсторонней комиссии, Римского клуба, Давосского форума были эффективны лишь короткий период времени и в настоящий момент либо прекратили свое существование, либо представляют собой декоративные вывески. При том, что все угрозы цивилизации носят глобальный характер, никаких глобальных эффективных институтов не существует. Глобальным эффективным институтом является институт, на который консенсусно возложена функция поддержания порядка, безопасности и принуждения, в том числе государств, угрожающих глобальной безопасности.
Бостром полагает, что самой большой опасностью для человечества в настоящее время является концепция нерушимости и приоритета национального суверенитета. Фактически она означает, что та или иная страна на своей территории может делать все, что заблагорассудится ее элите, в том числе нанося колоссальный ущерб человечеству, делая и без того мизерными призрачные шансы на выживание. Речь в данном случае не идет о военной агрессии той или иной страны. Гораздо больший ущерб может нанести внутристрановая научно-технологическая, научно-техническая, ресурсная или киберполитика. Человек получил землю без государственных границ. Если государства до конца 20-х гг. останутся основными акторами и регуляторами, то шансов на выживание у нынешней цивилизации не будет;
— Движущие мотивы. Человеческая мотивация и психология не слишком изменилась за последние 500 лет. Глобальное торжество западной цивилизации привело к тому, что повсеместно на первый план выдвигаются личные мотивы и интересы, включая деньги, власть, статус, комфорт, удобство и стремление достичь их любой ценой, прежде всего за счет победы в конкурентной борьбе над ближним. Человек, как социо-биологическое существо, относится к крайне незначительному числу высших млекопитающих, которые практикуют убийства друг друга и даже каннибализм. В последние 100 лет под воздействием капитализма общественные, коллективистские мотивы и стимулы были не просто оттеснены на периферию, а основательно разрушены. Ждать от общества, где каждый выживает в одиночку, какой-либо солидарности, по меньшей мере, наивно. Бостром полагает, что с учетом того, что черный шар либо уже находится в наших руках либо скоро попадет к нам, у цивилизации нет времени воспитывать альтруизм, коллективизм, солидарность. Если человечество хочет выжить, необходимо переходить к политике принуждения к коллективизму и солидарности, а также к ограничению потребительства.
Одновременно Бостром вводит термин “опустошение цивилизации”. Он предполагает, что на некотором уровне технологии неизбежно происходит экзистенциональная катастрофа, связанная в предельном варианте с уничтожением хомо сапиенс, а в оптимистическом — с откатом нынешней цивилизации примерно в период раннего средневековья.
Формулируя приведенные выше три порока современной цивилизации, установлена планка ниже, чем в случае полноценного черного шара. При сохранении указанных выше трех пороков цивилизационного устройства уже применяющиеся биотехнологии могут привести к катастрофическим последствиям с отбрасыванием цивилизации на десятилетия, а то и столетия назад.
Подлинная проблема состоит в том, что никто — ни правящие элиты, ни правительственные чиновники, олицетворяющие институции, ни население — не готовы отказаться от того беспорядочного, неэффективного устройства, которое по недоразумению называют новым мировым порядком. Бостром его называет цивилизационной разрухой. Он полагает, что преодолеть ее можно только в том случае, если в мире буквально в ближайшие годы произойдет какая-то крупная локальная катастрофа, жертвы которой будут исчисляться сотнями тысяч человек, которая заставит задуматься о том пути, по которому человечество движется. Если этого не случится, то расчеты, проведенные по обе стороны океана, на мощных имитационных моделях показывают, что наиболее вероятным сценарием мировой динамики с шансами до 70% является смерть 25% населения мира и сокращение мирового ВВП более чем на 50% в течение ближайших 10-15 лет.
Технологиями Востром считает не только машины и физические устройства, но и программные продукты, программно-аппаратные решения, психопрактики, организационные методы, идеологии и т. п. Каждый из этих видов технологий может стать черным шаром. Он говорит об уязвимостях открытия и закрытия. В сценарии “легкого ядерного оружия” период уязвимости начинается, когда находится легкий способ производства ядерных зарядов. Период уязвимости закрывается, когда изобретается технология или технологический пакет, которые делают возможным превентивное предупреждение ядерных взрывов, в том числе принуждение обладателей ядерного оружия к ядерному разоружению.
Если защитная технология невозможна и технологический регресс не происходит, то мир становится постоянно уязвимым. Еще один эмпирический факт, который Востром предлагает постоянно держать в уме политикам, представителям разведывательного сообщества и чиновникам, — это асимметрия мира. Для того чтобы довести научную идею до технологического воплощения, могут потребоваться даже не годы, а десятилетия, а для того, чтобы применить в разрушительных целях ту или иную технологию, может хватить и одного дня. К сожалению, вселенная устроена асимметрично. Созидание трудно, затратно и требует длительного времени. А разрушение, как правило, дешево и мгновенно. Соответственно путь от первых приматов до нынешней цивилизации потребовал десятков тысяч лет упорного труда. А вот поездка в обратный конец может занять всего несколько лет.

Типология уязвимостей

Востром выделяет несколько типов цивилизационных уязвимостей.
Тип 1 (вариант “легкого ядерного оружия”). При этом типе отдельные люди или небольшие группы получают в руки оружие массового уничтожения. Еще в 60-е гг. прошлого века польский католический мыслитель и фантаст С. Лем сформулировал закон возрастания летального потенциала малых групп по мере технологического прогресса. Суть закона в следующем. Наш привычный технологический прогресс как сумма белых шаров, тем не менее, чем дальше, тем больше предоставляет одиночкам и малым группам возможности нанести ущерб или лишить жизни не единицы и десятки, а тысячи, десятки и сотни тысяч людей. Этот закон действует, согласно анализу Лема, с XVI века и имеет тенденцию к экспоненциальному наращиванию летальных возможностей одиночек и малых групп.
При этом типе не предполагается появления некоего артефакта в виде черного шара. Глобальная разруха и анархия, а также несоответствие личного и общественного сознания цивилизационным вызовам ведут к тому, что уже сегодня малые группы, вооруженные кибероружием и разрушительными биотехнологическими разработками, вполне могут устроить апокалипсис как минимум в масштабе мегаполиса.
С учетом высокой связанности мира, уже сегодня, без всяких черных шаров, в течение последующего десятилетия велика вероятность цивилизационного опустошения за счет первоначального катастрофического события, связанного с терактом и вызванной им последующей, распространяющейся по миру эпидемией технологических отказов и аварий.
При данном типе уязвимостей существует обратная зависимость между легкостью, с которой становится возможным вызвать инцидент, и деструктивностью его последствий. Востром считает, что при уязвимостях первого типа верным будет следующее утверждение: чем более легким является осуществление подобного инцидента, тем большие разрушительные последствия он может иметь. Он рассмотривает сценарий очень легкого ядерного оружия, при котором любая квалифицированная инженерная группа может создать переносимое термоядерное оружие, что называется “в гараже”, в течение пары недель и не быть обнаруженной правоохранителями. Этот вариант полностью подходит под ситуацию уязвимости цивилизации.
В конечном счете, уязвимость появляется тогда, когда технологией легко воспользоваться, не прикладывая к этому особых инженерных, финансовых и иных усилий, которые могут быть обнаружены разведывательными сообществами или правоохранителями. Таким образом, уязвимость первого типа существует, если она может чрезвычайно легко причинить умеренное количество вреда либо умеренно легко причинить чрезвычайное количество вреда. Причина, по которой, полагаю, нет смысла излишне концентрироваться на уязвимостях первого типа, к которым привлечено основное внимание общественности и спецслужб, состоит в следующем. Еще в 80-е гг. прошлого века в рамках засекреченных учений ФБР группа выпускников MIT, используя лишь продаваемые без каких-либо документов и ограничений устройства, материалы и компоненты, смогла в Бруклине в течение двух недель изготовить незаметно для ничего не подозревающих правоохранителей, а также агентов ФБР, так называемую “грязную атомную бомбу”. Тот факт, что за последние 25 лет эта возможность не реализована в реальности, говорит о внутренних, встроенных, хотя и не вполне известных нам механизмах, не позволяющих реализовать на практике идею частного ядерного оружия. Соответственно пока статус открытия ядерных технологий может быть охарактеризован серым, но не черным, шаром.
Тип 2А (безопасный первый удар). Технологии, которые демократизируют оружие массового уничтожения, это не единственный вид черного шара, который можно вытащить из урны. Другим видом будут технологии, которые стимулируют влиятельных игроков использовать свое преимущество обладания оружием массового уничтожения.
Тип 2А — это уязвимость непреодолимого искушения нанести удар по врагу, пока он не имеет возможности нанести ответный удар. Уязвимость типа 2А характеризует появление технологий, располагаемых одним из влиятельных субъектов, который стремится использовать ее для того, чтобы покончить с нынешним миропорядком. Здесь важно отметить следующее обстоятельство. Военная история фиксирует два твердо установленных факта монопольного обладания смертоносным оружием влиятельными субъектами в течение относительно продолжительного времени: в одном случае примерно 25 лет, в другом — пяти. Речь идет соответственно о ядерном потенциале США в 40-50-е гг. и уникальном японском бактериологическом потенциале, которым страна располагала в 30-40-е гг прошлого века. Можно предположить, что при всех недостатках и негативах, свойственных политическим элитам, у них даже в экстремальных случаях хватает ума, ответственности или просто страха не использовать своего решающего преимущества. Поэтому и данные технологические пакеты справедливо маркировать не черными, а серыми шарами.
Тип 2Б (“хуже глобального потепления”). Еще один способ опустошения мира связан с изменением климата.
Согласно последним расчетам Министерства энергетики США с использованием суперкомпьютеров и мощной команды из Австралии, в том случае, если до 2025 г. не удастся снизить темпы прироста годовой температуры до примерно 1,5-2%, то в 2030-2035 гг. наступит точка невозврата. Проблема даже не в том, что под воду уйдут Нью-Йорк, Лондон, Санкт-Петербург, Сингапур и Гонконг, а в том, что при таком росте температуры произойдет полное исчезновение большинства видов насекомых и пчел. Их численность за последние 25 лет уже сократилась на 70-80%. Уничтожение насекомых приведет к глобальному краху пищевых цепочек. Соответственно человечество окажется перед смертельной угрозой, которой совершенно непонятно, что можно будет противопоставить.
Уязвимость “худшего глобального потепления” принципиально отличается от уязвимости “первого безопасного удара”. В случае уязвимости первого удара всегда есть конкретный субъект, который должен преодолеть страх немыслимого и осуществить действия, невиданные в истории человечества. Как показывает история, у элит есть внутренний встроенный контур, блокирующий уничтожение человечества одним ударом. В сценарии “худшего глобального потепления” ситуация принципиально иная. Нет одного-единственного субъекта, от которого все зависит. Вместо этого существует большое количество значимых группировок элитных образований, каждая из которых надеется перехитрить другие и, что называется, “заработать на кризисе”.
В математической теории игр хорошо известен термин “трагедия общин”. Он характеризует ситуацию, когда определенная, зачастую, немалая часть участников сообщества сознательно бесплатно потребляет коллективные ресурсы, полагая, что другие в силу различных причин будут продолжать брать на себя бремя сохранения общины. Даже в обыденной жизни хорошо известно, что в каждом коллективе есть халявщики и захребетники.
Уязвимость этого варианта состоит в том, что опустошение земли может наступить в силу недостатков и несогласованностей в коллективной деятельности множества участников. Главное, что каждый из участников, хотя и входит в сообщество, действует самостоятельно и независимо.
Тип 0 (удивительные странники). В 1942 г. один из руководителей Манхэттенского проекта поделился с руководством опасением, что ядерный взрыв создаст температуру, беспрецедентную в истории Земли, и это может вызвать самопроизвольное распространение термоядерной реакции в окружающем воздухе или в воде. Проверочные расчеты показали, что особого риска нет. После этого решились на проведение эксперимента с расщеплением атомного ядра. Эксперимент подтвердил правильность расчетов.
Однако кошмар истории в том, что резюме заключения о возможности проведения эксперимента по расщеплению атомного ядра содержало такие строки, недавно они найдены в архивах: “Риск гибели планеты крайне маловероятен, поэтому целесообразно проверить это экспериментально...” Спустя 12 лет в секретном ядерном эксперименте Castle Bravo планировалось испытать опытный экземпляр термоядерной бомбы не на основе урана или плутона, а на основе лития. Поскольку точно никто не знал, насколько мощным будет ядерный взрыв и каковы будут последствия, повторилась ситуация Манхэттенского проекта. Провели расчеты и выяснилось, что рванет на 6 мегатонн с диапазоном неопределенности 4-8 мегатонн. В Тихом океане был произведен взрыв. Взрыв получился в 15 мегатонн, или 1 тыс. Хиросим, и разрушил большую часть испытательного полигона вместе со всем оборудованием. Короче, ученые ошиблись в расчетах. Когда тогдашний президент США Эйзенхауэр призвал военных к ответу, они сообщили: “Всякое бывает с новой техникой”. Называя вещи своими именами, миру просто сильно повезло.
Исследователи любят именовать себя очарованными странниками в неведомое. Когда неведомое — кости мамонтов, новые сплавы либо наблюдения за бабуинами, любопытство исследователей и тяга к прогрессу даже в худшем случае дешево обойдутся человечеству. Но сегодня никто не знает, чем закончится эпопея с попытками экспериментально выяснить, что такое на самом деле “темная энергия”, как в реальности работает наследственная система человека, каковы пределы взаимодействия человека и компьютера и т. п. Вполне вероятно, что опыт в этих и других сходных областях может стать последним опытом человечества.
Самое худшее в этой истории связано не с наукой и технологией, а с политикой и лидерством. Американский президент не может отказать своим физикам в создании новой сверхмощной установки для проникновения в тайны мирозданий с неясными последствиями просто потому, что аналогичную установку уже строят китайцы. Британцы не могут запретить практических работ по скрещиванию человека с искусственно полученными эмбрионами. Эти работы не планируются, а уже ведутся в некоторых странах Юго-Восточной Азии. Осторожность и осмотрительность в высококонкурентном и враждебном мире просто невозможны. Это — главный урок, который необходимо извлечь.

Достижение стабильности

Плохая новость в том, полагает Востром, что человечество однажды неизбежно достанет черный шар. Хорошая — в том, что это не означает, что цивилизация будет непременно опустошена. Есть, по крайней мере, несколько возможностей стабилизации мира, даже уязвимого мира. Востром рассматривает следующие возможности достижения стабилизации:
— Влокировка отдельных направлений технологического развития.
Выстраивание иерархического мирового порядка, когда доминат частично передаст свои функции региональным и отраслевым по направлениям развития науки, техники и технологий субдоминатам. Конечно, это будет смахивать на феодализм в масштабах планеты и закрепит несправедливость. Однако такая система позволит оперативно выявлять и пресекать опасности.
— Установление эффективного глобального управления во главе с доминатом и справедливым участием субдоминатов.
— Решительное изменение норм международного права, а также создание глобального органа власти, осуществляющего быстрые превентивные меры в отношении нарушителей глобального договора о торможении технологического развития.

Ограничения в развитии технологий: от сдерживания технологических разработок — к глобальной научной инквизиции

В общем виде идея технологического регресса выглядит предельно бесперспективной. Технологическая блокировка в наиболее явном и последовательном виде требует прекращения изобретательской деятельности по всему миру. Это невозможно. Однако невозможность общего отказа от научных и технологических исследований не означает целесообразности ограничения научно-исследовательской и особенно технологической деятельности по определенным направлениям и технопакетам. Востром предлагает отказаться от особенно опасных направлений развития, связанных в первую очередь с проникновением в глубины материи, выяснением реальной, а не упрощенной, картины с наследственностью, созданием саморазвивающихся программноаппаратных средств и т. п.
Он считает, что целесообразно на основе согласованной работы ведущих фабрик мысли в самой ближайшей перспективе сформировать перечень сдерживаемых исследовательских тем и блокируемых технопакетов
и вынести его на обсуждение. Должен быть сформирован перечень запрещенных направлений научных исследований и разработок, а также установлены оборудование и другие компоненты, требуемые для подобной работы. Также необходимо создать на основе усилий разведывательных сообществ полные и постоянно пополняемые списки всех компаний, творческих коллективов и отдельных исследователей и разработчиков, теоретически способных на свой страх и риск либо при сторонней поддержке вести запрещенные исследования и разрабатывать технопакеты.
В этих целях Востром предлагает реализовать принцип дифференцированного научно-технологического торможения. Реализация этого принципа потребует создания (внимание — дословно! наднациональной разведывательной и контрразведывательно-карающей структуры, способной к ежедневным практическим действиям. Это должно стать своего рода глобальной научной инквизицией. Однако в отличие от инквизиции эта структура должна определять не научность или ненаучность тех или иных разработок, а их опасность для человечества. (Этот сюжет впервые детально описали в 80-е гг. прошлого века братья Стругацкие в романах “Волны гасят ветер” и “Жук в муравейнике”. Там подобный орган даже имел название Комкон-2. — Прим. авторов статьи).
Востром замечает, что не следует переоценивать возможности такого рода политики. Весспорно, научно-технологический прогресс имеет собственную, лишь частично зависимую от социально-экономической динамики траекторию. Вероятно, никакие политические, правовые и даже карательные меры не могут остановить технологическое развитие в силу внутренней логики этого процесса. Однако такого рода структуры могут оказать серьезное влияние на время, когда будут разработаны и запущены те или иные технологии. Он говорит, что надо быть реалистами и понимать, что цель такой структуры, в конечном счете, это не вечная блокировка научных открытий и технопакетов, а лишь регулирование времени воплощения научных открытий в технологические разработки. Это достаточно релевантная и реализуемая задача. В основу деятельности своеобразной новой научной инквизиции должен быть положен принцип: разрушительные технологии должны появляться, как факт повседневной жизни, лишь тогда, когда уже созданы защитные технологии. ". е. щит всегда должен опережать меч.
Время изобретения также влияет на социально-политический контекст использования технологий. Коль скоро человеческая цивилизация будет время от времени доставать черные шары, возможно отложить самые рискованные технологические разработки или, по крайней мере, сдерживать их на стадии научных открытий, а не инструментальных технологий. Даже если мы предположим, говорит Востром, что цивилизационные разрушения неизбежны, а скорее всего дело обстоит именно так, то любой нормальный человек предпочтет, чтобы это произошло как можно в более отдаленном будущем, когда он сам и его близкие уже уйдут из жизни. Психологические опыты показывают, что люди воспринимают время, простирающееся не более чем на жизнь их внуков. Поэтому, коль скоро однажды предстоит достать из урны черный шар, который опустошит цивилизацию, лучше, чтобы это произошло к концу текущего столетия, а не в его первой половине.
Востром признает, что реализация технологической блокировки является сложнейшей стратегической задачей. Тем не менее, рекомендует “ответственным” политикам, предпринимателям, исследователям, которые заботятся о том, чтобы их дети и внуки жили, попробовать взяться за эту задачу. Некоторые направления, такие как синтетическая биология, физика темной энергии, лазерное разделение изотопов, генноинженерия, уже сегодня вызывают большую тревогу не только у разведывательного сообщества, политиков, но и у широкой общественности. Поэтому дальновидно было бы в ходе подготовки глобального соглашения о торможении технологий начать с малого, и лишь затем, пользуясь общественным мнением, стремительно запретить то, что можно запретить.
Остановимся и прокомментируем столь неординарное предложение Бострома о глобальной научной инквизиции. Думается, что главное в этом предложении — кто будет поджигать ее костры? По какому поводу? И в отношении кого?
Вопросы не праздные. Возьмем, к примеру, ситуацию, с которой мы начали — редактирование генома человека. Инквизиционный взрыв негодования возник почему-то только в декабре 2018 года, когда стало известно, что редактирование генома осуществили китайские ученые. Но еще в 2012 году группы Шарпентье и Дженнифер Дудны из Университета Беркли (США) опубликовали совместную статью в Science, где предложили способ перепрограммирования системы CRISPR/Cas. В это же время Институт Броуда MIT (США) подали заявку на патент по той же проблеме (до сих пор между двумя университетами идет патентная война). К концу 2016 года редактирование генома было разрешено в Китае, на родине Бострома — в Швеции, Великобритании, а в феврале 2017 года Академия наук США поддержала редактирование генома эмбриона в случаях необходимости спасения людей от неизлечимого заболевания. В ноябре 2017 года в больнице Окленда (США) прошла первая в мире процедура по редактированию генома взрослого человека прямо внутри его тела. Как видим, поводов поднимать шум и растапливать костры инквизиции было немало. Но инквизиция заработала только после удачного эксперимента китайцев. Значит, дело не столько в самой технологии, а в том, КТО ее применяет и насколько успешно! Здесь уместно перефразировать известный вопрос Чацкого — “А инквизиторы кто будут?”.
Востром предлагает и другой теоретически возможный способ достижения цивилизационной стабильности — это резкое уменьшение количества конкурирующих акторов, принимающих самостоятельные решения в области развития науки и техники и применения технологий. Наиболее мягкий и одновременно сложный и малоэффективный способ — это установление различных форм координации между ними. Степень, в которой этот подход может быть эффективным, в решающей степени зависит от того, с каким типом уязвимостей придется столкнуться человечеству. В случае уязвимости первого типа такого рода координация выглядит многообещающей. Как уже отмечалось, у политиков и элит в целом, скорее всего, есть некоторые внутренние встроенные паттерны, отвращающие их от принятия необратимых решений по уничтожению.
Следует отметить, что сегодня вся международная политика вертится вокруг уязвимости первого типа и абсолютно игнорирует другие, гораздо более опасные типы уязвимостей.
Что касается второго типа уязвимостей, то здесь координационный подход является наилучшим. Как правило, в ситуациях со вторым типом уязвимостей круг реальных акторов ограничен несколькими государствами и, возможно, одним-двумя особенно влиятельными негосударственными субъектами. Этот вариант наиболее отработан в истории человечества и позволяет решать проблемы за переговорным столом. Как показывает жизнь, любой, даже самый отъявленный террорист либо гибридный военный игрок через семейные, личные и иные приватные связи вовлечен в жизнь других цивилизованных государств. Соответственно это делает его уязвимым. В западной дипломатии в отличие от разведки хорошим тоном считается неиспользование такого рода уязвимостей. Однако в рамках принуждения к технологическому торможению они являются едва ли не наилучшим инструментом: дешевым, простым и действенным.

Некоторые конкретные ограничения

Помимо прямой блокировки отдельных направлений технологического развития и воздействия на институциональных и частных акторов в рамках сдерживания опасных направлений, Востром называет и другие возможные направления, способные несколько повысить сопротивляемость цивилизации к уязвимостям. Например, можно попытаться:
— предотвратить распространение потенциально опасной информации о блокированных исследованиях и разработках;
— ограничить доступ к необходимым материалам, инструментам и инфраструктуре, используемым для проведения опытно-конструкторских и технологических работ на базе открытий по блокируемым направлениям;
— установить постоянное наблюдение за лицами по своему интеллектуальному уровню, профессиональной подготовке и квалификации способными осуществить не только научные прорывы, но и обеспечить их технологическую реализацию по блокируемым направлениям;
— усовершенствовать, в том числе с использованием искусственного интеллекта, систему превентивного опережающего мониторинга рисков различного рода научных и технологических разработок;
— создать международный механизм правоприменения, который позволял бы пресекать еще на стадии планирования попытки перевести те или иные открытия по блокируемым темам на уровень технологических разработок.
При всей привлекательности, указанные выше решения имеют различный потенциал практической реализации. Предотвращение распространения информации, вероятно, просто невозможно. Даже если реализовать эту меру, то нет гарантии, что кто-то самостоятельно вновь не переоткроет уже открытое и совершит технологический прорыв. Гораздо более эффективным представляется сочетание свободы на уровне публикаций об открытиях, с жесточайшей цензурой на издание технологических документов. Как показывают опыт и здравый смысл, последнее дело — запрещать все и сразу. Напротив, надо дать возможность исследователям раскрыться, оценить риски открытия и далее превентивно пресечь перевод открытия на уровень конструкций и работающих технологий. Это осуществляется, прежде всего, через ограничение доступа к материалам, инструментам и инфраструктуре, и тотальный превентивный контроль над кадрами. Такая смешанная политика, сочетающая открытость с пристальным мониторингом и решительным превентивным реагированием попыток перейти от стадии фундаментальных и прикладных открытий и исследований к их конструкционной и технологической реализации, является не только реалистичной, но и способной в сжатые сроки дать ощутимый эффект.
Любопытно, что Востром полагает, что реализовать предлагаемую смешанную политику можно лишь подкрепив ее превентивной полицейской деятельностью. Эта деятельность не обязательно должна сопровождаться арестами исследователей, разработчиков, конструкторов и технологов. Речь идет об особой полицейской деятельности, чьей задачей является не изоляция ученых и разработчиков от общества, как это происходит с преступниками, а изоляция их от определенных направлений научных и технологических исследований и разработок. Главная проблема, по мнению Бострома, заключается в невозможности развертывания подобной полицейской научно-технологической деятельности не только на национальной, но и на международной, транснациональной основе. Востром почему-то считает, что “Европол и Интерпол продемонстрировали удивительную беспомощность в борьбе с высокотехнологичными преступлениями”. Поэтому, по его мнению, создавать еще одну международную организацию, учредителями которой являются национальные государства, представляется совершенно бессмысленным.
“Надо прямо и честно сказать себе, — говорит Востром, — что национальные государства — лидеры сегодняшнего мира — выступают категорически против предлагаемых новаций и успешно ведут человечество к опустошению цивилизации. Они занимаются азартной конкурентной борьбой за овладение любой новой технологией, в том числе той, которая помечена черным шаром”.
Внимательно проанализировав складывающую глобальную ситуацию, Востром пришел к выводу, что высокая необходимость не предполагает значительной вероятности осуществления подобных мер. В этой связи он предлагает рассмотреть еще два возможных пути достижения технологической стабилизации и спасения цивилизации от разрушения вследствие технологического открытия, маркированного черным шаром:
— ведущим государствам — технологическим лидерам заключить договор о создании внутригосударственной профилактической технологической полиции, которая бы занялась выявлением и блокировкой деятельности любых небольших групп и отдельных лиц, способных реализовать технологический черный шар;
— создать потенциал для сильного глобального управления. Принимая во внимание, что государства более не обладают монополией на власть, которая частично переходит к корпорациям и общественным организациям, сделать упор на создание международной корпоративной упреждающей технологической полиции. Как показывает опыт, технологические гиганты готовы сотрудничать с правоохранительными органами по выявлению и ограничению тех или иных технологических решений. Это происходит не из-за высокой сознательности руководителей технологических гигантов, а объясняется их экономическими интересами. Занимаясь торможением технологий — кандидатов на черный шар, — технологические гиганты одновременно замораживают достигнутый уровень технологии, т. е. фиксируют мир, где они являются лидерами.

Превентивная технологическая полиция

Востром подчеркивает: “Полагать, что профилактическая технологическая полиция может быть создана в рамках и на основе уже имеющихся полицейских сил, в том числе занимающихся киберпреступностью, это — бесперспективная утопия”.
По его мнению, ближе всего к созданию превентивной полиции находится сегодня Китай. Внимание Вострома привлекла китайская информационно-коммуникационная система социального кредита. Она предполагает практически сплошное видеонаблюдение за гражданами крупнейших городов и в зонах социального напряжения, дополненное тотальной обработкой больших данных социальных сетей и любых электронных транзакций внутри КНР. В зависимости от поведения китайцы будут получать либо ограничиваться в получении различных социальных благ.
Впервые подобную систему под названием “Паноптикум” описал Иеремия Бентам в начале XIX века. В настоящее время стоимость развертывания и годовая эксплуатация этой системы в расчете на одного человека составляет в Китае 380 долларов. По оценкам южнокорейских экспертов, которым удалось ознакомиться с первичными документами китайской системы, перед инженерами и технологами поставлена задача до 2022 года довести ее цену до 140 долларов на человека. В этом случае Китай сможет осуществить ее сплошное развертывание.
Интересен вывод Вострома: “Принципиально в условиях, смертельной угрозы гибели цивилизации от черного шара можно было бы всерьез рассмотреть возможность глобального развертывания подобной системы. Если предположить приведенные затраты на одного человека в 140 долларов, которые китайцы рассматривают как цель, то глобальное развертывание системы постоянного мониторинга и превентивных мероприятий составит примерно 1% мирового ВВП. Это вполне приемлемая цена для предотвращения крушения цивилизации”.
Вопрос сегодня не в технической и организационной реализации подобной системы. В этом сомнений нет. Проблема — в сопротивлении населения в западных странах и политиков традиционного толка развертыванию подобной системы.
Возникает вопрос, а есть ли хоть один шанс реализовать эту систему на Западе. Представляется, что к глобальному паноптикуму ведут два пути. Первый связан с тем, что общество постепенно осознает, что двигается к полной социальной прозрачности, где больше нет приватности, и к алгоритмической экономике и отчасти политике. Фактом является то, что сегодня гораздо проще собирать и анализировать информацию о людях и событиях, чем это было 5-7 лет назад. Даже в наиболее приверженных личным свободам странах типа Скандинавии, Швейцарии, Соединенных Штатов общество молчаливо соглашается с ликвидацией приватности, как допустимой платы за предотвращение терроризма. Иными словами, если, по мнению Бострома, начать интенсивную информационную кампанию относительно технологической опасности черного шара, то есть основания полагать, что позиция основной части населения в западных странах изменится. Ментально оно подготовлено, прежде всего, телевидением и интернетом к грядущим колоссальным проблемам из-за неконтролируемого развития технологий. Поэтому при достижении внутриэлитного согласия этот путь можно пройти достаточно быстро.
Исходя из рассуждений Бострома, нынешний либеральный Запад практически готов ввести у себя тотальный электронный контроль за поведением, дело только в умелой пропагандистской работе.
Второй путь, согласно концепции Бострома, предполагает умное и оперативное использование последствий практически неминуемых, в ближайшие 3-5 лет крупномасштабных, технологических катастроф, от которых могут пострадать десятки, а то и сотни тысяч человек. Эти катастрофы неминуемо произойдут в развитых странах, поскольку уровень сложности как обществ, так и технических устройств, а также телекоммуникационных сетей уже сегодня заметно превысил уровень управления. Грубо говоря, сложность развивается стихийно. Любое стихийное развитие заканчивается катастрофой. Просто эту катастрофу надо эффективно использовать так же, как в Соединенных Штатах были использованы события 11.09.2001. “Естественно, — говорит Бостром, — я не только не призываю, но и не намекаю на идею плановой организации катастроф. К сожалению, они произойдут в ближайшее время стихийно. Я предлагаю планировать реакцию на катастрофы. Эта реакция, наряду со спасательными и восстановительными мероприятиями, должна включать мощнейшую информационную кампанию, которая убедит население в полезности Паноптикума”.
Ну как здесь действительно не вспомнить события 11.09.2001 и все, что за этим произошло!
Глобальное управление
Бостром рассматривает еще одно направление, связанное с перестройкой государства на предотвращение разрушения цивилизации: “Глядя в будущее, предположим, что черный шар уже вытащен, и он связан с развитием синтетической биологии или искусственного интеллекта. Также предположим, что научно-техническим разведкам ряда стран-лидеров удалось своевременно оценить возникшие технологии именно как черный шар, ставящий под угрозу само существование цивилизации. Естественно, что в данной ситуации государственные субъекты столкнутся с проблемой выработки и скорейшего осуществления коллективных действий”.
Единственную альтернативу хаосу, который воцарился в настоящее время в мировом сообществе, Бостром видит в установлении жесткого глобального управления. Из-за дискредитации термина “мировое правительство” он не называет глобальное управление этим термином. Он предпочитает использовать термин “специальный комитет”. Функции специального комитета должны быть ограничены конкретной проблемой сдерживания научнотехнологического прогресса. В этих рамках он должен иметь право в приказном порядке потребовать от любого правительства, включая правительство Соединенных Штатов, выполнить те или иные действия либо предоставить возможность выполнения этих действий на территории страны особым силам спецкомитета. Бостром не предлагает всемирного правительства, но в условиях. реальной угрозы цивилизации он предлагает модель ограничения суверенитета всех стран мира в части технологического развития. Ни одна страна не может ссылаться на то, что она суверенна, а соответственно может на своей территории делать все, что ей заблагорассудится. “Данные меры, — говорит Востром, — надо провести как можно скорее, пока такое государство, как Китай или безответственная Россия не вытянут все же черный шар и не отправят всю нашу цивилизацию в лучшем случае в страну опустошения, а в худшем случае — в небытие”.
Так вот где собака зарыта! Все запугивание свелось к конкурентной борьбе США против Китая и России!
Прямым текстом Востром ставит вопрос следующим образом: “Ответственные мировые элиты должны провозгласить необходимость создания в кратчайшие сроки спецкомитета, имеющего не просто право, а обязанность в определенной, строго установленной области не вести переговоры с государствами, а приказывать им, что они должны сделать, чтобы помочь силам спецкомитета провести успешную операцию на территории государства... Когда на повестке дня стоит скорое разрушение цивилизации, полными идиотами выглядят почтенные действующие политики, предлагающие собрать Генеральную Ассамблею ООН, сессию Совета НАТО, либо, как рассказал мне один известный испанский политик, сессию Совета Европы по рассмотрению возможности создания Комитета по предотвращению перспективных технологических угроз”.
Закончил свою, поистине, историческую речь Востром следующими словами: “Надо четко сказать, что буквально в ближайшие год-два-три необходимо отказаться в международном масштабе от концепции неограниченного национального суверенитета и передать безусловные права спецкомитету, как глобальному органу мониторинга, контроля и пресечения попыток осуществлять исследования и разработки, чреватые черным шаром. Когда черный шар будет извлечен, а я надеюсь, что этого еще не произошло, будет уже поздно искать пути пресечения развития технологий... Спецкомитет или высокотехнологичный Паноптикум — это не фашизм, а необходимость. Надеюсь, что хотя бы некоторые из вас читали мои международные бестселлеры “Дайте красную таблетку” о фильме “Матрица” и, согласно данным Амазона, самую популярную в мире книгу о развитии искусственного интеллекта “Суперинтеллект”. Видно, что эти книги написал убежденный либерал, демократ, человек, до мозга костей приверженный американским ценностям. Поэтому я верю, что, ответственно подходя к делу, можно сочетать высокотехнологичный Паноптикум с сохранением демократии. Чтобы наслаждаться свободой, надо как минимум быть живым. Дела же складываются так, что без Паноптикума вряд ли у нас есть большие шансы просуществовать хотя бы до 2030 года”.
P.S. Думается, что Вострому надо сказать большое человеческое “спасибо” за откровенное современное изложение концепции западного либерализма, что дает реальное видение ситуации, реальное понимание того, что произойдет в ближайшие годы с нашей страной и всеми нами, если мы ринемся под знамена “убежденных демократов и либералов”.