В гонке ИИ Америка стремится стать первой
Президент России Владимир Путин 19 декабря 2019 года на ежегодной большой пресс-конференции в очередной раз подчеркнул важность продолжения работы в сфере изучения искусственного интеллекта (ИИ) и его возможностей. Напомним, что в октябре 2019 года президентом РФ была принята Национальная стратегия развития ИИ на период до 2030 года.
По существу, в мире началась беспрецедентная борьба за лидерство в развитии ИИ. Ознакомление с последними (2019 года) стратегическими документами США по этому вопросу свидетельствует о том, что Соединённые Штаты рассматривают эту борьбу как вариант военных действий. Такая ситуация вокруг ИИ безусловно скажется на всём комплексе международных отношений. Она требует комплексного анализа и разработки мер по защите национальных интересов России.
Президент США Дональд Трамп в феврале 2019 года подписал указ “Американская ИИ-инициатива”. Указ Трампа требует наращивать объёмы и повышать эффективность ассигнований на ИИ для создания “возможностей, обеспечивающих нашу экономическую и национальную безопасность”. Национальный стратегический план в области развития ИИ, подготовленный в 2016 году и обновлённый в 2019-м, наметил разумный перечень целей.
Правительство США во исполнение указа Трампа выпустило Стратегическое руководство. В нём подчёркивается важнейшее значение ИИ для национальной безопасности. Члены Конгресса подали более 30 законопроектов, касающихся ИИ, из которых более трети приобрели силы законов. В соответствии с решениями Конгресса создана специальная межпартийная группа по развитию ИИ. Сотни перспективных проектов, связанных с ИИ, реализуются Министерством обороны. Создан новый орган правительства США — Объединённый Центр ИИ в статусе федеральной службы. Проект Maven является объединением усилий американских технологических компаний, стартапов, университетов по эффективному обнаружению, классификации и отслеживанию объектов на видеопотоках. Разведывательное сообщество выделило в качестве приоритетного направления финансирование IARPA исследований в области ИИ. АНБ И Министерство энергетики приняли решения о предоставлении мощностей их объединённой сети суперкомпьютеров для доступа исследователей и разработчиков ИИ к высокопроизводительным вычислительным ресурсам.
21 декабря 2019 года Трамп подписал Закон об американском оборонном бюджете на 2020 год, где разработке искусственного интеллекта, наряду с гиперзвуковым оружием, технологиями направленной энергии и созданием Космических войск США, уделено первостепенное внимание.
Законом США о национальной обороне на 2019 финансовый год в марте того же года в Конгрессе утверждена Комиссия по искусственному интеллекту для национальной безопасности. На неё возложено “рассмотрение методов и средств, необходимых для развития ИИ, машинного обучения и связанных с ними технологий, для всестороннего и успешного решения задач национальной безопасности, обороны и информационного превосходства Соединённых Штатов”. Председателем Комиссии стал бывший глава Google, член Бильдербергского клуба, миллиардер Эрик Шмидт (одновременно Шмидт состоит в Американском технологическом совете, утверждённом Трампом в июне 2017 года, и с 2016 года возглавляет Совет по инновациям при Министерстве обороны США).
В Комиссию входят технологические предприниматели, руководители университетов, высокопоставленные военные, лидеры разведывательного сообщества, представители основных политических сил Америки. Конгресс дал Комиссии широкий мандат на изучение ИИ через призму национальной конкурентоспособности, выявления технологических преимуществ, определения господствующих тенденций, а также установления реальной картины развития ИИ другими национальными государствами, корпорациями и международными структурами. Комиссия также уполномочена подготовить конкретные предложения по увеличению инвестиций в фундаментальные и передовые исследования, кадры, образование и т. п. Также миссия Комиссии включает прогнозирование будущей эволюции ИИ, тех рисков и возможностей, которые она несёт. На данном этапе основное внимание Комиссии сосредоточено на:
— угрозах национальной безопасности со стороны ИИ иностранных, прежде всего, враждебных и конкурирующих с Америкой государств, а также рисков владения ИИ террористическими организациями;
— наиболее полном использовании возможностей ИИ для укрепления обороноспособности США, увеличения осведомлённости и качества работы разведки, повышения уровня охраны правопорядка и соблюдения законов;
— взаимосвязи между ИИ, экономической конкурентоспособностью и технологическими достижениями как важнейшими компонентами национальной безопасности;
— этических соображениях и ограничениях, которые необходимо учитывать при развитии ИИ в интересах национальной безопасности.
В ноябре 2019 года Комиссия подготовила промежуточный доклад, который удовлетворяет специальным просьбам Конгресса об информировании относительно реального состояния дел с ИИ в Соединённых Штатах, и месте Соединённых Штатов в глобальной гонке развития ИИ. В докладе предпринята попытка спрогнозировать основные возможности, риски и угрозы развития ИИ в контексте национальной безопасности.
В докладе определены пять основных направлений усилий, необходимых для сохранения преимуществ США. К ним относятся:
— продолжение активных инвестиций в исследования и разработки в сфере ИИ;
— рекрутирование молодых американцев в отрасль ИИ, а также привлечение наиболее талантливых математиков, программистов, нейрофизиологов, когнитологов со всего мира в программы ИИ в Соединённых Штатах;
— недопущение законодательных мер, способных сдерживать инновационный потенциал американских компаний — лидеров в сфере ИИ;
— создание системы глобального мониторинга и инвентаризации наиболее многообещающих эффективных решений, фреймворков в области ИИ с обеспечением патентной и юридической собственности субъектов права США на эти достижения;
— продолжение осуществления на государственном, бизнесовом и университетском уровнях сотрудничества в области ИИ между Соединёнными Штатами и странами-союзниками.

Главная задача

В докладе делается акцент на том, что мы живём в мире, когда одновременно происходят революция ИИ, возрождение конкуренции между великими державами, а также между державами и корпорациями и международным сообществом — с одной стороны, и террористическими организациями — с другой. Эти три фактора угрожают роли Соединённых Штатов в качестве мирового лидера инноваций, бросают вызов американскому военному превосходству и ставят под сомнение их национальное интеллектуальное лидерство.
Важнейшее обстоятельство, которое Комиссия учитывает в своей работе, — это принципиальное отличие нашего времени от 40-х годов прошлого века. Атомная гонка и Манхэттенский проект осуществлялись в режиме строжайшей секретности и конфиденциальности. Между тем, ИИ развивается в открытом мире, где значительная часть не только программных, но и аппаратных, решений базируется на разработках, с открытым исходным кодом.
Кроме того, конкуренция между странами и компаниями происходит в электромагнитной среде. В ней нет границ, а соответственно, ни одна страна мира не может вырезать себя из глобальной сети без трагического ущерба для собственной безопасности.
В XXI веке реализация ключевых проектов в области национальной безопасности предполагает не полную секретность, а, напротив, полную открытость.
Как известно, Стратегия национальной безопасности США, действующая в настоящее время, предполагает противоборство на пяти полях, боя — в воздухе, на земле, на воде, в космическом пространстве и электромагнитной среде и в семи сферах противоборства, включая технологическую.
Конкуренция за первенство в ИИ — это наиболее яркое проявление глобального технологического конфликта, который охватил планету и по своим последствиям, возможно, превосходит традиционные политические, экономические и военные противоборства.
В докладе содержится положение, которое идентично высказываниям президента России Владимира Путина: тот, кто выиграет в технологической гонке, в конечном счёте, станет победителем и в других. Проигравшие в технологической гонке в лучшем случае перестанут быть великими державами, а в худшем — утратят национальный суверенитет и даже могут превратиться в несостоятельные государства.

Что Комиссия Конгресса понимает под ИИ

ИИ — это способность компьютерной системы решать те или иные проблемы, которые в противном случае потребовали бы участия человека. Технологии ИИ развивались на протяжении многих десятилетий. Например, распознавание образов, машинное обучение, компьютерное зрение, понимание естественного языка и распознавание речи — это технологии, берущие своё начало в 50-х годах прошлого века.
Нынешний бум ИИ по состоянию на конец 2019 года связан не с прорывами в области программирования и использования принципиально новых, не существовавших, ранее вычислительных, методов, а со скачкообразным наращиванием мощностей, быстродействия и экономичности аппаратной части, а также с принципиально новой телекоммуникационной связанностью мира, возможностями получения, архивирования и обработки больших, данных.
В настоящее время и на ближайшую перспективу реалистичным будет наращивание и повышение эффективности так называемого специализированного или слабого ИИ. В рамках слабого ИИ компьютеры могут достичь превосходства над человеком в части решения вычислительных, алгоритмических, в конечном счёте, комбинаторных задач, выполняемых строго по правилам, в рамках которых осуществляется поиск и обработка огромных массивов данных на предмет выявления закономерностей, поиска аномалий и осуществления оптимизации конкретных показателей.
Совершенствование аппаратных устройств, в том числе использующих графические процессоры, позволило на практике всё шире использовать машинное обучение как способ решения поставленных перед компьютером задач. Многие исследователи ИИ вплоть до начала XXI века вдохновлялись перспективой создания компьютера, способного выполнять те же задачи, что и люди. Для такого рода компьютеров используется термин “сильный ИИ” или “искусственно-генный интеллект (AGI)”.
До настоящего времени не только медиа и университеты, но и многие компании пытаются создать прообразы AGI. Позиция Комиссии состоит в том, чтобы вместо расходования ресурсов, времени и способностей на несбыточную, по крайней мере, в среднесрочной перспективе, задачу гораздо более эффективно сосредоточиться на узких местах слабого или специализированного ИИ.
Уже сегодня слабый ИИ, или вычисления на основе больших данных в рамках алгоритмически заданных правил, позволяют успешно решать широкий спектр задач в области национальной безопасности, особенно в сфере разведывательного прогнозирования и управления автономными робототехническими системами.
По мнению Комиссии, ИИ не является лишь программно-аппаратным устройством, а представляет собой скорее реализацию обширного технологического пакета. Один из основоположников ИИ Эндрю Мур описывает ИИ как “массовую взаимоувязанную коллекцию технологических блоков, математико-формальных методов, телекоммуникационной связи, в совокупности называемых стеком ИИ”.
Комиссия в качестве главного фактора развития ИИ и обеспечения американского лидерства видит таланты математиков, разработчиков, программистов. В конечном счёте, главным в ИИ являются люди. Соответственно, первостепенная задача для обеспечения американского лидерства — создать для людей, занятых разработкой, обслуживанием, эксплуатацией ИИ, наиболее благоприятные материальные и иные условия, комфортную среду для проживания, свободного обмена мнениями, работы в тех условиях, к которым они привыкли, и, конечно же, получение ими достойного вознаграждения и общественного признания. Именно от привлечения талантов и обеспечения им наилучших условий работы и существования зависит победа США в гонке ИИ.

Материализация ИИ

Исследователи вспоминают, что за последние 70 лет, как минимум, дважды — в начале 60-х и в конце 90-х годов — обществу казалось, что сильный ИИ уже рядом и скоро станет полноправным партнёром человека. Провал ожиданий дважды привёл к так называемым “зимам” ИИ, когда из отрасли уходили инвестиции, таланты и т. п.
Сегодняшняя ситуация отличается коренным образом. Более того, сегодняшний прогресс ИИ — это, в основном, не плод новых, открытий и достижений, а освоение методов, алгоритмов и теорий, разработанных 30-50 лет назад. Сегодня они приносят дивиденды из-за прорывов в вычислительных мощностях, дешевизне телекоммуникаций, облачных вычислений, появления больших данных и наступления интернета во всех сферах жизни.
Именно развитие ИИ будет определять будущее власти. ИИ призван играть решающую роль в достижении экономических конкурентных преимуществ, укреплении обороноспособности и лучшем, чем когда-либо, регулировании общественного поведения населения. Тот, кто первым обеспечит своему ИИ ощутимое превосходство, получит мантию мирового лидерства. Эта мантия всё больше и больше зависит не от наличия или отсутствия у страны ресурсов, не от традиционной военной мощи и даже не от накопленных золотовалютных запасов, а от силы инновационной экономики, уровня развития ИИ, освоения новых, никогда ранее не использованных технологий в самых различных областях.
ИИ — это технология двойного назначения, используемая для военных и гражданских целей (можно выделить и третье назначение — криминальное. — Е. Л., В. О.). Однако эта простая дихотомия скрывает главное. ИИ, по сути, является программно-аппаратной реализацией функции управления. В быстром сложном мире именно управление определяет не только прогресс, но и, что ещё более важно, устойчивость обществ, возможность гибко и даже превентивно реагировать на внешние и внутренние вызовы.
Комиссия полагает, что в ближайшем будущем исход борьбы за лидерство в мире будет определяться не столько в традиционных, военнополитических конфликтах, сколько в ходе технологического противоборства и, что является принципиально новым, будет зависеть от устойчивости государств и обществ к новым вызовам, в том числе к тем, которые называются “чёрными лебедями”.

ИИ и обороноспособность

ИИ, считает Комиссия, коренным образом изменит способы и инструменты защиты Америки. ИИ не только позволит более эффективно бороться с киберугрозами, но и за счёт обеспечения большей информационной осведомлённости и качества управления резко повысит эффективность всех видов вооружённых сил Соединённых Штатов. Возможность обработки больших объёмов данных позволит точнее оценивать риски и адекватнее в режиме реального времени реагировать на угрозы. Уже сегодня системы ИИ за счёт эффективных способов выявления аномалий позволяют превентивно отражать террористические и криминальные угрозы, а также выявлять слабые сигналы наступающих, опасностей.
ИИ изменит методы работы разведывательных, сообществ. ИИ позволит при прогнозировании, поиске аномалий и анализе связей в рамках одной задачи использовать терабайты разнородной информации. Анализ с поддержкой ИИ обеспечит более быструю и точную ситуационную осведомлённость и на этой основе повысит качество решений.
ИИ будет воздействовать на разведывательное сообщество США ещё одним, достаточно необычным образом. Собственниками значительных объёмов ценной информации является частный бизнес. Поскольку разведка во всё возрастающей степени будет связана с анализом больших данных и ИИ, следует ожидать не только передачи части государственной разведки бизнесу, но и формирования на постоянной основе государственно-частных разведывательных, партнёрств.
На будущих полях боя военные будут использовать машины с поддержкой ИИ, а также программно-аппаратные и телекоммуникационные средства на базе ИИ, обеспечивающие координацию проведения сложных многодоменных. операций.
Наконец, ИИ коренным образом изменит понимание того, что мы называем войной. Традиционная война — это насилие и разрушение. Однако гораздо эффективнее не разрушать, а подчинять. Соответственно, применение ИИ позволит преобразовывать стихийную человеческую деятельность в такой набор операций и действий, который благодаря алгоритмизации становится более выгодным и менее энергозатратным. Такие примеры в нынешнем мире уже есть. Это — Uber, Amazone, Airbnb и т. п. Соответственно, тот, кто сможет предложить более эффективные алгоритмы и одновременно подавить вражеские вычисления, станет лидером. Некоторые считают, что этот аспект внедрения ИИ откроет принципиально новую эру — эру алгоритмических войн.
Алгоритмические войны — это не просто битва искусственных интеллектов. Это не разрушение сайтов и критических инфраструктур, как в кибервойнах, а сражение алгоритмов против алгоритмов, управляющих, деятельностью и поведением людей на основе их инстинктов, предпочтений и т. п. Вероятно, в ближайшем будущем алгоритмические войны в гораздо большей степени определят сущность конфликтов, нежели традиционные факторы, такие как численность войск, уровень вооружений, диапазон использования оружия. Вычислительные сражения будут определяться превосходством в данных, вычислительных мощностях, общей устойчивости систем, умением использовать человеческие инстинкты, стереотипы и привычки. Достижение такого будущего потребует разработки принципиально новых оперативных концепций, конструкций и способов развития конфликтов.
Комиссия также признаёт, что смертоносные автономные вооружённые системы (LAWS) представляют собой важный аспект использования ИИ. Комиссия стремится понять различные точки зрения на LAWS, а также оценить риски использования этих систем другими государствами и террористическими сетями.

Главные угрозы

ИИ усиливает и ускоряет существующие угрозы, а также создаёт новые. Они могут возникнуть из двух аспектов: из того, что противник может сделать с ИИ, а также из непредвиденных последствий собственного использования ИИ.
Комиссия выделяет несколько основных направлений угроз.
— Эрозия военного преимущества США. По мнению Комиссии, стратегические конкуренты, и прежде всего Китай и Россия, стремятся максимально широко использовать ИИ, а также LAWS с ИИ в ходе своих военных операций, в рамках гибридных войн и прокси-конфликтов для подрыва военного превосходства США и лишения эффективности традиционной американской стратегии сдерживания.
— Угроза стратегической стабильности. Глобальная стабильность и ядерное сдерживание могут быть подорваны, если системы с поддержкой ИИ позволят отслеживать и наносить удары по ранее неуязвимым целям. Дестабилизация ядерного равновесия в условиях ИИ может подтолкнуть отдельные государства к принятию более агрессивных стратегий, а главное, практических действий, что чревато быстрой и, возможно, неуправляемой эскалацией локальных конфликтов.
— Неконтролируемое распространение ИИ. По мере того как платформы, приложения и фреймворки ИИ становятся все более доступными, растёт вероятность безрассудного и неэтичного использования ИИ государствами-изгоями, агрессивными государствами и негосударственными, в том числе террористическими субъектами. Как показывают консультации Комиссии с технологическими компаниями и университетами, уже сегодня агрессоры и преступники вполне могут создать ИИ, базируясь на выложенных в сеть свободных решениях и программах с открытым исходным кодом. Крайне угрожающим, по мнению Комиссии, является принятие решения технологическими гигантами об открытии платформ и фреймворков ИИ как ответ на их критику со стороны общественности и подозрения в злоупотреблении возможностями управления поведением. В результате этих, по большей мере, необоснованных подозрений, враждебные государства, террористы и преступники-одиночки уже сегодня могут создать не только простые, но и среднего уровня платформы, использующие ИИ. Это уже завтра станет огромной угрозой международной стабильности, целостности финансовой системы и безопасности личной жизни американцев.
— Дезинформация и угрозы демократической системе. ИИ усиливает и без того серьёзные угрозы злонамеренного управления поведением через проведение кампаний дезинформаций, а также риски осуществления киберопераций, включая действия “под чужим флагом”. ИИ уже сегодня позволяет создавать deep fakes, неотличимые от подлинных фото- и аудиоконтента, видеороликов и т. п. Впервые в истории люди оказываются в информационной среде, в отношении которой они не могут быть убеждены, что это реальность, а не создание манипуляторов. Всё это может не только поставить под угрозу подведение итогов выборов, но, что гораздо страшнее, создать атмосферу тотального недоверия, дезинформации и агрессивности американцев, усугубить нарастающее разделение общества по обе стороны Атлантического океана.
Эрозия личной жизни и гражданских, свобод. Новые инструменты ИИ предоставляют государствам несравнимо большие, чем раньше, возможности мониторинга, отслеживания и манипуляций поведением как собственных граждан, так и граждан других государств. Уже в настоящее время практически на каждого жителя в развитых государствах и значительной части развивающихся имеются цифровые профили, включающие не только профессиональные, идентификационные данные, но и сведения об их поведении онлайн и офлайн, а также чувствительные персональные данные, связанные с убеждениями, религиозной принадлежностью, состоянием здоровья, психики и т. п. Внедрение ИИ в комбинации с системами видеонаблюдения и интернетом вещей превращают весь цифровой мир в средство копирования любых следов личности и создают предпосылки для полной информационной осведомлённости собственников платформ и брокеров данных о поведении как отдельных граждан, так и любых их совокупностей. В этой связи особую тревогу Комиссии вызывает использование Китаем ИИ для создания систем тотального мониторинга поведения, включая видеонаблюдение. У Комиссии имеются задокументированные данные о том, что китайские системы размещены и работают минимум в 74 странах, включая многие либеральные демократии.
— Всё более опасные кибератаки. ИИ мультиплицирует риски и угрозы кибератак. Уже сегодня есть свидетельства наличия шпионских, боевых киберплатформ, ранее привычно называемых вирусами, управляемых ИИ. ИИ находит слабые секторы в антивирусной обороне и системах информационной безопасности и рассчитывает способ их преодоления. Кроме того, сами по себе суперкомпьютеры и облачные серверы, связанные с ИИ, становятся приоритетной целью для кибератак. По мере того, как весь мир переходит к интернету всего, где всё — от автомобилей до критических инфраструктур — управляется ИИ, именно кибервооружение становится одновременно наиболее разрушительным, экономичным и вероятно доступным видом оружия массового поражения. Комиссия считает, что мир со стратегическим кибероружием не обладает встроенными механизмами предупреждения конфликтов, которые существовали в прошлом, когда обе стороны — США и СССР — знали о так называемом гарантированном ответном ядерном ударе.
— Новые методы, приносящие новые уязвимости. ИИ станет желанным инструментом для злоумышленников и преступников всех видов и направлений. Они будут не столько разрушать системы ИИ, сколько брать их под управление, либо, в крайнем случае, получать доступ к этим системам, чтобы в нужный момент использовать в своих целях.
— Опасность непредвиденных чрезвычайных ситуаций. Новые технологии создают дополнительные риски для безопасности и надёжности. Относительно бедные и технически неразвитые страны вполне могут пользоваться ИИ по модели SAAS, то есть “сервис как услуга”. Это может привести к крупномасштабным катастрофам и инцидентам в развивающихся государствах. Что касается Соединённых Штатов, то здесь возникает другая опасность. Поскольку в интернете всё связано со всем, то, несомненно, будут связаны друг с другом и ИИ. Уже сегодня специалисты не вполне понимают ход вычислений, который приводит к тем или иным выводам. Завтра же массовое внедрение ИИ может создать сверхсложную среду, где люди будут неспособны принимать оптимальные решения и раз за разом ошибаться.

Период неопределённости

Возрастающую технологическую неопределённость порождает комбинация возможностей, рисков и угроз в изменчивой, турбулентной политической, экономической и технологической среде. В обществе существует высокая степень обеспокоенности по поводу последствий использования ИИ, особенно в значительной степени в засекреченной сфере национальной безопасности. В процессе работы Комиссия не раз встречалась с мнениями руководителей бизнеса и правительственных организаций, ведущих исследователей относительно рисков негативного воздействия ИИ на общество, экономику и правопорядок.
Комиссия указывает следующие риски.
А. Многие эксперты в области обороны призывают Соединённые Штаты как можно быстрее поставить на вооружение LAWS с управлением ИИ. По их мнению, это позволит Соединённым Штатам оставаться конкурентоспособными в конфликтах с государствами, уже эксплуатирующими LAWS с поддержкой ИИ, а также спасти жизни американцев и сократить жертвы среди гражданского населения. В то же время представители гражданского общества и многие разработчики призывают Соединённые Штаты отказаться от LAWS с поддержкой ИИ, полагая, что в противном случае Америка развяжет гонку киберфизических вооружений, управляемых ИИ, которая может привести к катастрофическим последствиям. Некоторые технические работники, обеспокоенные тем, что их усилия в части развития ИИ могут быть использованы в военных целях, призвали своих работодателей ограничить сотрудничество с Министерством обороны, а желательно прекратить его вообще. В то же время военные, а также руководители технологических компаний указывают, что важнейшим преимуществом Китая перед Соединёнными Штатами является участие абсолютно всех команд и коллективов разработчиков ИИ в реализации общенациональной программы военного использования ИИ. По их мнению, отказ тех или иных американских, специалистов и групп от сотрудничества с Министерством обороны в области ИИ является прямым пособничеством противнику.
Б. Технологические фирмы создают комитеты по этике для разработки руководящих принципов работы в области ИИ и интернета вещей, а также предлагают на законодательном уровне запретить правительству США иметь дело со странами, которые используют ИИ для угнетения своих граждан. Значительная часть американских военных, руководителей технологических компаний выступают за более активное, вплоть до принятия законодательных актов, противодействие Соединённых Штатов китайскому “цифровому авторитаризму”, который давно уже вышел за пределы Китая и становится, по их мнению, угрозой для всего человечества.
В. Компании и университеты подчёркивают, что изоляционизм и замыкание исключительно на внутренних проблемах США создаёт стратегическую угрозу, прежде всего, для самих Соединённых Штатов. Технологический бизнес однозначно высказывается за широкое международное сотрудничество, за более активное привлечение талантов и высококвалифицированных специалистов в Соединённые Штаты. Сотрудники национальной безопасности и правоохранительных органов подчёркивают, что новый американский изоляционизм успешно используется Китаем, максимально широко привлекающим компьютерные таланты со всего мира и стремительно развивающим международное сотрудничество в области ИИ.

Альтернативное видение будущего

Прогноз Комиссии носит не столько аналитический, сколько нормативный характер. Комиссия описывает будущее таким, каким хотелось бы его видеть, которое, наверняка, таким не будет.
Комиссия представляет себе мир, в котором ИИ используется для продления и обогащения жизни, для развития способностей и расширения возможностей для максимального числа американцев. Комиссия надеется, что благодаря целенаправленной работе удастся блокировать наибольшие опасности и снизить риски негативного воздействия ИИ на Америку. Комиссия полагает, что одна из главных миссий ИИ — это освободить людей от тяжёлых, однообразных, негативно влияющих на здоровье человека работ. В отличие от сегодняшних опасений, технологии ИИ помогут сделать мир более прозрачным и предсказуемым. Это будет мир, где системы ИИ используются в соответствии с основными ценностями, которыми дорожат американцы. Он будет защищать, а не ослаблять права американцев, закреплённые в конституционных документах.
В то же время не меньше шансов на реализацию имеет и чёрная сторона будущего. Вполне вероятно, что “цифровой авторитаризм” перестанет быть прерогативой Китая и союзных ему стран и станет ответом на усиливающиеся экономические, политические, социальные кризисные явления во всём мире. “Цифровой авторитаризм” вполне может отбросить человечество даже не в Средневековье, а гораздо дальше, во времена рабовладельчества или кастового строя. Главная опасность ИИ состоит в том, что он мультиплицирует риски тоталитаризма и диктатуры, которые существовали и существуют на протяжении всей человеческой истории. Особое опасение вызывает тот факт, что наряду с системным “цифровым авторитаризмом” в Китае отдельные элементы этого строя начинают проявляться и в либеральных. демократиях, по всему миру.
ИИ способен дестабилизировать глобальный мир, покоящийся на взаимном страхе перед применением ядерного оружия. В отличие от ядерного оружия, кибервооружения, управляемые ИИ, позволяют уничтожать объекты критической инфраструктуры, экономический потенциал, городские инфраструктуры и население в строго дозированных, заранее установленных масштабах. Соответственно, снимается главное преимущество ядерного оружия как гаранта мира — обязательность взаимного уничтожения. Комбинация развитого ИИ И кибервооружений позволяет агрессорам надеяться на первый победный обезоруживающий удар, после которого противник не только не сможет восстановить политическое и экономическое управление, но и не будет способен нанести ответный киберудар.

Согласование основных принципов

Комиссия надеется начать в США широкую национальную дискуссию в части использования ИИ для национальной безопасности. В рамках дискуссии ставится задача сформировать общенациональный консенсус вокруг базовых принципов взаимодействия между ИИ и национальной безопасностью.
I. Глобальное и безусловное лидерство в технологиях. ИИ является приоритетом номер один национальной безопасности. Учитывая центральную роль ИИ в будущей экономике, общественной жизни и национальной безопасности, правительство США должно разработать и неуклонно проводить в жизнь на двухпартийной основе инвестиционную стратегию, направленную на увеличение технологического преимущества Америки перед остальным миром в области ИИ.
Глобальное лидерство, считает Комиссия, предоставляет оборонным учреждениям и органам правопорядка США доступ к лучшим технологиям и ставит Соединённые Штаты в наилучшее положение в этой области. Глобальное лидерство создаёт возможность для активной политики Соединённых Штатов по развёртыванию системы международных норм, стандартов и договоров, касающихся ИИ. В то время как американские компании будут продолжать играть ключевую роль в исследованиях, разработках и эксплуатации ИИ, правительство должно нести основную ответственность за финансирование фундаментальных и рискованных исследований в области ИИ.
II. Принятие ИИ как центральной платформы обороны и безопасности является безотлагательным национальным императивом. Главными направлениями первоочередного применения ИИ в сфере национальной безопасности является национальное разведывательное сообщество, использование ИИ для повышения оборонной и наступательной мощи кибервооружений, сил специального назначения, а также высокотехнологичных войск и подразделений.
На базе их Комиссия ставит задачу осуществить глубокую модернизацию инфраструктуры обеспечения полной информационной осведомлённости и интеллектуального превосходства американских, вооружённых сил на поле боя. Военнослужащие должны иметь доступ к самым передовым технологиям ИИ для защиты американского народа, американского образа жизни и союзников.
III. Руководители частного сектора, должностные лица, отвечающие за обеспечение благосостояния и безопасность американского народа, должны более активно, чем в последние годы, наращивать и повышать эффективность инвестиций в фундаментальные и прикладные исследования по теме ИИ.
Особая роль в значительном увеличении этих инвестиций принадлежит федеральному правительству, включая вооружённые силы и национальное разведывательное сообщество. Они должны брать на себя наиболее спорные рискованные инвестици и в случае успеха передавать их в частный сектор при условии максимального вклада частного сектора в укрепление американского лидерства в сфере использования ИИ для национальной обороны. Промышленность должна помогать правительству обеспечить американское лидерство, а правительство — не только предоставлять инвестиции, но и формулировать политику ответственного использования ИИ в целях национальной безопасности.
IV. Таланты остаются главным и важнейшим фактором обеспечения лидерства в области ИИ. Комиссия ставит задачу в ближайшие несколько лет осуществить глубокую реформу американской средней школы как основу образовательной системы на базе STEM. Необходимо прямо сказать нации, что в ближайшем будущем высококвалифицированная миграция имеет важнейшее значение для обеспечения кадрами высоких технологий вообще и ИИ, в частности.
Одно из важнейших преимуществ Америки — это высшее образование и технологический бизнес. Они являются магнитами, притягивающими лучшие таланты в области ИИ со всего мира. Высочайший уровень образования, неограниченное финансирование стартапов, свобода и безопасность, которые может предоставить Америка, позволяют стране приобретать лучшие кадры, прежде всего, из Китая и России. Дословно в докладе ставится задача “поощрять этот процесс и иметь в виду, что любой специалист — программист, разработчик в области ИИ — приехавший в Америку из Китая, России и других стран “цифрового авторитаризма” — это не только большой плюс в копилку американского лидерства, но и минус для потенциала стран, откуда они уехали. Необходимо на двухпартийной основе как можно скорее принять дополнительные законодательные решения, облегчающие миграцию в США подобным кадрам и облегчающие их обустройство в Америке”.
— Открытая инновационная среда ИИ основывается на принципах свободного исследования, свободного предпринимательства и свободного обмена идеями. В докладе ставится задача и далее использовать ограничения экспорта технологий в “злонамеренные агрессивные страны”. При этом такого рода запреты должны быть связаны не только с фактом прямой агрессии, но и с принятием теми или иными странами курса на цифровой авторитаризм, подавление прав и свобод собственных граждан. Комиссия считает, что традиционный экспортный контроль уже недостаточен для поддержания конкурентоспособности США в области ИИ. Вместо традиционного контроля, основанного на формировании списков запрещённых компонентов, правительству стоит рассмотреть вопрос о распространении на экспорт программной, аппаратной, инфраструктурной и производственной компонент ИИ тех же принципов, которые действуют в сфере контроля над экспортом вооружений. Контроль над экспортом вооружений сосредотачивается не на составлении списков товаров, запрещённых к экспорту, а на перечне стран, куда экспорт вооружений запрещён либо непосредственно, либо через государства и компании-посредники.
— Американский ИИ должен отражать американские ценности, в том числе безусловное верховенство закона, свободы и равноправия граждан. Для федеральных правоохранительных органов, проводящих расследования с использованием ИИ, это означает, что они должны чётко соответствовать конституциональным принципам и надлежащим правовым процедурам, во всех случаях учитывать неприкосновенность личной жизни и отсутствие дискриминации. Для американской дипломатии это означает, что она должна всеми возможными способами противодействовать применению ИИ для установления и укрепления “цифрового авторитаризма”, подавления свободы личности или нарушения прав граждан. Использование ИИ для цифрового авторитаризма не может быть внутренним делом какой-либо страны. Американские идеалы свободы, демократии и равенства, заявляет Комиссия, требуют бороться не только за американские ценности в Америке, но и поддерживать борьбу народов против “цифровых, авторитарных, режимов”.

Паника в окружении Трампа из-за развития ИИ в Китае

За лозунгами об “отстаивании американских идеалов свободы” фактически прячется паника в окружении Трампа из-за взлёта исследований ИИ в Китае. Комиссия в своём докладе прямо пишет, что угрожающим выглядит 30-кратное увеличение Китаем финансирования НИОКР в области ИИ за период с 1991 по 2015 год. Есть все основания полагать, что Китай к 2030 году обойдёт Соединённые Штаты по размерам расходов на НИОКР, производство и обслуживание ИИ. Сокращается лидерство Америки и по такому ключевому показателю, как научные публикации. Специалисты в области анализа научно-технических разработок в 2019 году пришли к выводу, что Китай уже в 2020 году превзойдёт Соединённые Штаты по количеству авторов наиболее цитируемых публикаций в области ИИ в рамках. 10% наиболее цитированных, документов, а к 2025 году авторов в рамках. 1% наиболее цитируемых исследований.
Китай начинает резко сокращать отставание от Соединённых Штатов в области коммерческой эксплуатации ИИ. Китайские технологические фирмы готовы стать лидерами в области прикладного использования ИИ, особенно в отраслях электронной коммерции, образования и здравоохранения. Развитие таких китайских фирм, как Baidu, Alibaba, Tencent, iFlytek, и Senне разрешенное сочетаниеime, не только создаёт угрозу коммерческим позициям американских технологических гигантов, но и проблемы для национальной безопасности США. Эти и другие компании гораздо большую долю средств по сравнению с американскими гигантами расходуют на поддержку лабораторий, работающих в сферах глубокого обучения, нейроподобных компьютеров, прямого интерфейса “мозг-компьютер”, а также в сфере дополненной реальности.
Китай фактически создал единый военно-гражданский комплекс ИИ. Концепция “военно-гражданского слияния” провозглашена КПК как главной принцип развития науки, технологий и производства. Китай отказался от какого-либо разграничения между гражданскими и военными разработками и исходит из принципа, что любая технология ИИ имеет и военное, и гражданское применение.
Китай старается максимально использовать американский опыт особого порядка финансирования прорывных, исследований на основе DARPA и IARPA. В частности, именно таким образом китайцы развивают так называемый роевой ИИ, нейроподобные компьютеры, вероятностные компьютеры и стаи автономных роботизированных систем вооружения с центральным ИИ.
Китай пытается конкурировать на мировом рынке талантов с Соединёнными Штатами. Китай прилагает активные усилия по привлечению глобальных талантов ИИ. При этом особый упор он делает на перехват талантов из России, Украины, Пакистана, некоторых латиноамериканских стран.
Комиссия делает вывод, что без изменения отмеченных выше тенденций Соединённые Штаты могут допустить ликвидацию отставания Китая в области исследования, разработок и применения ИИ. Это может иметь не только печальные экономические и политические последствия, но и поставить под угрозу национальную безопасность США и глобальную стабильность (риторика военного времени. — Е. Л., В. О.).

Как американцы собираются ответить на китайский вызов

В докладе Комиссии подчёркивается, что противоборство с Китаем в сфере ИИ представляет для Соединённых Штатов самую сложную, чреватую рисками угрозу со времён соперничества с СССР периода “холодной войны”.
Учитывая нынешнюю торговую напряжённость между США и Китаем, а также обостряющуюся военно-политическую глобальную конкуренцию, многие задаются вопросом, не должны ли Соединённые Штаты оперативно осуществить комплекс мер, направленных против китайской экспансии.
Китай уже долгие годы выигрывает от открытого характера академической и коммерческой экосистем США и, как считает Комиссия, беззастенчиво крадёт интеллектуальную собственность в области ИИ на миллиарды долларов. Американские университеты за последние 15 лет подготовили многих ведущих китайских исследователей ИИ. Многие американские университеты и технологические компании зависят от китайских инвестиций и от взаимодействия с китайскими федеральными органами власти. Начиная с 2005 года десятки китайских компаний, в том числе все крупнейшие, создали исследовательские лаборатории и бизнес-филиалы в Соединённых Штатах. Американские венчурные капиталисты финансируют ИИ-стартапы в Китае, в то время как китайские суверенные фонды инвестируют и скупают лучшие американские стартапы в области ИИ.
Комиссия располагает многочисленными сведениями о конкретных примерах краж интеллектуальной собственности и осуществлении шпионских программ китайцами против американского научно-технологического сектора. Директор ФБР Кристофер Рей недавно заявил, что Бюро имеет “данные о китайское шпионской активности, расследованием которых занимаются все 56 полевых региональных отделений Бюро. Эти расследования охватывают почти все отрасли или сектора”, в первую очередь, ИИ, биотехнологии и интерфейсы “мозг-компьютер”. По данным Министерства юстиции, “с 2011 по 2018 год более 90% дел, открытых по фактам шпионажа на территории США, связаны с Китаем. Также на Китай приходится 2/3 случаев нарушения коммерческой тайны”.
Комиссия полагает, что Соединённые Штаты столкнулись со сложной проблемой. С одной стороны, китайским шпионским операциям, а также воровству интеллектуальной собственности надо дать жёсткий отпор. В то же время в ходе предварительных слушаний представители американской промышленности и научных кругов предупреждали, что глубокие человеческие контакты и взаимодействие в части программно-аппаратных, средств, цепочек поставок и т. п. не могут быть разорваны без значительных экономических издержек и непредвиденных последствий для экономики США. С этой точки зрения американские университеты, лаборатории и компании могут потерять доступ к важным рынкам и любопытным исследованиям. В долговременной перспективе Соединённые Штаты при разрыве взаимодействия с Китаем могут быть лишены понимания китайских достижений в области ИИ. Кроме того, по мнению бизнеса, уход американских компаний из Китая и разрыв сотрудничества позволит эту нишу заполнить компаниями других стран.
Соответственно решение не может быть однозначным, а выбор не сводится к дилемме: тесное сотрудничество или полный разрыв. Комиссия будет стремиться определить перечень конкретных действий, которые наметят разумный путь вперёд при сохранении элементов сотрудничества в условиях лучшей защиты американских интересов.
От Е. Л. и В. О. — информация для размышления: известный американский экономист Нуриэль Рубини в своей статье “Трамп снова сделает Китай великим” (Project Syndicate от 23.12.2019) пишет: “США опасаются, что председатель КНР Си Цзиньпин, отказавшись от совета своего предшественника Дэн Сяопина “скрывать свою силу и ждать своего времени”, перешёл к стратегии агрессивного экспансионизма”. В то же время Рубини полагает, что “китайцы, вероятно, предпочитают, чтобы Трамп был переизбран в 2020 году. Он может быть помехой в краткосрочной перспективе, но, получив доста-точно времени в должности, он разрушит стратегические союзы, которые формируют основу американской мягкой и жёсткой силы. Как настоящий “Маньчжурский кандидат”, Трамп снова сделает Китай великим”.

Американские преимущества

Соединённые Штаты по состоянию на начало 2020 года сохраняют целый ряд преимуществ. Американские университеты остаются ведущими центрами исследований и разработок в области ИИ. В Соединённых Штатах на государственный и частный сектора продолжают работать около 80% докторов наук по дисциплинам, связанным с ИИ, включая и китайских специалистов. На Соединённые Штаты приходится 3/4 из 100 лучших ИИ стартапов в мире за 2019 год. В Соединённых Штатах функционирует в два раза больше стартапов в области ИИ, чем в Китае. Если эту оценку расширить и объединить активы в области ИИ, США, Великобритании, Израиля, Канады, Австралии, Японии и активных европейских стран НАТО, то превосходство американского блока над Китаем и его партнёрами выразится соотношением порядка 1 к 7.
Правительственные органы США начинают осознавать критическую важность ИИ для национальной безопасности. Однако большинство правительственных должностных лиц, кого опрашивала Комиссия, полагают, что их работа разворачивается ещё достаточно медленно, а эффективным решениям препятствуют бюрократические процедуры, порождённые правительственными стандартами документооборота и отчётности. Комиссия считает, что правительство США пока находится на стадии принятия решений и выпуска документов и не приступило к практической работе по ускоренному развитию ИИ.
В определённой степени недостаточная эффективность работы правительства США в области ИИ связана с тем, что ИИ не соответствует традиционной парадигме технологического развития, движимой федеральными долларами с последующей доработкой за счёт ассигнований бизнеса. С ИИ происходит обратное. Министерство обороны в основном адаптирует для национальной безопасности уже имеющиеся решения и технологии, разработанные технологическими гигантами и стартапами.
В результате сложилось противоречие между двумя блоками технологий ИИ. С одной стороны, Министерство обороны и разведывательное сообщество адаптируют для целей национальной безопасности коммерческие решения, базирующиеся на теоретическом заделе 70-90-х годов прошлого века. С другой стороны, университеты, исследовательские лаборатории и стартапы наработали альтернативные и прорывные технологии ИИ. Однако им не хватает финансирования. В настоящее время решающую роль играет федеральная поддержка не прикладных разработок, как это имеет место в традиционном типе взаимоотношениями между правительством и частным сектором, а инвестирование в высоко рисковые, находящиеся на ранней стадии разработки в области ИИ, которыми занимаются университеты, стартапы и крупные технологические фирмы.
После окончания “холодной войны” реальный инновационный потенциал государственных ассигнований из года в год снижается. В настоящее время он сосредоточен на доведении до технологической стадии уже опробованных исследований и разработок. В результате инвестирование происходит в режиме догоняющего финансирования, когда правительство пытается интегрировать ИИ в существующие инфраструктуру и технологии, которым иногда уже несколько десятилетий.

Инвестирование в исследования и разработки ИИ

Основа глобальной конкурентоспособности Америки в области ИИ связана с достижением технологических прорывов в федеральных, научных и коммерческих разработках. Технологические НИОКР в Соединённых Штатах уже давно движимы “трёхсторонним альянсом” между государственными учреждениями, университетами и частными компаниями (в том числе не только технологическими гигантами, но и стартапами). Созданный в период “холодной войны”, этот альянс привёл страну к глобальному технологическому лидерству и экономическому процветанию, позволил создать и воплотить в жизнь технологические пакеты интернета, стелс и глобальной системы позиционирования (GPS).
Эти разработки были, как минимум, на поколение впереди того, чем располагали конкуренты США. Многие из нововведений, прежде всего, связанные с интернетом и производством микропроцессоров, в конечном счёте обеспечили абсолютное лидерство американского технологического сектора, беспрецедентный рост его капитализации в начале XXI века. Завершение “холодной войны” и война с терроризмом заметно изменили соотношение сил в треугольнике. Государство в основном ушло из сферы прорывных, и непарадигмальных (экстраординарных, лежащих, вне традиционных, научных. парадигм) технологических инноваций. Федеральное финансирование НИОКР сокращается из года в год на протяжении десятилетий. В то же время коммерческий сектор, взяв на себя львиную часть ассигнований на исследования и разработки, основное внимание уделяет не фундаментальным исследованиям, подрывным инновациям (меняющим нашу жизнь до неузнаваемости) и непарадигмальным разработкам, а доведению до технологического уровня исследований и разработок, созданных в предыдущие годы, а иногда и десятилетия.
Хотя правительство сохраняет ключевую роль в поддержке фундаментальных научных исследований, а также исследований, прямо относящихся к национальной безопасности, государственные инвестиции в условиях бюджетного дефицита направляются во всё менее рискованные, а соответственно, всё более приближенные к эксплуатационной фазе решения и разработки.
За последние годы урезание ассигнований на НИОКР, в том числе в сфере ИИ, и акцент на удовлетворение текущих потребностей в ущерб перспективе создали ощутимую угрозу для будущего подрывных инноваций в области ИИ. В итоге лидерство Америки может оказаться под угрозой гораздо раньше, чем это представляется политикам, государственным служащим и военным в настоящее время.
Потеря национального лидерства в области разработки ИИ будет означать, что американские военные и разведывательные органы должны будут приобретать аппаратные решения за пределами США, возможно, даже в Китае. Это будет означать подлинную трагедию, которую необходимо предотвратить любой ценой.
В докладе Комиссии содержится абсолютно циничный, но объективный вывод о том, что “перед США есть наглядный пример России, Франции, которые когда-то были лидерами в IT-технологиях, располагали возможностями производства полного национального стека компьютерных решений, а в настоящее время целиком зависят от США, Китая и иных стран”.
ИИ в противовес мнению государственных, служащих — это не столько программная часть, сколько аппаратные устройства и телекоммуникационные системы. Только способность страны полностью произвести все три компонента на своей территории гарантирует её суверенитет в эпоху ИИ.

Соглашение о внутреннем консенсусе

Комиссия делает вывод, что по состоянию на сегодняшний день федеральное финансирование ИИ в США является недостаточным и не позволяет не только упрочить американское лидерство, но и сохранить его в перспективе до 2025 года.
За последние пять лет федеральное финансирование научных, исследований в области компьютерных наук, в рамках, которого инвестируется ИИ, увеличилось в Америке всего на 12,8%, притом что в Китае ассигнования на ИИ увеличились более чем в два раза.
Правительство США имеет опыт, как вложить ресурсы в дерзкие технологические проекты и обеспечить их исторические успехи. Лучшие примеры этого — программа “Аполлон” и проект “Геном человека”. За последние 10 лет китайское правительство тщательно изучило успешные амбициозные советские программы и опыт государственных мегапроектов США и разработало на этой основе собственные, подкреплённые ресурсами технологические мегапроекты, в том числе по ИИ. На фоне Китая продолжение политики финансирования фундаментальных, исследований в области ИИ по остаточному принципу правительством США приведёт к подлинному краху. Уже в настоящее время Соединённые Штаты по показателю общих расходов на НИОКР в процентах, от ВВП занимают лишь десятое место в мире, тогда как в 1985 году — первое.
Увеличение федеральных инвестиций в НИОКР может стимулировать развитие:
— базирующихся на иных, нежели нейронные сети, ИИ, вдохновлённых нейронаукой;
— создание отказоустойчивых ИИ, опережающим образом реагирующих на попытку взлома, перехвата управления или разрушения;
— развитие облачной инфраструктуры, помеченных обучающих данных и других инноваций для исследователей ИИ;
— создание оборудования нового поколения, использующего в том числе нейроморфные чипы, квантовые вычисления, процессоры для вероятностных компьютеров, графовые семантические вычисления на основании сверхмощных видеокарт и т. п.;
— а также разработку и опробование новых решений для управляемых ИИ коллективов самообучающихся автономных роботизированных устройств различного назначения.
Ограниченная доступность федерального финансирования способствует перетоку мозгов из академических кругов в бизнес. Эта тенденция подрывает наши способности заниматься подрывными инновациями и обучать следующее поколение. Правительство должно преодолеть эту тенденцию в ближайшее время.
В координации работ по ИИ должна резко возрасти роль Национального Научного Фонда (NSF). В настоящее время Фонд управляет 85% всех федеральных ассигнований на научные исследования в области ИИ со стороны правительства. Комиссия считает необходимым в течение ближайших двух лет, как минимум, удвоить текущий бюджет NSF на развитие ИИ и близкие научные направления, которые на 2020 финансовый год составляют чуть менее 1 млрд долларов.
Комиссия рассматривает ряд моделей, которые могли бы активизировать финансирование НИОКР в области ИИ. Например, предлагает учредить в рамках NSF Национальный институт ИИ, по своему функционалу и инвестиционным возможностям напоминающий Национальный институт рака.
Комиссия также предлагает направить дополнительные федеральные ассигнования, в том числе не из научных статей бюджета, на создание инфраструктуры новых, высокотехнологичных кластеров, подобных Силиконовой Долине. За основу может быть принят опыт Канады, которая в течение двух лет развернула мощные кластеры ИИ на базе университетов Эдмонтона, Торонто и Монреаля.
Ещё одна многообещающая инициатива включает в себя предоставление целевых инвестиций не в темы или изделия, а непосредственно в руководителей лабораторий, специализирующихся на ИИ, предоставив им самим право выбирать конкретные направления исследований. Правительство США должно расставить приоритеты в области федеральных усилий по развитию ИИ ив срочном порядке осуществить инвестиции в этой области, нацеленные на национальную безопасность.
Комиссия полагает, что принятые президентские и правительственные документы, а также решения Конгресса уже создали исчерпывающую базу для скорейшего развёртывания практической работы в области ИИ. Именно на практике, а не на принятии новых постановлений должны быть сосредоточены усилия национальных органов в 2020-2022 годы.
В условиях бюджетных ограничений настало время перераспределить научный бюджет Министерства обороны и разведывательного сообщества в пользу ИИ за счёт ограничения расходов на традиционные виды вооружений, которые не предусматривают качественного совершенствования, а продляют свой срок жизни лишь за счёт модернизации.

Применение ИИ в сфере национальной безопасности

Комиссия пришла к выводу, что по состоянию на 2019 год Министерство обороны и в несколько меньшей степени разведывательное сообщество далеки от реализации уже имеющихся выгод в применении ИИ. Главная причина этого — не ограничения финансирования, а различного рода бюрократические барьеры и несоответствие новым реалиям старых, нормативных документов. Технологические прорывы в лабораториях и на производстве гасятся в сфере документооборота даже тогда, когда он является электронным.
По мнению Комиссии, в настоящее время в сфере правительственных усилий по ИИ царит хаос и бюрократический беспорядок. Удалось выявить, что в настоящее время в рамках правительства в условиях недостатка ресурсов приняты и осуществляются более 600 программ развития ИИ. Очевидно, что такое мелкотемье приводит к тому, что ни одна из программ не рассчитана на достижение действительно прорывных, результатов и на технологические прорывы. Деньги в рамках программ в основном расходуются не на исследования и разработки, а на подготовку различного рода документации, или, что ещё более удивительно, на проведение аудита того, чего нет в природе.
Комиссия пришла к выводу, что традиционные подходы к американской системе демократии, свобода и открытость зачастую мешают развивать важные направления использования ИИ. Например, Министерство обороны в рамках программы Maven широко привлекает к разработке общенациональной системы видеораспознавания и видеомониторинга университеты и крупнейшие технологические компании. В течение 2019 года ряд ключевых для программы технологических гигантов и стартапов отказались участвовать в программе, мотивируя это протестами общественности, гражданских активистов и части собственных работников относительно допустимости видеонаблюдения в Америке. В результате, по состоянию на сегодняшний день, Америка даже не приступила к опробованию систем видеомониторинга, которые в рамках, “цифрового авторитаризма” не только покрывают все города Китая, но и стали предметом китайского экспорта!

Лидерство в разработке и использовании ИИ требует иных подходов

Нынешняя система финансирования разработки и приобретения технологий разработана в Министерстве обороны 40 лет назад принципиально для иных типов и видов вооружения. В результате прорывные решения входят в противоречия с управленческими процедурами. Например, разработка приложений в области ИИ может занять месяц. Но для получения разрешений на получение информации, необходимой для разработки, требуется иногда более шести месяцев, а на принятие решения о начале финансирования — до года. Этот процесс, разработанный для ограничения военных, расходов в мирное время, совершенно не подходит для ситуации с ИИ (вновь Комиссия переходит на риторику военного времени. — Е. Л., В. О.).
По сути, американским разработчикам и пользователям ИИ приходится вести две схватки: одну — с Китаем, вторую — с собственными федеральными учреждениями. Кроме того, Министерство обороны привыкло работать с технологическими гигантами. Между тем, в сфере ИИ значительная часть подрывных инноваций создаётся небольшими компаниями, стартапами, а иногда даже неформальными коллективами разработчиков. У Министерства обороны нет ни опыта, ни желания, ни организационных процедур, чтобы работать с такими командами и компаниями. Более того, выделение такого рода субъектам финансовых ассигнований рассматривается аудиторами как косвенный указатель на возможную коррупцию. В этих условиях Министерство обороны отрезает себя от значительной части наиболее эффективных разработчиков.
Нельзя сказать, что Министерство обороны ничего не пытается изменить. Так, в 2019 году созданы государственно-частные партнёрства по развитию ИИ с MIT и университетом Карнеги-Меллона.
Существует противоречие между стремлением заказчика получить надёжные и безопасные решения и потребностью разработчика проверить платформы в реальных условиях. В существующей системе контрактации для Министерства обороны предусмотрена сдача полностью готовых, протестированных изделий. Однако в случае ИИ это невозможно. ИИ по самой своей природе требует дообучения на практических повседневных реальных данных. Поэтому необходимо изменить в соответствии с современными требованиями порядок контрактации.
Даже самые передовые алгоритмы ИИ потерпят неудачу, если будут реализовываться на компьютерах с недостаточной вычислительной мощностью. Хотя Америке принадлежит 2/3 из 50 наиболее мощных суперкомпьютеров, проблема вычислительной мощности для ИИ остаётся острой. Суперкомпьютеры на сегодняшний день — это в подавляющем большинстве научные машины. Массовому производству сверхмощных компьютеров, ориентированных в том числе на облачные вычислительные платформы, а именно такие компьютеры нужны ИИ, пока уделяется меньше внимания, чем они того заслуживают.
Нельзя не отметить, что правительство США не использует должным образом коммерческий ИИ для улучшения своей повседневной работы и экономии средств налогоплательщиков. Несмотря на многочисленные решения, министерства и ведомства правительства так и не перешли к электронному документообороту, так и не оцифровали, в отличие от университетов и бизнеса, своих архивов, так и не перешли на предоставление сведений в машиночитаемой форме.

Обучение и рекрутинг талантов в области ИИ

Комиссия делает вывод, что оборонные и разведывательные ведомства США нуждаются в кадровой революции. Значительная часть их работников не только не способна заниматься разработкой ИИ на стадии определения технических заданий, но и не подготовлена к его эксплуатации. Особенно это характерно для гражданских, министерств и учреждений правительства.
До сих пор кадровая работа на федеральном уровне характеризуется беспорядочным набором и отсутствием продуманной системы управления талантами в сочетании с отсутствием вычислительных мощностей и качества больших данных правительственного характера. Комиссия полагает, что конкурировать с бизнесом и университетами за таланты правительству будет чрезвычайно сложно. Поэтому необходимо шире использовать практику государственно-частных партнёрств. В рамках этих партнёрств функции разработки должны оставаться за бизнесом и университетами, а эксплуатации — за правительственными учреждениями. Соответственно, главная цель правительства в кадровой работе состоит в том, чтобы в сотрудничестве с университетами начать сплошную переподготовку административных кадров к использованию ИИ. Вероятно, в ближайшие два-три года специалист, не прошедший переподготовку по применению ИИ и не сдавший квалификационный экзамен, не должен иметь возможность занимать сколько-нибудь значимую должность в правительстве.
Согласно рекомендациям Комиссии, органам и структурам национальной безопасности необходимо пересмотреть требования к кадрам в связи с революцией ИИ. Они должны быть способны качественно и эффективно выполнять шесть функций:
— планирование и разработку организационных документов;
— приобретение и обслуживание программно-аппаратных средств ИИ;
— осуществление анализа больших, умных, разнородных данных;
— формулирование требований к разработчикам по совершенствованию программно-аппаратных решений с позиции заказчиков;
— общение с разработчиками, пользователями, сервисными специалистами в области ИИ по вопросам эксплуатации этих систем;
— принятие решений о том, когда и для чего нужно использовать инструменты ИИ.
В каждом министерстве и ведомстве должно быть сформировано ядро пользователей и сервисных сотрудников, берущих на себя функции наиболее эффективного применения ИИ в практике работы ведомства и оказания помощи специалистам ведомства в практическом применении ИИ. Без формирования таких лидирующих ядер оборонные и разведывательные ведомства в условиях полной безграмотности персонала в части практического использования ИИ не смогут эффективно применять самые передовые решения.
Ядро ИИ должно обладать двумя дополнительными компетенциями. Во-первых, они должны понимать этические аспекты применения ИИ. Во-вторых, им нужен доступ к ключевым подразделениям в сфере национальной безопасности, ответственным за разработку и использование ИИ. Эти команды должны быть посредниками между разработчиками и пользователями. Правительство США имеет на сегодняшний день все возможности для более широкого найма талантов в области ИИ и повышения эффективности их работы. Однако многие министерства и ведомства не используют имеющиеся возможности из-за страха руководителей иметь в подчинении на порядок более компетентных в области ИИ людей, чем они сами.
К недостаткам можно отнести и тот факт, что пока Комитет начальников штабов и различные рода вооружённых сил направляют на курсы ускоренной переподготовки по ИИ В ведущие американские университеты меньшее число офицеров, чем это предусмотрено квотами. Комиссия выяснила причину сложившегося положения. Наиболее талантливые, интеллигентные офицеры одновременно являются и наиболее незаменимыми с точки зрения решения текущих задач. Соответственно вышестоящее командование не отпускает их на учёбу, поскольку заинтересовано в их постоянном присутствии в действующих вооружённых силах для выполнения текущих задач.
Существует жёсткий рынок талантов как в Соединённых Штатах, так и в мире в целом. Спрос на таланты на порядки превышает предложение. Поскольку заработная плата в частном секторе зачастую в несколько раз превышает ту, которую может предложить правительство, большинство талантов выбирает гражданский сектор.
Вряд ли удастся быстро изменить ситуацию, связанную с оплатой труда. Однако правительство может и должно привлечь новое поколение талантов дополнительными возможностями в области социальных пакетов, получения магистерского образования и учёных степеней, гарантированного трудоустройства после завершения срока службы в лучшие компании и университеты.
Сегодня существуют две ключевые проблемы в области кадрового обеспечения прогресса И". Первая проблема состоит в том, что, как это ни парадоксально, многие американские университеты не могут удовлетворить спрос на интерес студентов к ИИ и информатике в целом. Проблема в том, что так же, как у преподавателей и у разработчиков, спрос на них превышает предложение.
Анализ преподавания компьютерных наук, осуществлённый в 2018 году, показал, что за два года количество вакансий в американских, университетах на преподавателя по компьютерным наукам выросло на ошеломляющий 71%. В 2018 году Ассоциация вычислительных исследований обнаружила, что количество студентов, желающих, получить диплом в области компьютерных. наук, выросло за 20 лет в 10 раз.
Комиссия предлагает американскому правительству всерьёз задуматься о возможности предоставления на льготных, условиях, не только рабочих мест, но и американского гражданства преподавателям из стран, лидирующих. в области компьютерных вычислений, математики, программирования и т. п. Комиссия предлагает разрешить университетам проводить дистанционные собеседования, а при необходимости — курсы повышения квалификации для преподавателей, особенно из России и других стран постсоветского пространства, Индии. По завершении таких курсов преподаватели должны сдавать экзамен на знание английского языка, а также проходить собеседования, в том числе в странах своего постоянного проживания с представителями университетов. Подписание предварительного соглашения должно открывать для преподавателей границы Соединённых Штатов как в части трудоустройства, так и в области эмиграции.
Комиссия в ближайшее время дополнительно изучит проблемы бакалавриата и магистратуры по ИИ и подготовит предложения правительства об облегчении визового режима и предоставлении гражданства не только для талантов в области И", но и для преподавателей.
Комиссия считает необходимой федеральную помощь как университетам, так и иным образовательным структурам в части развёртывания онлайновых форм обучения ИИ, в том числе на национальных языках для тех стран и регионов, где высок уровень школьной математической подготовки. Не стоит опасаться, что Америка будет готовить кадры для конкурентов. Как показывает анализ Комиссией действующих онлайновых курсов Стэндфордского, Чикагского университетов и MIT, из 100 лучших выпускников курсов 70% российских участников получили предложения от американских университетов и компаний и переехали в США, для Индии соответствующий показатель превысил 90%.
Во всём мире предложение талантов ИИ является недостаточным для удовлетворения растущего спроса. Комиссия полагает, что гонка за талантами является самым главным направлением в битве за первенство в области ИИ. Руководители министерств и ведомств, а также политики должны понимать, что ИИ — это не более чем метафора. ИИ — это машина, которая реализует программы. Все программы в настоящее время и в обозримом будущем будут писаться людьми. Соответственно качество человеческого капитала является определяющим и главным фактором в прогрессе ИИ.
Вывод Комиссии: Америка должна сделать всё, чтобы не только обеспечить наилучшие условия для появления американских, талантов, но и привлечь к себе максимальное число талантов со всего мира. Это тем более важно, что ИИ является высокомобильной областью. По итогам 2019 года установлено, что около 1/3 исследователей, имеющих докторскую степень в области ИИ, работают на работодателя, базирующегося в другой стране, нежели та, где была получена докторская степень. Для исследователей, входящих в 10% наиболее цитируемых, этот показатель возрос до 60%, а для 1% — до 85%. Пока в Соединённых Штатах из докторов в области ИИ, входящих в 1% наиболее цитируемых в мире исследователей, работают 82%. Однако ещё пять лет назад их было 94%.

Защита американских технологических преимуществ

На протяжении десятилетий Соединённые Штаты поддерживают открытую экономику и отстаивают академическую свободу, при этом защищая преимущества в части технологий, ориентированных на оборону и безопасность. Однако некоторые особенности нынешнего геополитического и технологического ландшафта создают угрозу для американского технологического лидерства. Среди такого рода неблагоприятных тенденций выявляются следующие:
— специфика технологий ИИ затрудняет секретность и защиту этих технологий. Исходно исследования в области ИИ носили в значительной степени децентрализованный характер, были ориентированы на бизнес и поэтому имели диффузный и доступный характер;
— значительная часть решений в области ИИ построена на открытом исходном коде. Более того, часть перспективных направлений в ИИ изначально развивается сообществами, ориентированными на открытый исходный код;
— Соединённые Штаты и Китай имеют тесные связи в области ИИ, включая кадровый обмен, финансирование и научные исследования;
— в то время как Китай использует открытость американского общества, китайское руководство засекречивает максимум информации, относящейся к исследованиям в области ИИ, и активно занимается дезинформационными мероприятиями;
— американские исследовательские университеты привлекают лучшие умы со всего мира. Среди этих, умов есть и агенты зарубежных, спецслужб, которые нацелены на получение секретных данных.
Комиссия полагает, что указанные проблемы не имеют простых решений. Требования безопасности реально сталкиваются с идеалами свободы. Комиссия попробовала найти способы возможных, решений.
Прежде всего, правительство США должно продолжать активно использовать экспортный контроль для защиты конкурентных преимуществ США в оборудовании, в частности, в производстве полупроводникового оборудования, в процессорах для суперкомпьютеров и нетрадиционных вычислительных устройств, а также по другим направлениям.
Контроль за сохранением преимуществ США в аппаратной области может гарантировать, что американские компании сохранят доминирующее положение на мировом рынке. Это обеспечит правительство США в случае кризисной ситуации возможностями увеличения собственного производства и блокировки IT-потенциала противников.
Самым главным в конкуренции является сохранение монопольного или доминирующего положения в части производства аппаратных, вычислительных. и телекоммуникационных устройств. Как известно, любая аппаратная составляющая ИИ имеет и программный компонент, обеспечивающий возможность удалённого управления этим устройством. Соответственно в ситуации острого конфликта Соединённые Штаты могут просто отключить элементы критической инфраструктуры противника вне зависимости от того, где они расположены.
Американскому правительству целесообразно более строго подходить к разрешению иностранных инвестиций в критическую область производства аппаратных компонентов, чипов и т. п. для компьютеров и телекоммуникаций.
В последнее десятилетие наблюдается взрыв китайских инвестиций в американскую микропроцессорную отрасль, связанную с И". В 2010 году китайцы совершили лишь одну сделку на сумму 1,5 млн долларов, а в 2017-м — 27 сделок на сумму 514,5 млн долларов.
Недавно в США принят Закон о снижении рисков от иностранных инвестиций (CFIUS). Комиссия считает, что в Министерстве финансов и Государственном департаменте должны полностью использовать возможности, предоставляемые этим законом, для избирательной блокировки нежелательных китайских инвестиций.
Самая главная задача для Соединённых Штатов в части сохранения информационного суверенитета — это упрочение лидерства в области производства аппаратного обеспечения ИИ. В настоящее время развёртывается финансирование двух принятых в 2018 году программ в этой области, а именно “Инновационной программы развития микроэлектроники для национальной безопасности” и инициативы DARPA по “возрождению национальной электроники”.
В гонку вступил и Китай. В 2019 году он учредил Национальный интегрированный инвестиционный фонд, поставив задачу добиться в течение 10 лет 100% самообеспечения компонентами для полного производства в Китае аппаратного обеспечения ИИ и телекоммуникаций. Этот Фонд израсходует на указанную цель за 10 лет 100 млрд долларов. Пожалуй, главная проблема США в соревновании с Китаем в части производства аппаратного обеспечения состоит в том, что Китай может без усилий централизовать ресурсы государства, бизнеса и китайской общины за рубежом, тогда как в Соединённых Штатах бизнес и правительство развивают ИИ, исходя из собственных интересов и целей. Эти интересы не всегда совпадают друг с другом. В результате ряд не только стартапов, но и технологических гигантов отказываются от контрактов с Министерством обороны и американским разведывательным сообществом ради сохранения зарубежных, прежде всего азиатских, рынков.
Комиссия полагает маловероятным использование китайского опыта в централизации усилий и инвестиций в Соединённых Штатах. Вместо этого Америке следует наращивать своё интеллектуальное лидерство, развивая принципиально новые направления аппаратного обеспечения в условиях полной конфиденциальности и секретности. Речь идёт, прежде всего, о квантовых. вычислениях, вероятностных компьютерах, кремниевой фотонике, нейроподобных процессорах и других, нетрадиционных, вычислительных системах, необходимых для ИИ.
В докладе Комиссии перед правоохранительными органами и научными руководителями поставлена задача найти точки соприкосновения между открытой исследовательской системой и эффективным противодействием деятельности иностранных разведок в американских кампусах. В условиях американской открытости и традиционных академических свобод противоборствующие государства максимально используют порождаемые этим возможности.
Комиссия подтверждает принципиальную важность сохранения открытости Соединённых Штатов и академических свобод. При этом она полагает целесообразным повысить уровень и масштабы превентивного мониторинга поведения лиц, непосредственно связанных, с исследовательскими разработками в области ИИ. Частично это может быть решено в бизнесе за счёт более тщательного отношения к коммерческой тайне. Что касается университетов, то здесь можно было бы уточнить их уставы с тем, чтобы открыть возможности для наблюдения за сомнительными студентами и преподавателями, подозреваемыми в работе на иностранные державы. Наиболее пристальное внимание Комиссия рекомендует уделять лицам, ориентированным на прямую или косвенную помощь военному и разведывательному потенциалу Китая. Комиссия высказывается против превентивного зачисления иностранных талантов в лица, заслуживающие пристального наблюдения. В силу межгосударственных отношений, а также особенностей менталитета китайцам гораздо проще склонять к сотрудничеству американцев, чем жителей и студентов из России, Украины, Индии и т. п. Никто не должен удивляться тому, что за студентами и исследователями из Китая, а также союзных Китаю стран должно быть усилено наблюдение. В Китае проводится плотный мониторинг иностранцев, откуда бы они ни приехали, — это норма действительности. Этому никто не удивляется. Против этого никто не протестует. Поэтому Китай как серьёзный конкурент вполне заслуживает уважительного отношения и симметричного ответа (рекомендации идентичны документам США времён маккартизма! Можно представить себе уровень возмущения и протестов отечественных и американских правозащитников при появлении такого рода рекомендаций в официальных, открытых документах у нас в стране! — Е. Л., В. О.).

Полупроводники — решающий участок противоборства

Как отмечалось выше, главным полем битвы между участниками гонки ИИ является аппаратное оборудование, позволяющее создавать всё более производительные компьютеры для последовательных, а в перспективе и параллельных вычислений. По состоянию на 2018 год на долю компаний со штаб-квартирами в США приходится почти половина всего мирового производства полупроводников. Также на американские компании совместно с дружественными фирмами из Тайваня, Южной Кореи и Японии приходится более 80% производства процессоров, видеокарт и т. п., используемых в аппаратной части ИИ.
Как уже отмечалось, информационный суверенитет и лидерство страны предполагает автаркию производства аппаратной части. Однако этого недостаточно. В конечном счёте, превосходство определяется по завершающей цикл технологии. Применительно к ИИ, это линии и производства для изготовления оборудования по выпуску полупроводников, процессоров и видеокарт. В настоящее время 90% производства такого рода оборудования находится в Соединённых Штатах, Японии и Нидерландах. Китай не имеет собственных производств по выпуску оборудования для изготовления чипов, видеокарт и полупроводниковых компонентов ИИ. Комиссия считает важным сохранить эту ситуацию на перспективу.
Именно в этой области Комиссия рекомендует в максимальной степени использовать ограничивающие доступ иностранных государств к тем или иным технологиям законы, нормативные акты и т. п. Дословно: “допуск китайцев и их союзников к подобного рода оборудованию не может быть оправдан никакими коммерческими и исследовательскими аргументами”.
Правительству Соединённых Штатов рекомендовано довести до компаний в США и странах-союзниках жёсткий и однозначный запрет не только на продажу подобного рода производственной техники, но и на проведение совместно с китайцами и их союзниками исследований в этой области. Помимо прочего, этот запрет может иметь и ещё один полезный аспект. Страны — союзники Китая, — ориентированные на создание собственной аппаратной базы, вполне могут отойти от Поднебесной и перейти в ранг сторонников США, понимая, что без этого им не удастся создать собственную аппаратную базу для ИИ.

Ассоциированные технологии

Ускорение технологической революции, основанной на данных и новых вычислительных методах, в решающей степени зависит от уровня вычислительного и телекоммуникационного оборудования. Определённая сложность состоит в том, что нынешняя технологическая революция базируется на пакете взаимоувязанных, но различных технологий, включая ИИ, сбор больших данных, интернет вещей, генную инженерию и синтетическую биологию, робототехнику и киборгизацию. Поскольку все технологии взаимодействуют и усиливают друг друга, не представляется возможным, как это случалось в прошлом, перенаправить средства с одних, научных, направлений на другие.
В настоящее время Комиссия выделила ряд технологических направлений, имеющих важное значение для ИИ. Прежде всего, это относится к сотовым сетям пятого поколения — 5G. Резко увеличивая скорость, объём и надёжность, сети 5G в ближайшие три-пять лет станут мировым стандартом в области телекоммуникаций и базисом интернета всего.
Определённые опасения Комиссии вызывает тот факт, что, в отличие от полупроводниковой и микропроцессорной промышленности, в сфере 5G в настоящее время первенствует Китай, а его технологические гиганты поставляют оборудование 5G не только китайским союзникам, но и в страны НАТО и даже некоторые города Соединённых Штатов.
Комиссия провела детальные консультации с ведущими университетами и пришла к выводу, что производитель оборудования для 5G может обеспечить встроенные возможности копирования информации, передаваемой по этим сетям, и её передачу производителю оборудования. Тем самым Китай, отставая в программно-аппаратной части, имеет шанс стать гегемоном в телекоммуникациях. Это, в свою очередь, создаёт угрозу национальной безопасности всех стран, использующих подобное оборудование.
По мнению Комиссии, Правительство Соединённых Штатов должно в данном случае, не считаясь с затратами, срочно создать государственно-частное партнёрство по доработке национальных стандартов 5G и обеспечения производства телекоммуникационного оборудования, необходимого для 5G, исключительно американскими компаниями, а также компаниями стран — ближайших союзников США.
Прогресс в области ИИ идёт рука об руку с совершенствованием вычислительной техники. В настоящее время из 25 мощнейших суперкомпьютеров 21 работает в Соединённых Штатах. С учётом вводимых в эксплуатацию в I квартале 2020 года новых американских суперкомпьютеров Топ-5 вычислительных систем с супервозможностями будут работать в Америке. Не вполне ясны по состоянию на сегодняшний день перспективы квантовых компьютеров. В то же время Комиссия утверждает, что Америка, по сути, стала монополистом в области разработки, создания и эксплуатации вероятностных компьютеров, сочетающих достоинства обычных, и квантовых, компьютеров и позволяющих, вести вычисления за пределами двоичного кода.
Также по состоянию на начало 2020 года американские исследователи, бесспорно, лидируют в таких, областях, как интерфейс мозг-компьютер и использование дополненной реальности для обеспечения полной информационной осведомлённости. Особый вопрос — это соединение возможностей ИИ со стремительным развитием биотехнологий. Возможно, это наиболее сложная и важная тема применительно к вопросам национальной безопасности на ближайшие пять лет. Однако Комиссия полагает необходимым создание отдельной консультативно-исследовательской структуры при Конгрессе США по вопросам биотехнологий, синтетической биологии и евгенической генетики.

* * *

Представляется, что многие выводы, содержащиеся в докладе Комиссии, имеют принципиальное значение для развития ИИ у нас в стране. На наш взгляд, среди них важнейшим является сбережение кадрового потенциала разработчиков и пользователей ИИ, недопущение их массового оттока в США, как то планируют осуществить наши партнёры за океаном. Фактически, как можно было убедиться выше, объявлена настоящая охота за исследователями ИИ из России с предоставлением им упрощенного режима получения американского гражданства. А охотиться есть за кем. В альманахе “Искусственный интеллект”, подготовленном Центром искусственного интеллекта МФТИ в июне 2019 года, приводятся следующие данные о наличии исследователей ИИ в ведущих российских научных и учебных заведениях: РАН — 1194 человек, МГУ — 733, Университет ИТМО СПб — 716, СПб ГУ — 544, МФТИ — 377, НИУ ВШЭ — 297, Томский ГУ — 215, Сколтех — 105, Университет Иннополис — 84, а также десятки исследователей по другим вузам и университетам.
Обеспечить этим исследователям надлежащие условия для реализации их проектов у нас в стране — приоритетная задача государственной политики в сфере развития ИИ.