Перевод выдержек из доклада «Искусственный интеллект и национальная безопасность» Г.Аллена и Т.Чана, IARPA, 2017

Трансформация  потенциала искусственного интеллекта

Впервые вопрос практического использования искусственного интеллекта (ИИ) для укрепления национальной безопасности, снижения рисков и отражения угроз был сформулирован в отчете Белого дома по ИИ от 2016 г. В докладе указано: «При всем разнообразии последствий использования ИИ в сферах обороны, разведки и правоохранительной деятельности главным эффектом ИИ в краткосрочной перспективе будет автоматизация задач, которые ранее либо выполнялись людьми, либо вообще не выполнялись».

Очевидно, что в ближней перспективе ИИ в сфере национальной безопасности наиболее широко будет использоваться в разведывательной деятельности, которая в настоящее время требует огромных усилий множества людей. ИИ в ближайшие три-пять лет сможет не только заменить человеческий труд машинным, но и сделать актуальным решение многих задач, которые сегодня не представляется возможным выполнить именно из-за отсутствия автоматизации. В первую очередь это связано с обработкой и мониторингом больших данных преимущественно неструктурированного характера, а именно потоков онлайн-видео и текстовой информации.

Американские вооруженные силы с конца нулевых годов активно используют робототехнику для выполнения вспомогательных и основных военных функций. Однако до настоящего времени практическое использование полностью автоматизированных дронов и других типов боевых роботов в американских вооруженных силах не осуществляется. Можно найти отдельные примеры практического использования ИИ в Федеральном Бюро Расследования и полиции штатов крупнейших городов.

Несмотря на несомненное первенство Соединенных Штатов в области ИИ, в отличие от многих других технологий, оно проявляется в первую очередь в бизнесе, сфере научных исследований и отчасти в государственном управлении, но не в сфере национальной безопасности. Другие страны, например, Китай, Израиль заметно уступают Соединенным Штатам  в общем уровне разработок и исследований в сфере ИИ, но смелее, чем Америка берут на вооружение ИИ в основных секторах национальной безопасности. Америке брошен вызов. На него необходимо в кратчайшие сроки должным образом ответить.

ИИ в вооруженных силах

Магистральным направлением использования ИИ в вооруженных силах является создание распределенных и роевых автономных роботизированных систем, управляемых центральным ИИ. Сами по себе автономные системы начали использоваться еще со времен Второй мировой войны. С тех пор неуклонно происходит процесс делегирования человеком контроля и функций управления автономным роботизированным системам, оснащенным ИИ.

Во время Второй мировой войны, робототехнические системы использовались для запуска ракет. Неслучайно первый в мире компьютер заработал не в Соединенных Штатах, Великобритании или СССР, а в нацистской Германии. Он был разработан в рамках проекта ФАУ. Постепенно элементы ИИ стали активнее использоваться в стратегических и тактических ракетных вооружениях для создания систем наведения ракет на цель. Превосходство вооруженных сил США над СССР в значительной части было связано именно с превосходством в области микроэлектроники – основы ИИ.

Тактические ракеты и управляемые бомбы активно использовались вооруженными силами США во Вьетнамской войне, которая принесла стране и обществу серьезные раны и убытки. Одним из ее последствий стало принятие на законодательном уровне действующего до сих пор запрета, ограничивающего использование боевых, в том числе огневых, и других поражающих полностью автономных систем без принятия человеком решений о применении летального оружия.

Хотя полностью автономные системы активно используются американским бизнесом и наукой, армия Соединенных Штатов не имеет на вооружении полностью автоматизированных дронов и других подобных комплексов. Между тем, такие комплексы уже находятся на вооружении Израиля, Великобритании и по некоторым сведениям – Китая. Как показали маневры, проведенные в 2014 г. в Израиле, в случае противоборства полностью автоматизированные боевые средства не просто превосходят управляемые человеком аппараты, но и  гарантированно захватывают господство в воздухе или другой среде.

Несмотря на результаты маневров в Соединенных Штатах до сих пор действует законодательство, при котором люди всегда должны контролировать применение смертоносного оружия, смонтированного на робототехнических комплексах. С учетом превосходства полностью автоматизированных систем над системами с участием человека, Соединенным Штатам необходимо отказаться от этого наследия Вьетнамской войны или лишиться превосходства в воздухе.

Размер рынка для коммерческой военной робототехники растет экспоненциальными темпами, а цена единицы мощности процессоров, используемых в системах ИИ, снижается в два раза в течение восьми месяцев. При этом 90% мирового рынка процессоров для эксплуатируемых систем ИИ приходится на три компании, контролируемые американскими владельцами.

По данным BCG в период между 2001 и 2017 гг. мировые расходы на военную робототехнику возросли с 2,2 до 10,1 млрд долларов и более чем удвоятся в период до 2025 г.  Однако, подавляющая часть специалистов полагает, что даже эта оценка является на порядок заниженной, не учитывающей двойной эффект падения удельных цен единицы мощности процессоров и появления все новых поколений компонентов для ИИ, включая принципиально новые типы процессоров, в том числе нейрочипы, графеновые и алмазные чипы, новые устройства для передачи информации и т.п. Кроме того,  по мнению специалистов, уже к 2020 г. станет полностью бессмысленным разделение аппаратной составляющей на коммерческую и военную.  Использоваться будут одни и те же аппаратные комплексы, а различия будут происходить только в рамках программной части.

В этой связи можно ожидать, что соответствующие органы, контролирующие экспортно-импортные операции США, других стран НАТО, а также стран – союзников США будут вводить эмбарго на поставку в третьи страны не софта, как сегодня, а аппаратных комплексов, в том числе имеющих и вполне мирное применение. Это, несомненно, приведет к изменению ландшафта мировой торговли и международной организации труда. Целые страны и регионы, которые в настоящее время противоборствуют с Соединенными Штатами и их союзниками, окажутся выключенными из международной кооперации труда. При таком порядке в них  будет запрещено поставлять аппаратные компоненты ИИ, независимо от их функционального использования.

Недавно на собрании Американского Научного Фонда Билл Гейтс заявил, что робототехника в ближайшие 15-20 лет будет развиваться по тому же циклу, что и персональные компьютеры в истекшие 25 лет. В период с 1999 по 2013 гг.  средняя цена на персональный компьютер в Соединенных Штатах снизилась в два раза при кратном увеличении мощности и памяти персональных компьютеров. По мнению исследовательского центра корпорации Google, качественный бесплотник, который сегодня стоит 1 000 долларов в 2020 г. будет продаваться примерно за 100 долларов и будет вероятно обладать улучшенными автономными способностями по сравнению со своим сегодняшним прототипом.

Полное стирание граней между роботизированными системами военного и коммерческого  применения создает колоссальную, никогда ранее не существовавшую проблему в области национальной безопасности. Если ее не решить в ближайшие три-пять лет,  страна окажется под лицом мощнейшей угрозы. И это все без ожидаемой в ближайшие пару лет революции 3D печати. Ожидается, что в 2018-2019 гг. на широкий рынок будут представлены по привлекательным ценам уже разработанные и прошедшие сертификацию композитные материалы, позволяющие при помощи 3D печати строить дома как из бетона или дерева, печатать узлы для автомобилей как из металла, и делать человеческие протезы как из кости. Если совместить возможности 3D печати с миниатюризацией и прогрессом робототехники, то мы не успеем моргнуть глазом, как столкнемся с миром, в котором будут летать миллиарды крошечных насекомоподобных дронов.

Представляется, что существует только один выход из сложившегося положения. Это – создание стайных автономных роботизированных систем с функционалом автономного использования и подключением к центральному ИИ. Грубо говоря, это будут дроны с мозгами и почти без них. С мозгами, т.е. подключением к ИИ, будут обладать автономные роботизированные системы, используемые в сфере национальной безопасности, а без – в коммерческой сфере или быту.

Расширенное использование машинного обучения в сочетании с ростом рынка и снижением цен значительно увеличит возможности использования роботизированных систем в структурах национальной безопасности.

Гилл Пратт, бывший руководитель робототехнических программ DARPA утверждает, что технологические и экономические тенденции робототехники сходятся и способны породить в ближайшее время взрыв разнообразия роботизированных систем. Пратт указывает, что ключевым, но пока не оцененным, преимуществом робототехнических систем с роевым ИИ может стать их коллективное обучение. При коллективном обучении проблемы и ошибки отдельных роботов, а также пути их исправления у одного экземпляра станут достоянием всего роя или стаи. Пратт отметил, что впервые этот метод был успешно опробован Google для обучения google-мобилей. По состоянию на сегодняшний день технология коллективного машинного обучения роевых автономных робототехнических систем является монополией американских компаний и отнесена к числу ключевых приоритетов в области национальной безопасности.

Революция в области робототехники и ИИ создает не только новые возможности для национальных государств, но и увеличивает угрозы со стороны негосударственных субъектов. В последние годы в центре внимания общественности находились вопросы кибердомена (киберпространства). Выделение киберпространства, как одного из пяти полей боя и особой сферы конфликтов заметно изменило доктрину национальной безопасности, породило новые направления шпионажа и способствовало расцвету гибридный войн.

Поскольку киберинструементы на порядок более дешевы, чем традиционные вооружения, они быстро стали доступны не только для небольших государств, но и для киберкриминала. Удивительным образом до настоящего дня, несмотря на прогнозы большинства разведывательных органов ведущих стран мира, не произошло ни одного крупномасштабного кибертеррористического акта. Это является одной из крупнейших загадок, заставляющих подозревать, что структуры национальной безопасности не только крупных, но и небольших стран превентивно взяли под контроль хакеров.  Они используют их для киберакций, в то же время, не давая им возможности заняться кибертерроризмом.

По мнению IARPA, по схеме кибервооружений будет развиваться ситуация и со сложной робототехникой. Она будет становиться все более доступной. Поэтому чем шире будет распространен стандарт создания роевых или стайных сложных автоматизированных систем с центральным ИИ, тем больше шансов, что будет сохранен контроль над опасными робототехническими системами. Несомненно, в краткосрочной перспективе, несмотря на предостережения и ограничения, все больше стран будут стремиться перейти от пилотируемых к полностью автономным боевым робототехническим системам.

На первом этапе технологический прогресс даст преимущество крупным, хорошо финансируемым и технологически сложным вооруженным силам, принадлежащим ведущим державам. По мере развития робототехники следует ожидать попыток небольших стран и негосударственных субъектов присоединиться к использованию все усложняющейся робототехники.

Одним из главных уроков борьбы с ИГИЛ, по мнению IARPA, стала высокая эффективность использования джахид-мобилей. Если на первом этапе эти пилотируемые подвижные бомбы управлялись водителями, то в начале 2017 г появились роботизированные грузовики. Также в течение 2017 г. русские понесли потери от атак дронов ИГИЛ или иных повстанческих группировок, атаковавших в огромных количествах русские военно-воздушные базы. В результате было уничтожено несколько самолетов и вертолетов. Несмотря на легкость обнаружения, русские не смогли отразить нападение из-за большого количества одновременно атакующих примитивных дронов.

В рамках этого доклада IARPA впервые хотела бы поставить на обсуждение вопрос о целенаправленной трансформации экономической глобализации. Как известно, глобализация базируется на международном разделении труда и производства. Такое разделение предполагает рассредоточение различных функций и стадий воспроизводственного процесса не только по странам, но и в отдельных случаях по континентам. Вся вторая половина XX века и начало XXI века прошли под знаком именно такой экономической и технологической глобализации. Сейчас за нее продолжает ратовать Китай и отчасти ЕС.

IARPA предлагает поразмышлять над следующим. Сегодня уже больше не является дискуссионным вопрос о том, что трансформация технологий привела к тому, что наиболее впечатляющие технические достижения практически во всех сферах могут без каких-либо изменений быть в равной степени использованы в военной и гражданской сферах. Материал, представленный выше, является одним из доказательств данного тезиса. Более того, этот процесс относится не только к робототехнике, но и к генной и синтетической биологии, к ИИ, производству новых типов материалов,  биоинженерии, созданию интерфейса человек-компьютер и т.п.

Используя как модель киберпространство и кибервооружения, несложно предсказать, что именно по этой модели будут развиваться все новые технологии. Если сохранится глобализация в том виде, в котором она существует сегодня, буквально завтра Соединенные Штаты и их союзники окажутся перед большим количеством новых, прежде неизвестных, угроз национальной безопасности со стороны не только злонамеренных государств, но и террористических групп, и даже организованной преступности.

Мы можем оказаться в кошмарном мире, где небольшие группы фанатиков, экстремистов и радикалов, обладающие незначительными ресурсами, смогут стать угрозой существования не только отдельных городов, а целых стран, а то и всего человечества. На этот счет пока не проведено ни одной международной конференции, да и внутри в Америке эта тема не стоит на повестке дня.

В условиях невозможности отделить военные от гражданских технологий, IARPA предлагает пока не поздно провести четкую, жесткую и тщательно контролируемую технологическую границу. В соответствии с этой границей глобализация, а соответственно доступ к производству, реализации, потреблению технологий будет относиться лишь к тем странам, которые могут ответственно гарантировать их контроль и правильное применение. Все остальные страны не должны получать данные технологии и соответственно их экономические и технологические системы должны базироваться на традиционных технологиях, которые использовались и используются сегодня для выпуска подавляющего числа наименований продукции. Как это ни печально, стоит задуматься о разграничении мира на два – технологически зрелый мир и мир, порождающий угрозы, риски и конфликты.

Согласно прогнозам ведущих экспертов, примерно в 2019-2021 г. ожидается качественный скачок, когда произойдет ощутимое для основной части населения западных стран изменение технологической картины мира. В 2021-2022 гг. продажа полностью автоматизированных автомобилей в Соединенных Штатах, Западной Европе и Японии составит от 55 до 65% от общего объема реализации автомобилей, а по грузовикам – до 90%. В 2020 г. солнечная, а более точно – получаемая от космических источников – электроэнергия как по цене, так и по объемам потребления в Соединенных Штатах, Японии и Германии полностью выиграет конкуренцию и соответственно вытеснит углеводородную. В Европе это произойдет на пять-семь лет позже.

В 2021-2022 гг. большая часть населения Соединенных Штатов, Японии, отдельных стран Европы получит доступ через смартфоны-интерфейсы к многофункциональным ИИ. По своему влиянию на повседневную жизнь это будет как минимум сравнимо  с появлением интернета и революцией смартфонов. Современный смартфон, который стоит 700 долларов, является более мощным, чем самый быстрый в мире суперкомпьютер 1995 г.

В среднесрочной и долгосрочной перспективах роботизированные автономные системы и ИИ составят единый распределенный комплекс, где центральный интеллект будет выполнять функции мозга, а роботизированные автономные роевые системы – рабочие функции. IARPA полагает, что в интервале 15-20 лет ИИ позволит практически реализовать и превратить в доступные орудия и процессы все конкретные технологии, которые возможны с точки зрения природных законов.  В науке это называется  доказательством существования. Например, военные во всем мире впервые узнали, что технология высокоточного ракетного оружия возможна, когда они увидели ее в действие в ходе войны в Персидском заливе в 1991 г. Большинство военных других стран не могли сами создать такого рода комплексы. Но они внезапно осознали, что такие комплексы технически достижимы и кое у кого они уже есть.

Мы полагаем, что военные и представители других секторов национальной безопасности многих стран мира увидят доказательства существования нескольких ключевых технологий, в основе которых лежит ИИ, когда американские вооруженные силы продемонстрируют их в ближайшие три-четыре года. Главное, чтобы они не смогли их воспроизвести.

Аналогичным образом естественный мир биологии можно считать набором функциональных решений для автономной робототехники и ИИ. Каждый тип животных, насекомых, рыб, птиц имеет органы, либо свойства тканей и т.п., которые могут быть скопированы искусственным путем и использованы для взаимодействия с окружающей средой и поступлением информации в центр обработки данных и принятия решений. Люди еще не знают, как используются эти возможности, но они реально существуют. Люди не знают, каков максимальный предел технологических возможностей для автономной робототехники, но он намного выше, чем то, что мы имеем сегодня.

В решающей степени прогресс в области автономной робототехники связан, конечно же, с ИИ. Вполне очевидно, что перспективным направлением является переход от индивидуальных и сетевых к роевым или стайным автономным робототехническим системам, объединенным центральным или интегральным ИИ.

Относительно ИИ есть две принципиально разных позиции. Одну условно назовем инженерной, вторую – нейронаучной. В настоящее время большая часть специалистов, разработчиков, программистов придерживается нейронаучной парадигмы. Она заключается в том, что более глубокое познание человеческого мозга позволяет создавать более продвинутые системы ИИ. Представляется, что это – чрезвычайно опасный и затратный путь. На сегодняшний день у науки, а главное, у практиков, нет ни одного доказательства, что компьютер похож на человека, а человек – на компьютер. Проблема усугубляется тем, что ассигнования распределяют люди, мало понимающие в своей массе в нюансах математики, биологии и т.п. Соответственно, когда они слышат термины «машинное обучение», «нейросети», они представляют, что это что-то новое, похожее на человека, и поэтому заслуживающее новых ассигнований.

Гораздо более практичным является инженерный подход. Он един и для автомобильной промышленности, и для ИИ. В конечном счете, что такое автомобиль? Это – механизм, который позволяет человеку двигаться быстрее, чем на своих двоих. Конструкция автомобиля и принцип его движения не имеют ничего общего с конструкцией ног и туловища человека и принципами их движения. Если бы в конце XIX – начале XX века тогдашние инженеры, перед которыми поставили задачу создать устройство, позволяющее быстро перемещать большие грузы на значительные расстояния, стали изучать строение ноги и функции, которые выполняют суставы или стопа, то автомобиль не изобрели бы до сих пор.

В этом смысле ИИ – это не более чем устройство для выполнения специализированных функций, сходных с теми, которые может выполнить сам человек, используя программную, т.е. вещественную, и аппаратную, т.е. информационную, компоненты. Если таким образом понимать ИИ, а это – единственно правильное понимание, – то можно избежать не только излишних затрат, но и опасений значительной части американцев, что ИИ уничтожит человечество.

ИИ и информационное превосходство

Разведывательные агентства США реально используют, согласно экспертным оценкам, не более 20-25% потенциально полезных необработанных данных, которые находятся в их хранилищах. Этот невысокий показатель является большим успехом на фоне показателей коммерческого сектора. Даже ведущие американские IT гиганты практически используют не более 15-18% располагаемых ими больших данных. Средний же показатель по ведущим странам, облдающим продвинутыми информационными технологиями, составляет 5-8%. Согласно исследованиям корпорации EMC, объем больших данных, попадающих в базы и онлайн хранилища в последние семь лет удваивается каждые два года. По данным Google, процесс идет еще быстрее и в течение  последних пяти лет удвоение происходит за 12-14 месяцев, т.е. немногим более года. Большинство этих новых данных – неструктурированы, и хранятся в неинтегрированных базах данных.

На рубеже 2019-2021 гг. не только перед IT отраслью, но и глобальной экономикой встанет задача, которая в случае отсутствия решения может привести к глубочайшему технологическому и экономическому кризису. Именно на 2019-2021 гг. приходится глобальный массовый выпуск  оборудования, бытовой техники и предметов потребления, относимых к интернету вещей. Одновременно в эти же годы фактически во всех развитых странах мира будут созданы сплошные системы видеонаблюдения. Два эти обстоятельства приведут к разовому скачкообразному увеличению данных как минимум в два-три раза. Либо эти данные не будут обрабатываться, а соответственно интернет вещей останется красивой сказкой, либо буквально за два-три года должно быть найдено решение конденсации данных и их хранения.

Разведывательные агентства по всему миру стремятся собрать как можно больше данных. Это вызывает значительную критику со стороны общественности. Истинная проблема состоит в том, что эта деятельность ведется разведывательными агентствами многих стран мира по привычке. Голодные люди, оказавшись в ресторане, стараются заказать столько еды, сколько они никогда не смогут съесть. В этой же ситуации сегодня оказались и разведывательные агентства. Даже в Соединенных Штатах, обладающих наиболее продвинутыми системами хранения и обработки информации, лишь четверть собранной информации идет в дело. Решить эту проблему без ИИ невозможно.

В настоящее время к числу наиболее отработанных технологий ИИ относятся разработки в области многомерного автоматизированного анализа текстов, включая извлечение смыслов, эмоциональной оценки, установления связей между различными онтологиями и т.п., а также технологии мгновенного распознавания образов. Представляется, что на горизонте до 2022 г. эти две технологии, дополненные системами интерпретации сигналов, получаемых в рамках интернета вещей, и составят базовую триаду аналитических методов, используемых в сфере национальной безопасности.