9 Области применения Искусственного Интеллекта — Сектор безопасности и военный сектор

Аннотация

В этой главе вы увидите, что распознавание лиц играет центральную роль во многих приложениях безопасности. В Китае оно даже используется для создания обширной системы социального кредитования для контроля всего населения. Предиктивная полиция пытается предвидеть преступления, чтобы избежать их или поймать виновных с поличным. Огромный "прогресс" с Искусственным Интеллектом достигнут и в военном секторе. Миллиарды долларов направляются на разработку систем ИИ. Наибольшие риски Искусственного Интеллекта связаны с различными формами боевых роботов, потому что они массово изменят "правила игры" в вооруженных конфликтах.


9.1 Сектор безопасности и социальный скоринг

Как уже стало ясно из обсужденных выше областей применения Искусственного Интеллекта, распознавание лиц имеет большое значение. Широкий спектр приложений также появляется в области безопасности. Китайская компания Face++ Cognitive Services разработала платформу, которая может использоваться для интеграции распознавания изображений в различные приложения. Простые и мощные API (интерфейсы для программистов приложений) и SDK (комплекты средств разработки программного обеспечения) делают соответствующую функциональность доступной для заинтересованных компаний. Для этого предлагаются как бесплатные, так и премиум-опции (последние в варианте "плати по мере использования"; ср. Face++, 2019).

Face++ позволяет использовать различные области применения для верификации личности. Можно проверить, присутствует ли пользователь фактически. Кроме того, можно проверить, является ли это живой пользователь. В приложении ему или ей предлагается выполнить определенные движения небольшим лицом в приложении. Типичный рабочий процесс с Face++ выглядит следующим образом (ср. Face++, 2019):

• Сбор данных — например, через SDK, мобильное/настольное устройство, приложение WeChat

• Обнаружение — проверка распознаванием речи, проверка чтением губ, проверка живости

• Сравнение лиц

• Результат — верификация прошла успешно/неудачно.

Пропускная способность программного обеспечения для распознавания лиц Face++ варьируется от авторизованных платежей до контроля доступа в здания и проверки легитимности водителя (ср. Face++, 2019; Knight, 2017). Все это уже возможно в Китае сегодня, потому что там нет (комплексных) правил, которые бы препятствовали соответствующему использованию данных.

Ящик памяти

Распознавание лиц не только обладает потенциалом для воплощения в жизнь новых сервисов, основанных на технологиях. Оно также может помочь предотвращать и раскрывать преступления.

Особо "захватывающая" связь между приложениями ИИ может быть найдена в Китае. Там в настоящее время внедряется система социального скоринга, с помощью которой китайское государство хотело бы полностью контролировать и оценивать всех своих "подданных". Основой для этого является "Planning Outline for the Construction of a Social Credit System (2014–2020)", который был принят Государственным советом Китайской Народной Республики в июне 2014 года. С 2017 года в Жунчэне с населением в один миллион человек действует пилотный проект. Система должна быть внедрена для всех китайских граждан к 2020 году. Основные моменты сосредоточены на следующем (ср. Böge, 2018, с. 3; DDV, 2018; Kreutzer, 2018):

• Искренность в государственных делах (соответствующее политическое поведение)

• Коммерческая честность/кредитоспособность

• Социальная честность

• Судебная честность.

Для этого используются все релевантные источники данных в Китае. Сначала это включает видеонаблюдение в городах, которое массово расширяется с почти 200 миллионов до 570 миллионов камер. Это будет больше, чем одна камера на каждые три гражданина. Массовое использование камер в общественных местах — в сочетании с мощным распознаванием лиц — позволяет выявлять законное поведение в общественных местах в реальном времени. Любой, кто переходит улицу на красный свет, идентифицируется распознаванием лиц — и иногда немедленно "доносится" на цифровом экране с фотографией, именем и другой информацией. Эта видимость в общественном пространстве остается до оплаты штрафа.

Кроме того, китайское государство получает доступ к информации WeChat, генерируемой более чем миллиардом пользователей ежедневно. Дальнейшее использование онлайн (покупки, поиск, деятельность в социальных сетях) также оценивается. Это включает использование китайской поисковой системы Baidu или покупок на Alibaba или JD.com. Компании в Китае также поддерживают развитие системы, передавая персональные данные о своих сотрудниках. Чтобы справиться с этими объемами данных, суперкомпьютеры используются по крайней мере в пяти крупнейших городах Китая для оценки, помимо прочего, распознавания лиц в реальном времени с камер видеонаблюдения, а также с камер банкоматов и смартфонов в единой системе (ср. Sensetime, 2018).

Концепция основана на процедуре оценки и функционирует аналогично обычной оценке кредитоспособности — но в Китае, благодаря гигантским объемам данных, используются алгоритмы ИИ для оценки. Основной принцип работает следующим образом:

• Каждый гражданин начинает с кредита в 1000 баллов.

• Дополнительные баллы начисляются тем, кто проявляет милосердие, хорошо выполняет свою работу и социально активен. Это также включает соответствующий уход за родителями. Покупка здоровой пищи и посещение музеев генерируют дополнительные баллы.

• Лицо, нарушающее закон, участвующее в драках или вызывающее жалобы от клиентов, терпит вычет баллов. Критические комментарии о действиях правительства и использование порнографических сайтов также приводят к вычету баллов.

Тот, кто достиг высокого балла, получает следующие услуги:

• Доступ к банковским кредитам

• Возможность покупать национальные и международные билеты на поезда и самолеты

• Доступ к привлекательным рабочим местам (включая продвижение)

• Доступ к привлекательному жилью и зданиям

• Приоритетное поступление в хорошие школы (также для детей заинтересованного лица)

• Более простой поиск партнера (например, на платформе знакомств Baihe).

Если у вас низкий балл, вы почувствуете всю суровость политической системы:

• Сокращение финансовой помощи

• Запрет на управленческие/руководящие должности до потери работы

• Трудности с поиском жилья для аренды или покупки

• Отказ в выдаче виз

• Отсутствие доступа к национальным и международным билетам на поезда и самолеты

• Отсутствие доступа к хорошим школам и университетам (даже для собственных детей)

• Снижение доступной скорости Интернета

• Исключение из государственных тендеров

• Возможно, даже более высокие налоги.

Пища для размышлений

Можно быть циничным: система социального кредитования в Китае — это геймификация на высшем уровне!

Однако, это не игра, это горькая реальность!

Это также включает тот факт, что китайская система социального скоринга значительно более прозрачна, чем наша система кредитного скоринга. С помощью приложения Credit-Sesame-App каждый может отслеживать свой кредитный рейтинг. Органы власти, туроператоры, работодатели, квартирные и прокатные компании, а также платформы знакомств могут получить доступ к этим данным.

Цели китайского правительства можно описать несколькими словами. Они хотят вознаградить хорошее поведение граждан и поощрить их избегать неприятностей. Теперь каждый гражданин имеет в своих руках возможность формировать свой собственный статус позитивно. Тема текущих тестов — это как будет происходить дальнейшее развитие. Однако уже ясно, что система должна стать полной, чтобы обеспечить "социально приемлемое поведение" во всем китайском обществе! Интересно также, с какой невозмутимостью китайские граждане смотрят в будущее. Возможно, эта невозмутимость уже является результатом страха негативных баллов за критические комментарии.

Отсутствие критики социального скоринга — особенно со стороны комментаторов из-за пределов Китая. Первый интересный вопрос: Какова основа для плюсов и минусов? Решение принимается небольшой группой людей — с прямыми и косвенными последствиями для миллионов. Нужно задуматься, на какой ценностной основе работают алгоритмы, используемые в приложениях ИИ. В целом, существует огромная наложенная государством обязанность соответствовать, что противоречит разнообразию, продвигаемому в (большинстве) западных демократий. Таким образом, старая китайская пословица приобретает новую актуальность: Гвоздь, который торчит, забивается. Потому что теперь каждый китаец находится в сдерживающих рамках государства и "вознаграждается" только в том случае, если он следует своим соответствующим нормам — как бы значимы они ни были в глазах индивидуума! Мы даже не хотим представлять, если бы такая всеобъемлющая система скрининга населения была бы взломана.

Уже сегодня программное обеспечение для распознавания лиц используется для фиксации преступлений в реальном времени и поиска преступников в реальном времени. Уровень преступности в Шанхае, где видеонаблюдение в общественных местах уже очень развито, значительно снизился. Рисунок 9.1 показывает пример того, какие знания могут быть получены с помощью профилей движения. Нет пределов тому, сколько еще областей применения Китай может открыть с помощью анализа миллионов профилей лиц в реальном времени.

Пища для размышлений

Даже если мы, конечно, не хотим видеть такого же мониторинга всей нашей жизни в нашей стране, Китай и (государственные) компании, работающие там, имеют пул данных, который действительно стоит своего веса в золоте для развития Искусственного Интеллекта!

Мы встретимся с достигнутыми результатами рано или поздно на мировом рынке — нравится нам это или нет!

В западных странах Искусственный Интеллект также используется в области безопасности. Ярким примером этого является предиктивная полиция или предиктивная аналитика для работы полиции. Использование алгоритмов в экспертных системах призвано предсказывать, когда и где с наибольшей вероятностью произойдет тот или иной вид преступления (ср. рис. 9.2).

В ходе предиктивной полиции данные о прошлых преступлениях оцениваются, потому что преступники часто следуют предсказуемым закономерностям в своих действиях. Они связаны с местом и временем преступления, характером преступления и маршрутами, используемыми для достижения места происшествия. Именно поэтому это также называется теорией близкого повторения. Это означает, что взломщики


Рисунок 9.1 Результаты анализа профилей движения с помощью Sensetime (Рисунок авторов)

часто возвращаются на ранее пострадавшую территорию через короткое время и снова наносят удар. Кроме того, полиция часто применяет подход рационального выбора. Предполагается, что преступник проводит расчет затрат и выгод перед совершением преступления и задает себе следующие вопросы (ср. Diehl & Kartheuser, 2018):


Рисунок 9.2 Функциональность предиктивной полиции. Источник: Адаптировано из Diehl и Kartheuser (2018)

• Сколько полицейских находятся в данном районе в данное время?

• Каков мой риск быть пойманным?

• Сколько я могу получить прибыли?

Основываясь на этих ответах, полиция может все чаще патрулировать выявленные места в предсказанный период времени. Это может либо служить средством сдерживания, либо ловить преступников на месте. Предстоит увидеть, в какой степени такие концепции повлияют на уровень преступности.


9.2 Военный сектор

Просто для полноты картины, здесь краткий обзор использования Искусственного Интеллекта в оружейных технологиях. Такие страны, как Китай, Великобритания, Израиль, Россия, Южная Корея и США, инвестируют миллиарды в эту область, чтобы сделать технологии ИИ пригодными для использования в своих военных целях. Если от Искусственного Интеллекта следует ожидать серьезных угроз для человечества, то это, скорее всего, произойдет именно в этой области. Использование Искусственного Интеллекта в военной области можно наблюдать в следующих формах, которые не могут быть представлены без пересечений:

• Летающие дроны

Эти дроны могут использоваться для автоматизированного анализа данных и изображений. Большой объем данных может обрабатываться в реальном времени и использоваться для поддержки принятия решений. Если дрон принимает независимые решения об атаках, он становится боевым роботом. Особый риск связан с так называемыми микро-дронами. Они могут атаковать заранее определенные цели в роях дронов, сконфигурированных как боевые роботы. Дроны автономно координируют себя — и могут быть едва ли побеждены классическими системами противовоздушной обороны. Если они оснащены программным обеспечением для распознавания лиц, можно легко представить себе эффект.

• Беспилотные подводные лодки

Подводные дроны представляют особую опасность для "равновесия ужаса" в отношении подводных флотов великих военных держав. Классические подводные флоты могут быть шпионены более дешевыми автономными подводными лодками, так что флоты теряют свой сдерживающий эффект. С соответствующим вооружением подводные дроны также становятся боевыми роботами, когда решение об использовании оружия принимается автономно и никто не участвует в цепочке принятия решений.

• Боевые роботы (также летальные автономные системы вооружения)

С одной стороны, это постоянно установленные системы, которые действуют автономно для отражения атак. Сегодня они уже используются для защиты военных и гражданских объектов (например, дамб, ядерных объектов), границ (например, между Южной и Северной Кореей) и на военных кораблях. С другой стороны, боевые роботы — как уже показано — также используются мобильно в виде летающих и погружающихся дронов. Кроме того, такие боевые роботы могут передвигаться по земле, используя колеса, гусеницы или ноги.

• (Частично) автономные помощники

Такие помощники используются для обезвреживания мин и бомб. Они также могут помочь эвакуировать раненых из зон боевых действий, доставлять припасы или исследовать пещеры. Развитие таких (частично) автономных помощников получило мощный импульс после ядерной катастрофы в Фукусиме в 2011 году. Территория до сих пор сильно загрязнена и недоступна для людей во многих местах. Поэтому определенные задачи по очистке по-прежнему могут выполняться только роботами. Однако радиация не безвредна и для роботов. Таким образом, и линза камеры, и память для чтения-записи могут быть повреждены радиацией. Прочные и, прежде всего, долговечные роботы, необходимые для этой операции для движения по обломкам, изначально не были доступны в Японии. Напротив, США — также под влиянием опасных операций в Афганистане и Ираке — уже инвестировали много миллионов долларов США в развитие таких роботов (ср. Pluta, 2011).

Вот несколько примеров таких роботов. Наземный робот Hector (Гетерогенная кооперативная команда роботов) передвигается на гусеницах и оснащен захватной рукой, камерой 360 градусов и лазерным сканером. Он движется полуавтономно даже по пересеченной местности и может создавать 3D-модели зоны операции (ср. Hector, 2019). Робот Centauro может использовать различные инструменты своими человекоподобными руками. Для этого он управляется с безопасного расстояния человеком в полном костюме, так называемом экзоскелете (ср. раздел 2.5). Движения, выполняемые людьми, воспроизводятся один к одному роботом в реальном времени. Этот робот также оснащен мощным компьютером, камерами и 3D-сканерами (ср. Centauro, 2019).

Глобальная гонка вооружений ускоряется продвижением Искусственного Интеллекта. Это скорее скрыто, потому что "обычным подозреваемым" не нравится, когда их заглядывают в карты (ср. von Hammerstein & Rosenbach, 2018; Herbermann, 2018; Scharre, 2018). С пропагандистской точки зрения, преимущества использования ИИ для вооружений очень убедительны:

• Оружейные системы с поддержкой ИИ могут оценивать большие объемы данных в реальном времени, идентифицировать и приоритизировать цели и, при необходимости, атаковать автономно.

• В сочетании с распознаванием лиц атаки могут быть связаны с конкретным человеком.

• Благодаря использованию автономного оружия человеческие потери могут быть сокращены со стороны нападающих и, при необходимости, благодаря более целенаправленным действиям также со стороны атакованных.

• Системы принятия решений на основе ИИ независимы от усталости, эмоциональной чувствительности и внимания человеческих операторов.

Пища для размышлений

Все более убедительное взаимодействие Искусственного Интеллекта и робототехники приведет к появлению все более сложных боевых машин. Интересный вопрос: Если дорожное движение может быть сделано безопаснее от человеческого неправомерного поведения благодаря автономному вождению, может ли использование автономных систем вооружения сделать войны — семантическое противоречие — более гуманными?

Серьезные риски, связанные с использованием ИИ в военной технике, также серьезны:

• Центральный вопрос: могут ли принципы принятия решений международного права и основных прав человека быть "твердо" запрограммированы в боевых роботах. Это включает обязательную защиту гражданских лиц и раненых солдат в соответствии с международным правом. Будет ли распознавание изображений настолько хорошим, чтобы правильно распознавать этих специально защищенных лиц в боевых операциях?

• Автономные системы вооружения могут действовать без человеческого влияния и, следовательно, без человеческого контроля, а также принимать ошибочные решения (так же, как люди). Возникает вопрос, какие параметры решений и/или этические принципы запрограммированы в роботов — и могут ли они развиваться независимо путем машинного обучения (в любом направлении).

• Как и в невоенных приложениях, алгоритмами также можно манипулировать (часто трудно понять). В худшем случае эти манипуляции обнаруживаются только после атак, основанных на них.

• Автономное использование особенно критично, если при реальном использовании учитываются другие данные, чем при обучении. Здесь невозможно предвидеть, как Искусственный Интеллект отреагирует автономно.

• Дегуманизация военных конфликтов может снизить порог торможения для таких действий, потому что политикам больше не нужно оправдывать человеческие потери на своей стороне во время боев перед своими избирателями.

• Использование роботов-убийц может привести к бесконечным войнам, потому что технические системы не устают.

• Особенно опасно, когда политическое или военное руководство теряет контроль над автономными системами вооружения и делает их "независимыми" — с непредсказуемыми последствиями.

• Также нерешен вопрос о том, как должны преследоваться военные преступления, если они совершены автономными системами вооружения.

• Легко развертываемые системы вооружения на основе ИИ могут причинить разрушительный ущерб в руках террористических организаций.

Совет по художественному чтению

Этическая дилемма использования дронов в военных целях очень хорошо показана в триллере "Око в небе".

Чтобы установить границы критических разработок, почти 4000 ученых, инженеров и компаний, занимающихся Искусственным Интеллектом, документально зафиксировали, что они не "участвуют в разработке, производстве, торговле и использовании смертоносного автономного оружия". Это может помочь отличить приемлемые и неприемлемые области применения ИИ (ср. von Hammerstein & Rosenbach, 2018, с. 35).

Но убедительного глобального решения нет. С одной стороны, 26 стран требуют запрета на роботов-убийц ("Кампания за остановку роботов-убийц"). Но пока такие государства, как Израиль, Россия и США, против этого, гонка вооружений с ИИ будет продолжаться. И не на благо человечества.

Резюме

• Распознавание лиц играет центральную роль в различных приложениях безопасности.

• В Китае система социального кредитования позволяет нам наглядно увидеть возможности, которые распознавание лиц создает в сочетании с анализом больших данных, основанным на ИИ.

• Предиктивная полиция пытается предвидеть преступления, чтобы избежать их или поймать виновных с поличным.

• Сегодня миллиарды долларов направляются на разработку систем ИИ для военных целей.

• Эти разработки происходят в основном в тайне и почти не поддаются контролю.

• Наибольшие риски Искусственного Интеллекта связаны с различными формами боевых роботов, потому что они массово изменят "правила игры" в вооруженных конфликтах.


Библиография

Böge, F. (2018). Denk an dein Rating! In Frankfurter Allgemeine Sonntagszeitung (с. 3). 30 сентября 2018.

Centauro. (2019). H2020 Project CENTAURO. https://www.centauro-project.eu/. Доступ 17 марта 2019.

DDV. (2018). Die Quintessenz: Social Scoring, Висбаден.

Diehl, J., & Kartheuser, B. (2018). Predictive Policing: Ich weiß, was du heute tun wirst. http:// www.spiegel.de/panorama/justiz/kriminalitaet-in-deutschland-polizei-setzt-auf-computer vorhersagen-a-1188350.html. Доступ 28 марта 2019.

Face++. (2019). FaceID. The world’s leading face-based identity verification service. https://www. faceplusplus.com/faceid-solution/. Доступ 27 марта 2019.

Hector. (2019). Team Hector. http://www.teamhector.de/. Доступ 27 апреля 2019.

Herbermann, J. D. (2018). Die Krieger der Zukunft. In Bonner Generalanzeiger (с. 5). 21 августа 2018.

Knight, W. (2017). Paying with Your Face—Face-detecting systems in China now authorize payments, provide access to facilities, and track down criminals. Will other countries follow? In MIT Technology Review. https://www.technologyreview.com/s/603494/10-breakthrough technologies-2017-paying-with-your-face/#comments. Доступ 27 марта 2019.

Kreutzer, R. (2018). Herausforderung China: Manager wendet den Blick (verstärkt) nach Osten— nicht (mehr allein) nach Westen! In Der Betriebswirt, 3, с. 10–16, и 4/2018, Гернсбах.

Pluta, W. (2011). Roboter in Fukushima: “Wir waren besser vorbereitet”. https:// www.handelsblatt.com/technik/forschung-innovation/roboter-in-fukushima-wir-waren-besser vorbereitet/4585192-all.html. Доступ 27 марта 2019.

Scharre, P. (2018). Army of none—Автономное оружие и будущее войны, Нью-Йорк.

Sensetime. (2018). SenseTime AI—Powering Future, Präsentation, Пекин, 11 января 2018.

von Hammerstein, K., & Rosenbach, M. (2018). Killer ohne Seele. In Der Spiegel (с. 34–38). 11 августа 2018.

Предыдущая глава    Следующая глава

Другие статьи по этой теме: