Искусственный интеллект. Большие данные. Преступность

Средний срок пребывания хакерского софта в корпоративных сетях в тех случаях, когда он в итоге бывает все-таки обнаружен, увеличился с 2014 по 2016 гг. с примерно 150 до 230 дней. При этом, по оценке экспертов ФБР, удается обнаружить примерно 30–40 % от общего числа активных проникновений в корпоративные сети. И это – в крупнейших компаниях.

4. Использование ИИ для разведывательной деятельности организованной преступностью против полиции и ФБР.

Колумбийский наркокартель Кали еще в начале 90-х годов прошлого века приобрел мощную компьютерную систему IBMAS/400, стоившую в те времена полтора миллиона долларов, и обзавелся штатом сисадминов и программистов, разрабатывающих специализированный софт для datamining.

Техника была нужна для того, чтобы прочесать краденые базы данных с рабочими и домашними телефонами сотрудников американских спецслужб и дипломатических работников в Колумбии, сопоставить их с полным списком всех телефонных звонков, которые совершаются в стране, и выявить потенциальных информаторов, подлежащих ликвидации.

Если ОПГ не могут уничтожить базы правоохранителей, то они, очевидно, пойдут другим путем. В любой системе самый уязвимый фактор – это человек. В течение 2016–2017 гг. ФБР внимательно отслеживало попытки на черном рынке купить те или иные базы изображений с видеокамер, установленных в кафе, торговых центрах, рядом с полицейскими участками, зданиями ФБР и т. п. Это наводит нас на мысль, что преступники начали создание собственной базы данных с использованием примерно тех же решений ИИ, что и правоохранительные органы. Первая – это база агентов под прикрытием и осведомителей. В делах, относящихся к компетенции ФБР, более чем в 70 % случаев успех был связан с работой этих отважных людей.

Также ожидаются попытки создания криминалом баз данных на сотрудников информационных центров полиции штатов и ФБР. То есть людей, допущенных в святая святых. С учетом того, что у каждого, даже самого преданного и отважного правоохранителя есть уязвимые места, создание подобных баз могло бы иметь гибельные последствия.

§ 5. Робототехника: риски и угрозы

Энциклопедия «Британика» определяет робота как «любую автоматическую машину, выполняющую работу человека». В соответствии с определением Международной федерации робототехники (International Federation of Robotics, IFR) «робот – это рабочий механизм, программируемый по нескольким осям с некоторой степенью автономности и способный передвигаться в пределах определенной среды, выполняя поставленные задачи. В представлении большинства ученых и практиков робот – «любая машина, способная воспринимать окружающую среду и реагировать на нее на основе самостоятельно принимаемых решений» [16] .

16

См.: Кайснер Э. Робототехника: прорывные технологии, инновации, интеллектуальная собственность. Форсайт, т.10. № 2,

Ключевым отличием роботов от других машин считается «автономность»: робот способен интерпретировать среду, в которой находится, и адаптироваться под поставленные задачи. Роботы эволюционируют от запрограммированного автоматизма к полуавтономным и более автономным сложным системам. Полностью автономные системы могут действовать самостоятельно и принимать «решения» без участия человека.

Исходя из общего определения, дистанционно управляемые устройства не могут считаться «роботами». Тем не менее, некоторые из них все же признаются таковыми. В число «дистанционных» устройств робототехники входят роботы телеприсутствия, управляемые на расстоянии андроиды, роботизированные хирургические устройства, экзоскелеты и беспилотные летательные аппараты (БПЛА) (их также называют «дронами»). Это же относится к некоторым игрушкам и учебному оборудованию.

Полу автономные устройства частично управляются людьми, однако, в отличие от «дистанционных», предоставляют информацию, которая облегчает операторам выполнение задач и помогает в управлении такими системами. Например, в эту группу входят полуавтоматические устройства, все чаще используемые в автомобилях, и некоторые промышленные роботы, нуждающиеся в получении четких инструкций от оператора.

Полностью автономные устройства способны самостоятельно принимать «решения» в среде своего назначения и выполнять задачи без помощи человека. Как правило, они не могут творчески мыслить, хотя и проектируются для непредсказуемых ситуаций, в которых невозможно заранее прописать все решения.

Искусственный интеллект (ИИ) – самостоятельная область теории вычислительных машин и систем, изучающая возможности создания устройств, способных принимать разумные решения. В этом их принципиальное отличие от полностью автономных устройств, хотя и отчасти размытое.

В последние годы робототехника развивается поистине взрывным образом. Если в 2010 г. в промышленности была 121 тыс. роботов, и все без ИИ, то к началу 2018 г. практически использовались более 350 тыс. промышленных роботов, из которых минимум треть оснащена ИИ. Еще более внушительные цифры характеризуют использование сервисных роботов. В 2010 г. в США использовалась 41 тыс. сервисных роботов. К началу 2018 года – 5,4 млн. Только дронов в США официально зарегистрированов Федеральной авиационной администрации 670 тыс. штук. С каждым годом расширяется использование роботов в вооруженных силах США и в целом странах НАТО. Поставлена задача, чтобы к 2025 г. на каждого строевого бойца на поле боя приходилось как минимум 2 действующих робота и не менее 1,7 робота поддержки, включая связь, тыловые функции и т. п.

Как это ни парадоксально, тотальная роботизация сопровождается все большей открытостью всех робототехнических компонентов любому пользователю. Примерно 85 % софта, используемого в роботах, в том числе в военных роботах, размещено в открытых депозитариях. IBM, Samsung и Ford пошли еще дальше. Они полностью открыли спецификацию соответствующего харда своих гаджетов для любых пользователей. Если еще 2–3 года назад для того, чтобы создать боевого робота, были необходимы значительные ресурсы, как минимум 150 тыс. долларов и квалифицированные программисты, то сегодня можно уложиться в 3–5 тыс. долларов на закупку компонентов и примерно 10 тыс. долларов для программистов, которых можно нанять удаленно. Все специалисты по национальной безопасности уверены, что преступные, а возможно и террористические группировки уже располагают боевыми роботами.

Появлению новых типов БЛА у деструктивных структур будет способствовать и следующее обстоятельство. 19 апреля 2018 г. президент США Дональд Трамп утвердил новую политику США в сфере экспорта беспилотных авиационных систем (U.S. Policyon the Export of Unmanned Aerial Systems), которая будет действовать в отношении воздушных роботов всех классов и типов, разработанных и выпускаемых на территории Соединенных Штатов.

Суть новой политики, которая заменяет собой аналогичный документ, утвержденный президентом США Бараком Обамой 17 февраля 2015 года, – максимально облегчить американским компаниям экспорт продукции такого рода.

Во-первых, упрощается сама процедура продажи таких вооружений: отныне компании могут продавать свою бесчеловечную продукцию любой стране мира напрямую в рамках двусторонних контрактов, а не через сложную и забюрократизированную Программу продажи вооружений и военной техники иностранным государствам (Foreign Military Sales – FMS).

Во-вторых, радикально упрощается процесс продажи за рубеж разведывательных беспилотников, которые не обладают изначально возможностью применения различных средств поражения, но оснащены лазерными дальномерами и целеуказателями. Теперь поставлять такие беспилотники можно без дополнительных разрешений – либо в рамках программы FMS, либо и вовсе напрямую.

В-третьих, упрощается продажа беспилотников гражданского назначения, которые любая американская компания может поставлять за рубеж, просто получив соответствующую лицензию.

Существуют свидетельства, что люди неоправданно доверяют автономным мобильным роботам. Проблем здесь две. Первая – в достаточно высоком числе отказов в таких системах. Вторая, более важная – в том, что роботы, как уже указывалось выше, сами не обладают достаточным уровнем кибербезопасности. Если в прошлом склонить солдат и офицеров к измене было делом весьма сложным, а подчас и невозможным, то перепрограммировать роботов на поле боя или в тыловых системах не составляет для опытных программистов труда. Вполне может получиться, что в боевых робототехнических системах самым уязвимым элементом окажется не человек, а робот.

Вычисления ИИ и человеческое мышление на уровне логики, топологии и смысла качественно различны. Что же до вычислений ИИ и расчетов боевого робота, они либо одинаковы, либо боевой робот представляет собой своего рода внешний орган распределенного вычислительного интеллекта. При такой неоднородности система становится крайне уязвимой, а ее негативные действия – прогнозируемы.

В настоящее время существует относительно ограниченное число крупных компаний, производящих роботов. Например, DJI в настоящее время производит примерно 70 % всех продаваемых в мире дронов. Эта концентрация делает аппаратную экосистему более понятной и управляемой. Соответственно, в рамках типовых решений используются и типовые программы информационной безопасности. Поскольку ключевым вопросом для потребителя является соотношение цены и качества, то компания-производитель стремится сэкономить на всем, и прежде всего на сторонних закупках. Кибербезопасность дрона – это сфера сторонних закупок компании-производителей у компаний, специализирующихся на антивирусных программах и корпоративной безопасности.