Плохие деятели, искусственный интеллект и исторический контекст кампаний по дезинформации
Наихудший сценарий распространения дезинформации - это полная глобальная катастрофа… вот и все. Pixabay / Пит Линфорт
Кампании по дезинформации начинались не с социальных сетей. До появления Facebook пропаганда распространялась по всему, от радио и телеграфа до уличных листовок. Если рассматривать исторический контекст, кампании по дезинформации даже сыграли свою роль в римско-персидских войнах.
«Как ни странно, современная дезинформация берет свое начало в отделе черной пропаганды КГБ, - сказал Шон О'Брайен. Генеральный директор @Risk Technologies. «Советы проводили кампании дезинформации, чтобы повлиять на мнение о том, что США изобрели СПИД и что США поддерживают апартеид».
СМОТРИ ТАКЖЕ: Технология чтения мыслей опасно близка к тому, чтобы стать реальностью
О'Брайен знает свою дезинформацию; он бывший министерство обороны (DOD) и офицер разведки, который всю свою карьеру участвовал в военных действиях. Теперь он генеральный директор стартапа по кибербезопасности, ведущего кибервойну против злоумышленников, участвующих в всемирных кампаниях по дезинформации.
Цель дезинформации зловеще проста. «Это способность повысить доверие к одной стороне и подорвать доверие к другой», - сказал О’Брайен в интервью Observer. «Уменьшите веру общества в идею, институт или принцип».
Чтобы еще больше разбить его: дезинформация - это ложный контент, распространяемый с особым намерением обмануть, ввести в заблуждение или манипулировать целью или оппонентом. В наш век социальных сетей это оружие, которое разжигает страх, укрепляет авторитарные режимы и, конечно же, занимает центральное место во вмешательстве в выборы в США.
Буквально на прошлой неделе Facebook сообщил, что обнаружил и уничтожил четыре поддерживаемые государством кампании дезинформации. Это лишь небольшая часть того, как усиливается иностранное вмешательство в сети в преддверии президентских выборов 2020 года. Эти поддерживаемые государством субъекты маскировались в Facebook под обычных пользователей. Три кампании по дезинформации были инициированы в Иране, а другая, как вы уже догадались, в России.
«Кто-то, осуществляющий дезинформацию, обычно не хочет принимать сторону какой-либо конкретной команды; речь идет о достижении хорошо спланированной цели », - пояснил О’Брайен. «Они будут нацелены на ту сторону, которую легче всего использовать».
По мнению О »Брайена, сегодня иностранные державы снова вторгаются в частную жизнь наших домов и предприятий, чтобы захватить то, что они хотят, посредством кибератак. .
«Самая большая угроза, которая у нас есть, - это недостаток осведомленности и отсутствие активных мер, чтобы остановить это», - сказал О'Брайен. «Это колеблется от банкротства малого бизнеса от программ-вымогателей до политически мотивированных экстремистских идей - все это объединяется в идеальный шторм, отвращая бесправную публику к бунту, отказу от вежливости и, в некоторых случаях, к стрельбе».
Обычно кампании по дезинформации нацелены на политические, социальные или бизнес-экосистемы.
«Наиболее эффективные кампании полезны, потому что основатель кампании получил хорошее понимание экосистемы и сделал это. их домашнее задание, - объяснил О'Брайен. «Возьмем для примера вмешательство России в голосование. Российские оперативники хотят подорвать доверие американцев к результатам выборов ».
Коварная цель этой конкретной кампании дезинформации заключалась в том, чтобы замедлить работу машин для голосования, которые непреднамеренно атакуют все учреждение.
« Если время, необходимое для голосования, увеличится, очереди, ожидающие голосования, также увеличатся », - продолжил он. «После того, как избиратели пожалуются, что не могут проголосовать, любая из сторон будет оспаривать нечестную игру».
Злоумышленники используют искусство и науку для распространения кампаний дезинформации на основе ситуационной осведомленности.
«Своевременность, тон и контекст являются важнейшими ускорителями эффективной кампании », - заявил О'Брайен. «Авторы кампаний по дезинформации должны понимать« ритм »[того, когда] что-то говорить, а когда не говорить».
Например, мы знаем, насколько фальшиво звучит, когда телемаркетинг, который явно звонит из-за границы - дает фальшивое американское имя и пытается делать плохо оформленные местные ссылки. («Привет, это Scooter. Как насчет местной спортивной команды?») То же самое и с плохо написанным фишинговым письмом; это легко заметить как мошенничество. (У меня такое случилось с поддельной рекламой квартиры на Craigslist.)
В Facebook или Twitter попытки создать предлог для завоевания доверия часто терпят неудачу, потому что преступник использует ошибочную историю или неправдоподобный сценарий. Плохо написанное сообщение в социальной сети может испортить попытку заставить кого-то сделать комментарий или занять позицию, которая помешает кампании. Тем, кто пытается обмануть, нужно сначала сделать свою домашнюю работу с обманом. WithoПри глубоком понимании культуры злоумышленники будут бороться с тем, как правильно говорить вещи или как лучше всего поместить их в контекст.
Но знать своего врага - значит знать себя.
« Наша команда поняла, что планирование и разработка сценариев дают злоумышленникам преимущество в эффективном проведении кампании дезинформации », - сказал О'Брайен. «Правильное планирование предусматривает создание ответвлений и сиквелов, зная своевременность, тон и контекст».
О'Брайен использовал свой опыт работы в качестве квалифицированного армейского офицера рейнджеров, а также знания и опыт, которые он приобрел в IBM , чтобы получить опыт, необходимый для борьбы с кампаниями по дезинформации.
«Многие из нынешней команды были со мной тогда, и они отвечали за анализ больших данных для боевых команд США», - сказал он. «Большинство военнослужащих, будь то в пехоте или на транспорте, узнают в процессе базовой и продвинутой подготовки о кампаниях дезинформации в рамках подготовки по борьбе с повстанцами (ППД)».
Итак, как мы можем играть в обороне против плохих актеров?
На сегодняшний день мир потратил около 2 триллионов долларов на кибербезопасность, и все же подросток из Молдовы может, скажем, вывести из бизнеса 20-летнюю урологическую практику с помощью часть программы-вымогателя.
Команда @Risk О'Брайена имеет опыт работы с дезинформацией, потому что они разбирают ее и используют внешние экосистемы в качестве источников данных.
«Мы используем эти данные для создания аналитическая зона, чтобы спрогнозировать, как это повлияет на наших клиентов », - пояснил он. «Если вы не можете измерить эффективность чего-либо, вы не сможете оправдать курс действий для решения проблемы, о существовании которой вы не знаете».
При построении надлежащей защиты кампании дезинформации О Брайен использует военную науку - изучение организаций, систем, процессов и поведения, а также изучение прошлых войн.
«На основании этого лучшие военные умы построили теорию о том, как лучше всего применять необходимое количество силы для победы », - сказал он.
Люди, работавшие в вооруженных силах, говорили, что бой похож на симфонию, и О'Брайен объяснил, как применение военной науки не работает. «Эффективный боевой лидер объединяет и объединяет различные возможности, чтобы объединиться, чтобы применить самую смертоносную силу в нужном месте, в нужное время и в нужных условиях для победы», - сказал он. «Существует множество проверенных методов и практики создания возможностей глубокоэшелонированной защиты (DiD) с использованием экономических, социальных, оперативных, технологических и тактических средств для достижения победы».
Простая концепция проведения этой защиты? «Получение и поддержание ситуационной осведомленности», - продолжил О’Брайен. «Защитник должен знать, что он защищает и как это расположено на его территории».
В DiD (подход к защитной кибербезопасности, используемый для защиты данных) это означает наличие точного инвентаря управления активами обоих аппаратное и программное обеспечение на конечной точке и понимание сетевого сегмента и маршрутов подсети между ними.
«Эта чистая военная наука дает элементарное преимущество для создания глубокой киберзащиты», - сказал О'Брайен. «Вы должны знать, что у вас есть, чтобы помочь вам победить в своем сообщении. Вы также должны знать их уязвимые места и защищать их. Люди, процессы, технологии и информационные ресурсы так же применимы в политике, как и в кибервойне ».
Конечно, такой защитный подход может сработать против 16-летнего подростка в Молдове, но что, если злоумышленник приходит в виде искусственного интеллекта (ИИ)? Как сказал Илон Маск, «ИИ намного опаснее ядерного оружия». Чтобы еще больше разжечь этот страх, теперь становится реальностью воспроизведение человеческой мысли с помощью ИИ. Поиск в Google дает опубликованные концепции, описывающие, как микроагенты могут имитировать человеческое мышление.
«Эти агенты будут анализировать дизайн и реализовывать интеллектуальное управление распределенной обработкой данных. Они также будут сотрудничать с сетью агентов, которые делают то же самое », - сказал О'Брайен.
Чтобы бороться со страхом плохих актеров ИИ, О'Брайен говорит, что нам нужно« понять, что такое ИИ и что это такое. нет, и то, что он может делать сегодня ».
ИИ, в его простейшей форме, использует аппаратные и программные технологии для имитации человеческого поведения. Для борьбы с ИИ, с точки зрения продолжения кампании дезинформации, «вопрос, который мы должны постоянно задавать, связан с фундаментальным вопросом: какое человеческое поведение или какого человека мы хотим имитировать?» - сказал О’Брайен. «Искусственный интеллект неэффективен, если ему не хватает данных, а если данные ограничены или низкого качества, результаты будут неоптимальными. Слабые данные приводят к плохому анализу и подрывают способность изучать новые сценарии в разных контекстах ».
« Поскольку корреляция не создает причинно-следственной связи, необходимы полезные данные для подтверждения или создания веса доказательств », - продолжил он. . «Это разработановыбор и определение весов доказательств под наблюдением человека, которые, тем временем, обеспечат надлежащее обучение нейронной сети ».
К сожалению, сейчас мы живем в мире, где не только ИИ, подростковые хакеры и - поддерживаемые злоумышленниками, распространяющими кампании дезинформации; термин «фейковые новости» широко используется в нашем лексиконе. Насколько вредно, когда высшие люди у власти (я говорю с вами, президент Трамп) считают основные СМИ распространителями дезинформации, которая, в свою очередь, распространяет дезинформацию…
«Что такое наиболее вредно, когда мы как общество перестаем ценить свободу прессы и обмен идеями », - сказал О'Брайен. «Каждый раз, когда кто-либо прилагает какие-либо усилия, чтобы ограничить эту свободу, это проблема. Гражданская ответственность - определять, когда это мнение противопоставляется фактам. Без этого эскалация риторики становится питательной средой для дезинформации и дает возможность противникам свободы слова ограничивать наше стремление к свободе и счастью как общества. Любые попытки ограничить свободу слова или искажать ее должны быть быстро выявлены, разоблачены и помещены в карантин ».
В качестве защитного решения О’Брайен говорит, что« нам нужны доверенные проверяющие. Используя определенные виды ИИ, мы можем проверить шашки ».
Худший сценарий распространения дезинформации О'Брайена - это, ну, ну, полная глобальная катастрофа… и все.
< p> «К сожалению, дезинформация будет и дальше способствовать гибели людей в наземных, морских и воздушных войнах», - сказал он, мрачно добавив: «В пятой области нам предстоит кибер-9/11. Атака такого масштаба может иметь разрушительные последствия для мировой экономики. Плохие субъекты будут вводить в повествования после нападения дезинформацию, что приведет к потере доверия к правительству. Социальные и религиозные институты также могут подвергаться воздействию и угрожать самой структуре человеческого общества ».Вместо того, чтобы в страхе натягивать одеяло на наши головы, есть способы защитить друг друга - и это восходит к дух оригинального Minutemen.
«Поскольку Big Data отслеживает угрозы в режиме реального времени, полученные машинным обучением синтезируются с использованием алгоритмов, которые помогают прогнозировать кибератаки», - заключил О'Брайен. «Эта система раннего предупреждения« один по суше, два по морю »создана смелыми мыслителями, которые присоединяются к нашему общему делу в качестве цифровых Минитменов».
комментариев