Рубрика: Общество

АЛЕКСАНДР ЛОСЕВ

Одним из главных итогов пандемии коронавируса 2020 г. стало сверхактивное внедрение цифровых технологий во все сферы жизни. Хотя начало Четвёртой (цифровой) промышленной революции было анонсировано ещё в январе 2016 г. на ВЭФ в Давосе и цифровизация стала общемировым трендом задолго до пандемии, именно в 2020 г. человечеству показали, отчасти вынужденно, как может выглядеть соединение реального и цифрового миров и как цифровизация меняет общественно-политическую сферу и бизнес.

Гиганты цифровой индустрии оказались наряду с финансистами и биофармой главными бенефициарами коронавирусных ограничений и локдаунов. Онлайн-торговля и услуги, удалённая работа, дистанционное обучение, телемедицина, цифровые медиа, финтех, мониторинг заболевших, маркетплейсы, соцсети и прочее в сочетании с беспрецедентными по своим масштабам мерами господдержки, а также вынужденной «цифровой трансформации» бизнесов и моделей потребления граждан большинства стран вывели в 2020 году выручку и капитализацию ведущих IT-компаний на исторические максимумы.

В середине 2020 г. доля цифровой экономики в общемировом ВВП оценивалась в 27 процентов (или 23,2 трлн долларов в денежном эквиваленте). Прогнозируется (на основе тенденций 2020 г.), что в ближайшие пять лет цифровые сегменты покажут ускоренный рост и к 2025 г. цифровая экономика может достичь отметки 50 процентов глобального ВВП, а в развитых странах и в Китае даже превысить половину величины национальных ВВП.

Мощь государств и их способность достигать геостратегических целей сейчас определяется не только военной силой и контролем энергетических и финансовых рынков, но и влиянием на мировую информационную сферу и возможностью установления своих собственных технологических стандартов в качестве международных при ускоренной цифровизации торговли и свободном доступе на потребительские рынки всего мира.

В мировой экономике выстраивается новая иерархия, в которой не только капитал, но и контроль над потоками информации, включая интернет-трафик, данные о платежах, цифровые образовательные программы и медицинские исследования, а также социальные платформы, определят будущее и материального производства (через управляемое потребление), и сферы услуг.

Цифровая индустрия смягчила последствия карантинов, а онлайн-сервисы спасли в пандемию не одну тысячу человеческих жизней.Но усилившаяся информационная зависимость формирует особые потребности, без которых многие люди уже не представляют своего существования и в итоге постоянно платят компаниям за возможность ежедневно пользоваться достижениями цифровых технологий.

Колоссальный массив данных, которые можно собрать с помощью цифровых устройств, – Big Data являются ценнейшим ресурсом для бизнеса, позволяющим выстраивать новые сервисы, настраивать продажи и влиять на потребительские предпочтения. «Данные – это новая нефть» (Data is the new oil) – гласит девиз цифровой экономики. У кого больше данных и кто разработал алгоритмы их анализа, тот теперь получает гигантское конкурентное преимущество в постиндустриальной цифровизированной экономике.

Как заметил Нассим Талеб, если общество недостаточно быстро приспосабливается к изменениям, его ждёт коллапс, но и слишком быстрое приспособление превращается в регресс. Общество начинает терять то хорошее, что у него было до того, как начались перемены.

Недостатки – это продолжение достоинств

Успехи цифровой экономики в 2020 г. впечатляющие. Но есть и другая экономика – реальная, дела в которой обстоят намного хуже. Риски нового спада в 2021 г. реальны, как и перспективы потерянного десятилетия в мировой экономике. И даже если удастся продолжением фискальных и монетарных мер поддерживать всю конструкцию современного капитализма на плаву, то темпы роста в целом останутся крайне низкими.

За счёт чего же будет обеспечен ускоренный рост цифровой сферы? 2020 г. даёт однозначный ответ – за счёт остальной (реальной) экономики. К сожалению, это, выражаясь терминами теории игр, «антагонистическая игра», где выигрыш одних участников является проигрышем для других. Цифровизация разрушает рынок труда и социально-политические конструкты общества. Власть, которую в ходе пандемии приобретают IT-гиганты, их влияние и ресурсы скоро могут превзойти влияние и значимость как финансовых элит, так и ведущих политических партий и сил.

Продолжение цифровизации и формирование цифровых олигополий лишит работы сотни миллионов людей, занятых в малом и среднем бизнесе по всему миру. Цифровая трансформация ещё больше усилит мировое неравенство.

Еще в 2016 г. основатель Всемирного экономического форума Клаус Шваб предупреждал, что неравенство представляет собой самую большую общественную проблему, связанную с цифровой революцией, и что технологии являются одной из основных причин стагнации или даже снижения доходов большинства населения в странах с высоким уровнем дохода.

Глобальное переформатирование общества уже началось. Аналитические центры обращают внимание на усиление цифрового авторитаризма. Цифровые компании используют методы цензуры, подавления через страх и наказания в виде блокирования доступа к информации через интернет-отключения и брандмауэры, а также скидки и штрафы в цифровых платформах, предоставляющих доступ к услугам и платежам.Цифровизация продвигает и масштабирует социальные и коммерческие технологии, а глобальные корпорации начинают повсеместно навязывать новую мифологию потребления функций вещей и замены материальных предметов на услуги, постепенно превращая большинство населения в люмпен-обитателей мирового колхоза под названием «экономика общего потребления» (Sharing Economy).

Этот процесс активно поддерживается соцсетями и цифровыми медиа и, к сожалению, сопровождается деморализацией населения, формированием массового чувства опасности из-за перегрузки информацией о коронавирусе, искусственным хаосом (например, погромы и движение BLM в США) и атаками на человеческое достоинство, снижением качества образования и медицины.

Есть риск, что цифровая революция при одновременной стагнации реальной экономики и росте неравенства приведёт к созданию мрачной антиутопии, когда беднеющее население планеты окажется под цифровым контролем частно-государственных диктатур, распределяющих сокращающиеся ресурсы.

Одновременно соцсети, ставшие «дирижёрами» процессов, и социальные платформы, захватившие информационное и деловое пространство (и стоящие за ними цифровые гиганты), продолжают вовлекать всё больше и больше пользователей, расширяют своё политическое влияние, создают инструменты контроля и перехватывают влияние и власть у политиков, правительств и государств. И это тоже следует отнести к «цифровым» итогам 2020 года.

Растущая зависимость от цифровых систем постепенно подрывает способности людей к познанию, делая более трудным и поддержание внимания, и запоминание информации, и критическое мышление. Людям требуется больше усилий для поддержания фокуса из-за частого переключения внимания между различными цифровыми задачами.

Исследования показывают, что поток информации из интернета перегружает мозг и одновременно уменьшает объём долговременной памяти. И по мере того как цифровые устройства все больше внедряются в повседневную жизнь, становится все труднее мотивировать людей сохранять концентрацию внимания, переваривать информацию и удерживать факты в своей памяти. Это негативно сказывается и на производительности труда, и на уровне образования.

Дистанционное обучение, как показала пандемия-2020, резко снижает общий уровень и качество образования. Это отмечают и педагогическое сообщество, и учащиеся, и аналитические центры с мировым именем, например RAND Corporation. Дальнейшая цифровизация образования «зафиксирует» проблемы дистанта.Начиная с эпохи Просвещения, каждое новое поколение детей знало больше чем их родители, сейчас ситуация меняется на противоположную. Прогресс цифровых технологий превращается в когнитивный регресс человечества.

Угрозы и новые риски

Ещё одним неприятным «цифровым» итогом 2020 г. стала информация о крупнейшей в истории США кибератаке на министерства и частные компании, такие как Cisco Systems, Intel, NVidia, VMware. Судя по комментариям из Вашингтона, это практически casus belli, если не для реальной, то уж точно для полномасштабной кибервойны, которую будут вести все мировые державы друг против друга. Таким образом, инновационные достижения в области цифровых технологий и искусственного интеллекта несут не только благо для экономики, но и риски спровоцировать реальный конфликт между странами. Условная «Третья мировая война» может свершиться в течение нескольких секунд, если одно государство с помощью цифровых технологий и киберсредств возьмёт под контроль критическую инфраструктуру и основные системы стран-соперников.

Искусственный интеллект, включённый в технологии государственного управления, становится инструментом внутренней политики. В 2020 г. мы видели и QR-коды, и контроль социальной дистанции, и мониторинг заболевших COVID-19, и многочисленные штрафы, и массированные утечки личных данных, и рост мошенничества. И пока неизвестно к чему может привести цифровизация госуправления и доступ разработчиков к системе искусственного интеллекта к государственным базам данных. Технологии могут служить как укреплению государственной власти, так и её ослаблению. Результат зависит от алгоритмов, квалификации, а также от накопления ошибок при обучении нейросетей.

Существует презумпция, которая носит название «бритва Хэнлона» и выражается фразой: «Никогда не приписывайте злому умыслу то, что вполне можно объяснить глупостью». Неготовность к внедрению или ошибки при создании искусственного интеллекта несут в себе серьёзную опасность. К рискам цифровых технологий относится также перспектива разрушения традиционных банковских систем новыми инновационными платёжными платформами, что может угрожать финансовым опорам реальной экономики и безопасности финансовых систем, поэтому требует государственной политики и особого регулирования. В этой связи центральные банки по всему миру всё больше склоняются к идее создания собственных цифровых валют, которые будут представлять собой сочетание цифровых версий национальных фиатных валют со специальной платежной системой, контролируемой центральными банками.И наконец, самый серьёзный риск и вызов цифровой революции – рост энергопотребления.

Сейчас на долю цифровой экономики приходится уже 12 процентов мирового потребления электроэнергии и 3 процента выбросов парниковых газов. По парниковым газам цифровая экономика в 2020 г. почти в два раза опередила авиационную отрасль. Выбросы парниковых газов, генерируемые цифровыми технологиями, можно разделить следующим образом: 25 процентов –за счёт центров обработки данных, 28 процентов – за счёт сетевой инфраструктуры и 47 процентов – за счёт потребительских устройств. В Калифорнии онлайн-азартные игры уже потребляют больше энергии, чем требуется для электрических водонагревателей, стиральных машин, посудомоечных машин, сушилок для белья и электроплит. И это тоже цифровые итоги 2020 года.

Индустрия 4.0 и Интернет вещей представляются пока необратимыми процессами. По данным американской компании Cisco, трафик увеличивается в десять раз каждые десять лет, то есть через двадцать лет он возрастёт в сто раз, а через тридцать лет в тысячу раз. Такие скорости передачи данных в настоящее время невозможны. Отсюда разговоры о сетях 5G и даже 6G. Если цифровизация продолжится в будущем теми же темпами, что и в 2020 г., то через двадцать лет только цифровые технологии потребуют такого же объёма электроэнергии, который был произведён во всём мире в 2010 г., то есть десять лет назад. Цифровая экономика может оказаться катастрофической для климата и биоразнообразия. Человечеству пора внимательно изучить «цифровые» итоги 2020 г. и сделать выводы, прежде чем двигаться дальше.

Оригинал статьи.

Евгений Хвостик

Высокие технологии переводят психологическое манипулирование на новый уровень

Повсеместное распространение интернета, социальных сетей и других видов социального общения в киберпространстве привели к явлению, которое специалисты называют когнитивным хакингом. В основе этого явления лежит особый вид социальной инженерии — совершаемая в киберпространстве манипуляция общественным сознанием — не только для кражи денег или данных, но и для влияния на поведение пользователей. Эксперты считают, что приемы когнитивного хакинга могут применять не только преступники, но и недобросовестные компании, СМИ или политики — посредством кампаний по дезинформации или распространения на интернет-платформах контента, меняющего восприятие действительности пользователями.

Многоходовочка

В последнее время все больше специалистов в области IT-безопасности и психологии обращают внимание на растущее число случаев, когда злоумышленники успешно обходят технические способы защиты в киберпространстве, используя психологические уловки на когнитивном (познавательном) уровне. Такое явление получило название «когнитивный хакинг» — кибератака, нацеленная на манипуляцию человеческим восприятием действительности с использованием уязвимостей человеческой психологии.Цель таких атак — изменение человеческого поведения или отношения к каким-то вещам, часто они совершаются при помощи дезинформации или подтасовки фактов.

Эксперты определяют когнитивный хакинг как определенную форму социальной инженерии, то есть манипуляций, направленных не на отдельную личность, а на широкие массы, совершаемых в киберпространстве и при помощи технологий используемых хакерами — фишинг, спуфинг и т. д. В интервью “Ъ” американский математик, автор универсальной теоремы аппроксимации, известной как «теорема Цыбенко», профессор инженерии Дартмутского колледжа Джордж Цыбенко сообщил, что тема когнитивного хакинга стала актуальной на фоне «бурного роста популярности соцсетей, которая привела к сегментации общества — что может быть использовано в политических и экономических целях».

Вице-президент занимающейся кибербезопасностью американско-израильской компании Ironscales Иэн Бакстер отмечает, что «сейчас, больше чем никогда ранее, организации и специалисты в области безопасности должны понимать, что при таких атаках используются психологические приемы. Только понимая, как именно злоумышленники дурачат пользователей, специалисты могут ликвидировать пробелы в системах безопасности и снижать риски обмана».По его мнению, злоумышленники все чаще используют психологические приемы, эксплуатируя такие человеческие эмоции, как желание сделать приятное, эмпатия, симпатия, страх.

В качестве примера недобросовестной эксплуатации определенных форм поведения он приводит ставшую популярной хакерскую атаку — компрометацию корпоративной электронной почты — когда сотрудник-жертва получает письмо якобы от вышестоящего сотрудника другого департамента своей организации, который принуждает к немедленным действиям, например, внести «точные данные» на оплату счету, поскольку ранее якобы были введены «неточные данные». Распространение коронавируса привело к усилению активности различных мошеннических схем и в рунете. Компании в сфере кибербезопасности, в частности, зафиксировали рассылку фейковых писем якобы от государственных структур, в которых содержится вредоносное программное обеспечение.

Отвлечь деталями внимание от главного

По подсчетам исследовательской компании Webroot, в 2019 году резко выросли объемы фишинговых атак — создание фейковых сайтов или ссылок, мимикрирующих под сайты известных компаний. Сообщается, что число таких атак в прошлом году выросло на 400%. Почти четверть (24%) вредоносных адресов страниц (URL) находились на легальных доменах, таким образом преступники использовали доверие пользователей к таким доменам для создания на них вредоносного URL. Кроме того, Webroot отмечает, что фишинг стал более персонализированным,— программы, которые используют злоумышленники, могут отслеживать деятельность конкретного пользователя в интернете и сообщать ему о распродаже в его любимом магазине, давая ссылку с адресом, похожим на сайт этого магазина. По данным же Ironscales, почти четверть вредоносных электронных писем теперь содержат ссылки на фишинговые сайты. Тенденция продолжилась и в этом году — в июле поставлен рекорд по фишингу среди клиентов российских банков: появилось 312 доменных имен, что больше, чем за все предыдущие месяцы 2020 года, вместе взятые.

Вице-президент Ironscales Иэн Бакстер считает, что подобные электронные письма используют такой психологический прием, как «слепота невнимания», когда внимание жертвы преднамеренно отвлекается деталями — сообщениями о распродаже, предупреждением о якобы краже данных или несанкционированном переводе средств, чтобы он не заметил главного — поддельного адреса в ссылке, который может отличаться всего на один знак. Подобный вид психологической манипуляции, который сейчас все чаще стали использовать хакеры, описывает известный еще с 1990-х видеоэксперимент. Перед просмотром видео испытуемых просят посчитать число пасов, сделанных баскетболистами в белой форме. Пока испытуемые сконцентрированы на игроках в белой форме, прямо посреди игроков появляется человек, одетый в костюм гориллы/медведя. Он находится в самом центре происходящего и в какой-то момент даже начинает танцевать. Однако многие испытуемые, чье внимание сосредоточено на мяче и мелькающих перед глазами игроках в яркой белой форме, попросту не замечают трюк с обезьяной, который проворачивают с ними авторы видео.

Помимо фишинга злоумышленники используют приемы когнитивного хакинга и при другом популярном виде хакерской атаки — спуфинге (маскировка вредоносной программы под легальную.— “Ъ”).

В марте 2016 года один из высокопоставленных сотрудников избирательного штаба Хиллари Клинтон, Джон Подеста поддался на поддельное уведомление о нарушении безопасности якобы от Google, ввел свои учетные данные на фейковой странице. После этого произошел взлом, и злоумышленники получили доступ к его данным.

Некоторые западные эксперты опасаются, что когнитивный хакинг может быть использован на вполне легальных платформах с целью манипуляции пользователями и их восприятием действительности, например, в политических целях. Бывший советник по высоким технологиям в администрации Барака Обамы, а ныне эксперт специализированного портала TechRepublic Дэн Патерсон полагает, что когнитивный хакинг уже стал «новым фронтом кибервойн», к которым относят и кампании по дезинформации на таких ресурсах, как Facebook или Twitter; а также распространение полуфейковых новостей — особый подбор или подтасовка реальных фактов для создания ложных выводов. Как известно, с началом пандемии COVID-19 интернет захлестнула волна мифов/фейков и полуфейков о вирусе и борьбе с ним. Например, в ряде стран неоднократно циркулировали фейковые сообщения о том, что против вируса помогает лимон или имбирь. В свою очередь, к полуфейковым новостям можно отнести сообщения об успешных или безуспешных испытаниях того или иного препарата, но на самой предварительной стадии и на основании незначительной выборки — из чего делался вывод о том, что тот или иной препарат помогает или не помогает от вируса.

Более технологичные алгоритмы работы тех или иных легальных интернет-платформ могут вызвать и более технологичные способы когнитивного хакинга. В интервью Financial Times эксперт в области ИИ и социальных медиа Пол Даброва сообщил, что «в отличие от Facebook, который предлагает вам контент от ваших друзей или их друзей, ИИ платформы TikTok использует более предиктивный механизм, основанный на анализе вашего поведения. Анализируя поведение, ИИ этой платформы предлагает в друзья таких пользователей или их контент, который, по его мнению, может вам понравиться. Обладая такими возможностями, ИИ TikTok может воздействовать на поведение своих пользователей так, как это делает инструктор с собаками, например размещая цепи той или иной позитивной или негативной информации для стимулирования поведения пользователей в том или ином направлении».

Полуфейки опаснее фейков

Профессор Цыбенко из Дартмутского колледжа сообщил “Ъ”, что некоторые виды фишинговых атак, использующих приемы когнитивного хакинга, можно отражать техническими способами, например, при помощи фильтрации электронных писем или лингвистического анализа фейковых новостей. Однако с кампаниями по дезинформации, применяемыми в киберпространстве и также использующими приемы когнитивного хакинга, по мнению ученого, можно бороться только «при помощи повышения уровня образования в обществе и/или анализа происхождения» такой кампании. Среди приемов борьбы он, в частности, называет:

• понимание того, насколько та или иная информация соответствует существующим научным представлениям о предмете не только в данной местности и стране, но и остальном мире;
• насколько логично изложена та или иная информация — для чего необходимо уметь логически мыслить или быть знакомым с главными принципами логических построений и их нарушениями;
• понимать, исходит ли какая-то информация из заслуживающего доверия источника или нет.

И если с проблемой фейковых новостей могут бороться современные технологии ИИ, которые уже применяет Facebook, то проблема полуфейков представляется более сложной. Тем не менее специалисты пытаются бороться и с ними. Так, например, в Университете Ливерпуля уже работает команда экспертов, которая разрабатывает доступную методику обучения для распознавания полуфейков — как путем образовательных программ для населения, так и путем создания специального чатбота для пользователей соцсетей и мессенджеров. Автор проекта Елена Муси отмечает, что «более половины циркулирующих в интернете фейков по сути таковыми не являются,— это не сфабрикованный ложный контент, выдуманный факт или событие. Это дезинформация, созданная при помощи подтасовки или преднамеренно ложной трактовки реальных фактов или контента. Такие полуфейки могут распространять даже заслуживающие обычно доверия СМИ, которые в погоне за сенсацией или не очень понимая суть вопроса, могут делать ложные выводы из реальных фактов».

Оригинал статьи.