Эксперты о злонамеренном использовании искусственного интеллекта и вызовах международной информационно-психологической безопасности

Международный центр социально-политических исследований и консалтинга опубликовал в декабре 2021 г. доклад «Эксперты о злонамеренном использовании искусственного интеллекта и вызовах международной информационно-психологической безопасности».

Данная работа стала результатом НИР в рамках исследовательского проекта №21-514-92001 «Злонамеренное использование искусственного интеллекта и проблемы информационно-психологической безопасности (ИПБ) в Северо-Восточной Азии», который был профинансирован Российским фондом фундаментальных исследований (РФФИ) и Вьетнамской академией социальных наук (ВАОН). Ответы, полученные в результате опроса девятнадцати экспертов из десяти стран, и их последующий анализ позволяют выделить наиболее серьёзные угрозы международной информационно-психологической безопасности (МИПБ)[1], обусловленные злонамеренным использованием искусственного интеллекта (ЗИИИ), и определить, какие меры следует использовать для их нейтрализации и каковы перспективы международного сотрудничества в этой сфере. Цель исследования – определить повысит ли ЗИИИ уровень угроз МИПБ к 2030 г. Особое внимание в публикации уделяется ситуации в Северо-Восточной Азии (СВА).

Ответы экспертов выявили широкий спектр угроз, которые представляет ЗИИИ для ИПБ отдельных лиц, групп, наций и всего человечества. Эксперты также признали (прямо или косвенно) наличие антиобщественных акторов, готовых реализовать эти угрозы. Ни один из экспертов не возложил вину за ЗИИИ на ИИ как таковой. К сожалению, в обществе, в том числе в странах – лидерах по развитию ИИ, существуют серьёзные, но совершенно необоснованные опасения на счёт данных технологий. Это может вызвать последующее движение новых «луддитов» (например, в связи с дальнейшим быстрым ростом автоматизации, ростом количественных и качественных возможностей ИИ). Принципиальной разницы в подходах специалистов в области социальных и технических наук к определению угрозы ЗИИИ нет. В ответах экспертов перечислены как технологии психологического воздействия, реализуемые через ЗИИИ, так и области антиобщественной деятельности, где ЗИИИ – это инструмент (или может стать таковым), который направлен против общества (деятельность преступных организаций, в том числе террористов; целенаправленное злонамеренное влияние на результаты выборов, референдумы и пр.).

Большинство экспертов отмечают значительное или сильное влияние ЗИИИ на рост угроз МИПБ. Примечательно, что никто из них такого влияния не отрицал; вопрос заключается только в степени такого влияния. Здесь эксперты разошлись в своих оценках, что, вероятно, отчасти связано с ограниченной статистической базой ЗИИИ в области МПБ. На вопрос о ситуации в 2030 г. десять (около 53%) экспертов ответили, что ЗИИИ вызовет «сильные» угрозы МИПБ, а девять (примерно 47%) – «заметные». Никто не указал на незначительный уровень такой угрозы, не говоря уже о её отсутствии. Это говорит о необходимости превентивных мер против негативного сценария. Но худший сценарий развития событий следует не из перспективы дальнейшего развития технологий искусственного интеллекта, открывающих человечеству широкие возможности для социального прогресса, а из высокой вероятности углубления кризисов современного общества, усиления роли антисоциальных акторов. Последнее закономерно приводит к увеличению рисков ЗИИИ, в том числе в сфере МИПБ.

Исследование демонстрирует ограниченные, но реальные возможности международного сотрудничества в новой, крайне важной и проблемной области междисциплинарных исследований, где сегодня делаются первые шаги: ЗИИИ и МИПБ. В ходе опроса эксперты высказали совпадающие, существенно различающиеся и даже взаимоисключающие точки зрения, что понятно с учётом новизны и специфики обсуждаемых вопросов. Рассмотрение регионального аспекта проблемы ЗИИИ и МИПБ на примере СВА дало ценные результаты для выяснения природы и динамики развития угроз нового типа. Ведущие страны СВА из-за высокого уровня развития и внедрения ИИ сталкиваются с серьёзными проблемами ЗИИИ в некоторых областях (злонамеренное использование дипфейков, негативные аспекты компьютерных игр с ростом использования ИИ и т.д.).

Полагаю необходимым обратить внимание на некоторые явления и тенденции, способствующие росту ЗИИИ. Крупнейшие компании в сфере высоких технологий активно используют ИИ в соответствии со своими узкими корпоративными интересами, зачастую идущими вразрез с интересами общества. Понятно, что компании, имеющие доступ к большим объёмам данных для создания моделей ИИ, лидируют в его разработке. Ключевая группа в отрасли ИИ включает GAFAM – Google (Alphabet), Apple, Facebook (Meta), Amazon и Microsoft, также известные как «большая пятёрка». Согласно анализу Wall Street Journal, на конец 2020 г. совокупная рыночная капитализация GAFAM достигла 7,5 триллиона долларов. Хотя технологическая отрасль долгое время пользовалась наибольшим доверием в обществе, за последние десять лет это доверие упало больше, чем в любом другом секторе. Так, американские технологические гиганты GAFAM были обвинены в ЕС в неуплате налогов, подавлении конкурентов, краже медиаконтента и угрозах демократии путём распространения фейковых новостей.

В условиях продолжающихся острых экономических проблем, обнищания сотен миллионов людей, быстрой концентрации мирового богатства в руках меньшинства, гонки вооружений и острых геополитических противоречий, ЗИИИ против МИПБ, проводимое силами различных антиобщественных акторов, может сыграть крайне негативную и опасную роль. Вот почему государства, особенно обладающие ведущим научным и техническим потенциалом, могут и должны сотрудничать, чтобы предотвратить использование антисоциальными субъектами информационных технологий, все в большей степени основанных на новых возможностях ИИ.

1. Международная информационно-психологическая безопасность (МИПБ) – защита международных отношений от негативных информационно-психологических воздействий, связанных с различными факторами международного развития. Последние включают целенаправленные усилия различных государственных, негосударственных и наднациональных субъектов по частичной/полной, локальной/глобальной, краткосрочной/долгосрочной, скрытой/открытой дестабилизации международной обстановки с целью получения конкурентных преимуществ, даже через физическое устранение противника.

Евгений Пашенцев,
Д.и.н., проф., ведущий научный сотрудник Центра цифровых исследований Института актуальных международных проблем Дипломатической академии МИД России
Источник: Российский совет по международным делам
Фото: emerson23work / Pixabay

Вы можете отметить интересные вам фрагменты текста, которые будут доступны по уникальной ссылке в адресной строке браузера.

Помог ли вам материал?
0    2