Пресса об РФФИ
Осторожно, сети! С агрессией в Интернете поборется специальная программа
Газета «Поиск» (г. Москва), 31.08.2019
Дата публикации: 27.11.2019
Виртуальное пространство в жизни множества людей занимает сегодня важнейшее место. Интернет «переваривает» огромное количество разнообразных сведений и служит для самовыражения и обсуждения массы волнующих тем. При этом мы мало задумываемся о том, кто генерирует потоки информации и как распространяет свой контент.
Растут, скажем, цены на бензин. К этому малоприятному факту можно отнестись по-разному. Например, просто констатировать: мол, подняли цены в четвёртый раз за год – надо что-то с этим делать. А можно – агрессивно: «Похоже, правительство держит нас за олухов! Они жируют, а мы…». И так далее.
Налицо различные цели подачи события, и, соответственно, чётко определены формы воздействия на пользователей в Сети: это и враждебность, и призывы к резкой реакции, смешение и «выкручивание» фактов.
Профессионально изучает явления в виртуальном пространстве старший научный сотрудник Института проблем управления РАН, кандидат технических наук Анастасия Исхакова. Выпускница Томского государственного университета систем управления и радиоэлектроники, она почти десять лет занимается информационной безопасностью. Кандидатскую диссертацию посвятила интеллектуальному анализу и классификации электронных текстов. Теперь к этой теме добавила изучение интернет-контента для противодействия проявлениям враждебности и давления на пользователей. А когда Российский фонд фундаментальных исследований (РФФИ) объявил конкурс по теме решения проблем взаимодействия человека с интернет-пространством, не колеблясь, приняла в нем участие и выиграла грант.
— Сегодня общение в Сети оказывает на общество все большее влияние, — уверена Анастасия Олеговна. — Открытая брань, неприкрытые «наезды» отрицательно действуют на психологическое состояние пользователей. А подростки под впечатлением от определённых постов нередко совершают необдуманные, порой трагические поступки. Проблему негативного воздействия Интернета на общество в августе 2017 года обсуждал Совет безопасности РФ, посчитав это направление общественной жизни страны одним из приоритетных для изучения учёных. Все говорит о том, что виртуальные коммуникации, в частности, обмен информацией и мнениями, сегодня заняли ведущие позиции, пользуются большим влиянием, чем раньше, и потеснили традиционные средства распространения информации.
Чаще всего пользователи выделяют явные формы проявления агрессии, в том числе прямые угрозы, оскорбления, примеры публичного унижения, травли и т.д. В то же время, как мы отмечаем, часть подобных материалов, умышленно негативно сказывающихся на психике, мышлении, настроении человека, пользователь не всегда может выделить и дать объективную оценку. В рамках работы над грантом РФФИ мы должны создать инструмент – программный продукт, который будет осуществлять мониторинг Сети и выявлять опасный контент. Проект – междисциплинарный, в нем участвуют учёные технического и физико-математического профилей, специализирующиеся на автоматизации, интеллектуальной обработке данных, создании киберфизических систем, разработке алгоритмов и методов принятия решений, а также медики, специалисты в области физиологии стресса, анализа воздействия шумов на самочувствие человека, выявления признаков подавления психологического и умственного состояний. Моя задача как руководителя группы – формализовать наработанный материал и создать математическую модель с чётко определёнными критериями, по которым можно в автоматическом режиме определить, является ли исследуемый контент вредным или нет.
— И как такая модель будет действовать?
— Мы формируем базу данных для её последующей экспертной оценки. В базу входит разнородный контент – результат исследования массы тем, обсуждаемых в Сети.
— Какие темы встречаются чаще всего?
— На первом месте, пожалуй, низкий уровень жизни населения, проблемы социального неравенства. Данный посыл формируется в массу постов, видео, мемов, которые чаще всего используются для продвижения актуальных, горячих тем. Это проводимые реформы, общественные события, различные прецеденты… В мае, например, наблюдалась неприкрытая спекуляция на «привязке» ко Дню Победы. Наиболее распространённый посыл: «Наши деды воевали, теперь доживают свой век в нищете, а чиновники, между тем, живут как баре». Нельзя оставить без внимания откровенно опасный контент, адресованный молодёжи, подчас с суицидальными мотивами. Проблемы закрытых сообществ и ресурсов затрудняют его выявление и блокировку. Среди актуальных, широко распространяемых и используемых для влияния на пользователей тем выделю политическую жизнь страны, внешнюю политику, поведение отдельных известных и публичных личностей.
— Как вы определяете границу дозволенного и недозволенного?
— Непросто ответить на ваш вопрос. Для автоматизации процесса мониторинга и выявления деструктивного контента систему необходимо «обучить». Так работают подобные схемы, связанные с автоматическим принятием решений: выделяются признаки, выявляются возможности проведения классификации на их основе, оценивается их эффективность. Система «обучается» на множестве известных данных, чтобы в дальнейшем принимать решения автоматически. Подбором необходимых признаков мы сейчас и занимаемся, их число строго не определено, но должно обеспечивать высокие показатели эффективности метода. Это, например, доля использования негативно окрашенных слов и словосочетаний в контенте (скажем, «арестовать», «грязь», «промывка мозгов», «стагнация» и т.д.). Уже можно говорить о влиянии присутствия или отсутствия слов с ярко выраженной окраской на направленность текста и степень его воздействия на пользователя. В постах агрессивного характера, способных вызвать стресс, доля негативно окрашенных лексем, как правило, значительно больше.
Контент классифицируется в зависимости от того, может ли он вызвать у пользователей стресс и состояние тревожности. Формализация данного критерия – задача непростая и многоступенчатая. Для определения уровня тревожности используются комплексная оценка состояния пользователей на основе анкетирования, а также исследования ряда физиологических параметров. Эта сложная работа обеспечивается взаимодействием учёных разных направлений. Думаю, в этом состоят её главная научная ценность и социальная значимость.
— Журналы охотно берут статьи по этой тематике?
— По условиям гранта РФФИ в первый же год нам нужно опубликовать не менее шести статей. Треть их должна быть индексирована известными зарубежными базами цитирования. Проблем с публикациями у нас нет: ведущие иностранные журналы интересуются этой тематикой, по общему мнению, она является сегодня наиболее актуальной. Мы выступаем на конференциях и ощущаем заинтересованность коллег – сужу об этом в том числе по количеству задаваемых вопросов. Многие исследователи занимаются подобными темами, поэтому нам часто предлагают сотрудничество.
Этот интересный и важный проект даёт мне возможность развивать свои знания и нарабатывать опыт.
Юрий Дризе
Источник: Поиск
Фото: ТУСУР
