Риск-ориентированный подход к выявлению вредоносной информации в социальных сетях
Article Sidebar
This work is licensed under a Creative Commons Attribution-ShareAlike 4.0 International License.
Main Article Content
Abstract
В статье рассматривается проблема выявления вредоносной информации в социальных сетях в условиях высокой скорости распространения пользовательского контента и роста информационных угроз. Обоснована целесообразность применения риск-ориентированного подхода, позволяющего учитывать не только факт наличия вредоносных признаков, но и степень потенциального негативного воздействия публикации. Рассмотрены ограничения традиционных методов выявления, основанных на бинарной классификации, и предложена концептуальная структура риск-ориентированного анализа, включающая содержательные, контекстные и поведенческие признаки. Показано, что данный подход может повысить эффективность мониторинга, приоритизации и модерации опасного контента в социальных сетях.
Article Details
References
Vosoughi S., Roy D., Aral S. The Spread of True and False News Online // Science. 2018. Vol. 359, No. 6380. P. 1146–1151. DOI: 10.1126/science.aap9559.
Arora A., Nakov P., Hardalov M., Sarwar S. M., Nayak V., Dinkov Y., Zlatkova D., Dent K., Bhatawdekar A., Bouchard G., Augenstein I. Detecting Harmful Content on Online Platforms: What Platforms Need vs. Where Research Efforts Go // ACM Computing Surveys. 2023.
Vol. 56, No. 3. Article 72. DOI: 10.1145/3603399.
Schmidt A., Wiegand M. A Survey on Hate Speech Detection using Natural Language Processing // Proceedings of the Fifth International Workshop on Natural Language Processing for Social Media. 2017.
P. 1–10. DOI: 10.18653/v1/W17-1101.
Shu K., Wang S., Liu H. Beyond News Contents: The Role of Social Context for Fake News Detection // Proceedings of the Twelfth ACM International Conference on Web Search and Data Mining (WSDM ’19). 2019. P. 312–320. DOI: 10.1145/3289600.3290994.
Scheuerman M. K., Jiang J. A., Fiesler C., Brubaker J. R. A Framework of Severity for Harmful Content Online // Proceedings of the ACM on Human-Computer Interaction. 2021. Vol. 5, CSCW2. Article 368. DOI: 10.1145/3479512.
Schneider P. J., Rizoiu M.-A. The Effectiveness of Moderating Harmful Online Content // Proceedings of the National Academy of Sciences of the United States of America. 2023. Vol. 120, No. 34. Article e2307360120. DOI: 10.1073/pnas.2307360120.