МУЛЬТИАГЕНТНА СИСТЕМА ДЛЯ ВИЯВЛЕННЯ ІНФОРМАЦІЙНИХ МАНІПУЛЯЦІЙ В ОНЛАЙН-СЕРЕДОВИЩІ
DOI:
https://doi.org/10.36994/2788-5518-2025-01-09-18Ключові слова:
дезінформація, інформаційні маніпуляції, штучний інтелект, великі мовні моделі, мультиагентні системи, аналіз новин, Langchain, Langgraph, виявлення фейківАнотація
Поширення інформаційних маніпуляцій становить значну загрозу для сучасного суспільства, особливо в контексті війни та політичної нестабільності, з якою стикається Україна. У статті досліджено сучасні методи автоматизованого виявлення, аналізу й оцінювання достовірності новинного контенту. Запропоновано новий, мультиагентний підхід, де спеціалізовані програмні агенти, чий потік виконання керується великими мовними моделями, беруть на себе чітко визначені різні ролі для всебічного дослідження актуального новинного контенту. Використання декількох агентів, що конкурують між собою та намагаються проаналізувати різні погляди на новинний контент, продемонструвало ефективність мультиагентного підходу в галузі дослідження інформаційного простору й виявлення інформаційних маніпуляцій. Система інтегрує великі мовні моделі для ретельного виконання широкого спектру завдань, пов’язаних із глибоким аналізом текстового контенту, розумінням контексту, факт-чекінгом, формуванням обґрунтованих висновків і генерацією звітів, а також використовує передові бібліотеки для оркестрації та відстеження дій агентів, що керуються мовними моделями. Для забезпечення всебічного аналізу новинного контенту система звертається до різноманітних зовнішніх ресурсів: пошукових систем для знаходження релевантної інформації в інтернеті, новинних агрегаторів для доступу до статей передових ЗМІ, платформ для збору текстових даних із соціальних мереж. Отримані результати підтверджують, що впровадження великих мовних моделей та агентно-орієнтованого підходу в рамках N-рівневої архітектури дає змогу підвищити рівень аналізу інформаційного середовища й удосконалити процес виявлення інформаційних маніпуляцій. Метою статті є визначення необхідності використання мультиагентних систем для масштабування й поглиблення методів виявлення інформаційних маніпуляцій.
Посилання
Carrasco-Farré C. The fingerprints of misinformation: how deceptive content differs from reliable sources in terms of cognitive effort and appeal to emotions. Humanities & Social Sciences Communications. 2022. Vol. 9. Art. 162. DOI: 10.1057/s41599-022-01174-9.
Golovchenko Y. Measuring the scope of pro-Kremlin disinformation on Twitter. Humanities & Social Sciences Communications. 2020. Vol. 7. Art. 176. DOI: 10.1057/s41599-020-00659-9.
Vicari R., Komendatova N. Systematic meta-analysis of research on AI tools to deal with misinformation on social media during natural and anthropogenic hazards and disasters. Humanities & Social Sciences Communications. 2023. Vol. 10. Art. 332. DOI: 10.1057/s41599-023-01838-0.
Mantis Analytics. AI-Powered Early Warning System for Information Environment Threats : веб-сайт. URL: https://mantisanalytics.com/ (дата звернення: 07.05.2025).
Reality Defender. The Only Comprehensive Deepfake & AI-Generated Content Detection Platform : веб-сайт. URL: https://www.realitydefender.com/ (дата звернення: 07.05.2025).
LangGraph. Introduction. LangGraph Documentation : веб-сайт. URL: https://langchain-ai.github.io/langgraph/ (дата звернення: 08.05.2025).
Apify. Welcome to Apify Docs. Apify Documentation : веб-сайт. URL: https://docs.apify.com/ (дата звернення: 08.05.2025).
SQLAlchemy. SQLAlchemy 2.0 Documentation : веб-сайт. URL: https://docs.sqlalchemy.org/en/20/ (дата звернення: 08.05.2025).
LangGraph. Workflows and Agents. LangGraph.js Documentation : веб-сайт. URL: https://langchain-ai.github.io/langgraphjs/tutorials/workflows/#orchestrator-worker (дата звернення: 08.05.2025).
Langchain. Toolkits. Langchain Python Documentation : веб-сайт. URL: https://python.langchain.com/docs/concepts/tools/#toolkits (дата звернення: 12.05.2025).
Langchain. create_react_agent. Langchain Python API Reference : веб-сайт. URL: https://python.langchain.com/api_reference/langchain/agents/langchain.agents.react.agent.create_react_agent.html (дата звернення: 08.05.2025).
Джоші А., Павленко В. І. Порівняння методів машинного навчання для визначення фейкових новин. Інфокомуніка- ційні та комп’ютерні технології. 2024. Vol. 1, № 07. С. 46–55. DOI: 10.36994/2788-5518-2024-01-07-06.
Li X., Zhang Y., Malthouse E.C. Large Language Model Agent for Fake News Detection. arXiv. 2024. URL: https://arxiv.org/ html/2405.01593v1 (дата звернення: 01.05.2025).
##submission.downloads##
Опубліковано
Як цитувати
Номер
Розділ
Ліцензія
Ця робота ліцензується відповідно до Creative Commons Attribution 4.0 International License.
