Analyzing information propagation in online messaging platforms

Abstract

Online messaging platforms such as WhatsApp, Telegram, and Discord, each with hundreds of millions of users, hold a dominant position in the realm of communication. They play a pivotal role in shaping societal interactions. Concurrently, there is an alarming surge in the spread of misinformation, including conspiracy theories, which has tangible real-world consequences, including instances of violence. While mainstream platforms like Facebook and Twitter are intensifying content moderation to counter misinformation and fake news, users are migrating to platforms that offer more freedom, such as Telegram. However, there's a lack of systematic characterization across online messaging platforms and knowledge about users' privacy exposure. The substantial real-world impact of misinformation necessitates a study on its online dissemination to comprehend how conspiracy theories evolve and spread. Despite Telegram's widespread popularity and its role in attracting a substantial user base engaged in discussions about fringe ideologies, research on content dissemination within the platform remains limited. This raises questions about how conspiratorial content spreads among fringe communities on Telegram. This thesis commences by addressing the lack of a comprehensive characterization across multiple platforms in the online messaging ecosystem, utilizing Twitter as the source to identify public groups. We discover public groups from WhatsApp, Telegram, and Discord shared on Twitter and monitor the characteristics of these groups to gain deeper insights into their discovery via Twitter and how they evolve. We also examine the exposure of personally identifiable information within these messaging platforms. Next, we conduct a multilingual and longitudinal analysis of Telegram groups associated with QAnon, a popular conspiracy theory. Furthermore, we delve into the QAnon discourse spanning multiple languages and uncover additional conspiracy theories that QAnon supporters engage in. Finally, we explore the information dissemination within fringe communities on Telegram. We analyze forwarding patterns and the lifespan of different types of messages. Furthermore, we examine samples of representative messages in our case study to offer additional insights into the internal dynamics of the network. This thesis addresses the lack of comprehensive characterization of the online messaging ecosystem, particularly focusing on the propagation of misinformation and conspiracy theories within public groups. As researchers delve deeper into the intricate dynamics of online communication, this work serves as a stepping stone, encouraging further exploration and analysis. The methodologies employed and the insights derived contribute valuable perspectives on identifying and examining public groups that disseminate misinformation across online messaging platforms.

Online-Nachrichtenplattformen wie WhatsApp, Telegram und Discord, die jeweils Hunderte Millionen von Nutzern haben, nehmen eine dominante Position im Bereich der Kommunikation ein. Sie spielen eine entscheidende Rolle bei der Gestaltung gesellschaftlicher Interaktionen. Gleichzeitig gibt es einen alarmierenden Anstieg der Verbreitung von Fehlinformationen, einschließlich Verschwörungstheorien, die spürbare Auswirkungen im realen Leben haben, einschließlich Gewalttaten. Während Mainstream-Plattformen wie Facebook und Twitter die Inhaltsmoderation verstärken, um Fehlinformationen und Fake-News entgegenzuwirken, wechseln Nutzer zu Plattformen, die mehr Freiheit bieten, wie Telegram. Es mangelt jedoch an einer systematischen Charakterisierung über verschiedene Online-Nachrichtenplattformen hinweg und an Wissen über die Privatsphäre der Nutzer. Der erhebliche Einfluss von Fehlinformationen in der realen Welt erfordert eine Untersuchung ihrer Online- Verbreitung, um zu verstehen, wie Verschwörungstheorien entstehen und sich verbreiten. Trotz der weit verbreiteten Beliebtheit von Telegram und seiner Anziehungskraft auf Nutzer, die sich mit Randideologien beschäftigen, ist die Forschung zur Inhaltsverbreitung auf der Plattform begrenzt. Dies wirft wichtige Fragen darüber auf, wie verschwörerischer Inhalt unter Randgemeinschaften auf Telegram verbreitet wird. Diese Dissertation beginnt mit einer umfassenden Charakterisierung über mehrere Plattformen im Ökosystem der Online-Nachrichten, wobei Twitter als Quelle verwendet wird, um öffentliche Gruppen zu identifizieren. Wir entdecken öffentliche Gruppen von WhatsApp, Telegram und Discord, die auf Twitter geteilt werden, und überwachen die Merkmale dieser Gruppen, um tiefere Einblicke in ihre Entdeckung über Twitter und ihre Entwicklung im Laufe der Zeit zu erhalten. Wir untersuchen auch die Offenlegung personenbezogener Informationen innerhalb dieser Nachrichtenplattformen. Anschließend führen wir eine mehrsprachige und längsschnittliche Analyse von Telegram-Gruppen durch, die mit QAnon, einer beliebten Verschwörungstheorie, in Verbindung stehen. Darüber hinaus gehen wir auf den QAnon-Diskurs in mehreren Sprachen ein und decken zusätzliche Verschwörungstheorien auf, mit denen sich QAnon-Anhänger befassen. Schließlich untersuchen wir die Informationsverbreitung innerhalb von Randgemeinschaften auf Telegram. Wir analysieren Weiterleitungs- Muster und die Lebensdauer verschiedener Arten von Nachrichten. In einer Fallstudie untersuchen wir stichprobenartig repräsentative Nachrichten, um zusätzliche Einblicke in die internen Dynamiken des Netzwerks zu geben. Diese Arbeit adressiert den Mangel an umfassender Charakterisierung des Online- Nachrichtenökosystems, wobei der Schwerpunkt auf der Verbreitung von Fehlinformationen und Verschwörungstheorien innerhalb öffentlicher Gruppen liegt. Während Forscher tiefer in die komplexen Dynamiken der Online-Kommunikation eindringen, dient diese Arbeit als Ausgangspunkt und ermutigt zu weiterer Exploration und Analyse. Die angewandten Methoden und die gewonnenen Erkenntnisse tragen wertvolle Perspektiven zur Identifizierung und Untersuchung öffentlicher Gruppen bei, die Fehlinformationen über verschiedene Online-Nachrichtenplattformen verbreiten.