Musks Frage zu Bots ist für Twitter nichts Neues

Platzhalter beim Laden von Artikelaktionen

SAN FRANCISCO – Als Elon Musk am Freitag twitterte, dass sein Deal zum Kauf von Twitter „auf Eis“ liege, als er das Ausmaß des Bot-Problems von Twitter untersuchte, stieß er dem Social-Media-Unternehmen eine offene Wunde.

Die Herausforderungen von Twitter mit Bots und gefälschten Konten gibt es schon so lange wie die 16-jährige Plattform. Im Jahr 2016 verbrauchte eine russische Trollfarm mehr als 50.000 Bots um zu versuchen, das Ergebnis der Präsidentschaftswahlen zu beeinflussen, und Führungskräfte von Twitter haben versprochen, das Problem zu beheben. Aber auch wenn Experten dem Unternehmen zustimmen, dass es erhebliche Fortschritte gemacht hat Durch die Beseitigung von mehr gefälschten und Spam-Konten als je zuvor, sagen sie, dass die Fortschritte der künstlichen Intelligenz neue Konten hervorbringen, die immer schwerer zu erkennen sind.

Nichts davon hätte eine Überraschung für Musk sein sollen, der getwittert hat, dass er den Deal pausiere, „ausstehende Details, die die Berechnung unterstützen, dass Spam-/Fake-Konten tatsächlich weniger als 5 % der Benutzer ausmachen“. (Er sagte später, er sei immer noch an der 44-Milliarden-Dollar-Übernahme beteiligt, und einige Investoren sagten, sie dachten, Musk wolle einen niedrigeren Preis, der die Tesla-Aktien, die er als Kreditsicherheit verpfändet habe, nicht so stark belasten würde.)

Musk bezog sich in diesem Monat auf einen Twitter-Regulierungsantrag, der besagte, dass falsche oder Spam-Konten weniger als 5 Prozent seiner 229 Millionen täglich aktiven Benutzer ausmachten.

Die Zahl ist nicht neu: Twitter gibt seit Jahren die gleiche Schätzung ab, obwohl Kritiker und Experten der Ansicht sind, dass das Unternehmen die tatsächliche Anzahl solcher Konten herunterspielt.

Musk sagt, er werde Twitter-Spam-Bots verbieten, aber er war ein Nutznießer

„Diese 5 Prozent sind eine sehr günstige und gewählte Kennzahl“, sagte ein ehemaliger Mitarbeiter, der unter der Bedingung der Anonymität sprach, um einen ehemaligen Arbeitgeber nicht vor den Kopf zu stoßen. „Sie wollten nicht, dass es groß wird, aber auch nicht klein, denn dann könnten sie bei einer Lüge erwischt werden.“

Twitter lehnte es ab, sich zu dieser Geschichte zu äußern. Eine mit den Übernahmeverhandlungen vertraute Person, die unter der Bedingung der Anonymität sprach, um heikle Angelegenheiten zu beschreiben, sagte, die Verhandlungen würden trotz Musks Behauptungen eines Holds wie gewohnt fortgesetzt. Die Person sagte, dass Anfragen, mehr über Spam und gefälschte Konten zu erfahren, für einen potenziellen Erwerber eines Social-Media-Unternehmens Routine seien.

Die Geschichte von Twitter mit Spam reicht bis zu seinem öffentlichen Angebot im Jahr 2013 zurück, als es das Risiko automatisierter Konten offenlegte – ein Problem, mit dem alle Social-Media-Unternehmen konfrontiert sind. (Facebook hat auch geschätzt, dass gefälschte Profile etwa 5 Prozent seiner Nutzerbasis ausmachen.) Jahrelang konnten Leute, die die öffentliche Meinung manipulieren wollten, Hunderte von gefälschten Konten kaufen, um das Ansehen eines Prominenten oder eines Produkts aufzupolieren.

Aber das Problem nahm 2016 eine schwerwiegende Wendung, als russische Agenten der Internet Research Agency Millionen von Menschen Desinformationen über die Wahl zugunsten des damaligen Präsidentschaftskandidaten Donald Trump auf Twitter, Facebook, YouTube und anderen Plattformen säten.

Die Russland-Kontroverse, die 2017 in Anhörungen im Kongress gipfelte, veranlasste Twitter, hart durchzugreifen. Bis 2018 hatte das Unternehmen eine Initiative namens Healthy Conversations ins Leben gerufen und löschte täglich mehr als eine Million gefälschte Konten von seiner Plattform The Washington Post gemeldet damals.

Um das Problem intern anzugehen, starteten Twitter-Ingenieure eine interne Initiative namens Operation Megaphone, bei der sie Hunderte von gefälschten Konten kauften und ihr Verhalten untersuchten.

„Sie schnappen sich eine Art und finden andere, die sich wie diese Art verhalten“, sagte eine Person, die mit den internen Bemühungen vertraut ist, und sprach unter der Bedingung der Anonymität, sie frei zu beschreiben. Die Person sagte, sie dachte, die 5 Prozent seien wahrscheinlich eine Unterschätzung. „Sie halten Predigten auf der Grundlage dessen, was Sie beobachtet haben, aber Sie wissen nicht, was Sie nicht wissen.“

Kritiker haben argumentiert, dass Twitter einen Anreiz hat, die Anzahl der gefälschten Konten auf seiner Plattform herunterzuspielen, und dass das Bot-Problem weitaus schlimmer ist, als das Unternehmen zugibt. Das Unternehmen ermöglicht auch eine gewisse Automatisierung von Konten, z. B. Nachrichtenaggregatoren, die Artikel zu bestimmten Themen oder Wetterberichten zu festgelegten Zeiten oder stündliche Veröffentlichungen von Fotos weitergeben.

Elon Musk hat getwittert, dass der Twitter-Deal vorübergehend ausgesetzt ist

Twitter bezieht keine automatisierten Konten in seine Berechnungen der täglich aktiven Benutzer ein, da diese Konten keine Werbung sehen, und argumentiert, dass alle Social-Media-Dienste eine gewisse Menge an Spam und gefälschten Konten haben.

Aber die 5-Prozent-Zahl hat bei externen Forschern, die tiefgreifende Verhaltensstudien auf der Plattform zu kritischen Themen wie öffentliche Gesundheit und Politik durchführen, lange die Augenbrauen hochgezogen.

„Ob es sich um Covid oder viele Wahlstudien in den USA und anderen Ländern oder um verschiedene Filme handelte, wir sehen weit mehr als diese Anzahl von Bots“, sagte Kathleen Carley, Informatikprofessorin an der Carnegie Mellon, die das Zentrum für die Universität leitet Tee Computergestützte Analyse sozialer und organisatorischer Systeme.

„In all den verschiedenen Studien, die wir gemeinsam durchgeführt haben, reicht die Anzahl der Bots von 5 Prozent bis zu 35 Prozent.“

Carley sagte, dass der Anteil der Bots bei Themen, bei denen es ein klares finanzielles Ziel gibt, wie die Förderung eines Produkts oder einer Aktie, oder ein klares politisches Ziel, wie die Wahl eines Kandidaten oder die Förderung von Misstrauen und Spaltung, tendenziell viel höher ist.

Es gibt auch sehr unterschiedliche Arten von Bots, darunter einfacher Werbe-Spam, nationale Konten und Verstärker für die gewerbliche Vermietung.

Die sich schnell entwickelnde Technologie ermöglicht es geopolitischen Kräften, menschlicher zu wirken, ihre Kommentare mit persönlichen Randnotizen zu würzen und zu versuchen, den Fluss von Gruppengesprächen und Meinungen zu manipulieren.

Als Beispiel sagte Carley, dass einige Pro-Ukraine-Bots in den Dialog mit Gruppen treten, die sich normalerweise auf andere Themen konzentrieren, um zu versuchen, Koalitionen zur Unterstützung ukrainischer Ziele zu bilden. „Die Zahl der Bot-Technologien ist gestiegen und die Kosten für die Erstellung eines Bots sind gesunken“, sagte sie.

Außenstehende sagten, es sei sehr schwierig für sie, mit der begrenzten Hilfe, die Twitter bei den Forschungsbemühungen bietet, eine gute Schätzung des Bot-Verkehrs zu erstellen.

„Wenn wir unser Botometer-Tool verwenden, um eine Gruppe von Konten zu bewerten, ist das Ergebnis ein Spektrum, das von sehr menschenähnlich bis sehr botähnlich reicht“, sagte Kaicheng Yang, Doktorand an der Indiana University.

„Dazwischen liegen die sogenannten Cyborgs, die sowohl von Menschen als auch von Software gesteuert werden. Wir werden immer Bots mit Menschen und Menschen mit Bots verwechseln, egal wo wir die Grenze ziehen.“

Twitter fegt gefälschte Konten wie nie zuvor aus dem Weg und gefährdet damit das Nutzerwachstum

Twitter verschafft einigen Forschern Zugriff auf eine riesige Anzahl von Tweets, die aufgrund ihrer immensen Lautstärke und Geschwindigkeit innerhalb des Unternehmens als „Feuerwehrschlauch“ bekannt sind. Aber selbst das enthält nicht die Hinweise, die die Identifizierung von Bots erleichtern würden, wie z. B. die E-Mail-Adressen und Telefonnummern, die mit den Konten hinter jedem Tweet verknüpft sind.

„So ziemlich jeder Versuch außerhalb von Twitter, ,Botness’ zu entdecken, ist fatal fehlerhaft“, sagte Alex Stamos, der ehemalige Facebook-Sicherheitschef, der das Stanford Internet Observatory leitet.

Twitter selbst tut nicht annähernd so viel wie es könnte, um Bots zu jagen und zu eliminieren, sagten zwei ehemalige Mitarbeiter gegenüber The Post. Aber zwei andere ehemalige Mitarbeiter sagten der Post, dass das Unternehmen nach 2018 weitaus aggressiver gehandelt habe.

Einige der Leute spekulierten, dass finanzielle Anreize Twitter dazu motivieren, sie nicht zu finden. Wenn das Unternehmen mehr Bots identifiziert und entfernt, würde die Zahl der „monetarisierbaren täglichen Durchschnittsnutzer“ sinken, der Betrag, den es für Werbung verlangen könnte, würde ebenfalls sinken und der Aktienkurs würde folgen, wie es auch der Fall war, nachdem Twitter eine große Keulung bestätigt hatte Die Post im Jahr 2018.

Das Unternehmen verwendet eine Reihe von Programmen, um automatisierte kommerzielle Konten zu suchen und zu blockieren, aber sie sind am effektivsten, um die offensichtlichen Spammer zu fangen, wie diejenigen, die Hunderte von neuen Konten am selben Tag von demselben Gerät aus registrieren, sagten die ehemaligen Mitarbeiter.

Um seine vierteljährliche Bot-Schätzung zu erstellen, untersucht das Unternehmen eine Stichprobe von Millionen von Tweets.

Aber das ist nur ein winziger Prozentsatz der Gesamtzahl, und sie stammen aus einem breiten Spektrum – nicht den Hot-Button-Problemen, die den meisten Spam und die meisten Zuschauereindrücke hervorrufen.

“Sie wissen es ehrlich gesagt nicht”, sagte der ehemalige Mitarbeiter. „Es gab erheblichen Widerstand gegen eine sinnvolle Quantifizierung.“

Twitter hat sich in seinen Quartalsberichten mit einem Disclaimer rechtlich abgesichert, der besagt, dass es um einiges daneben liegen könnte.

„Wir haben erhebliche Ermessensentscheidungen getroffen, sodass unsere Schätzung falscher oder Spam-Konten möglicherweise nicht die tatsächliche Anzahl solcher Konten widerspiegelt, und die tatsächliche Anzahl falscher oder Spam-Konten könnte höher sein als wir geschätzt haben“, sagte Twitter in seinem letzten Quartalsbericht .

Leave a Comment

Your email address will not be published.