Wie Facebook das Oversight Board unterläuft

Lassen Sie uns heute über den bisher prominentesten Konflikt zwischen Meta und seinem Aufsichtsgremium sprechen, eine unabhängige Organisation, die das Unternehmen gegründet hat, um ihm bei der Bewältigung der schwierigsten Fragen im Zusammenhang mit der Moderation von Richtlinien und Inhalten zu helfen.

Schon bevor das Board erstellt wurde, hat es Kommentar konfrontiert dass es in erster Linie eine PR-Funktion für das früher als Facebook bekannte Unternehmen erfüllt. Der Vorstand ist auf die Finanzierung durch Meta angewiesen, hat mit Meta eine vertragliche Beziehung, die die Nutzung von Benutzerdaten regelt, und seine Gründungsmitglieder wurden vom Unternehmen handverlesen.

Zu der Wahrnehmung, dass es sich hauptsächlich um ein PR-Projekt handelt, trägt die Tatsache bei, dass Meta und der Vorstand bisher selten in Konflikt geraten sind. Im ersten Quartal seines Bestehens, von 18 Empfehlungen, die der Vorstand an Meta gerichtet hat, das Unternehmen implementiert 14. Und obwohl es oft gegen die Inhaltsmoderatoren von Facebook entscheidet und die Wiederherstellung entfernter Beiträge anordnet, hat keine dieser Umkehrungen zu nennenswerten Kontroversen geführt. (Außerdem gilt aus Sicht von Facebook, je mehr das Board es umkehrt, desto glaubwürdiger ist es und desto mehr Schuld kann es für unpopuläre Aufrufe tragen.)

Das machte die Erklärungen dieser Woche, die von beiden Seiten veröffentlicht wurden, so bemerkenswert.

Nach Russlands Invasion in der Ukraine im Februar hatte Meta fragte der Vorstand ein Gutachten darüber abzugeben, wie Inhalte während des Krieges moderiert werden sollten. Der Konflikt hatte eine Reihe schwieriger Fragen aufgeworfen, darunter unter welchen Umständen Nutzer Fotos von Leichen oder Videos von Kriegsgefangenen posten dürfen, die den Konflikt kritisieren.

Und in der bisher prominentesten Frage zur Inhaltsmoderation der Invasion, Meta beschlossen, Aufrufe zur Gewalt gegen russische Soldaten, Wladimir Putin und andere vorübergehend zuzulassen.

All dies warf wichtige Fragen zum Gleichgewicht zwischen freier Meinungsäußerung und Benutzersicherheit auf. Aber nachdem ich den Vorstand gebeten habe, mich zu wägen, Meta änderte seine Meinung – und bat die Vorstandsmitglieder, überhaupt nichts zu sagen.

Aus dem Blogbeitrag des Unternehmens:

Ende letzten Monats zog Meta eine Policy Advisory Opinion (PAO)-Anfrage im Zusammenhang mit Russlands Invasion in der Ukraine zurück, auf die zuvor verwiesen worden war Aufsichtsgremium. Diese Entscheidung wurde nicht leichtfertig getroffen – die PAO wurde aufgrund anhaltender Sicherheitsbedenken zurückgezogen.

Obwohl die PAO zurückgezogen wurde, stehen wir zu unseren Bemühungen im Zusammenhang mit der russischen Invasion in der Ukraine und glauben, dass wir die richtigen Schritte unternehmen, um die Meinungsäußerung zu schützen und die anhaltenden Sicherheitsbedenken vor Ort auszugleichen.

Als Antwort sagte der Vorstand in einer Erklärung, dass er von dem Schritt „enttäuscht“ sei:

Obwohl der Vorstand diese Bedenken versteht, glauben wir, dass der Antrag wichtige Fragen aufwirft, und sind enttäuscht über die Entscheidung des Unternehmens, ihn zurückzuziehen. Der Vorstand stellt außerdem fest, dass die Rücknahme dieses Antrags Metas Verantwortung nicht schmälert, die laufenden Probleme bei der Moderation von Inhalten, die sich aus diesem Krieg ergeben, sorgfältig zu prüfen, den der Vorstand weiterhin verfolgt. Tatsächlich hat die Bedeutung für das Unternehmen, die Meinungsfreiheit und die Menschenrechte zu verteidigen, nur noch zugenommen.

Beide Aussagen waren äußerst vage, also verbrachte ich einen Tag damit, mit Leuten zu sprechen, die mit der Angelegenheit vertraut waren und die mich darüber informieren konnten, was passiert war. Folgendes habe ich gelernt.

Einer der beunruhigendsten Trends des vergangenen Jahres war die Art und Weise, wie autoritäre Regierungen im Allgemeinen und Russland im Besonderen die Einschüchterung von Mitarbeitern vor Ort genutzt haben, um Plattformen zu zwingen, ihren Willen zu tun. Letzten Herbst, Apple und Google beide entfernten aus ihren jeweiligen Stores eine App, die es Anti-Putin-Kräften ermöglichte, sich vor einer Wahl zu organisieren. Im Nachhinein erfuhren wir, dass russische Agenten ihren Mitarbeitern persönlich mit Gefängnisstrafen oder Schlimmerem gedroht hatten.

Das Leben dieser Mitarbeiter – und ihrer Familien – ist seit Putins Einmarsch noch schwieriger geworden. Das Land verabschiedete drakonische Gesetze, die eine wahrheitsgemäße Diskussion über den Krieg untersagtenund die Kombination dieser Gesetze und Sanktionen aus den Vereinigten Staaten und Europa hat viele Plattformen gezwungen, Dienste aus Russland vollständig zurückzuziehen.

Nach Metas Entscheidung, Aufrufe zur Gewalt gegen die Eindringlinge zuzulassen, Russland sagte, Meta habe sich an „extremistischen“ Aktivitäten beteiligt. Dadurch drohten möglicherweise Hunderte von Meta-Mitarbeitern, inhaftiert zu werden. Und während das Unternehmen seine Mitarbeiter nun erfolgreich aus dem Land entfernt hat, könnte die extremistische Sprache bedeuten, dass sie niemals in das Land zurückkehren dürfen, solange sie bei Meta arbeiten. Darüber hinaus könnte dies bedeuten, dass die Familien der Mitarbeiter in Russland weiterhin verfolgt werden könnten.

Für beide Ergebnisse gibt es einen Präzedenzfall nach den russischen Extremismusgesetzen.

Was hat das Aufsichtsgremium damit zu tun?

Meta hatte um eine ziemlich breite Meinung zu seinem Ansatz zur Mäßigung und zu Russland gebeten. Der Vorstand hat bereits seine Bereitschaft gezeigt, weitreichende Richtlinienempfehlungen abzugeben, selbst in engeren Fällen, die von Benutzern eingereicht wurden. Nachdem sie um die Stellungnahme gebeten hatten, machten sich die Rechts- und Sicherheitsteams des Unternehmens Sorgen, dass alles, was der Vorstand sagte, irgendwie gegen Mitarbeiter oder ihre Familien in Russland verwendet werden könnte, entweder jetzt oder in der Zukunft.

Technisch gesehen ist das Oversight Board eine von Meta getrennte Einheit. Aber viele Westler weigern sich immer noch, diese Unterscheidung anzuerkennen, und Firmenanwälte befürchten, dass Russland dies auch nicht tun würde.

All dies wird durch die Tatsache verschlimmert, dass Tech-Plattformen bisher wenig bis gar keine Unterstützung erhalten haben, weder von den Vereinigten Staaten noch von der Europäischen Union, in ihren Bemühungen, wichtige Kommunikationsdienste in Russland und der Ukraine am Laufen zu halten. Mir ist nicht klar, was westliche Demokratien tun könnten, um die Ängste der Plattformen darüber, wie Russland Mitarbeiter und ihre Familien behandeln könnte, abzubauen. Aber Gespräche mit Führungskräften mehrerer großer Technologieunternehmen im vergangenen Jahr haben deutlich gemacht, dass sie alle das Gefühl haben, auf den Beinen zu sein.

Trotzdem stellt die Nachricht einen erheblichen Schlag für die ohnehin schon schwache Glaubwürdigkeit des Aufsichtsgremiums dar – und verringert wohl seinen Wert für Facebook. Das Unternehmen investierte mehrere Jahre und 130 Millionen US-Dollar, um ein unabhängiges Gremium zu schaffen, das es in politischen Angelegenheiten berät. Diese Stelle um ihren Rat zu bitten – einen Rat, der für das Unternehmen nicht einmal bindend wäre – und dann nachträglich zu entscheiden, dass ein solcher Rat gefährlich sein könnte, stellt den Sinn des gesamten Unternehmens in Frage. Wenn die einzige Aufgabe des Aufsichtsgremiums darin besteht, die einfachen Fragen zu behandeln, warum sollte man sich dann überhaupt damit beschäftigen?

Facebook und der Vorstand lehnten es ab, sich mir gegenüber über ihre Aussagen hinaus zu äußern. Es ist fair anzumerken, dass sich das Unternehmen trotz der Umkehrung hier auf einige wichtige Weise gegen Russland gewehrt hat – einschließlich der Tatsache, dass es an dieser Entscheidung festhält, die Ukrainer Putins Tod fordern zu lassen. Meta hätte in diesem Fall nach Russland wechseln können, und das sollte es nicht.

Gleichzeitig stellen wir erneut fest, dass Facebook-Führungskräfte in einem entscheidenden Moment Risiken und die öffentliche Wahrnehmung nicht richtig verstehen. Russland bedroht Plattformmitarbeiter seit mindestens letztem September. Welche Gefahr auch immer für Mitarbeiter und ihre Familien bestand, bestand schon lange vor dem Moment, als Facebook eine Meinung von seinem Vorstand einholte. Um das erst Wochen später zu erkennen … na ja, sprechen Sie von einem Versehen.

Das habe ich aktenkundig gesagt Das Oversight Board hat Facebook zum Besseren verändert. Und wenn es darum geht, dass Autoritäre Plattformmitarbeiter bedrohen, haben Technologieunternehmen erschreckend wenige Optionen zur Verfügung. Der Fall Russland war in dieser wie in so vielen anderen Situationen wirklich eine No-Win-Situation.

Aber das bedeutet nicht, dass es keinen Kollateralschaden sowohl für Meta als auch für sein Board geben wird. Kritiker befürchteten immer, dass Facebook, wenn der Einsatz jemals hoch genug würde, blinzeln und entscheiden würde, alle relevanten Entscheidungen selbst zu treffen. Und dann ging Wladimir Putin und überfiel seinen Nachbarn, und die Kritiker hatten Recht.

Leave a Comment

Your email address will not be published.