Twitter hat ein Entity-Resolution-Problem

Elon Musk hat seine Twitter-Follower zuletzt gefragt, was er mit Twitter tun solle, falls die Übernahme des Unternehmens gelingt. Ich finde: Twitter hat ein gravierendes Entity-Resolution-Problem, und es zu lösen sollte eine von Elons Prioritäten sein.

Haben Sie schon einmal jemanden Lästiges auf Twitter oder Instagram blockiert, nur um ihn wenige Tage später mit einem frischen Konto wieder auftauchen zu sehen – wie er Ihnen folgt und Sie erneut belästigt? Dasselbe passiert, wenn Trolle von einer ganzen Plattform verbannt werden. Sie tauchen häufig mit einem neuen Konto wieder auf.

Das ist ein Entity-Resolution-Problem. Es ist dieselbe Person – nur merken es diese Social-Media-Plattformen nicht und behandeln sie wie ein frisches, neues, unbescholtenes Konto.

Das Problem ist potenziell gefährlich. Wir blockieren Menschen, weil sie lästig sind, wir blockieren sie, weil sie Betrüger sein könnten, aber wir blockieren sie mitunter auch, weil sie beleidigend werden oder uns womöglich nachstellen.

Jemanden auf einer Social-Media-Plattform zu blockieren sollte bedeuten, dass er auch dann blockiert bleibt, wenn er ein neues Konto anlegt. Blockieren will man die Person (oder den Bot!), nicht das Konto.

Derzeit gehen Twitter und Instagram das Anlegen neuer Konten auf unterschiedliche Weise an.

Um sich bei Twitter zu registrieren, brauchen Sie entweder eine E-Mail-Adresse oder eine Mobilnummer. Jede E-Mail-Adresse und jede Telefonnummer lässt sich nur für ein Twitter-Konto verwenden. Versuchen Sie, sich mit derselben Adresse oder Nummer erneut zu registrieren, erhalten Sie den Hinweis, dass sie bereits verwendet wird und Sie eine andere nutzen müssen.

Wer also auf Social Media Ärger macht, legt schlicht ein völlig neues Twitter- oder Instagram-Konto unter einer neuen E-Mail-Adresse an. Was also könnten diese Social-Media-Riesen tun, um zu verhindern, dass diese Akteure mit neuen Konten frei auf ihren Plattformen agieren?

Nun, Nutzer geben unter Umständen mehr über sich preis als nur ihre E-Mail-Adresse oder Telefonnummer. Diese Daten – die oft unsauber und inkonsistent sind – zu nutzen, um zwei Konten miteinander zu verknüpfen, ist im Kern die Wissenschaft der Entity Resolution.

Tatsächlich unterscheidet sich das nicht von der Entity Resolution zur Betrugserkennung, die Zahlungs- und E-Commerce-Riesen einsetzen müssen, um kein Geld an kriminelle Betrüger zu verlieren. Würden Social-Media-Plattformen die Neuanlage von Konten so ernst nehmen wie Buy-Now-Pay-Later-Anbieter (BNPL), könnten sie womöglich mehr der schädlichen Akteure draußen halten.

Interessanterweise verrät uns die jüngste Aktualisierung von Twitters Nutzungsbedingungen, die am 10. Juni in Kraft tritt, welche Daten das Unternehmen erhebt – Daten, mit denen sich Nutzerkonten per Entity Resolution verknüpfen ließen. Dazu gehören:

Geräteinformationen
IP-Adresse und Browsertyp
Geräte- und Werbe-ID, Betriebssystem, Sprache
Standortinformationen

Abgeleitete Identität. Wir erheben oder erhalten möglicherweise Informationen, die wir wie im Folgenden beschrieben nutzen, um auf Ihre Identität zu schließen: Wenn Sie sich in einem Browser oder auf einem Gerät bei Twitter anmelden, verknüpfen wir diesen Browser oder dieses Gerät mit Ihrem Konto. Abhängig von Ihren Einstellungen verknüpfen wir Ihr Konto möglicherweise auch mit anderen Browsern oder Geräten als denjenigen, mit denen Sie sich bei Twitter anmelden (oder wir verknüpfen Ihr abgemeldetes Gerät beziehungsweise Ihren abgemeldeten Browser mit anderen Browsern, Geräten oder von Twitter erzeugten Identifikatoren). Wenn Sie Twitter weitere Informationen bereitstellen, etwa eine E-Mail-Adresse oder Telefonnummer, verknüpfen wir diese Information mit Ihrem Twitter-Konto. Abhängig von Ihren Einstellungen nutzen wir diese Informationen möglicherweise auch, um weitere Informationen über Ihre Identität abzuleiten, zum Beispiel indem wir Ihr Konto mit Hashes von E-Mail-Adressen verknüpfen, die gemeinsame Bestandteile mit der Adresse haben, die Sie Twitter mitgeteilt haben. Wenn Sie Twitter nutzen, ohne angemeldet zu sein, schließen wir möglicherweise anhand der von uns erhobenen Informationen auf Ihre Identität.

Vielleicht plant Twitter also, mehr zu tun, um die schädlichen Akteure im Blick zu behalten und sie an Mehrfachregistrierungen auf der Plattform zu hindern. Wir wissen allerdings, dass die größte technische Herausforderung dabei darin besteht, Entitätsdaten in Echtzeit aufzunehmen und gleichzeitig zu durchsuchen – und dabei auch komplexe Entitäten schnell finden zu können. In Twitters Größenordnung ist das umso anspruchsvoller, mit der richtigen Entity-Resolution-Lösung aber durchaus machbar.

Zum Zeitpunkt des Schreibens ist noch offen, ob Elon Musks Gebot für Twitter Erfolg hat. Eine seiner erklärten Prioritäten ist es jedoch, Twitters Bot-Problem in den Griff zu bekommen – und dabei könnte ein auf Entity Resolution beruhender Kontenabgleich in Kombination mit KI-gestützter Erkennung nicht-menschlichen Verhaltens der Schlüssel sein. Unabhängig davon, wer in den kommenden Wochen die Mehrheit der Twitter-Anteile hält, sollte das für das Unternehmen Priorität haben, um Vertrauen zurückzugewinnen.