KI identifiziert anonyme Hassredner zielsicher

Mit dem neuen Verfahren lassen sich laut den Wissenschaftlern die wahren Identitäten der Besitzer von anonymen Konten im grossen Umfang feststellen.

Profile mathematisch erfasst

Konkret liest die KI frühere Posts eines noch anonymen Nutzers auf Reddit oder Hacker News durch und untersucht dabei unstrukturierten Text. Dabei handelt es sich um rohe, unorganisierte Infos wie Kommentare, Witze, Bildungsangaben und subtile Schreibgewohnheiten. Sodann wandelt die KI diese Mikrodaten in eine mathematische Darstellung des Profils der Person um, um passende Kandidaten unter Millionen anderer Profile im offenen Web oder auf separaten Websites wie LinkedIn zu finden.

Bei Übereinstimmungen wägt die KI Beweise dafür ab, dass beide Profile derselben Person gehören. Reichen die Übereinstimmungen nicht aus, kapituliert die KI. So wird sichergestellt, dass nur sicher identifizierte Nutzer anonymen Konten zugeordnet werden. Die Forscher haben ihr Framework an fast 1.000 LinkedIn-Profilen getestet, um zu sehen, ob es diese mit Konten auf Hacker News abgleichen konnte. Dabei handelte es sich um Profile, deren reale Identitäten dem Team bekannt waren. "KI-Agenten können anhand ihrer anonymen Online-Beiträge herausfinden, wer sie sind", so Lermen.

Anonymität nicht mehr sicher

Wer anonym postet, kann zwar unentdeckt bleiben, doch die Wahrscheinlichkeit, identifiziert zu werden, ist hoch. Die Erfolgsquote der Forscher beträgt 67 Prozent, heisst es. Das Tool könne zwar Menschen identifizieren, die Hassreden verbreiten und die sozialen Medien für kriminelle Machenschaften nutzen. Es könne jedoch auch Identitäten aufdecken, die schützenswert sind. Unternehmen könnten zum Beispiel Foren durchsuchen lassen, um hochgradig zielgerichtete Werbeprofile zu erstellen.

Für viele Social-Media-Nutzer zwischen 19 und 25 Jahren sind Hassreden im Social-Web ein ganz normaler Teil der Online-Umgebung. Zu dem Schluss kommen Sara Pabian, Eefje van Moorsel und Jennifer van Zon an der Universität Tilburg. Hass gegen prominente Persönlichkeiten wie Politiker und Content-Ersteller finden die Befragten zudem normaler als ähnliche verbale Ausbrüche gegen andere Personen, wie pressetext berichtete. (pressetext.com)