NR26

Wie beweist man, dass ein Algorithmus Jugendliche radikalisiert – wenn die Plattform selbst keinen Zugang zum Algo gewährt? In diesem Vortrag zeigen wir, wie wir mit selbstgebauter Infrastruktur TikToks Empfehlungssystem systematisch testeten und nachwiesen: Ein 15-Jähriger landet durchschnittlich nach fünf Minuten bei frauenfeindlichen Inhalten, obwohl TikTok angibt, dies zu verhindern.

In unserer Präsentation erzählen wir, wie wir unser Experiment aufgebaut haben und stellen alles nötige dafür zur Verfügung, inklusive eigens programmiertem Code. Das Publikum lernt, wie sie ihr eigenes Experiment aufsetzen können – und so Algorithmen durchleuchten und hinterfragen können.
Man lernt, wie man Handys automatisiert fernsteuert und jede Interaktion und jedes Video festhält. Und dann zeigen wir, wie man 100.000 TikTok-Inhalte mit KI klassifiziert, um ihren Manosphere-Anteil zu berechnen. Wie man Klassifizierungs-Prompts designt – und sie auf ihre Genauigkeit evaluiert. Und wie man multimodale LLMs einsetzt, um Text, Ton und Bild gleichermaßen zu berücksichtigen.

Aus unserer Recherche haben wir visuelle Onlinestücke, einen TV-Beitrag sowie einen Podcast gemacht. Wir geben Tipps, wie aus technischen Recherchen visuell attraktive Beiträge werden können. Wir teilen unsere Learnings und Fehler auf dem Weg dahin – und liefern einen Baukasten, um selbst mit relativ geringem Aufwand Algorithmen zu durchleuchten.