KI News #15

Hallo und herzlich willkommen zur fünfzehnten Ausgabe von KI News. In dieser Ausgabe geht es um den TikTok Algorithmus und die Probleme, die Amazons Fahrer:innen mit Amazons Algorithmen haben.

Viel Spaß beim Lesen!

So funktioniert der TikTok Algorithmus

Die Video-App TikTok ist bekannt dafür einen sehr guten Vorschlagsalgorithmus zu haben. Der Algorithmus ist für TikTok auch wichtiger als für andere Plattformen, denn in der App wird immer ein Video in Vollbild angezeigt und beim Weiterwischen wird automatisch das nächste vorgeschlagene Video abgespielt.

Dadurch hat ein einzelner Vorschlag viel mehr Einfluss als zum Beispiel bei Youtube, wo immer mehrere Videos vorgeschlagen werden, zwischen denen man sich als Zuschauer:in entscheiden kann.

Um zu untersuchen wie der TikTok-Algorithmus funktioniert, hat das Wall Street Journal (WSJ) jetzt über 100 TikTok Accounts erstellt und nach bestimmten Vorgaben automatisiert TikTok-Videos anschauen lassen.

Das haben sie herausgefunden:

Bei neuen Accounts ist TikTok für alle gleich: Die App zeigt eine Auswahl von sehr beliebten Videos mit Millionen von Aufrufen an, die von Moderator:innen überprüft wurden. Nach und nach werden auch Videos mit geringeren Aufrufzahlen angezeigt, wenn sie vom Algorithmus als zum Geschmack des Nutzers oder der Nutzerin passend eingestuft werden.

Aber wie erkennt der Algorithmus den Geschmack eines Zuschauers?

Die Untersuchung des WSJ hat gezeigt, dass schon ein einziger Wert ausreicht, um die Vorlieben eine:r Benutzer:in zu erkennen: wie lange er oder sie ein Video anschaut.

Die Accounts des WSJ haben jeweils einen eigenen „Charakter“ bekommen: ein Alter, einen Wohnort mit entsprechender IP-Adresse, und verschiedene Interessen von Extremsport über Försterei bis hin zu Tanzen.

Die Interessen wurden dadurch umgesetzt, dass die Steuerungssoftware die Accounts Videos komplett oder auch mehrmals anschauen lies, wenn sie zu den jeweiligen Interessen passten.

Alleine dadurch hat TikTok die Interessen von vielen der Accounts in weniger als zwei Stunden herausgefunden, bei manchen sogar in unter einer Stunde. Bei einem Account beispielsweise hatten nach nur 36 Minuten 93% der angezeigten Videos einen Bezug zu Depressionen.

TikTok sagte dazu, dass die Bots sich anders verhalten hätten als normale Benutzer:innen, weil Menschen vielfältigere Interessen haben und dadurch nicht so schnell in so starke Filterblasen geraten.

Bei Menschen sind die Filterblasen vielleicht weniger stark ausgeprägt, aber der Algorithmus funktioniert natürlich trotzdem genau gleich.

Amazons Fahrer:innen und ihre Probleme mit Amazons Algorithmen

Es gibt zwei Arten von Paket-Fahrer:innen, die direkt für Amazon arbeiten: bei Subunternehmern angestellte, die mit Transportern der jeweiligen Unternehmen fahren, und selbstständige, sogenannte „Gig Worker“, die nicht angestellt sind, sondern mit ihren eigenen Autos fahren und für die ausgelieferten Pakete bezahlt werden.

Die Probleme der Gig Worker mit den Entscheidungen, die Amazons Algorithmen über sie trafen, habe ich schon in KI News #9 erwähnt. Und auch die angestellten Fahrer:innen waren schon Thema in KI News #3, weil sie (in den USA) Kameraüberwachung und KI-Auswertung in den Autos zustimmen mussten.

Jetzt zeigen sich die Probleme, die durch Fehler der Algorithmen bei der Auswertung der Überwachungsvideos entstehen. Fahrer:innen berichten zum Beispiel, dass sie Verwarnungen wegen zu dichtem Auffahren bekamen, wenn sich im Verkehr ein anderes Auto vor sie gedrängt hat oder wegen „abgelenktem Fahren“, wenn sie zur Seite in den Außenspiegel geschaut haben.

Wenn die Fahrer:innen eines Unternehmens zu viele solche Verwarnungen bekommen haben, bekommen sie weniger Geld von Amazon.

Ein weiteres Problem der angestellten Fahrer:innen ist, dass sie sich beim Ausliefern der Pakete an die Vorgaben von Amazon halten müssen. Um die Fahrten zu optimieren, benutzt Amazon einen Algorithmus, der nahe beieinander liegende Adressen zu einem Stopp zusammenfasst. Die Fahrer:innen sollen dann die Strecken zwischen den einzelnen Häusern zu Fuß laufen.

Diese Strecken können allerdings teilweise mehrere hundert Meter lang sein oder auf der anderen Seite eines mehrspurigen Highways liegen.

Dadurch kann es für die Fahrer:innen schwierig werden, die geforderte Anzahl von Paketen (bis zu über 400 in einer 10-Stunden-Schicht, also 90 Sekunden pro Paket, ohne Pausen) auszuliefern, ohne sich selbst in Gefahr zu bringen.

Passend dazu hat der Gouverneur von Kalifornien letzte Woche ein Gesetz unterschrieben, das Arbeiter:innen mehr Rechte gegenüber „Mega-Einzelhändlern“ (also Amazon) gibt und sie zwingt ihre Algorithmen zur Beurteilung von Angestellten offen zu legen.

Außerdem

« VorherigeNächste »

Hier abonnieren und keine Ausgabe mehr verpassen:

* Pflichtfeld