Amazon-KI sperrt Kalender wegen missverstandener Produktbeschreibungen
(Bild: QubixStudio / Shutterstock.com)
KI-Systeme prüfen Produkttexte auf Amazon. Dabei kommt es zu Fehlinterpretationen und Sperrungen. Wie gefährlich kann das für Händler werden?
Drum prüfe, wer eine Produktbeschreibung verfasst, wie die KI sie beurteilen könnte. Das klingt nicht ganz so elegant wie Schillers Lied von der Glocke, wird aber schon bald zum Alltag im Online-Handel gehören. Es geht darum, wie Sprachmodelle auf möglicherweise problematische Inhalte reagieren. Wer nicht auf die Feinheiten der Schlüsselwörter achtet, dessen Produkt könnte aus dem Angebot verschwinden.
Online-Plattformen werden für den Verkauf von Waren immer wichtiger. Gemäß dem Statistischen Bundesamt gewinnt der Online-Handel immer mehr an Bedeutung. Der in den USA beobachtete umgekehrte neue Trend, zurück zum stationären Handel ist in Deutschland bislang nicht angekommen.
Große Online-Händler und Versandhäuser öffnen ihre Plattformen für einzelne Drittanbieter. Um Waren auf den Plattformen anbieten zu können, müssen Drittanbieter bestimmte Regeln einhalten. Diese Regeln werden von den Plattformanbietern selbst aufgestellt und kontrolliert.
Regeln und Kontrollen für Drittanbieter
Hinter der Erstellung der Regeln stehen Juristenteams, die ihre Kunden gegen alle möglichen Risiken absichern wollen. Der Aufwand, Waren, deren Beschreibungen und Produktfotos zu kontrollieren, ist aber aufwendig. Was liegt da näher, als diese Aufgabe mithilfe von KI zu bewältigen?
Pars pro toto sei der Pionier des Online-Handels, Amazon, genannt. Amazon hat auf seiner Internetpräsenz mehrere Veröffentlichungen zu den Regeln für Anbieter. Neben den allgemeinen Richtlinien gibt es für Produktkategorien, wie für Bücher, weitere Einschränkungen.
Schlüsselwörter: Ein Spiel mit Interpretationsspielraum
Die Online-Handelsplattform weist darauf hin, dass "Keywords die Chancen verbessern, dass Nutzer Ihr Angebot finden". Die Richtlinien und Tipps werden von Amazon ziemlich allgemein gehalten, was entsprechend weiten Interpretationsspielraum bei der jeweiligen Überprüfung zulässt.
Das Unternehmen, das mit einem angeblich KI-basierten Bezahlsystem das Einkaufen revolutionieren will, wurde dabei erwischt, dass 1.000 indische Billigjobber statt der KI die Arbeit übernehmen oder zumindest ergänzen. Das spricht dafür, dass man sich bisher nicht vollständig auf die viel gelobte KI verlässt, denn sie ist anfällig für Fehlinterpretationen.
Trotzdem wird die KI als Innovation für den Handel bei Amazon gepriesen. Sie wird bereits bei einer noch überschaubaren Anzahl von Händlern dafür eingesetzt, Produktbeschreibungen zu erstellen und die Verkäuferseiten zu optimieren. Sie wird aber auch dafür benutzt, die streng ausgelegten Regeln für Produktbeschreibungen zu überwachen. Und hier kommt es zu Problemen.
Lesen Sie auch
Bildungsrevolution: KI-Lehrerin "Anna" startet an deutscher Auslandsschule
Warum zögern deutsche Firmen beim KI-Einsatz?
Bits und Bias: Warum KI-gesteuerte Kredite Frauen teuer zu stehen kommen
Metallfolie reicht: Wie Hacker selbstfahrende Autos blind machen
Datenkraken im Büro: EU-KI-Regeln ignorieren Arbeitnehmerschutz
Fallbeispiel: Calvendo und die KI von Amazon
So meldet der Kalenderanbieter Calvendo, dass viele der angebotenen Kalender von Amazon gesperrt wurden. Das Geschäftsmodell von Calvendo ist es, als Verlag und Vermittlungsplattform für gedruckte, von Kunden erstellte Kalender aufzutreten. Die Produktbeschreibungen der Kalender stammen dabei von den Kunden und werden offenbar von Calvendo nicht optimiert.
Der zur Cornelsen Verlagsgruppe gehörende Self-Publishing-Verlag wirbt damit, "individuell gestaltete Verlagsprodukte über Amazon & Co." zu vertreiben. Zu diesem Konzept gibt es zahlreiche Erfahrungsberichte, darunter auch wenig begeisternde. Das unternehmerische Konzept des Verlags ist ein anderes Thema als die KI von Amazon.
Denn zu letzterer gibt Calvendo tiefe Einblicke. So wurden Produkte gesperrt, weil in der Beschreibung die Worte Corona und Pandemie standen. Dass dies von den Kreativen damit begründet wurde, dass die Bildwerke in der Zeit der Pandemie entstanden sind, kann die KI von Amazon offenbar nicht richtig werten.
Ebenso verleitet ein "Papageien – lebendig und farbenfroh" die KI zur Annahme, dass mit lebendigen Tieren gehandelt wird. Gar nicht erlaubt sind Bezüge oder Erwähnungen von sanktionierten Staaten, wie der Demokratischen Volksrepublik Korea, Kuba, Syrien, dem Iran, Persien, der Region Krim oder der Volksrepublik Donezk.
Ein möglicher Kalender mit Bildern der auf kubanischen Straßen weitverbreiteten Oldtimer-Autos fällt somit der KI-Zensur zum Opfer. Calvendo vermeldet zudem, dass ein Kalendarium mit Fotos von Vögeln am Satz "die Zugvögel bleiben nur eine begrenzte Zeit in Deutschland" scheiterte. Denn die KI hätte "begrenzte Zeit" als wettbewerbswidriges Angebot identifiziert.
Die KI kann uns noch interessante Zeiten bescheren.
