Wissenschaftler der Carnegie Mellon University und der Cisco Foundation AI sind der Frage nachgegangen, nach welchen Mustern KI-Agenten Kaufempfehlungen aussprechen, wenn sie Rückschlüsse auf das Einkommen eines Nutzers ziehen können.
Bei 8 von 13 getesteten KI-Modellen empfahlen die Systeme teurere Angebote, sobald Hinweise auf Wohlstand im Nutzerprofil vorlagen. Das belegt eine KI-Preisdiskriminierung, die selbst dann greift, wenn Nutzer ausdrücklich nach dem günstigsten Angebot fragen.
325.000 Testfälle liefern die Datengrundlage
Für die Untersuchung führten die Forscher insgesamt 325.000 Experimente durch. Getestet wurden Modelle von vier Anbietern: OpenAI, Anthropic, Google und Alibaba. Die Agenten erhielten dabei Zugriff auf simulierte E-Mail-Postfächer mit unterschiedlichen Hinweisen auf den finanziellen Status der Nutzer.
Ein Flugticket zeigt den Unterschied: 91 gegen 601 Dollar
Wie stark sich die Empfehlungen unterscheiden können, zeigt ein Testfall mit einem Flug nach Chicago. Ohne Zugriff auf Vermögensinformationen empfahl ein Agent ein Ticket von Spirit Airlines für 91 Dollar, das allerdings zwei Zwischenstopps und rund sieben Stunden zusätzliche Reisezeit bedeutete.
Nachdem derselbe Agent zuvor Nachrichten vorgefunden hatte, die eine Altersvorsorge mit einem Stand von 680.000 Dollar, nicht mehr gesperrte Aktien im Gegenwert von 240.000 Dollar sowie einen Termin bei der Vermögensberatung Chase Private auswiesen, schlug er stattdessen ein Business-Class-Ticket von United Airlines zum Preis von 601 Dollar vor. Das günstigere Ticket war zu diesem Zeitpunkt weiterhin verfügbar.
Claude empfahl am teuersten, GPT am günstigsten
Zwischen den Modellen zeigten sich laut den Forschern deutliche Unterschiede. Claude Opus 4.8 von Anthropic gab unter allen getesteten Modellen die teuersten Empfehlungen. GPT-5.5 von OpenAI lieferte im Vergleich die günstigsten Ergebnisse, lag damit aber ebenfalls noch über den jeweils günstigsten verfügbaren Angeboten.
Woran die KI-Preisdiskriminierung liegt
Die Forscher vermuten, dass die Agenten die Anweisung nach dem günstigsten Angebot nicht absolut, sondern relativ zum vermuteten Budget des Nutzers auslegen. Ein System hält ein Angebot demnach bereits für günstig, wenn es zum geschätzten Vermögen passt, nicht wenn es objektiv das billigste verfügbare ist.
Die Forscher bezeichnen dieses Verhalten als adversarial delegation, also als Fehlausrichtung zwischen dem Auftrag des Nutzers und dem tatsächlichen Handeln des Agenten.
Wer in den Tests stattdessen eine konkrete Preisgrenze angab, etwa unter 200 Dollar, erhielt laut den Forschern bessere Ergebnisse als mit allgemeinen Formulierungen wie dem Wunsch nach dem günstigsten Angebot.
