Bewertung durch künstliche Intelligenz verändert menschliches Verhalten

Künstliche Intelligenz (KI) ersetzt zunehmend menschliche Entscheidungsträger – ob bei Jobbewerbungen oder Universitätszulassungen. Das hat Konsequenzen. Forschende der Universitäten St.Gallen und Rotterdam zeigen in einer neuen Studie mit dem Titel «AI assessement changes human behavior», dass sich Menschen unter KI-Bewertung systematisch anders verhalten.

KI-Bewertungseffekt

In zwölf Studien mit über 13’000 Teilnehmenden zeigt das Team einen sogenannten «KI-Bewertungseffekt»: Bereits die Information, von einer KI bewertet zu werden, verändert die Selbstdarstellung – mit potenziellen Folgen für Auswahlentscheidungen. Die Studie wurde im angesehenen, multidisziplinären Journal «Proceedings of the National Academy of Sciences» publiziert.

Kernaussagen der Untersuchung:

• KI verändert nicht nur Auswahlprozesse – sondern auch das Verhalten der Bewerbenden
  KI verändert Auswahlprozesse, indem sie Entscheidungen automatisiert, standardisiert und verspricht, sie effizienter und objektiver zu gestalten. Gleichzeitig beeinflusst die KI das Verhalten der Bewerbenden – die blosse Information, von einer KI bewertet zu werden, führt dazu, dass Menschen ihre Selbstdarstellung ausrichten an dem, was sie für KI-gerecht halten.
   
• Veränderter Denkstil: Analytik statt Intuition
  Unter KI-Bewertung betonen Menschen verstärkt analytisches, systematisches und regelbasiertes Denken. Hingegen rücken emotionale Intelligenz, kreative Fähigkeiten oder intuitive Eigenschaften dabei in den Hintergrund, obwohl sie für viele Rollen ebenso wichtig sind und zunehmend wichtiger werden.
   
• Laienhaftes KI-Verständnis der Bewerbenden
  Das Umschwenken auf analytisches Denken beruht auf einer weit verbreiteten Annahme: Menschen glauben, dass KI analytische Eigenschaften bevorzugt – unabhängig davon, ob das tatsächlich der Fall ist. Dieses Laienverständnis beeinflusst aktiv das Verhalten von Bewerbenden.
   
• Verzerrung kann zum Verlust von Vielfalt führen
  Wenn sich Menschen unter KI-Bewertung systematisch anders verhalten, kann dies dazu führen, dass Unternehmen nicht mehr die «echte» Person bewerten, sondern deren strategisch angepasste Selbstdarstellung. Durch diese Verzerrung kann Vielfalt in Denkstilen und Persönlichkeit ungewollt verloren gehen.
   
• KI-Bewertungseffekt in Bewertungspraktiken identifizieren
  Langfristig stellt sich die Frage, ob Anpassungen an die Kriterien, welche die KI bevorzugt, den Ausdruck von Individualität, Intuition oder emotionaler Intelligenz beeinflussen. Unternehmen sollten den KI-Bewertungseffekt berücksichtigen, um sicherzustellen, dass sie authentische Bewerberantworten erhalten.

Künstliche Intelligenz verändert nicht nur, wer Entscheidungen trifft – sondern auch, wie sich Menschen im Auswahlprozess verhalten. Die Studie zeigt: Allein die Information, von einer KI bewertet zu werden, führt dazu, dass Menschen ihre Selbstdarstellung anpassen und analytische Eigenschaften stärker betonen. Das kann dazu führen, dass Organisationen unbeabsichtigt Bewerberinnen und Bewerber bevorzugen, die sich besonders KI-freundlich präsentieren – nicht unbedingt diejenigen, die am besten zum Jobprofil passen. Mit dem wachsenden Einsatz solcher Systeme stellt sich die grundsätzliche Frage, wie sich menschliches Verhalten in einer Welt verändert, in der Maschinen zunehmend zu Bewertern werden. Organisationen und Gesellschaft sind gefordert, diese Entwicklung bewusst zu gestalten, um Vielfalt, Authentizität und Fairness im digitalen Zeitalter zu sichern.

Methode der Studie

In insgesamt zwölf Studien mit 13’342 Teilnehmenden wurde untersucht, wie sich Menschen in Bewerbungssituationen verhalten, wenn sie entweder von einer KI oder von einem Menschen bewertet werden. Die Studien beinhalten sowohl reale Bewerbungen im Feld als auch kontrollierte Online-Experimente. Dabei wurde analysiert, wie sich die Teilnehmenden unter verschiedenen Bewertungsbedingungen selbst beschreiben und präsentieren. Der wiederkehrende Befund: Die Annahme von KI-Bewertung verändert menschliches Verhalten konsistent und systematisch.

Die Studie wurde im Journal «Proceedings of the National Academy of Sciences» publiziert und steht zum kostenlosen Download zur Verfügung.

Bild: Adobe Stock / Kromstar Studios