Impact of Algorithmic Decision Making on Human Behavior: Evidence from Ultimatum Bargaining. Proceedings of the 8th AAAI Conference on Human Computation and Crowdsourcing (HCOMP 2020)

Jüngste Fortschritte im maschinellen Lernen haben zu einer weitverbreiteten Einführung von ML-Modellen für Entscheidungsunterstützungssysteme geführt. Es ist jedoch wenig darüber bekannt, wie sich die Einführung solcher Systeme auf das Verhalten menschlicher Interessengruppen auswirkt. Dies betrifft sowohl die Personen, die das System nutzen, als auch diejenigen, die von seinen Entscheidungen betroffen sind. Um diese Wissenslücke zu schließen, führten wir mit 1178 Teilnehmern eine Reihe von Ultimatum-Verhandlungsspiel-Experimenten durch. Dabei stellten wir fest, dass Benutzer bereit sind, ein Black-Box-Entscheidungsunterstützungssystem zu verwenden und dadurch bessere Entscheidungen zu treffen. Dies führt zu einem höheren Maß an Kooperation und besseren Marktergebnissen. Da Benutzer den algorithmischen Rat jedoch zu gering gewichten, bleiben die Marktergebnisse weit vom Optimum entfernt. Erklärungen erhöhen zwar die Anzahl der einzigartigen Systemanfragen, aber die Benutzer scheinen dann weniger bereit zu sein, der Empfehlung des Systems zu folgen. Personen, die mit einem Benutzer verhandeln, der ein Entscheidungsunterstützungssystem hat, selbst aber keines nutzen können, reagieren auf dessen Einführung, indem sie einen besseren Deal für sich selbst fordern und dadurch das Gesamtniveau der Kooperation senken. Dieser Effekt wird größtenteils durch den Prozentsatz der Teilnehmer verursacht, die die Verfügbarkeit des Systems als unfair empfinden. Interpretierbarkeit mildert die Wahrnehmung von Unfairness. Unsere Ergebnisse unterstreichen das Potenzial von Entscheidungsunterstützungssystemen zur Förderung der menschlichen Zusammenarbeit, aber auch die Notwendigkeit für Regulierungsbehörden, heterogene Reaktionen der Interessengruppen zu berücksichtigen. Insbesondere ein höheres Maß an Transparenz könnte unbeabsichtigt die Zusammenarbeit durch Veränderungen in der Wahrnehmung von Fairness beeinträchtigen.