For What It's Worth: Humans Overwrite Their Economic Self-Interest to Avoid Bargaining With AI Systems
Erlei, A., Das, R., Meub, L., Anand, A. & Gadiraju, U. (2022). For What It's Worth: Humans Overwrite Their Economic Self-Interest to Avoid Bargaining With AI Systems. Proceedings of the 2022 CHI Conference on Human Factors in Computing Systems (CHI 2022).
Da Algorithmen zunehmend die menschliche Entscheidungsfindung ergänzen und ersetzen, ist es von entscheidender Bedeutung zu verstehen, wie die Einführung von computergestützten Agenten die Grundlagen des menschlichen Verhaltens verändert. Dies gilt nicht nur für die Anwender, sondern auch für alle Parteien, die mit den Konsequenzen einer algorithmischen Entscheidung konfrontiert sind. In einem kontrollierten Experiment mit 480 Teilnehmern nutzen wir eine erweiterte Version der Zwei-Personen-Ultimatum-Verhandlung, bei der die Befragten wählen können, entweder mit einem anderen Menschen, einem anderen Menschen mit KI-Entscheidungshilfe oder einem autonomen KI-System, das im Namen eines passiven menschlichen Antragstellers agiert, verhandeln können.
Unsere Ergebnisse zeigen eine starke Abneigung der Befragten gegen den Algorithmus, da die meisten Befragten sich für einen menschlichen Gegner entscheiden und eine höhere Entschädigung dafür verlangen, einen Vertrag mit autonomen Agenten zu schließen. Um diese Präferenzen mit ökonomischen Erwartungen in Verbindung zu bringen, erfragen wir anreizkompatibel die Überzeugungen der Teilnehmer bezüglich des Verhaltens ihres Gegners. Die Mehrheit der Befragten maximiert ihren erwarteten Wert, wenn dies mit der Annäherung an den menschlichen Antragsteller übereinstimmt. Im Gegensatz dazu setzen die Befragten, die eine Einkommensmaximierung für das autonome KI-System vorhersagen, ihr wirtschaftliches Eigeninteresse überwiegend außer Kraft, um den Algorithmus zu vermeiden.
