Vertrauen in Entscheidungen künstlicher Intelligenz im Produktionsmanagement

Künstliche Intelligenz (KI) gilt als die eine Technologie in der Geschichte der Menschheit, die sich irgendwann unserer Kontrolle entziehen kann. Dabei agiert eine KI anders als alle bisherigen Systeme – autonom statt automatisch. Autonome Systeme sind für den Menschen nicht immer nachvollziehbar und können in unerwarteter, überraschender Weise agieren. Daher ist es wenig verwunderlich, dass KI in der Arbeitsweit nicht als Werkzeug verstanden wird, sondern vielmehr als Teammitglied. Im Umfeld der Produktion sind Teams aus humanoiden und nicht-humanoiden Akteuren längst bekannt: Hier unterstützen Roboter bei physischen Tätigkeiten. Analog ist KI in der Lage bei kognitiven Tätigkeiten zu unterstützen. Am Beispiel des Produktionsmanagements ist zu erkennen, dass KI derzeit eine Assistenzfunktion für spezielle Aufgaben einnimmt. Mit wachsenden Fähigkeiten der KI ist davon auszugehen, dass sie sich von der reinen Assistenz lösen und stattdessen eine organisationale Gleichberechtigung mit der menschlichen Intelligenz erfahren wird. In dieser Konstellation ist Vertrauen der essentielle Faktor, der über das Funktionieren der Mensch-KI-Kollaboration und damit über die Gesamteffizienz des Systems entscheidet.

Ziel der vorliegenden Arbeit war es im Kontext des Produktionsmanagements die Einflussfaktoren auf das initiale Vertrauen eines Menschen in eine KI zu identifizieren. Hierzu wurde ein Mixed Methods Forschungsdesign mit qualitativer Vorstudie und quantitativer Hauptstudie gewählt. Die entdeckten Einflussfaktoren wurden in ein Modell für initiale Vertrauensmechanismen überführt, aus dem Implikationen im Sinne von Gestaltungsrichtlinien für Mensch-KI-Systeme abgeleitet wurden.