verantwortungsvolle KI - Prof. Dr. Riccardo Wagner

Direkt zum Beratungsangebot

In vielen Unternehmen erlebe ich gerade eine merkwürdige Schieflage: Generative KI (GenAI) wird eingeführt, Pilotprojekte laufen, Prompt-Guidelines werden verteilt – und irgendwo hängt noch ein PDF namens „AI Policy“. Das fühlt sich ordentlich an. Aber oft ist es nur das: ordentlich. Nicht unbedingt verantwortlich.

Ein aktueller wissenschaftlicher Sammelessay im Schmalenbach Journal of Business Research setzt genau hier an – und bringt einen Gedanken auf den Punkt, den ich in der Praxis ständig sehe: „Digitale Verantwortung“ ist nicht nur ein ethischer Aufsatz, sondern ein Organisationsphänomen. Gemeint ist die verantwortliche Gestaltung von Design, Entwicklung, Einführung, Nutzung und auch Stilllegung digitaler Technologien – orientiert an ethischen Prinzipien und mit Blick auf soziale, ökologische und ökonomische Auswirkungen.

Das klingt abstrakt. Wird aber sehr konkret, sobald man die typische „KI-Debatte“ in Unternehmen ehrlich anschaut.

Zwei Denkfehler, die Verantwortung in der Praxis ausbremsen

Die Autor:innen beschreiben zwei Bruchlinien („fault lines“), die erklären, warum wir uns so oft im Kreis drehen.

1) Wer oder was handelt eigentlich? (Agency)

In der Organisation denken viele automatisch: Menschen sind verantwortlich. Oder: Die IT ist verantwortlich. Oder: Der Anbieter ist verantwortlich.

Der Text hält dagegen: Verantwortung entsteht häufig in sozio-technischen Systemen, also in einem Geflecht aus Menschen, Prozessen, Anreizstrukturen – und eben auch Technologie als „Mit-Akteur“ (z. B. durch Plattformlogiken, Modellverhalten, Datenflüsse).

2) Wollen wir nur verstehen – oder auch gestalten?

Viele Ethikdebatten bleiben beim kritischen Rückblick (Was läuft schief? Wer hat versagt?). Andere hängen im technikgläubigen Vorwärtsmodus (Wir bauen mal und optimieren später).

Der Sammelessay plädiert dafür, beides zusammenzubringen: kritisch und konstruktiv, reflektierend und interventionistisch.

Das ist für Beratung Gold wert, weil es aus dem moralischen Schwarz-Weiß herausführt: Nicht „die Technik ist böse“ – und auch nicht „die Technik löst alles“. Sondern: Wie gestalten wir Verantwortung so, dass sie im Alltag trägt?

Drei Perspektiven, die sofort Ordnung in jede KI-Diskussion bringen

Besonders praktisch finde ich eine Unterscheidung, die im Sammelband als „structured yet flexible framework“ beschrieben wird: Man kann digitale Verantwortung aus drei Blickwinkeln betrachten – Use, Design, Regulation.

Use (Nutzung): Wie arbeiten Teams mit GenAI? Welche Entscheidungen werden delegiert? Welche Kompetenzen fehlen?
Design (Gestaltung/Technik): Wie werden Systeme gebaut, integriert, getestet, überwacht? Was passiert nach dem Go-Live, wenn sich Modelle und Nutzung verändern?
Regulation (Governance/Institutionen): Welche Regeln, Rollen, Kontrollmechanismen, Eskalationswege und Stakeholder-Prozesse sorgen dafür, dass Verantwortung nicht nur „gefordert“, sondern organisiert wird?

Allein diese Dreiteilung verhindert schon viele Missverständnisse: Ein Teil der Runde diskutiert „Ethik“ und meint eigentlich Schulung & Nutzung. Ein anderer meint Tool-Auswahl & Architektur. Ein dritter meint Haftung & Compliance. Und alle wundern sich, warum es zäh ist.

Warum „digitale Verantwortung“ mehr ist als das Addieren von Einzelwirkungen

Ein weiterer Punkt aus dem Text trifft einen Nerv: Digitale Verantwortung ist nicht einfach „gute Effekte minus schlechte Effekte“. Entscheidend sind Systemwirkungen – also kollektive Effekte vieler Akteure (Unternehmen, Staat, Zivilgesellschaft), die sich gegenseitig verstärken oder neutralisieren.

Das ist auch ethisch relevant: Wer Verantwortung ernst nimmt, schaut nicht nur auf den eigenen Nutzen, sondern auf das, was in der katholischen Soziallehre sehr gut benennbar ist: Gemeinwohl, Menschenwürde, Solidarität und Subsidiarität – übersetzt in digitale Realität: fairer Zugang, Schutz vor Diskriminierung, Transparenz, Teilhabe, und eine Governance, die nicht nur Macht konzentriert.

Was heißt das für Führungskräfte – ganz praktisch?

Für mich läuft es auf eine unbequeme, aber entlastende Wahrheit hinaus:

Verantwortung ist kein Extra-Kapitel am Ende der Digitalstrategie. Verantwortung ist die Art, wie Digitalstrategie gemacht wird.

Und das betrifft drei Führungsaufgaben:

Begriffe klären, bevor man Lösungen baut (Use/Design/Regulation sauber trennen).
Verantwortung organisieren, nicht moralisieren (Rollen, Prozesse, Daten- und Entscheidungswege sichtbar machen – „agency“ realistisch denken).
Von „wir sollten“ zu „wir können“ kommen: kritisch bleiben, aber in Gestaltungsfähigkeit übersetzen.

Mein Beratungsangebot – „Digital Responsibility Sprint“ als Workshop

Aus genau dieser Logik heraus baue ich aktuell ein Beratungsformat, das Unternehmen schnell von Ethik-Rhetorik zu belastbarer Praxis bringt:

Digital Responsibility Sprint (Workshop) – je nach Bedarf 2,5–3 Stunden online oder 1 Tag vor Ort.

Im Kern geht es um drei Schritte, die der Sammelessay als Brückenbau für Wirkung beschreibt: inquire – involve – integrate (verstehen, gemeinsam erproben, institutionalisieren).

Was am Ende auf dem Tisch liegt (nicht als Hochglanzfolie, sondern als Arbeitsgrundlage):

eine Use/Design/Regulation-Landkarte für eure KI- und Digitalinitiativen
eine Responsibility Map: Wer entscheidet was – mit welchen Daten – unter welchen Leitplanken? (sozio-technisch gedacht, nicht nur organigrammisch)
5–10 konkrete Governance-Next-Steps (Rollen, Eskalation, Training, Monitoring, Kommunikationslinien)

Wenn Sie das für Ihr Unternehmen prüfen willst: Schreiben Sie mir gern eine Nachricht, wo Sie gerade stehen: eher Use, eher Design oder eher Regulation. Dann kann ich dir sagen, wie so ein Sprint bei Ihnen sinnvoll zugeschnitten wäre.

Wie Unternehmen KI-Verantwortung glaubwürdig und wirksam umsetzen können

Verantwortung – kaum ein Begriff ist in der Diskussion um künstliche Intelligenz so präsent und gleichzeitig so vage. Fast jedes Unternehmen, das heute KI-Technologie einführt, versichert, dies „verantwortungsvoll“ zu tun. Doch was heißt das konkret? Wie lässt sich ethische Verantwortung jenseits von wohlklingenden Leitbildern in den Alltag von Entwicklung, Implementierung und Nutzung übersetzen?

Was wir derzeit beobachten, ist ein wachsendes Spannungsfeld: Auf der einen Seite die hohe Dynamik technologischer Innovation – auf der anderen Seite ein regulatorisches und ethisches Vakuum, das Führungskräfte vor echte Gestaltungsfragen stellt. Wer Verantwortung ernst meint, muss sie strukturieren. Und das beginnt bei vier zentralen Stellhebeln, die sich zunehmend als praxisfähiger Rahmen herauskristallisieren.

1. Verantwortung braucht Sichtbarkeit: Der Weg zur echten Transparenz

Vertrauen entsteht nicht durch Versprechen, sondern durch Nachvollziehbarkeit. Gerade bei datengetriebenen Systemen, deren Entscheidungen auf komplexen Modellen und oft intransparenten Trainingsdaten beruhen, ist dies entscheidend. Doch Transparenz ist kein Selbstzweck – sie muss gestaltet werden.

Transparenz bedeutet nicht, jede Codezeile offenzulegen. Es geht vielmehr um die Schaffung verständlicher Erklärungen, um die Rückverfolgbarkeit von Entscheidungen, um Kommunikationsstrategien, die nicht nur Expert:innen erreichen. Wenn ein System zum Beispiel Bewerber:innen automatisiert filtert, sollten Betroffene nachvollziehen können, auf welcher Grundlage dies geschieht – und wer dafür einsteht. Unternehmen tun gut daran, nicht auf regulatorischen Druck zu warten, sondern selbst Maßstäbe zu setzen: etwa durch modellbegleitende Dokumentation, klare Verantwortungsangaben und transparente Risikoklassen für ihre KI-Systeme.

2. Verantwortung braucht Struktur: Ethische Prinzipien in Prozesse übersetzen

Ethische Leitlinien sind ein Anfang – aber kein Ersatz für konkrete Maßnahmen. Die entscheidende Frage lautet: Wie wird aus einem abstrakten Prinzip wie „Fairness“ ein überprüfbarer Bestandteil eines Entwicklungsprozesses? Wer ist wofür verantwortlich, wann, mit welchem Handlungsspielraum?

Verantwortung lässt sich nicht an ein „KI-Team“ delegieren. Sie muss entlang des gesamten Lebenszyklus eines Systems definiert und operationalisiert werden – von der Datenbeschaffung über das Modelltraining bis zur laufenden Nutzung. Besonders wirksam sind Modelle, die Zuständigkeiten klar zuweisen, Feedbackschleifen institutionalisieren und ethische Qualitätskontrollen als integralen Bestandteil von Entwicklung und Betrieb verankern. Wer heute Strukturen schafft, um Verantwortung zu teilen und zu steuern, investiert in Resilienz und Glaubwürdigkeit.

3. Verantwortung braucht Beteiligung: Perspektivenvielfalt als Korrektiv

Viele ethische Fehlentwicklungen entstehen nicht aus böser Absicht, sondern aus einem zu engen Blickwinkel. Wenn etwa nur eine homogene Entwicklergruppe ein System konzipiert, sind systematische Verzerrungen fast vorprogrammiert. Echte Verantwortung entsteht dort, wo unterschiedliche Perspektiven zusammenkommen – und das bewusst.

Unternehmen sollten sich trauen, den Kreis der Mitgestaltenden zu erweitern: durch interdisziplinäre Teams, durch Einbindung von Betroffenen und Fachleuten außerhalb der Organisation, durch Ethik-Boards oder Stakeholder-Dialoge. Das Ziel ist nicht Konsens um jeden Preis, sondern eine produktive Reibung, die blinde Flecken sichtbar macht, Risiken antizipiert und die normative Qualität von Technologie stärkt.

4. Verantwortung braucht Dauer: Ethik ist kein Projektabschluss

Viele Unternehmen arbeiten heute mit Ethik-Checklisten, Pre-Deployment-Assessments oder „Red Teamings“. Das ist sinnvoll – aber nicht ausreichend. Verantwortung endet nicht mit dem Launch eines Systems. Sie beginnt oft erst dort.

Was fehlt, sind dauerhafte Strukturen für Monitoring, Review und Anpassung. KI-Systeme lernen weiter, sie interagieren mit dynamischen Umwelten und Menschen – und sie können sich dadurch auch „ethisch verschieben“. Deshalb braucht es ein kontinuierliches, mehrdimensionales Monitoring: technisch, rechtlich, ethisch und soziokulturell. Unternehmen, die sich diesen Aufwand zutrauen, positionieren sich als ernstzunehmende Akteure in einer digitalethischen Zukunft.

Verantwortung beginnt mit dem Mut zur Konkretisierung

Verantwortung ist kein Gefühl und keine Haltung – sie ist ein Prozess. Und wie jeder Prozess braucht sie Zielbilder, klare Rollen, realistische Instrumente und den Willen zur ständigen Weiterentwicklung. Wer das Prinzip „verantwortungsvolle KI“ ernst meint, muss bereit sein, es in die Mühen der Ebene zu übersetzen – in Gremien, Audits, Protokolle, Schulungen und Kulturarbeit.

Die gute Nachricht: Die Werkzeuge dafür liegen längst auf dem Tisch. Es ist an der Zeit, sie zu nutzen – nicht weil man muss, sondern weil man kann.