Wie Du neue KI-Prozesse weise gestalten kannst

Was Du früher „gegoogelt“ hast, beantwortet Dir heute die KI. Das Fatale: Viele nehmen sich nicht die Zeit, die Ergebnisse zu überprüfen. Eine Verhaltensstudie des Pew Research Center zeigte, dass bei KI-Zusammenfassungen nur in 1 Prozent der Fälle auf die Primärquellen geklickt wurde.

Jüngste Sicherheitstests zeigen weitere Risiken: OpenAI dokumentierte im Sommer einen Vorfall, bei dem Modelle Kontrollmechanismen umgingen und sich Zugang zu externen Systemen verschafften. Auch Google berichtete über Tests mit Gemini, bei denen das Modell unter anderem offengelegte Zugangsdaten nutzte und Passwörter selbstständig erriet.

Bemerkenswert ist: Die Warnungen vor dem rasanten KI-Boom kommen zunehmend aus der Branche selbst. Nobelpreisträger und Google-DeepMind-Mitgründer Demis Hassabis warnt bereits seit geraumer Zeit vor einem Kontrollverlust autonomer KI-Systeme. Anthropic-Chef Dario Amodei forderte im September, die Entwicklung der leistungsfähigsten KI-Systeme zu verlangsamen, weil die Sicherheitsmechanismen mit dem Tempo nicht Schritt hielten. Und am 23. September warb OpenAI-Chef Sam Altman vor dem UN-Sicherheitsrat für internationale Regeln und stärkere Sicherheitsmechanismen.

Was bedeutet das für Dich als Führungskraft?

Wenn Du KI-Tools einführst, muss klar sein: Du bzw. die betreffenden Mitarbeiter und dein Unternehmen bleiben für Prozess und Ergebnis verantwortlich. Es muss jederzeit nachvollziehbar sein, wie ein Ergebnis zustande gekommen ist. Mach Dich nicht von der KI abhängig und setze sie so ein, dass sie in deinem Unternehmen beherrschbar bleibt.

KI kann sortieren, Berechnungen anstellen oder anhand vorgegebener Kriterien eine Vorauswahl treffen. Die Entscheidung und damit die Verantwortung sollten aber beim Menschen bleiben.

In seiner Enzyklika Magnifica humanitas greift Papst Leo XIV. dieses Thema auf und warnt davor, sich daran zu gewöhnen, vorgefertigte Antworten zu bekommen: „Damit schwächen sie das persönliche Urteilsvermögen und die Kreativität. Der Eindruck von Objektivität, den die Antworten und Vorschläge dieser Systeme vermitteln, kann uns vergessen lassen, dass sie das kulturelle Wertesystem derjenigen widerspiegeln, die sie entworfen und trainiert haben, mit all ihren Stärken und Schwächen.“

Für kritische Prozesse brauchst Du einen Notplan. Ein Unternehmen sollte im Fall eines Strom- oder Serverausfalls auch ohne KI handlungsfähig bleiben. Mitarbeitende müssen weiterhin selbst schreiben, rechnen, beurteilen und entscheiden können.

KI kann von Routinetätigkeiten entlasten und dabei helfen, bessere Ergebnisse zu erzielen. Sie sollte aber nicht dazu führen, dass Kreativität und Urteilskraft verkümmern.

Nicht alles, was technisch möglich ist, ist auch für den Unternehmensalltag tatsächlich sinnvoll und sicher einsetzbar. Welche Daten darf eine KI erhalten? Welche Entscheidungen darf sie vorbereiten? Was darf sie selbstständig ausführen?

Je größer ihr Handlungsspielraum, desto größer muss die menschliche Kontrolle sein. Der EU AI Act setzt hierfür rechtliche Mindeststandards. Und je digitalisierter Du unterwegs bist, desto wichtiger wird auch die Cybersicherheit.

Bei KI gilt mehr denn je das Motto: „Vertrauen ist gut, Kontrolle ist besser“. Perfekt formulierte Texte können Din falscher Sicherheit wiegen. Eine überzeugende Antwort ist jedoch noch keine Wahrheit.

„Prüft aber alles und das Gute behaltet“ (1. Thess 5,21) ist dabei ein erstaunlich zeitgemäßes Führungsprinzip.

Je mehr Entscheidungen wir Maschinen übertragen, desto wichtiger werden Menschen, die Verantwortung übernehmen, Grenzen setzen und zwischen richtig und falsch unterscheiden können. Genau darin liegt eine besondere Stärke christlicher Führung: Wir müssen unsere Orientierung nicht aus der Technologie selbst gewinnen. „Denn der HERR gibt Weisheit, und aus seinem Munde kommt Erkenntnis und Einsicht.“ (Sprüche 2,6). Wenn die Welt durch die KI verwirrt wird, haben wir mit Gottes Hilfe weiterhin den Durchblick.