Was künstliche Intelligenz mit Veränderung, Verantwortung und neuen Geschäftsfeldern zu tun hat.

Manchmal würde ich die Entwicklung meiner Kinder gerne kurz anhalten. Nicht für immer, selbstverständlich. Nur für einen Moment. Sie werden bald 14 und 13 Jahre alt, und während ich noch überlege, wann genau das passiert ist, sind sie gedanklich bereits drei Schritte weiter.

Natürlich weiss ich: Ich kann diese Entwicklung nicht stoppen. Ich kann begleiten, Grenzen setzen, Fragen stellen und hoffentlich rechtzeitig erkennen, wenn etwas aus dem Ruder läuft. Aber auf «Pause» drücken kann ich nicht.

Bei der künstlichen Intelligenz scheint es mir ähnlich zu sein. Auch wenn der Vergleich technisch gewaltig hinkt, führt er zu einer interessanten Frage: Lässt sich eine Entwicklung, die in den USA, China, Europa und zunehmend weiteren Regionen gleichzeitig vorangetrieben wird, überhaupt noch stoppen?

Pause – aber wie?

Vor wenigen Tagen rückte die Frage mit neuer Wucht ins Zentrum der Debatte. Dario Amodei, CEO des KI-Unternehmens Anthropic, forderte, das Tempo bei besonders leistungsfähigen KI-Systemen zu drosseln und unabhängige Kontrollen einzuführen. Sam Altman, Demis Hassabis und Elon Musk unterstützten die Stossrichtung. Wenn selbst diejenigen im Rennwagen über die Bremse sprechen, sollte man aufhorchen. Nur: Wo ist der globale Bremshebel – und wer darf ihn bedienen?

Die Sorge dahinter ist nicht einfach von der Hand zu weisen. Eine Befragung von 2’778 KI-Forschenden zeigte ein widersprüchliches Bild: 68 Prozent erwarteten insgesamt eher gute als schlechte Folgen leistungsfähiger KI. Gleichzeitig gaben – je nach Fragestellung – zwischen 38 und 51 Prozent einem Szenario von der Schwere des Aussterbens der Menschheit eine Wahrscheinlichkeit von mindestens zehn Prozent.

Das ist keine statistisch berechnete Eintrittswahrscheinlichkeit und kein Beweis dafür, dass ein solches Szenario eintreten wird. Es sind subjektive Einschätzungen von Fachleuten, zudem abhängig von der Fragestellung. Aber selbst mit dieser Einschränkung ist es ein Risikosignal, bei dem ein Verwaltungsrat vermutlich nicht einfach zur nächsten Traktandenliste übergehen würde.

Ich möchte mich in dieser Diskussion trotzdem nicht ins Lager der Euphoriker oder jenes der Untergangspropheten stellen. Mich interessiert eine andere Frage: Was geschieht bereits jetzt – und was bedeutet es für Unternehmen?

Denn während wir darüber diskutieren, ob KI irgendwann die Kontrolle übernimmt, übernimmt sie heute schon Texte, Analysen, Kundenanfragen, Planungen und Teile von Entscheidungen. ChatGPT ist dabei nur ein Angebot unter mehreren. Claude, Gemini, Copilot, Mistral und zahlreiche spezialisierte Systeme sind längst Teil eines Marktes, der sich kaum durch einen einzelnen Schalter abstellen lässt.

Vielleicht sollten wir deshalb weniger darüber sprechen, ob sich die Entwicklung stoppen lässt, und mehr darüber, welche Prozesse, Verantwortlichkeiten und neuen Geschäftsfelder durch sie entstehen.

Wenn die intelligente Welt stillsteht

Nehmen wir ein mittelständisches Unternehmen mit drei oder fünf Filialen. Die Kassen sind vernetzt, Bestellungen werden automatisch ausgelöst, Liefermengen berechnet und Personaleinsätze geplant. Das funktioniert wunderbar – bis es nicht mehr funktioniert.

Was geschieht, wenn Daten manipuliert werden? Wenn ein KI-System falsche Bestellungen auslöst? Wenn eine Schnittstelle ausfällt, sämtliche Kassen stillstehen oder eine Lieferkette aufgrund einer automatisierten Fehlentscheidung unterbrochen wird? Wer trägt den Schaden: der Anbieter, der Betreiber, die Versicherung – oder am Ende doch das Unternehmen?

Hier entstehen neue Märkte.

Wir werden Versicherungen benötigen, die nicht nur klassische Cyberangriffe abdecken, sondern auch Fehlentscheidungen, Abhängigkeiten und Betriebsunterbrüche rund um KI-Systeme beurteilen können. Dafür braucht es wiederum Prüfunternehmen, die Modelle, Daten und Prozesse auditieren. Es braucht Spezialisten für die Rückverfolgbarkeit automatisierter Entscheidungen. Es braucht unabhängige Notfallsysteme, lokale Anwendungen und analoge Rückfallebenen, damit ein Betrieb auch dann weiterläuft, wenn die intelligente Welt für einige Stunden nicht ganz so intelligent ist.

Und es braucht Menschen, die Prozesse verstehen. Nicht nur Technologie.

Denn KI macht einen schlechten Prozess nicht automatisch gut. Sie macht ihn unter Umständen lediglich schneller schlecht.

Vier Reaktionen auf Veränderung

Der Psychologe Shaul Oreg unterscheidet vier Dimensionen der Veränderungsresistenz: die Vorliebe für Routinen, emotionale Reaktionen auf aufgezwungene Veränderungen, den Fokus auf kurzfristige Unannehmlichkeiten und eine gewisse gedankliche Starrheit. Daraus lassen sich – mit etwas unternehmerischer Freiheit – vier Figuren ableiten. Sie sind eine journalistische Übersetzung, keine Diagnosen.

Da ist erstens der Begeisterte. Er eröffnet für jedes Problem sofort ein neues KI-Konto und automatisiert vorsorglich auch das, was bisher gar kein Problem war.

Zweitens gibt es den Bewahrer. Er vertraut auf das, was funktioniert, und fragt zu Recht, weshalb man einen stabilen Prozess verändern sollte.

Drittens begegnen wir dem Abwartenden. Er möchte zuerst sehen, welche Lösung sich durchsetzt. Das schützt vor teuren Irrwegen, kann aber dazu führen, dass man den Anschluss erst bemerkt, wenn er bereits abgefahren ist.

Und viertens gibt es den Prüfer. Er experimentiert, stellt aber unbequeme Fragen: Welches Problem lösen wir? Was geschieht bei einem Ausfall? Wer kontrolliert die Resultate? Können wir zurück? Und lohnt sich das Ganze überhaupt?

Neugierig, aber nicht naiv

Auch Unternehmen lassen sich ähnlich betrachten. Ein klassisches Strategiemodell von Miles und Snow unterscheidet Pioniere, Verteidiger, Analysierer und bloss Reagierende. Pioniere erkunden laufend neue Möglichkeiten. Verteidiger optimieren ihr bewährtes Kerngeschäft. Analysierer verbinden einen stabilen Kern mit gezielten Experimenten. Reagierende handeln dagegen erst, wenn der Druck von aussen gross genug geworden ist. Das Modell ist eine Orientierungshilfe, kein Naturgesetz.

Für die aktuelle Entwicklung scheint mir der Analysierer besonders interessant. Er rennt nicht jeder neuen Anwendung hinterher. Er wartet aber auch nicht, bis Kunden, Mitarbeitende oder Wettbewerber längst entschieden haben. Er schützt, was zuverlässig funktionieren muss, und schafft gleichzeitig begrenzte Räume, in denen Neues getestet werden darf.

Vielleicht ist genau das die unternehmerische Haltung, die wir jetzt brauchen: neugierig, aber nicht naiv. Vorsichtig, aber nicht gelähmt.

Denn nicht jede E-Mail muss mit KI beantwortet werden. Nicht jeder Prozess muss automatisiert und nicht jede Entscheidung delegiert werden. Die zentrale Frage lautet auch nicht: «Kann KI das?»

Sie lautet: «Soll sie das tun – und wer übernimmt weiterhin die Verantwortung?»

Veränderung nimmt uns diese Verantwortung nicht ab. Sie fordert sie geradezu heraus.

Meine Kinder werden sich weiterentwickeln, ob ich dazu bereit bin oder nicht. Meine Aufgabe ist nicht, sie auf dem heutigen Stand festzuhalten. Meine Aufgabe ist, aufmerksam zu bleiben, Orientierung zu geben und ihnen zunehmend Verantwortung zuzutrauen.

Vielleicht gilt für künstliche Intelligenz etwas Ähnliches – mit einem entscheidenden Unterschied: Technologie wird nicht von selbst erwachsen.

Wir müssen dafür sorgen.

Transparenzhinweis: Bei Recherche, Faktenprüfung und sprachlicher Ausarbeitung wurde ChatGPT von OpenAI unterstützend eingesetzt.