“KI entfaltet ihr volles Potenzial erst dann, wenn sie ganze Prozesse intelligent steuert.”

Sieben von zehn Unternehmen und Organisationen setzen KI-Systeme aktuell nur dort ein, wo sie unkritische Prozesse unterstützen und keine personenbezogenen Daten verarbeitet werden. Überrascht Sie dieses Ergebnis? 

Thomas Feld: Das ist ein logischer Einstieg, aber auch eine verpasste Chance. Unternehmen setzen beim Einsatz von KI in erster Linie auf Risikominimierung und die Vermeidung von Reputationsschäden. Damit orientieren sie sich am Grundprinzip des EU AI Acts: dem risikobasierten Ansatz. Auch mögliche Verstöße gegen die DSGVO und die damit verbundenen Bußgelder verstärken diese Vorsicht.  

Eine verpasste Chance ist es, da gerade in unternehmenskritischen Prozessen ein besonders hohes Nutzenpotenzial von KI liegt. Entscheidend ist daher, die Potenziale von KI zu nutzen und zugleich Risiken systematisch zu managen. Das umfasst die Identifikation relevanter Risiken, die Bewertung von Eintrittswahrscheinlichkeit und Auswirkungen sowie die Umsetzung geeigneter Maßnahmen zur Risikominderung. 

Es ist vermutlich auch wenig überraschend, dass in den KRITIS-Branchen dieser Anteil am höchsten ist, oder? 

Thomas Feld: Ob und wie KI genutzt wird, hängt stark von der jeweiligen Zielgruppe im Unternehmen ab. In technischen Abteilungen sind KI-Verfahren längst etabliert. Banken setzen seit den 1980er-Jahren KI im Aktienhandel ein, Spam-Filter und Virenscanner arbeiten seit den 1990er-Jahren mit KI-gestützter Mustererkennung. In der Produktion werden spätestens seit „Industrie 4.0“ KI-basierte Verfahren zur Bild- und Objekterkennung eingesetzt. Auch Übertragungsnetzbetreiber nutzen KI, um die Netzsicherheit in Stromnetzen zu gewährleisten. 

Neu ist jedoch, dass KI zunehmend alle Unternehmensprozesse erreicht – und damit auch die IT-Organisationen. Unternehmensprozesse wurden zwar häufig auch schon früh digitalisiert, die IT-Organisation steht nun aber vor der umfassenden Aufgabe, die Anwendungslandschaften zu modernisieren und KI in die Anwendung zu bringen. 

Ein Beispiel dafür ist das ITZBund: Mit KIPITZ, einer internen Plattform für den sicheren, einheitlichen und skalierbaren Einsatz von KI-Lösungen schafft das ITZBund eine zentrale Infrastruktur, über die Anwendungen für verschiedene Fachverfahren bereitgestellt und genutzt werden können. Jetzt wird sogar in Zusammenarbeit mit Materna KI in Softwareentwicklungsprozessen eingesetzt. 

Wenn Sie auf Ihre Kunden schauen, was ist mit KI, speziell generativer KI, heute schon alles möglich? 

Thomas Feld: Ausgangspunkt ist stets die Herausforderung, dem Fachkräftemangel zu begegnen, die Organisation handlungsfähiger zu machen und einen echten Mehrwert für die Kunden zu schaffen. 

Ein Ansatz sind KI-Assistenten und -Agenten, die Mitarbeitenden direkt zur Verfügung stehen. Ein Beispiel ist der GovTech AI Assistent von unserem Partner Aleph Alpha. GovTech steht für Government Technology – also digitale Technologien, die speziell für den öffentlichen Sektor entwickelt werden, um Verwaltung und staatliche Leistungen moderner, effizienter und bürgernäher zu machen. Der GovTech AI Assistent erfüllt höchste Anforderungen an eine souveräne GenKI-Lösung, sowohl technologisch als auch im Hinblick auf Datensouveränität, und kann über den GovTech Campus einfach beschafft und als Service genutzt werden. So setzt etwa der Landschaftsverband Westfalen-Lippe bereits auf diese Lösung. 

Der nächste Schritt sind Agenten und Plattformen, die mit internem Wissen und internen Systemen verknüpft werden. Damit lassen sich auch komplexere Aufgaben bearbeiten, zum Beispiel die Bearbeitung von Gerichtsakten für die Justiz in Baden-Württemberg oder die Unterstützung bei der Personalgewinnung für eine Sicherheitsbehörde. 

Darüber hinaus können KI-gestützte Agenten auch die Interaktion mit Bürgerinnen und Bürgern verbessern. Sie unterstützen bei Informationen, Anträgen und Dienstleistungen und gehen dabei über die reine Datenerfassung hinaus. So können Anträge bereits automatisiert vorgeprüft werden, was zu schnelleren Entscheidungen führt und die Servicequalität deutlich erhöht. 

Unternehmen erzielen derzeit tatsächlich vor allem Effizienzsteigerungen, die durch die KI-gestützte Automatisierung von Routineaufgaben entstehen. Was muss passieren, damit KI noch stärker in andere Geschäftsprozesse und die Geschäftsmodelle integriert werden kann? 

Thomas Feld: Die Antwort steckt eigentlich schon in der Frage. Unternehmen müssen ihre KI-Strategie überdenken. Wenn sie nur eine Effizienzsteigerung anstreben, wird es bei der Automatisierung von Routineaufgaben mit KI bleiben. Soll KI die Produktivität des Unternehmens oder auch einer Behörde steigern, muss sie gesamte Prozesse automatisieren und abbilden und auch die komplexen Aufgaben lösen können.  

Um hier ein Beispiel zu geben: Soll eine KI dem Bürger nur helfen, ein Antragsformular auszufüllen, was effizient ist, oder soll sie den Antrag für ihn erledigen, was effektiv ist? Im zweiten Fall sind wir bei einem KI-Agenten, denn er muss verstehen, was der Kunde will, er muss planen, was zu tun ist, und die einzelnen Schritte auch ausführen und das Ergebnis bewerten. Generative KI wird also in ein Agentensystem eingebettet. 

Hier sind wir bei Agentic AI, worüber aktuell sehr viel gesprochen wird. Unternehmen, die KI-Agenten bereits implementiert haben, befinden sich noch in der Erprobungsphase. Was sind das für Themen, wo KI-Agenten eingesetzt werden, und aktuell schon gute Ergebnisse liefern? 

Thomas Feld: Als oft bemühtes Paradebeispiel für Agentic AI gilt die Reservierung eines Restauranttisches, ein Szenario, das in den USA offenbar besonders relevant ist. 

Tatsächlich lassen sich mit Agentic AI jedoch bereits heute weit komplexere Aufgaben automatisieren. Dazu zählen mehrstufige Rechercheprozesse über verschiedene Informationsquellen hinweg, die Grundlage für fundierte Entscheidungen, die Erstellung von Berichten oder sogar autonomes Handeln bilden. 

Ein First-Level-Support-Agent kann beispielsweise nicht nur Störungsmeldungen aufnehmen, sondern auch die Fehler- und Ursachenanalyse durchführen und im Idealfall die Behebung selbst übernehmen. Ähnliches gilt für den intelligenten Posteingang: Hier werden Nachrichten nicht nur zusammengefasst, sondern auch direkt an die richtige Stelle in der Verwaltung weitergeleitet. 

Damit knüpft Agentic AI an einen bewährten Erfolgsfaktor an: Prozessoptimierung. Neu ist, dass sich nun auch Prozesse automatisieren lassen, in denen komplexe Sachverhalte recherchiert, geprüft oder analysiert werden müssen – und das mit vergleichsweise geringem Implementierungsaufwand. 

Auf welche Herausforderungen treffen Sie bei der Planung des Einsatzes von KI-Agenten und autonomen KI-Systemen bei Ihren Kunden? 

Thomas Feld: Zunächst gilt es zu verstehen, wo der Kunde im Hinblick auf KI steht und wohin er sich entwickeln möchte. Viele Unternehmen und Behörden beobachten und experimentieren derzeit noch mit KI.  

Die zentrale Herausforderung besteht nun darin, diesen Prozess aktiv zu gestalten. KI muss operativ eingesetzt werden, um tatsächliche Potenziale zu erschließen, ohne dabei Unternehmens-, Daten- und Technologiesouveränität zu gefährden. Dafür gilt es, geeignete Anwendungsfälle mit hohem Business Value zu identifizieren, ihre technologische Umsetzbarkeit zu prüfen, sie zu priorisieren und durch erste Proof of Concepts zu evaluieren. 

Häufig fehlt es noch an Daten- und KI-Kompetenz, um Anwendungen und Prozesse erfolgreich umzusetzen. Besonders im Bereich Agentic AI besteht daher hoher Beratungsbedarf. Gleichzeitig bietet gerade Agentic AI einen wichtigen Lösungsansatz: Durch die Orchestrierung einzelner KI-Agenten in einem Agentensystem werden Entscheidungsprozesse transparent und steuerbar. Damit schafft Agentic AI die notwendige Nachvollziehbarkeit für einen souveränen und vertrauenswürdigen Einsatz von KI. 

Tatsächlich befürchten Organisationen durch den KI-Einsatz Cyber-Attacken. Ist das eine begründete Sorge? 

Thomas Feld: Der Einsatz von KI in der Cyberkriminalität ist ein wachsendes Problem. Experten gehen davon aus, dass Angriffe künftig noch autonomer und damit schwerer abzuwehren sein werden. Dies erfordert eine kontinuierliche Weiterentwicklung der Sicherheitsstrategien, bei der ebenfalls spezialisierte KI-Systeme zur Abwehr eingesetzt werden. 

Gleichzeitig werden auch KI-Systeme selbst zum Angriffsziel. Ein Beispiel sind manipulierte Eingaben (Prompts), mit denen Angreifer versuchen, antrainierte Sicherheitsmechanismen zu umgehen und sensible Daten zu entlocken. Hier stehen jedoch bereits erprobte Abwehrmechanismen zur Verfügung: Spezielle Prompt-Filter werden vor- und nachgeschaltet, um manipulative Eingaben zu blockieren. Ergänzend kommen KI-basierte Sicherheitssysteme zum Einsatz, die das normale Verhalten von KI-Modellen überwachen und Abweichungen erkennen. 

Ähnlich große Sorgen bestehen gegenüber Halluzinationen, was vor allem dann problematisch werden kann, wenn kritische Geschäftsentscheidungen dadurch beeinflusst werden. Wie lassen sich diese Haftungs- und Security-Fragen lösen?  

Thomas Feld: Ein wirksames Risikomanagement ist beim Einsatz von KI unverzichtbar. Je höher die Risiken eines Anwendungsfalls, desto strenger die Anforderungen an Transparenz, Robustheit und Genauigkeit, die eine KI-Lösung erfüllen muss. Entsprechend sind auch die Sorgfaltspflichten bei der Entwicklung solcher Anwendungen hoch. 

Mit dem EU AI Act liegt ein erster Orientierungsrahmen vor, der vorgibt, in welche Risikoklasse ein KI-System einzuordnen ist und welche Maßnahmen erforderlich sind, um die Sicherheit und Verlässlichkeit des Systems zu gewährleisten. 

Wenn KI elementarer Bestandteil der Unternehmenssteuerung wird, braucht es dann eine systematische Transformation der gesamten Organisation? 

Thomas Feld: KI verändert Arbeitsabläufe grundlegend. Es geht darum, Prozesse neu zu denken, zu automatisieren und die Produktivität zu steigern. Dies erfordert eine systematische Transformation auf allen Ebenen, von der Unternehmensstrategie über die Prozesse bis hin zu jedem einzelnen Arbeitsplatz und der IT-Infrastruktur. 

Wir setzen hier auch heute schon in Transformationsprojekten KI-Lösungen ein, um Anforderungen zu erheben, Umsetzungskonzepte zu entwickeln und die für die technische Umsetzung notwendigen Anwendungen zum Beispiel auch durch den Einsatz von KI in der Softwareentwicklung umzusetzen.