„Ohne Einsatz Generativer KI riskieren Unternehmen und Behörden einen Rückstand“

Welche Technologie steht dahinter?  

Matthias Szymansky: Für den öffentlichen Sektor arbeiten wir vorrangig mit Luminous von Aleph Alpha. Dabei handelt es sich um ein in Deutschland entwickeltes eigenständiges Large Language Modell. Luminous ist von Anfang an auch für die Zielgruppe Öffentliche Verwaltung designt worden, das heißt es kann auch im eigenen Rechenzentrum einer Behörde oder ihres IT-Dienstleisters laufen. Also dort, wo die sensiblen Daten der Bürger liegen und vor externen Zugriffen geschützt sind. Sicherheit und Datenschutz sind damit ebenso gewährleistet wie bei herkömmlichen IT-Anwendungen. Aktuell setzen wir mit Aleph Alpha und Luminous bereits den intelligenten Posteingang, semantische Zusammenfassungen und die Vermerkerstellung um.  

Wie unterstützt Materna die Industrie mit Generativer KI? 

Carsten Paasch: Wir erhalten viele Anfragen, bei denen es darum geht, möglichst schnell Programmcode zu erstellen, zum Beispiel in der Automobilindustrie. Aber längst nicht nur dort gilt: Jedes neue Produkt braucht neue Software. Darüber hinaus müssen Programme im Laufe des Produktlebenszyklus weiterentwickelt werden. Die dafür erforderlichen Kapazitäten sind aufgrund des Fachkräftemangels so knapp, dass sie die Wachstumschancen unserer Wirtschaft gefährden. Microsofts Azure Open AI eignet sich hervorragend, um hier zu unterstützen. Wir nutzen dieses Werkzeug, um automatisch Programmcode zu erstellen. Dabei geht es nicht nur um Beschleunigung, sondern auch darum, Entwickler von Routinetätigkeiten zu entlasten, produktiver zu machen und ihnen mehr Zeit für ihre eigentlich kreativen, wertschöpfenden Aufgaben zu geben. Das ist unter anderem ein entscheidender Wettbewerbsfaktor für uns als Materna. Und damit unsere Kunden bestmöglich von den Möglichkeiten der GenAI profitieren, bieten wir unter anderem Workshops für Prompt Engineering.  

Wo sehen Sie das größte Nutzenpotenzial beim Einsatz von GenAI? 

Carsten Paasch:  Der größte Nutzen liegt in der Steigerung der Effizienz. Das zeigt sich für mich zuallererst in der Softwareentwicklung. Aber das ist nur einer von zahllosen Anwendungsbereichen. Einige mögliche Einsatzszenarien haben wir hier schon beschrieben.  

Matthias Szymansky: Das Nutzenpotenzial hängt von einer Vielzahl unterschiedlicher Faktoren ab: Welche Datenbasis steht zur Verfügung? Welche rechtlichen Rahmenbedingungen gelten? Wie schutzbedürftig sind die eingesetzten Daten? Welche Anforderungen an die Qualität der Ergebnisse gibt es? Aus den Antworten auf diese und weitere Fragen ergibt sich das Nutzenpotenzial in einem konkreten Umfeld. Von der Softwareentwicklung über die Unterstützung von Bürgern bei der Nutzung von Verwaltungsdienstleistungen bis zur automatischen Generierung von Bildunterschriften reicht das Spektrum derzeit – und wir stehen erst am Anfang der Entwicklung.  

Was hält Organisationen davon ab, Generative KI einzusetzen?  

Matthias Szymansky: Ein Hindernis ist vor allem das fehlende Wissen über die Möglichkeiten der Technologie. Es sind immer die grundsätzlichen Fragen nach Datenschutz, Datensicherheit und Erklärbarkeit der Ergebnisse. Es stimmt ja: Einige Large Language Modelle benötigen die Kapazitäten der Public Cloud, um gut zu funktionieren. Die kommen nach derzeitiger Rechtslage beispielsweise für den Einsatz in Behörden nicht infrage. Aber wenn wir Behörden zeigen, was mit Luminous auch in ihren Rechenzentren möglich ist, lösen sich ihre Bedenken ganz schnell auf.  

Wie hilft Materna, Hindernisse zu überwinden? 

Matthias Szymansky: Mir ist es wichtig, die Belegschaft mitzunehmen. Es gilt, nicht nur die Vorteile für die Organisation zu betonen, sondern auch den Nutzen für die einzelnen Mitarbeitenden.  

Carsten Paasch: Die Mitarbeitenden befürchten oft, KI mache ihre Arbeit überflüssig. Tatsächlich gibt es Aufgaben, die an die KI abgegeben werden. Und das ist auch gut so. Denn es handelt sich um Tätigkeiten, die im Alltag meist als unproduktive Zeitfresser empfunden werden. Hinzu kommt: Die meisten Organisationen haben schon heute in vielen Bereichen mit fehlendem Fachpersonal zu kämpfen, obwohl die Folgen des demografischen Wandels erst langsam sichtbar werden. Künftig werden die personellen Ressourcen immer knapper, die Arbeitsverdichtung steigt. Das muss man den Belegschaften erklären. Die gute Nachricht: Mit den Möglichkeiten unseres KI-Baukastens sind wir dazu in der Lage, den konkreten Nutzen der Lösungen schnell erfahrbar zu machen. Genauso wichtig ist es, Betriebs- und Personalräte frühzeitig zu informieren und einzubinden. Überhaupt ist Transparenz ein zentraler Faktor, wenn es darum geht, Bedenken gegen KI ernst zu nehmen und aufzulösen.  

Wo sehen Sie selbst die größten Risiken?  

Matthias Szymansky: Erklärbarkeit und Nachvollziehbarkeit von Entscheidungen sind ein großes Thema. Hier liefern die neueren Lösungen, die Materna einsetzt, bereits alle Voraussetzungen, indem sie Quellen zitieren und ihre Aussagen nachprüfbar machen. Aber zur Wahrheit gehört auch, dass die Entscheidungshoheit und damit die Verantwortung immer bei den Menschen bleibt. Falsche Erwartungen an die Generative KI sind deshalb meines Erachtens eine große Gefahr.  

Carsten Paasch: Das sehe ich genauso: Die Erwartungshaltung muss stimmen. GenAI ist keine Zaubermaschine – wer Wunder erwartet, wird enttäuscht. Eine falsche Verwendung sollte jedoch nicht dazu führen, sich vorschnell von GenAI abzuwenden. Ohne Einsatz Generativer KI riskieren Unternehmen und Behörden einen Rückstand. 

Was empfehlen Sie Verantwortlichen für den Umgang mit KI? 

Matthias Szymansky: Ganz klar: Jetzt einsteigen! Hinter den enormen Fortschritten, die heutige Generative KI so populär gemacht haben, steht eine recht spektakuläre technologische Entwicklung. Diese schreitet weiter fort. Wir können davon ausgehen, dass wir schon bald weitere „Quantensprünge“ erleben werden. Aber das Warten darauf generiert keinen Mehrwert. Der entsteht, wenn wir die Technologie einsetzen, zum Beispiel in Form von Assistenten, die uns in den unterschiedlichsten Wissens- und Lebensbereichen bereits heute unterstützen.  

Vielen Dank für das Gespräch.