Das sind die Chancen und Herausforderungen von GenAI in Unternehmen

"Schnelle Reaktionszeiten sind entscheidend" 

Was sind die Herausforderungen beim Einsatz von Large Language Models (LLMs)?

Pranay Jain: Eine der grössten Herausforderungen beim Einsatz von LLMs ist die sogenannte "Halluzination", bei der Modelle ungenaue oder unzuverlässige Antworten generieren. Dies geschieht oft aufgrund von minderwertigen oder veralteten Trainingsdaten. Zusätzlich haben LLMs Schwierigkeiten bei der genauen Interpretation von Diagrammen und Datenanalysen, was zu weiteren Ungenauigkeiten führt.

Wo liegen die Unterschiede beim Training eines Voicebots im Vergleich zu einem Chatbot?

Ravina Mutha: Beim Training eines Voicebots gegenüber einem Chatbot gibt es wesentliche Unterschiede. Voicebot-Antworten müssen kurz und prägnant sein, da lange Antworten schwer zu hören sind. Zudem sollte ein Voicebot Informationen oder Aktionen, wie das Versenden von Dokumenten, per SMS oder E-Mail weiterleiten können. Schnelle Reaktionszeiten sind entscheidend, daher dürfen die verwendeten Modelle nicht zu schwerfällig sein, um eine menschliche Gesprächsqualität zu gewährleisten.

Was bedeutet GenAI für die Arbeitsweise künftiger Generationen?

Jain: GenAI wird unser Arbeitsleben ähnlich revolutionieren wie das Internet. Bereits jetzt hilft es Menschen, Sprachbarrieren zu überwinden und neue Fähigkeiten zu erlernen. Künftig wird GenAI die Produktivität erheblich steigern und alltägliche Aufgaben smarter und effizienter gestalten. Es wird in alle Lebensbereiche integriert sein, von der Unterstützung im beruflichen Umfeld bis hin zur persönlichen Lebensführung.

Mutha: Langfristig könnte GenAI so weit fortschreiten, dass es direkt mit unserem Denken verschmilzt und als integraler Bestandteil unseres kognitiven Prozesses fungiert. Diese ­Vision liegt zwar noch in der Zukunft, aber die Grundlagen dafür werden heute gelegt. Es wird es uns ermöglichen, schneller und präziser zu arbeiten, komplexe Probleme effizienter zu lösen und kreative Prozesse zu unterstützen.

"Man muss sein Geschäft verstehen, um einschätzen zu können, was die KI zurückgibt"

Welche Herausforderungen stellen KI-Projekte an die IT-Infrastruktur?

Chris Tschumper: Die wesentlichen Herausforderungen sehe ich in den drei Bereichen Datensicherheit, Performance und Skalierbarkeit. Wie können der Zugriff auf und die Verwendung von schützenswerten Daten, wie Firmen-IP, Patente oder personenbezogene Daten, kon­trolliert und nachvollzogen werden? Hier muss man meiner Meinung nach seine Hausaufgaben besonders sorgfältig machen. Herausforderungen sind die Verfügbarkeit und die Leistungsfähigkeit von KI-In­frastruktur­komponenten und schliesslich die Skalierung: Das unvorhersehbare Datenwachstum erschwert die Planbarkeit von Infrastrukturen und erfordert daher skalierbare Lösungen.

Wie wirken sich diese neuen Anforderungen auf die Wahl zwischen Cloud-, On-Premise- und Edge-­Systemen aus?

On-Premise und On-Premise-Edge ist die Wahl für KI-Lösungen mit schützenswerten Daten. Wichtig dabei ist, dass die Edge-Systeme vollständig in das zentrale Management und in Operations eingebunden sind. Die Cloud wählt man für sofortige und hoch-dynamische Verfügbarkeit, Testsysteme (PoC) sowie Temporärlösungen.

Welche Möglichkeiten bieten Standard- und ­GenAI für die Steuerung der IT-Infrastruktur?

Ich sehe solche Lösungen im Operations- und Security-Bereich für die Anomalie-Detection, also die Identifizierung von Beobachtungen, Ereignissen oder Datenpunkten, die vom Üblichen, Standard oder Erwarteten abweichen. Beim Load- und Performance-Management hilft KI beim Forecasting, für Prognose- oder Vorhersagemodelle. Und nicht zuletzt ist generative KI eine probate Helferin für die Effizienz- und Produktivitätssteigerung bei der Code-Generierung und in der Automatisierung, vor allem bei wiederkehrenden Aufgaben. Es ist wichtig, sich nicht von einer KI abhängig zu machen und ihr auf keinen Fall blind zu vertrauen. Man muss sein Geschäft verstehen, um einschätzen zu können, was die KI zurückgibt.