Die verborgene Herausforderung der KI entwirren: Technische Schulden – Ein Interview mit Tony Lee
Technische Schulden beziehen sich auf das Konzept in der Softwareentwicklung, bei dem kurzfristige Abkürzungen, einfache oder schnelle Lösungen oder suboptimale Entwicklungspraktiken dazu führen können, dass langfristig zusätzlicher Aufwand, Komplikationen und Kosten entstehen. Diese metaphorisch als „Schuld“ bezeichnete Last häuft sich an, wenn ein Projekt eine schnelle Auslieferung gegenüber fehlerfreiem Code priorisiert.
Laut einer aktuellen Umfrage von CompTIA unter Hunderten IT-Fachleuten stellen technische Schulden für 74 % der Organisationen eine Herausforderung dar. Bemerkenswert ist, dass 42 % dieser Unternehmen sie als erhebliches Hindernis betrachten.
Hyperscience-CTO Tony Lee erklärt, dass technische Schulden nicht nur ein Nebenprodukt sind, sondern eine ausschlaggebende Kraft, die die Zukunft von KI-Innovationen maßgeblich beeinflussen kann. Sie zu ignorieren ist vergleichbar damit, auf Sand zu bauen – unsicher und nicht nachhaltig.
Welche Gedanken hat Tony noch zu technischen Schulden und deren Auswirkungen auf künstliche Intelligenz? In einem aktuellen Interview gab er Ratschläge, wie man technische Schulden managt und sicherstellt, dass KI-Lösungen langfristig skalierbar und wartbar bleiben.
1. Im Kontext der rasanten Einführung von KI: Was sind „technische Schulden“ und warum stellen sie für Unternehmen, die sich auf KI einlassen, eine große Herausforderung dar?
In der Softwareentwicklung bezieht sich der Begriff technische Schulden allgemein auf die sich anhäufende Schuld, die entsteht, wenn Software altert – praktisch von dem Moment an, in dem sie geschrieben wird. Dies resultiert daraus, dass zukünftige Anforderungen nicht vorhergesehen oder bewusst kurzfristige Entscheidungen getroffen werden, um schneller liefern zu können.
Obwohl technische Schulden nicht grundsätzlich negativ sind, da veröffentlichter Code oft mehr Wert hat als perfekter Code, der nie das Licht der Welt erblickt, erfordert ihr Umgang großes Augenmerk. Werden sie vernachlässigt, können sie die künftige Entwicklung verlangsamen und zu unübersichtlichem Code führen, was wiederum Ausfälle oder Fehler zur Folge haben kann, die sich negativ auf die Kunden auswirken.
Im KI-Bereich zeigt sich eine wesentliche Ausprägung technischer Schulden im sogenannten Modelldrift. Dieses Phänomen tritt auf, wenn sich das aktuelle Umfeld erheblich von dem unterscheidet, in dem das KI-Modell ursprünglich trainiert wurde.
Es gibt verschiedene Arten von Modelldrift; ein aktuelles und einfaches Beispiel ist der Einfluss der COVID-19-Pandemie auf globale Verkehrsströme. Modelle, die vor der Pandemie zur Verkehrsprognose entwickelt wurden, lieferten während der Lockdowns völlig ungenaue Vorhersagen. Andere Formen der Modelldrift sind viel subtiler und führen zu einer schleichenden Verschlechterung der Ergebnisse im Laufe der Zeit, sodass die Genauigkeit des Modells allmählich sinkt, ohne dass dies den Nutzern sofort auffällt.
Ein weiteres Element technischer Schulden in maschinellen Lernsystemen (ML) entsteht, wenn die Integration kontinuierlicher Qualitätsüberwachung und die Möglichkeit zur Nachschulung übersehen werden. Es ist verlockend, nach der Erstinbetriebnahme eines ML-Systems Genauigkeitstests durchzuführen und diese zu feiern. Dieses Vorgehen birgt jedoch Risiken, wenn das System anschließend ohne weitere Überwachung arbeitet – dann kann sich die Leistung aufgrund mangelnder Beobachtungs- und Wartungsmechanismen schleichend und unbemerkt verschlechtern.
Angesichts des explosionsartigen Interesses und der Investitionen in generative KI besteht das Risiko, dass einige Unternehmen übereilt teure Lösungen einführen, ohne sie gründlich zu prüfen – was zu unvorhergesehenem Modelldrift führen kann.
2. Umgekehrt: Wie kann KI dabei unterstützen, bestehende technische Schulden zu identifizieren oder zu bewältigen?
Generative KI-Modelle können technische Schulden in der Software bekämpfen, indem sie überwachen und kennzeichnen, wo Code aktualisiert werden muss – und diese Updates sogar eigenständig durchführen. Obwohl menschliche Überwachung weiterhin unverzichtbar bleibt, wird der Einsatz von generativer KI den Zeitaufwand zur Bewältigung technischer Schulden verringern, indem sie einfache, aber essenzielle Aufgaben wie das Datenmanagement übernimmt.
3. Wie bewerten und managen Sie technische Schulden in Ihren KI-Projekten?
Wir haben Qualitätskontrolle für maschinelles Lernen (ML QA) und Nachschulungsfunktionen direkt in unsere Plattform integriert, um technische Schulden im Zusammenhang mit KI effektiv zu verwalten. Es ist wichtig, Transparenz hinsichtlich der Systemgenauigkeit und Automatisierungseffizienz im Zeitverlauf zu gewährleisten.
Dieser Ansatz befähigt mein Team, kontinuierlich ML-QA durchzuführen und das Modell bei Bedarf innerhalb der Plattform neu zu trainieren.
Implementieren Sie kontinuierliche Überwachungs- und Qualitätssicherungsprozesse, um technische Schulden frühzeitig zu erkennen und proaktiv zu minimieren.
Für die ML-QA entnehmen wir Stichproben aus den Modellausgaben und erstellen QA-Aufgaben, die es Nutzern ermöglichen, die Ergebnisse über einen Konsensmechanismus zu validieren. Werden Fehler erkannt, fließen diese Erkenntnisse zurück in den Trainingsdatensatz und verbessern so die Genauigkeit und Zuverlässigkeit des Modells.
4. Wie können Organisationen die Dringlichkeit von Go-to-Market-Strategien mit den potenziellen Risiken technischer Schulden in KI-Lösungen in Einklang bringen?
Organisationen sollten neue KI-Innovationen in ihren Lösungen selbstbewusst integrieren und dabei eine Balance zwischen einem zeitnahen Go-to-Market-Ansatz und effektivem Risikomanagement finden. Durch die Einbindung von Datenpflege und regelmäßiger Überwachung während des gesamten Produktlebenszyklus wird das Risiko der Anhäufung technischer Schulden und des Modelldrift deutlich verringert. Investitionen in KI sollten, auch wenn sie mitunter risikobehaftet sind, als Teil moderner Technologieumgebungen angenommen werden und können zu Innovation und Produktivitätssteigerungen führen. Solche Investitionen sollten jedoch mit Bedacht und verantwortungsvoll getätigt werden, um die besten Ergebnisse zu erzielen.
5. Wie stellen Sie sicher, dass Ihre KI-Lösungen langfristig skalierbar und wartbar bleiben – auch im Hinblick auf technische Schulden?
Damit eine Lösung skalierbar und wartbar bleibt, ist die kontinuierliche Wartung durch das Team erforderlich. Um eine kostspielige Überholung zu vermeiden, sollten Organisationen einen Prozess mit regelmäßiger Pflege der Trainingsdaten aufsetzen, um die Modellgenauigkeit zu überwachen. Menschliche Kontrolle sollte ein entscheidender Bestandteil jeder KI- und Geschäftsstrategie bleiben, um Modelldrift und somit zusätzliche technische Schulden zu verhindern.
6. Wie berücksichtigen Sie die Kosten zur Bewältigung technischer Schulden bei der Budgetplanung für KI-Projekte?
Der Schlüssel besteht darin, zunächst die spezifischen Anforderungen und Einschränkungen Ihres Anwendungsfalls sowie die potenziellen Auswirkungen von ML-Technikschulden genau zu verstehen.
- Bei Anwendungen wie der ML-basierten Transkription von gedrucktem Text kann es sein, dass das Risiko von Modelldrift relativ gering ist. In solchen Fällen können gelegentliche manuelle Qualitätskontrollen ohne häufige ML-Qualitätssicherung (QA) oder Nachtraining ausreichend sein.
- Beim Einsatz von ML-Modellen zur Entscheidungsfindung in kritischen Bereichen, wie zum Beispiel der Auswertung von Röntgenbildern für medizinische Behandlungen, ist ein strikter ML-QA-Prozess mit menschlichen Qualitätsprüfungen und erforderlichem Nachtraining unerlässlich.
Ich empfehle, mit den Anforderungen des jeweiligen Anwendungsfalls zu beginnen, die Rahmenbedingungen klar zu definieren und dann die Softwarelösung auszuwählen, die diesen Anforderungen gerecht wird. So lässt sich ein ausgewogenes Verhältnis von Effizienz, Genauigkeit und Sicherheit gewährleisten.
7. Wie unterscheiden sich technische Schulden in der KI von denen in der traditionellen Softwareentwicklung – und wie passen Sie sich an diese Unterschiede an?
Wie bereits zuvor erläutert, äußern sich technische Schulden in KI-Systemen vor allem als Modelldrift. Diese entsteht, wenn die Trainingsdaten, aus denen das Modell lernt, verzerrte oder ungenaue Informationen enthalten und so unerwünschte Ergebnisse hervorrufen.
Im Gegensatz zu traditionellen technischen Schulden, die sich vor allem auf Systemgeschwindigkeit und Zuverlässigkeit auswirken, kann Modelldrift gravierendere Folgen haben – insbesondere dann, wenn starke Verzerrungen in den Trainingsdaten unbeachtet bleiben. Das erfordert von Organisationen eine andere Herangehensweise als bei klassischen technischen Schulden: Hier gilt es, strengere Beachtung aktueller Regularien und eine sorgfältige Überprüfung der Datenqualität einzuhalten.
Strategien zur Bekämpfung von Modelldrift erfordern eine Mentalität, die mit der Herangehensweise an klassische technische Schulden vergleichbar ist.
Eine pragmatische Maßnahme besteht darin, etwa 20 % der wöchentlichen Arbeitszeit des Teams für die Datenhygiene einzuplanen, um das Risiko von Modelldrift erheblich zu senken.
Indem Datenpflege priorisiert und hierfür gezielt Zeit eingeräumt wird, lässt sich die Wahrscheinlichkeit fehlerhafter Ausgaben von KI-Modellen deutlich reduzieren.
8. Wie wird sich das Verhältnis zwischen KI-Einführung und technischen Schulden Ihrer Meinung nach in der Zukunft entwickeln?
Die jüngsten Entwicklungen im Bereich generativer KI-Lösungen bilden lediglich den Anfang unseres Umgangs mit dieser Technologie. Da ein rasantes Fortschreiten abzusehen ist, kann die Technologiebranche davon ausgehen, dass künftig bessere Datensätze zum Training von Modellen zur Verfügung stehen werden.
Mit wachsender Komplexität der Systeme und einer zunehmenden Datenmenge für das Modelltraining wird auch das Risiko technischer Schulden sinken, da die Maschinen präzisere und skalierbare Ergebnisse liefern können.
Darüber hinaus ist es wahrscheinlich, dass mit der fortlaufenden Verbesserung der Programmierfähigkeiten generativer KI-Tools und -Plattformen ein Wandel hin zu einer stärkeren Selbstregulierung durch Maschinen – unter einem gewissen Maß an menschlicher Aufsicht – erfolgt. Menschliches Eingreifen bleibt weiterhin erforderlich, um Trainingsdaten und Code zu überprüfen. Dennoch wird eine verstärkte Verlagerung der Routinenkontrollen auf maschinelle Autonomie zum neuen Standard werden.
Diese Entwicklung wird zu Kostensenkungen führen, da Organisationen zunehmend auf fortschrittliche KI setzen, um technische Schulden zu minimieren. Voraussetzung dafür ist das Vorhandensein einer vielfältigen Datenbasis, die in weiten Teilen noch nicht breit verfügbar ist.
Kurzfristige Gewinne und langfristige Kosten in Balance halten
Wie finanzielle Verbindlichkeiten verursachen auch technische Schulden mit der Zeit „Zinsen“ – werden sie nicht adressiert, führt das zu erhöhtem Wartungsaufwand, geringerer Codequalität und komplexeren Updates oder Reparaturen in der Zukunft. Das Konzept betont den Ausgleich zwischen kurzfristigen Vorteilen und langfristigen Kosten bei Entwicklung und Wartung von Software.
Mehr erfahren?
Wenn Sie mehr über technische Schulden und die Zukunft der künstlichen Intelligenz erfahren möchten, abonnieren Sie unseren Newsletter für die neuesten Tech-Einblicke.
Wir unterstützen Sie dabei, cleverer zu skalieren und stärker zu führen – mit Guides, KI-Ressourcen und Strategien führender Expert:innen!
