Förderung der KI-Einführung: Ein Interview mit Pete Lilley über Open-Source-Vektor-Datenbanken

1. Wie sehen Sie die Integration von Vektor-Datenbankfunktionen in beliebte Open-Source-Datenbanken wie PostgreSQL und Apache Cassandra in Bezug auf die Übernahme von KI-Technologien in Unternehmensumgebungen?

Die Möglichkeit, Vektorsuche zu nutzen, indem man auf vertraute Open-Source-Datenbanken wie PostgreSQL (mit der pgvector-Erweiterung), das neue Apache Cassandra 5.0 und OpenSearch (als drittes Beispiel) zurückgreift, bedeutet einen einfacheren Weg, um KI-Initiativen im Unternehmen zu starten und zu skalieren. Jede dieser vollständig quelloffenen Technologien – die meisten Unternehmen haben diese Open-Source-Technologien bereits als Teil ihres Stacks – hat sich so weiterentwickelt, dass sie nun nicht nur die unternehmensgerechten Vektorsuchfunktionen bietet, die für die Genauigkeit von KI entscheidend sind, sondern auch die zugrunde liegende Dateninfrastruktur, um den langfristigen Erfolg von KI-Projekten zu gewährleisten.

Technologieverantwortliche wissen, dass sie Vektor-Datenbanken benötigen, doch viele sind vorsichtig, wenn es darum geht, proprietäre Vektor-Datenbanken einzuführen und Expertise dafür aufzubauen, da diese kostspielig sind und zu einer Abhängigkeit führen können. Vollständig offene Alternativen sind wesentlich attraktiver, aufgrund der Vielzahl an Expertinnen und Experten und verfügbaren Managed Services sowie der unterstützenden Open-Source-Communities, die diese Projekte begleiten. Proprietäre Vektor-Datenbanken bedeuten hingegen Anfangskosten und den Verlust von Flexibilität. Mit Open-Source-Vektor-Datenbanken können Unternehmen sofort loslegen und KI-Projekte mit größerem Selbstvertrauen umsetzen.

2. Welche spezifischen Vorteile ergeben sich durch die Umsetzung von Retrieval Augmented Generation (RAG) mit quelloffenen Vektor-Datenbanken für unternehmensspezifische KI-Anwendungsfälle?

Ohne RAG-Architektur und Vektorsuche müssen unternehmensinterne LLMs auf herkömmliche Suchmaschinentechnologien zurückgreifen, um die Beziehungen zwischen Schlüsselwörtern bei der Interpretation von Abfragen zu verstehen. Das führt oft zu Ineffizienzen und mangelndem Kontextverständnis – oder sogar zu einem vollständigen Missverständnis des Abfragekontexts, was wiederum zu Halluzinationen der KI führen kann. Fehlt eine ausreichend starke Möglichkeit, die kontextuelle Absicht hinter einer Nutzeranfrage zu erfassen, drohen KI-Projekten mit LLMs schlechte Leistungen und eine geringe Ergebnisqualität… wenn nicht sogar völlig irreführende Resultate.

Vektorsuche bietet einen besseren Weg zur Erreichung von Kontextverständnis – besonders effektiv in Kombination mit dem RAG-Einsatz von Vektordatenspeichern. Vektor-Datenbanken speichern Embedding-Vektoren, die Schlüsselwörtern räumliche Daten in Form von numerischen Koordinatensätzen zuweisen. Je näher diese Zahlen beieinander liegen, desto ähnlicher sind sich die beiden Begriffe. Vektorsuche nutzt diese Embeddings, um Suchanfragen auf begrenzte Datenmengen zu konzentrieren, die für den Kontext der Anfrage am relevantesten sind. Dieser engere Fokus ermöglicht eine effizientere Nutzung großer Datenmengen. Das reduziert das Risiko von Halluzinationen und sorgt gleichzeitig für bessere Leistung.

3. Welche zentralen Herausforderungen können auf CTOs zukommen, wenn sie Vektor-Datenbankfunktionen in ihre bestehende Dateninfrastruktur einführen, und wie können sie ihre Teams am besten auf diesen Übergang vorbereiten?

CTOs sollten mit einer Lernkurve rechnen, die ihre Teams bewältigen müssen, bevor eine Vektor-Datenbank die gewünschten kostengünstigen Abläufe und Leistungen bietet. Eine vorausschauende, langfristige Planung ist unerlässlich, um sicherzustellen, dass die Teams die notwendigen Ressourcen und ausreichend Zeit erhalten, um die Datenbank korrekt zu implementieren und laufend zu optimieren.

Das Befolgen spezifischer Daten-Best-Practices hat zudem einen entscheidenden Einfluss auf den Erfolg von KI-Projekten. Dazu gehören die Nutzung qualitativ hochwertiger Daten, korrektes Chunking und Einbetten dieser Daten, sowie der Einsatz von Metadaten und hybriden Suchbegriffen (eine Kombination aus klassischer und Vektorsuche). KI-Projekte, die auf LLMs und Vektorsuche basieren, erfordern für den Schritt vom Demo-Stadium bis hin zur Produktivphase im Unternehmen Engagement und kontinuierlichen Einsatz. Es ist wichtig, erfahrenes Fachpersonal für Betrieb von Vektor-Datenbanken und Datenwissenschaft zu haben – oder externes Managed-Service-Know-how hinzuzuziehen –, um die Lernkurve abzuflachen und Projekte schneller zu sinnvollen Ergebnissen zu führen.

4. Wie sehen Sie die Rolle von Managed Services dabei, IT-Führungskräfte bei der Implementierung und Optimierung von Vektor-Datenbankfunktionen zu unterstützen, insbesondere bei begrenztem firmeninternen Know-how?

Managed Services können Unternehmen einen schnellen Weg bieten, ihre intelligente Dateninfrastruktur aufzubauen und von Anfang an alles richtig zu machen, selbst wenn keine internen Experten zur Verfügung stehen. Unternehmen, die beliebte Open-Source-Technologien wie PostgreSQL, Cassandra 5.0 oder OpenSearch nutzen, werden problemlos Managed Services finden, die bereit sind, bei der Implementierung und Optimierung ihrer KI-Projekte zu helfen und gleichzeitig einige der unvermeidlichen Stolpersteine zu reduzieren, die Teams bei der Orientierung erleben.

5. Mit Blick auf die Zukunft: Wie glauben Sie, wird sich die Landschaft KI-basierter Datentechnologien entwickeln und welche Schritte sollten CTOs bereits jetzt ergreifen, um ihre Unternehmen optimal auf zukünftige Entwicklungen auszurichten?

Eine steigende Nachfrage nach leistungsfähigeren, flexibleren und fähigeren KI-Datentechnologien ist für die Zukunft praktisch sicher. CTOs sollten sich auf Open-Source-Software konzentrieren, die bereits in Sachen unternehmensgerechter Zuverlässigkeit, Skalierbarkeit, Sicherheit, Effizienz und Beständigkeit in der Branche überzeugt hat, und prüfen, wie diese Optionen innerhalb einer intelligenten Dateninfrastruktur, die ihre KI-Projekte unterstützt, eingesetzt werden können. Letztendlich kann die Wahl der richtigen Data-Layer-Tools entscheidend sein, wenn es darum geht, die unternehmerische KI-Vision zur Realität werden zu lassen.

Wie geht es weiter?

Während KI-gesteuerte Technologien das Datenmanagement und die Analyse neu gestalten, bietet der Ausbau von Vektorsuchfunktionen in Open-Source-Datenbanken wie PostgreSQL und Apache Cassandra Unternehmen eine zugängliche, leistungsstarke Grundlage für KI-Innovationen. 

Der strategisch weitsichtige Einsatz dieser Technologien kann Organisationen ermöglichen, KI effektiv zu skalieren, gängige Implementierungsprobleme zu minimieren und die Ausrichtung an langfristigen KI-Zielen sicherzustellen. 

Indem CTOs Open-Source-Optionen und Managed Services priorisieren, die Vektordatenbank-Operationen unterstützen, können sie ihre Infrastruktur zukunftssicher machen und ihre Organisationen so positionieren, dass sie von der nächsten Welle der KI-Innovationen im Datenbereich profitieren.

Abonnieren Sie den Newsletter des CTO Clubs für weitere Open-Source-Einblicke.