Generative KI Modelle sind immer noch in aller Munde und mittlerweile hat vermutlich jeder schon einmal versucht sich mit ChatGPT zu unterhalten. Um die KI Modelle auch programmatisch anzufragen bieten einige Anbieter auch (meist kommerzielle) HTTP-Schnittstellen an, mit denen wir unsere Anwendungen mit den Fähigkeiten der KI Modelle ausstatten können. Das manuelle Erstellen von HTTP-Anfragen wird allerdings schnell anstrengend und fehleranfällig. Für etwas mehr Komfort gibt es mittlerweile auch für Java die ein oder andere Bibliothek, die uns den Zugriff erleichtert. Lokale Ausführungsumgebungen wie Ollama ermöglichen es uns außerdem diese Anfragen zu verarbeiten, ohne dass Informationen unseren Kontrollbereich verlassen.
Langchain4j ist bereits am längsten verfügbar und kann in Java-Projekten mit beliebigem Unterbau verwendet werden. Es gibt zudem spezifische Integrationen für Spring Boot und Quarkus für die Verwendung in dem jeweiligen Framework. Spring AI ist eine etwas neuere Entwicklung aus dem Spring Team und konkret auf die Verwendung im Spring Framework zugeschnitten. Zu guter Letzt bietet auch Microsoft eine Java-Variante seiner .NET-Bibliothek Semantic Kernel.
All diese Bibliotheken sind in sehr aktiver Entwicklung, es bleibt spannend zu beobachten ob sich hier ein Favorit durchsetzen wird. Wir werden uns in weiteren Blog-Posts einige Funktionalitäten und Umsetzungen noch genauer anschauen.
