Beschreibung

Ihr eigener KI-Server im eigenen Betrieb (On-Premise) oder im Rechenzentrum garantiert die volle Souveränität und KI-Governance sensibler Daten. Unternehmen, Behörden und Hochschulen verhindern so den Abfluss interner Informationen an öffentliche KI-Anbieter.

Ollama ist eine Open-Source-Software Plattform für maschinelles Lernen und Künstliche Intelligenz. Sie wurde entwickelt, um Entwicklern, Forschern und Unternehmen den Umgang mit KI-Modellen zu erleichtern.

Die Plattform ermöglicht die lokale Nutzung frei verfügbarer KI-Modelle (LLM) und unterstützt die Integration mit weiteren lokalen Werkzeugen, die über eine Kommandozeilenschnittstelle oder eine Programmierschnittstelle (API) angebunden werden.

Das integrierte RAG-System ist die effizienteste Methode, um Modellen Spezialwissen (z.B. Ihre eigenen Dokumente, PDFs, Handbücher) beizubringen. Das Modell liest die Dokumente bei einer Frage im Hintergrund und antwortet basierend darauf.