Eine private KI-Plattform
für Ihr Unternehmen
Hardware, Modelle, Assistenten, Anbindungen und Betrieb aus einer Hand. Alles läuft in Ihrem Perimeter, damit Verträge, Code und Kundendaten nicht zu externen KI-Diensten gelangen.
Angebot anfragenIhre Daten bleiben bei Ihnen
Dokumente und Anfragen werden in Ihrem Perimeter verarbeitet, unter Berücksichtigung von DSGVO und EU AI Act.
Keine Abrechnung pro Anfrage
Eigene oder dedizierte GPUs: planbare Kosten, egal wie intensiv Ihre Teams sie nutzen.
Unabhängig von Anbietern
Offene Modelle auf Ihrer Infrastruktur: keine Abhängigkeit von Preisen, Bedingungen oder Verfügbarkeit eines Anbieters.
Woraus die Plattform besteht
Wählen Sie eine Schicht, um zu sehen, was enthalten ist.
Assistenten
Womit Ihre Mitarbeitenden täglich arbeiten.
- Suche und Antworten in internen Dokumenten, mit Quelle und Seite
- Ein Assistent für jede Abteilung
- Agenten, die Routineabläufe durchgängig automatisieren
Was Ihre Mitarbeitenden sehen
Welche Kündigungsfrist gilt im Rahmenvertrag mit der Müller GmbH?
Drei Monate zum Quartalsende, in Schriftform (§ 14.2). Ohne Kündigung verlängert sich der Vertrag um 12 Monate (§ 14.3).
- Rahmenvertrag Müller 2024.pdf, S. 9
- Nachtrag 02.pdf, S. 2
Anschauungsbeispiel: Firmen, Dokumente und Antworten sind erfunden.
Wohin eine Anfrage geht
Externer KI-Dienst
Die Anfrage und angehängte Dokumente verlassen Ihr Unternehmen und werden von einem Dritten verarbeitet.
Ihre Plattform
Die Anfrage wird in Ihrem Perimeter beantwortet. Nichts wird nach außen gesendet.
Wo sie läuft
In allen drei installieren und betreiben wir dieselbe Plattform.
| Ihre Hardware | Gemietet in der EU | Beides | |
|---|---|---|---|
| Server gehören | Ihnen | Dem Rechenzentrumsbetreiber; sie sind für Sie reserviert | Teils Ihnen, teils gemietet |
| Standort | Ihren Räumen | Einem EU-Rechenzentrum | An beiden Orten |
| Kosten | Anschaffung, dann Betriebskosten | Miete, kein Kauf | Eine Mischung aus beidem |
| Abrechnung pro Anfrage | Keine | Keine | Keine |
| Passt, wenn | Datenregeln streng sind und die Last gleichmäßig ist | Sie ohne Hardwarekauf starten wollen oder sich die Last ändern kann | Ein Teil der Last bei Ihnen bleibt und ein Teil auf gemieteter Kapazität läuft |
Wie viel Hardware Sie brauchen
| Modell | Llama 3.3 70B |
|---|---|
| Gleichzeitige Anfragen in der Spitze | 10 |
| Benötigter GPU-Speicher | ≈ 92 GB |
| GPUs, grobe Schätzung | 2 × H100 80 GB oder gleichwertig |
| Server (je bis zu 8 GPUs) | 1 |
Eine Schätzung zur Orientierung, ausgehend von GPUs der H100-Klasse und typischer Nutzung. Genau dimensionieren wir in der Analyse, mit Ihren Daten und Ihren Spitzen.
Wie ein Projekt abläuft
Analyse und Architektur
Anwendungsfälle, Volumen, Sicherheits- und DSGVO-Anforderungen. Wir wählen die Modelle und dimensionieren die GPUs.
Sie erhaltenArchitektur und Dimensionierung
Bereitstellung
GPU-Cluster, Inferenz offener Modelle, eine API für Ihre Systeme, rollenbasierter Zugriff und Single Sign-on.
Sie erhaltenEinen laufenden Cluster mit API und Login
Ihr Wissen
Suche und Antworten auf Basis interner Dokumente, Assistenten für Fachabteilungen, Anbindung an CRM, E-Mail und Wissensdatenbanken.
Sie erhaltenAssistenten, angebunden an Ihre Dokumente
Feinabstimmung und Agenten
Modelle, angepasst an Ihre Terminologie und Prozesse; Routineabläufe durchgängig automatisiert.
Sie erhaltenModelle, die Ihre Sprache sprechen
Betrieb
Monitoring, Modell-Updates, Protokollierung, Qualitäts- und Kostenkontrolle.
Sie erhaltenEine Plattform, die weiterläuft
Angebot anfragen
Beschreiben Sie Ihre Anwendungsfälle, wie viele Personen die Plattform nutzen werden und mit welchen Daten sie arbeitet.