Partnerschaft mit VSHN rund um Managed LiteLLM
Du baust KI-Anwendungen, die verlässlichen Zugriff auf LLM über mehrere Anbieter brauchen. LiteLLM gibt deinen Anwendungen Failover zwischen Anbietern, Kostenoptimierung und eine einheitliche API. Den Proxy produktiv zu betreiben verlangt aber Betriebserfahrung. VSHN übernimmt den Betrieb des LiteLLM-Proxys, die Infrastruktur, das Monitoring und den Support rund um die Uhr, damit dein Entwicklungsteam bei den Funktionen bleibt.
Wie die Zusammenarbeit läuft
Lead-Partner-Modell. In jedem Projekt ist eine Seite die einzige Ansprechstelle für den Kunden. Wer führt, wird pro Mandat vereinbart und hängt vom Projekt ab. Der Lead Partner steuert das Projekt, stellt Rechnung und übernimmt den First-Level-Support.
Gemeinsame Lieferung. Du übernimmst Beratung, Integration und Projektleitung, VSHN den Infrastrukturbetrieb, Monitoring, Backups und SLA. Oder umgekehrt, je nach Projekt. Die Rollen werden pro Mandat vereinbart und nicht in eine starre Struktur gezwungen.
Flexible Verrechnung. Gemeinsam oder getrennt Rechnung stellen, vereinbart pro Projekt. Beide Modelle funktionieren: jede Seite verrechnet ihren Anteil direkt, oder eine Seite verrechnet das Ganze und verteilt weiter.
Geschützte Kundenbeziehungen. Kein Unterbieten. Dein Kunde bleibt dein Kunde. Bestehende Beziehungen werden auf beiden Seiten respektiert, vertraglich abgesichert für beide.
Aufgabenteilung bei LiteLLM
| Deine Rolle | Rolle von VSHN |
|---|---|
| Entwicklung der KI-Anwendung | Bereitstellung und Betrieb des LiteLLM-Proxys |
| Strategie für Failover und Routing | Verwaltung und Skalierung der Infrastruktur |
| Kostenoptimierung über die LLM-Anbieter | Monitoring, Alerting und Incident Response rund um die Uhr |
| API-Anbindung und Onboarding der Clients | Upgrades und Sicherheitspatches für LiteLLM |
| Projektleitung und Kundenbeziehung | SLA mit festgelegten Reaktionszeiten |
Partner, die LiteLLM liefern
Unser Partnernetz wächst. Die aktuellen Partner von VSHN sind auf servala.com/partners aufgeführt.
Partner werden
Interesse daran, ein betreutes LiteLLM gemeinsam zu liefern? Finden wir heraus, wie wir uns ergänzen.
Gespräch zur Partnerschaft buchen oder Partnerschaftsanfrage stellen.