Wir befreien KI-Foundation-Models für Zeitreihen von unnötigem Gating
Benutzer von Foundation-Models für Zeitreihenvorhersage kennen die Situation, dass das KI-Modell mit einer Benutzerregistrierung und kostenpflichtigen Schnittstelle beworben wird.
Beispiele sind Hyperscaler-Modelle wie Amazon Chronos-2, IBM Granite TTM und Google TimesFM 2.5 - oder die Modelle von Unternehmen, die sich weitgehend oder vollständig diesem Geschäftsmodell verschrieben haben.
Ob die Modelle nun offene Gewichte und eine permissive Lizenz haben (also theoretisch auch auf eigenen Systemen aufsetzbar), oder nicht - die Verkäufer-Story der Anbieter lautet oft so oder so ähnlich:
“Unser Modell ist superbequem nutzbar, weil bereits für Sie eingerichtet, in unserer Cloud, des Anbieters Ihres Vertrauens. Sie müssen sich nicht mit dem Aufbau einer eigenen Cloud herumschlagen, nicht mit Microservices, Python-Umgebungen, Service-APIs und so weiter und so fort.
Sie sparen damit die Kosten für 100 Senior-Entwickler, die Hardware für 12 Blade-Server und eine Einrichtungszeit von mindestens 7 mal 77 Tagen, und zahlen im Gegenzug nur eine winzige, verschwindend geringe monatliche Abogebühr plus Token-Kosten (66,6 Dollar pro Monat, es gelten die AGB und das Kleingedruckte); Ihre Daten schicken Sie irgendwohin in die USA, das ist aber wirklich nur eine aüßerst unbedeutende Formalie.”
Oder – sparen Sie wirklich so viel?
(obiges ist humoristisch übertrieben, aber eine echte Überschlagsrechnung folgt unten)
Der falsche Gegensatz zwischen “bequemen” Gated-Modellen und Technologie-Souveränität
Die Verkaufs-Story konstruiert einen falschen Gegensatz: nämlich zwischen einfacher Benutzung auf der einen Seite, und Datenschutz, Souveränität und Kontrolle auf der anderen.
Nutzern wird weisgemacht, diese beiden Dinge schlössen sich gegenseitig aus: dass Souveränität zwangsläufig bedeutet, eine Armee spezialisierter Entwickler einstellen zu müssen.
Dieser scheinbare Gegensatz ist einfach falsch.
Offene Foundation-Models derselben Anbieter sind in der Regel unnötig schwer einzurichten, mit unnötig großen Modellen oder unnötig komplizierter Installation, die selbst die erfahrensten Entwickler verwirrt.
Aber wie China uns mit DeepSeek bereits bei LLMs bewiesen hat:
Dieselbe Leistung lässt sich in der Regel mit kleineren und günstigeren Modellen erreichen.
Bei Forecasting-Foundation-Models ist die Verkaufsfalle sogar noch viel schlimmer: Viele Spitzenmodelle der letzten Generation laufen sogar problemlos in Ihrem Browser.
Quantisierte Versionen verkürzen die Lade- und Ausführungszeiten auch noch erheblich, oft auch ohne größere Leistungsverluste.
Modelle in Ihrem Browser – die Verkaufstaktik entlarvt
Laden Sie einfach eine Zeitreihe hoch und erhalten das Ergebnis mit Sekunden oder weniger Latenz - ohne Ihre Daten an einen Forecasting-Server zu schicken, und ohne bei irgendeiner seltsamen KI-Klitsche ein Benutzerkonto einrichten zu müssen.
Und vor allem, ohne irgendwem etwas bezahlen zu müssen – das läuft direkt auf Ihrem Rechner! Und nicht nur das, sondern auch noch in Ihrem Browser.
Null Senior-Entwickler, null Blade-Server, null Installationsaufwand, null Abogebühren - lediglich Sie und Ihr Browser.
Wie funktioniert das?
Unsere kleine Demonstration nutzt WebAssembly.
WebAssembly ist ein offizieller Webstandard, der es erlaubt, kompilierten, hochperformanten Code direkt im Browser auszuführen. Webanwendungen erhalten damit nahezu native Rechenleistung, ohne dass Nutzer eine Anwendung installieren müssen.
Die Anwendung lädt das Modell und die Inferenz-Laufzeitumgebung herunter, legt sie im Cache ab und führt Vorverarbeitung, Inferenz und Nachverarbeitung anschließend lokal auf dem Nutzergerät aus. Die hochgeladenen Zeitreihendaten und die resultierenden Prognosen verlassen Ihren Rechner nie.
(Unsere Anleitung zum Nachbauen bzw der Beweis, dass das wirklich gerade in Ihrem Browser lief)
Die wirtschaftliche Rechnung
Natürlich ist die Browser-App nur eine Spielerei.
Ein Foundation-Model direkt im Browser zu sehen, mag überraschend sein - aber das ist nicht der springende Punkt. Sondern, dass die Rechenleistung von Computern und die Effizienz der Modelle im Grunde eine universelle Verfügbarkeit bedeuten - und es somit keinen guten Grund mehr gibt, dafür jemand anderes Cloud zu benutzen.
Aber was bedeutet das für Ihre Bilanz?
Für einen Mittelständler mit nicht-digitalem Kerngeschäft – etwa einem Hersteller, Einzelhändler oder Energieversorger – liegt eine plausible Größenordnung für Prognosen, Anomalieerkennungen usw bei ca 100.000 oder weniger Modellaufrufen pro Tag.
Vielleicht 5.000 Messwerte von Produkten, Materialien oder Maschinen, verteilt auf 20 Standorte.
Wir haben gerade gesehen, wie eine einzelne Prognose im Bruchteil einer Sekunde berechnet wird; das Herunterladen und Cachen des Modells dauert, je nach Internetverbindung, vielleicht eine Sekunde zusätzlich, passiert aber nur einmalig.
Ein Tag hat etwa 100.000 Sekunden (genauer: 86.400). Alle Ihre Prognosen können also an einem einzigen Tag berechnet werden.
Und wohlgemerkt: Wir sprechen hier über den Browser eines x-beliebigen Schrott-Laptops, nicht über spezialisierte KI-Hardware, oder eine self-hosted Cloud.
Natürlich müssen Sie Ihre Daten erst aufbereiten – ERP-Extraktion, Datenbereinigung, ETL, Integrations-Gateways und so weiter. Aber das muss ohnehin passieren: unabhängig davon, ob Sie einen Schrott-Laptop oder einen Gated Model-Anbieter verwenden.
Das bedeutet insbesondere: Wenn Sie zu einem der oben beschriebenen mittelständischen Unternehmen gehören, brauchen Sie keine Gated Forecasting-Modelle. Das gilt so auch für größere Unternehmen, bei denen keine extrem großen Datenmengen anfallen.
Schlimmer noch: Wenn Sie Ihre Daten an einen externen Anbieter schicken, ist das nicht nur eine Frage von Datenschutz oder Souveränität. Sie bauen damit neue, wartungsbedürftige Insellösungen in Ihr System ein, welches (wie bei Deutschen Mittelständlern im allgemeinen) vermutlich ohnehin schon viel zu viele hat.
Die Frage, die Sie sich also stellen sollten, lautet daher:
“Warum bezahlen wir jemanden für ein Modell, das unsere bestehende Infrastruktur bereits problemlos ausführen kann – und führen dabei nebenher noch weitere Insellösungen ein?”
Was folgt?
Aus diesem Experiment und der Bierdeckelrechnung ergeben sich mehrere Erkenntnisse:
- Das lokale Setup von State-of-the-Art Forecasting-Foundation-Models ist mindestens so einfach wie das Öffnen dieser Webseite.
- Mit geringem Aufwand lassen sich State-of-the-Art Forecasting-Foundation-Models selbst auf gewöhnlicher Consumer-Hardware effizient betreiben,
- und sie lassen sich leicht als Teil einer automatischen Installation ausrollen, passend für nahezu alle lokalen Hardware-Architekturen – einschließlich Ihres Laptops - so wie gerade geschehen!
- Benutzbarkeit und Souveränität sind also nicht nur falsche Gegensätze, sondern lassen sich problemlos gleichzeitig garantieren!
Ein Blick auf die Geschäftsmodelle der Anbieter von Gated-Forecasting-Foundation-Models zeigt also: Der KI-ser ist nackt.
Caveat Emptor
Aber warum wird uns der nackte KI-ser verkauft?
Es gibt zwei plausible Gründe. Entweder ist das Abo überpreist.
Oder, es geht um Ihre Daten - wie im Sprichwort: “wenn Sie dafür nicht bezahlen, dann sind Sie nicht der Kunde - Sie sind das Produkt”. Denn:
Forecasting-Daten enthalten oft geschäftlich sensible Informationen, etwa Verkäufe, Nachfrage, Energieverbrauch, Produktionsmengen oder Maschinentelemetrie.
Das sind genau solche Daten, die Technologiefirmen in der Vergangenheit als extrem wertvoll betrachtet, und auch teilweise entgegen Interessen der Besitzer verwertet haben.
Ein Abo für ein Gated Foundation Model für KI-Forecasting, beim heutigen Stand der Technik (und unter den Annahmen der Überschlagsrechnung), ist eine völlig unnötige Kapitulation vor einer Dystopie, in der die Kontrolle über Ihre eigene geschäftskritische Dateninfrastruktur gar nicht mehr bei Ihnen liegt.
Und vermutlich ist es insgesamt auch teurer (siehe oben).
Befreien Sie stattdessen Ihre Daten!
Ihre Daten müssen nicht zu den KI-Clouds in Übersee zwangspilgern; die KI kann stattdessen direkt dort eingesetzt werden, wo Ihre Daten bereits liegen, unter Ihrer Kontrolle.
sktime bietet bereits Python-native Schnittstellen für maximalen Nutzerkomfort, um eine große Auswahl an Foundation-Models - unter Ihrer eigenen Kontrolle - in Produktion zu bringen. Sehen Sie sich unsere wachsende Auswahl an einfach nutzbaren Python-APIs an
Nehmen Sie auch gerne Kontakt auf, und wir helfen Ihnen dabei, IHRE eigene KI in IHRER eigenen Datenbank aufzubauen – und folgen Sie uns gerne: wir entwicklen zur Zeit Tools, die Ihnen das bald noch einfacher machen werden!
Wo andere SaaS anbieten (Software als alternativlose Sklaverei), bieten wir Befreiung.
Wo andere nur Freiheitsgefühle im Bezahlmodell anbieten, bieten wir Ihnen echte Technologiesouveränität. Made in the EU. Und für Ihre Monatsbilanz.