Stell dir vor, du möchtest ein vertrauliches Vertragsdokument, eine eingescannte Rechnung oder einen langen internen Bericht von einer KI auswerten lassen, ohne die Dateien an einen Cloud-Dienst zu schicken. Genau dafür ist Alpie Seed 9B gedacht, ein neues Modell des indischen Labors 169Pi AI: ein Reasoning-Modell, das klein genug ist, um auf Laptop, Workstation und sogar Smartphone zu laufen, ohne Internetverbindung.
Was 169Pi veröffentlicht hat
Alpie Seed 9B ist ein Open-Weight-Vision-Language-Modell mit 9 Milliarden Parametern. „Open-Weight“ heißt: Die trainierten Modelldateien selbst sind veröffentlicht, du kannst sie herunterladen und auf eigener Hardware ausführen. „Vision-Language“ bedeutet, dass das Modell neben Text auch Bilder und laut 169Pi auch Videos verarbeitet. Es steht unter der Apache-2.0-Lizenz, die private und kommerzielle Nutzung im Rahmen der Lizenzbedingungen erlaubt.
Von Grund auf neu entwickelt ist das Modell nicht. Laut Model Card auf Hugging Face basiert es auf der Architektur von Qwen3.5-9B und wurde in zwei Stufen nachtrainiert: zuerst überwachtes Fine-Tuning mit einem DoRA-Adapter, danach Reinforcement Learning mit GRPO (Group Relative Policy Optimization), einem Verfahren, das unter mehreren erzeugten Antworten die besseren belohnt. Das Modell kennt einen „Thinking“-Modus, in dem es ein Problem Schritt für Schritt durchdenkt, und einen schnelleren Modus ohne diesen Zwischenschritt.
Ausführen lässt es sich über Ollama (ollama run 169pi/alpie-seed, mit den Tags q2, q3 und vision), über GGUF-Dateien für Werkzeuge wie llama.cpp und LM Studio oder über Transformers, vLLM und SGLang auf stärkerer Hardware. Für die Bildarbeit wichtig: Bei Ollama nimmt nur der vision-Tag Bilder an, die anderen Tags sind als reine Textvarianten aufgeführt.
Wie belastbar sind die Benchmark-Werte?
169Pi nennt 84,32 Prozent bei GPQA Diamond (naturwissenschaftliche Fragen auf Graduiertenniveau), 82,54 Prozent bei MMLU-Pro, 72,99 Prozent bei LiveCodeBench v6, 61,20 Prozent bei SWE-Bench Verified (echte Software-Fehlerbehebungen, gemessen mit einem Agenten-Gerüst) und 90,30 Prozent bei OCRBench, einem Test für das Lesen von Dokumenten und Text. Zum Vergleich führt die Model Card das Basismodell Qwen3.5-9B bei den ersten vier mit 81,7, 82,5, 65,6 und 60,0.
Es handelt sich um Angaben des Entwicklers mit eingeschaltetem erweitertem Denken. Die Model Card sagt selbst, dass die Werte anderer Modelle aus deren Model Cards und Berichten stammen und nicht im selben Testaufbau nachgemessen wurden. Modellvergleiche sind also nur ein Anhaltspunkt. Der SWE-Bench-Wert hängt zudem vom eingesetzten Agenten-Gerüst ab.
Klären wir zuerst die Aufgabe, denn die Zugewinne sind nicht gleichmäßig verteilt. Bei Text-Reasoning und Programmierung liegt Seed in der Tabelle von 169Pi klar über seiner Qwen-Basis. Bei mehreren Bildtests nicht: MMMU-Pro (68,70 gegenüber 70,1), MathVision (76,76 gegenüber 78,9) und MMStar (78,87 gegenüber 79,7) fallen leicht niedriger aus. Wer vor allem Mathematik aus Bildern lösen will, gewinnt durch das Nachtraining also nicht erkennbar; wer logisches Denken, Code oder Dokumentenlesen braucht, findet in den gemeldeten Zahlen eher Rückenwind. 169Pi nennt auch eigene Schwächen: 76 Prozent bei Handschrifterkennung, 66 Prozent bei handschriftlichen Matheausdrücken und 13,24 Prozent bei Humanity’s Last Exam.
Läuft es wirklich auf Laptop und Smartphone?
Die Forschungsseite von 169Pi listet Offline-Tests mit quantisierten Varianten von etwa 5,2 bis 5,6 GB. Quantisierung speichert die Gewichte mit weniger Bits; das Modell wird kleiner, verliert dafür etwas Genauigkeit. 169Pi bietet Varianten mit 2, 3, 4 und 16 Bit an.
Gemeldet werden Erzeugungsgeschwindigkeiten von rund 110,66 Token pro Sekunde auf einer NVIDIA-RTX-PRO-4500-Workstation-GPU, etwa 14,1 auf einem Mac M2 mit 16 GB, 9,59 auf einem iPhone 17 Pro, 5,90 auf einem Samsung Galaxy Z Flip8 und 1,95 auf einem Windows-Rechner, der nur die CPU nutzt. Ein Token ist ein kleines Textstück, oft ein Wortteil. Der Spitzenspeicher lag in diesen Tests bei etwa 5,5 GB auf dem Mac und 7 GB auf den Smartphones. Mindestanforderungen nennt 169Pi nicht, und eine Dateigröße ist nicht automatisch der Speicherbedarf jeder Installation.
Praktisch heißt das: Rund 14 Token pro Sekunde auf dem Mac lassen sich beim Mitlesen gut verfolgen, die Smartphone-Werte passen eher zu kurzen Fragen als zu langen Berichten. Der CPU-Wert ist die ehrliche Warnung: Ohne GPU oder Apple Silicon wird ein Thinking-Modell, das vor der Antwort lange Gedankengänge schreibt, zäh.
Was bedeutet das Kontextfenster von 262K?
Das Kontextfenster gibt an, wie viel Text das Modell auf einmal berücksichtigen kann. Alpie Seed 9B unterstützt nativ 262.144 Token, im Prinzip genug für sehr lange Dokumente. Die eigenen Messungen von 169Pi reichten aber nur bis 32.000 Token, und die Forschungsseite warnt davor, die Ergebnisse darüber hinaus hochzurechnen. Auch der Speicher wächst mit dem Kontext: In den BF16-Tests stieg der GPU-Spitzenspeicher von etwa 17,9 GB bei 1.000 Token auf etwa 26,3 GB bei 32.000 Token.
Ich lese das so: Planen solltest du mit dem getesteten Bereich, nicht mit dem Maximalwert aus der Überschrift. Wer einen ganzen Bericht auf einem 16-GB-Laptop auswerten will, teilt ihn besser in Abschnitte und prüft die Antworten; das volle 262K-Fenster ist etwas, das du auf deiner eigenen Hardware testen solltest, bevor du dich darauf verlässt.
Was lokale Nutzung ändert und wo sie endet
Ein lokal laufendes Modell verarbeitet deine Eingaben und Dateien auf deinem Gerät statt auf dem Server eines Anbieters. 169Pi beschreibt das so, dass Daten in der eigenen Umgebung einer Organisation bleiben können. Das ist eine Möglichkeit, die der Aufbau schafft, keine formale Zusage: Apps, Plug-ins und Speicherorte rund um das Modell entscheiden weiterhin, was dein Gerät verlässt.
Weitere Fragen bleiben offen. 169Pi hat die Zusammensetzung der Trainingsdaten nicht veröffentlicht, und die Gerätewerte sollen nicht auf jeder Hardware identisch ausfallen. Für Teams mit sensiblen Dokumenten lohnt sich ein sorgfältiger Test gerade deshalb, weil die Gewichte offen und die Lizenz großzügig sind; der sinnvolle Maßstab sind deine eigenen Dokumente, deine eigene Hardware und deine eigenen Aufgaben, verglichen mit dem Modell, das du heute nutzt.
