Wie Loquela lokale Spracheingabe in Echtzeit und in zwei Durchläufen entwickelt
Vom reinen Offline-Batch-Diktat zu lokalen Teilergebnissen in Echtzeit und einem optionalen zweiten Durchlauf für höhere Endgenauigkeit.
Loquelas lokale Spracheingabe bevorzugt seit jeher eine einfache Datenschutzgrenze: Modell herunterladen, nur beim gestarteten Diktat aufnehmen, auf dem Telefon erkennen und den Text in das aktive Android-Feld einsetzen.
Bis v0.15 folgten alle lokalen Modelle einem Zeitablauf. Loquela sammelte die Äußerung, wartete auf Stop und übergab die gesamte Aufnahme an einen Offline-Erkenner. Diese Batch-Erkennung funktioniert mit allen derzeit gelisteten lokalen Modellen, kann aber keinen echten lokalen Text während des Sprechens zeigen.
Version 0.15 ändert diese Grundlage. Loquela kann Batch-, Streaming- oder Two-pass-Pläne hinter derselben Tastatur ausführen, ohne vorzugeben, ein Modell könne alle drei Aufgaben übernehmen.
Version 0.15.1 geht bewusst öffentlicher weiter: Betatester können das erste echte lokale Live-Modell installieren und selbst zwischen drei Verhaltensweisen wählen. Die App nennt sie Batch, Sequential und Both. „Streaming“ und „two-pass“ bleiben technische Begriffe; die Einstellungen beschreiben das Nutzererlebnis.
Drei Modi, drei klare Versprechen
Batch wartet auf Stop und fordert dann das Transkript von einem Offline-Modell an. Es bleibt Standard und unterstützt weiterhin Loquelas etablierten Modellkatalog.
Sequential führt Nemotron während des Audioeingangs aus. Wörter erscheinen nacheinander als ersetzbarer Kompositionstext. Die aktuelle Hypothese kann sich verbessern, ohne doppelte Fragmente im Editor zu hinterlassen.
Both führt zuerst Sequential aus und übergibt anschließend die gesamte Äußerung einem separaten Batch-Modell. Das zweite Ergebnis ist nur maßgeblich, solange vorläufiger Text sicher ersetzt werden kann. Bewegt der Nutzer den Cursor, bearbeitet Text, sendet die Nachricht oder verlässt das Feld, darf Loquela keine verspätete Korrektur über seine Arbeit schreiben.
Das sind Nutzerentscheidungen, keine stillen Ausweichmodi. Fehlt Nemotron, bleiben Sequential und Both sichtbar ausgewählt und erklären die nötige Installation. Die App verlinkt Voice Models, statt unbemerkt zu Batch zurückzukehren.
Batch bleibt erhalten
Batch-Erkennung kann die gesamte Äußerung vor der Antwort prüfen. Das hilft bei mehrdeutigen frühen Ausdrücken oder wenn späterer Satzkontext nützt.
Auch das Rechenmodell ist nachsichtiger. Braucht ein Telefon nach Stop mehrere Sekunden für eine lange Äußerung, wirkt es langsam; der Erkenner sammelt aber keinen ständig wachsenden Live-Rückstau während weiteren Sprechens.
Loquela behält deshalb den bestehenden Batch-Pfad und alle kompatiblen installierten Modelle. Die Architektur ergänzt Strategien, statt einen bewährten Pfad durch einen einzelnen modischen Erkenner zu ersetzen.
Was Streaming ändert
Ein natives Streaming-Modell bekommt während des Sprechens kleine Blöcke. Es hält Erkennungszustand zwischen Blöcken im Cache und kann seine Hypothese mit neuem Audio revidieren.
Unter Android gehören solche Teilwörter in Kompositionstext. Dieser ist vorläufig und kann ersetzt werden, ohne doppelte Fragmente festzuschreiben. Loquela nutzt diesen Vertrag bereits für optionale Remote-Echtzeittranskription. Version 0.15 bringt ihn in den isolierten lokalen Erkennungsprozess.
Das Mikrofon bleibt auf der Tastaturseite der Prozessgrenze. Eine langlebige Audioverbindung liefert geordnete Samples; Rückrufe liefern geänderte Teilergebnisse, Endpunktereignisse, das finale Transkript oder eine inhaltsfreie Fehlerkategorie. Das vermeidet einen IPC-Aufruf je Audioframe und bewahrt die Absturzisolierung lokaler Modelle.
Streaming ist nicht automatisch weniger kontextbezogen als Batch: Gesagtes bleibt im Cache. Der Unterschied ist, dass künftige Wörter vor Anzeige der aktuellen Vermutung unbekannt sind. Deshalb müssen Teilergebnisse sichtbar und technisch vorläufig bleiben.
Was Two-pass ergänzt
Two-pass verbindet beide Zeitabläufe:
- Ein Streaming-Paket erzeugt sofort lokalen Text während des Sprechens.
- Loquela hält das Audio für die aktive Sitzung vor.
- Nach Stop erhält ein separates Batch-Paket die gesamte Äußerung.
- Das Endergebnis ersetzt oder vervollständigt den noch sicher veränderbaren Kompositionstext.
Der zweite Durchlauf ist kein allgemeines KI-Umschreiben. Die Aufgabe bleibt Transkription: Gesagtes mit einem Modell rekonstruieren, das die gesamte Äußerung berücksichtigen kann. Loquela fügt keinen Prosagenerator ein, der Ton, Absicht oder Urheberschaft still verändert.
Two-pass ist auch keine Eigenschaft eines der Modelle. Streaming- und Batch-Pakete bleiben jeweils ihr Typ. Der Nutzermodus bildet ein kompatibles Paar und macht die Kosten sichtbar.
Die Trennung zählt, weil zwei Durchläufe teuer sein können. Zwei Archive brauchen mehr Speicherplatz. Beide Erkenner geladen zu halten beschleunigt möglicherweise die Schlusskorrektur, erhöht aber den Spitzenspeicher. Das Endmodell erst nach Stop zu laden senkt die Überlappung, erhöht jedoch die Kaltstartlatenz. Ein günstiges Batch-Modell passt vielleicht gut, verbessert aber kein viel größeres Streaming-Modell; ein stärkerer Finalisierer kann die teuerste Kombination ergeben.
Die Funktion verdient erst dann stärkere Empfehlung, wenn die Korrekturgewinne bei echten Äußerungen und Telefonen sinnvoll sind.
Die Wahl des zweiten Modells bringt einen nützlichen Zielkonflikt. Ein kleiner Finalisierer lässt sich leichter geladen halten, verbessert aber womöglich ein Streaming-Modell mit 600 Millionen Parametern nicht ausreichend für einen zweiten Durchlauf. Ein größeres Modell wie Whisper Turbo korrigiert eher sinnvoll, ist mit Nemotrons Archiv und Laufzeitspeicher aber teuer. Betamessungen, nicht die bloße Architektur, entscheiden über eine Empfehlung.
Warum Nemotron der erste ernsthafte Streaming-Kandidat ist
Loquela bewertet NVIDIAs Nemotron 3.5 ASR Streaming 0.6B über sherpa-onnx' Android-kompatiblen Online-Erkenner.
Die NVIDIA-Gewichte wurden im NeMo-Ökosystem trainiert; Loquela enthält aber weder NVIDIAs Python-Laufzeit noch benötigt es CUDA. Sherpa-onnx exportiert nach ONNX und nutzt dieselbe native Android-Laufzeitfamilie wie Loquelas bestehende lokale Modelle.
Nemotron ist ein cachebewusstes FastConformer-RNNT-Modell mit 600 Millionen Parametern. NVIDIA veröffentlicht fünf Latenzkonfigurationen von 80 ms bis 1120 ms. Loquela beginnt mit 560 ms als plausiblem Mittelweg zwischen frühen Teilergebnissen und Qualität, nicht aufgrund vermeintlicher Telefoneignung durch einen Desktop-Benchmark.
Die Modellkarte unterscheidet 19 transkriptionsbereite Sprachvarianten, 13 mit breiter Abdeckung und 8 anpassungsbereite Varianten, die zusätzliches Feintraining brauchen. Loquela bietet nur die 32 bereiten oder breit abgedeckten Varianten an, solange keine weiteren Belege vorliegen. Englisch ist Standard, da veröffentlichte 560-ms-Ergebnisse einen messbaren englischen Genauigkeitsverlust durch automatische Spracherkennung zeigen. Auto bleibt für bewusst gewählte mehrsprachige Erkennung verfügbar.
Das Telefon entscheidet, nicht das Architekturdiagramm
Ein lokaler Streaming-Erkenner muss schneller als eingehendes Audio arbeiten. Echtzeitfaktor 1.0 bedeutet nur Gleichstand, ohne Spielraum für Wärme, beschäftigte Vordergrund-Apps oder normale Scheduling-Spitzen. Loquelas Empfehlungsziel ist dauerhaft höchstens 0.5 mit Belegen, dass der Audiorückstau über wiederholte, thermisch warme Sitzungen nicht wächst.
Die Prüfung trennt drei Zeiten:
- Kaltvorbereitung misst das Laden von Modell und nativer Laufzeit.
- Warmes Sprechen-bis-erster-Teiltext misst die Zeit bis nützlicher Text nach Betriebsbereitschaft erscheint.
- Stop-bis-Endergebnis misst die Wartezeit nach Ende der Äußerung.
Tempo ist nur eine Bedingung. Echte Einstiegs-, Mittelklasse- und Spitzentelefone müssen auch stabilen nativen Speicher über viele Sitzungen, Erholung nach Prozessende, sicheres Verhalten in üblichen und ungewöhnlichen Editoren sowie keine Textverluste oder Dopplungen zeigen.
Akkuverbrauch wird absolut bewertet, nicht nur relativ zu Batch. Nützlich sind Energie pro typischer Äußerung und hochgerechneter Tagesverbrauch bei angegebenem Diktiervolumen. Thermische Drosselung ist ein eigener Korrektheitsaspekt, weil sie Echtzeit- und Rückstaugarantien direkt verletzen kann.
Verfehlt 560 ms eine Geräteklasse knapp, kann Loquela vor deren Aufgabe 1120 ms messen. Mehr Vorausschau und weniger Erkenneraufrufe könnten helfen; ob der Durchsatz die zusätzliche Teilergebnislatenz rechtfertigt, muss gemessen werden.
Der Gerätefehler, der v0.15.1 veränderte
Der erste Play-installierte v0.15.0-Test auf einem OnePlus fand einen Fehler, den normale JVM-Tests und ein erfolgreicher Build nicht zeigten. Alle lokalen Modelle meldeten unvollständig übertragenes Audio. Android-Logs zeigten, dass die zuverlässige Dateideskriptor-Pipe ihr Gegenende als beendet meldete, bevor der isolierte Erkenner die erwartete Samplezahl erhielt.
Loquela schwächte die Integritätsprüfung nicht ab. Version 0.15.1 nutzt eine gewöhnliche Android-Pipe und behält separate Soll-Samplezahl sowie explizites Endsignal. Ein Instrumentierungstest schreibt echte Float-Samples durch dasselbe Protokoll, liest bis sauberem EOF und prüft die genaue Sequenz auf echter Hardware.
Die Unterscheidung zählt: Kompilieren prüft API-Kompatibilität, ein Byte-Array-Test die Rahmenlogik; keines beweist Android-Dateideskriptorverhalten über die echte Prozessgrenze. Die Beta fand einen Plattformintegrationsfehler, und der Regressionstest prüft nun genau diese Schicht.
Was v0.15.1 bereitstellt
Nemotrons 560-ms-Paket ist zur Beta-Installation gelistet. Sequential und Both sind in Spracheinstellungen immer sichtbar, mit Einrichtungshinweis bei fehlendem Nemotron. Eine gelöschte oder beschädigte Auswahl bleibt ausgewählt, zeigt aber Reparaturbedarf; Loquela tauscht den Modus nicht still aus.
Moonshine v2 Tiny und Base kommen als wesentlich kleinere englische Batch-Modelle in den Betakatalog. Tiny sinkt von etwa 108 MB auf 30 MB, Base von etwa 251 MB auf 111 MB. Alte Pakete bleiben für vorhandene Installationen nutzbar, sind aber für Neuinstallationen zurückgezogen und verweisen auf Ersatz.
Moonshine v2 beansprucht andere Grundlagen als Nemotron. Sein zusammengeführtes .ort-Decoderlayout braucht ein ausdrückliches Laufzeitprofil, Erkennung, Validierung, Wiederherstellung und Offline-Konfiguration. Nemotron verwendet bekannte Encoder-, Decoder-, Joiner- und Tokenrollen, doch diese Dateien müssen mit der neuen Online-Erkennerstrategie geöffnet werden. Die Dateiform allein darf nie die Ausführung festlegen.
Was Betatester ausprobieren sollten
Nützliche Sequential-Tests sind mehr als saubere Demosätze: kurze Befehle, lange Diktate, Namen, Fachbegriffe, Pausen, wiederholte warme Sitzungen und Editoren, die Kompositionstext stark verändern. Achtet auf wachsende Verzögerung, doppelte oder fehlende Wörter, unsicheres Ersetzen nach Bearbeitung und Verhalten beim App-Wechsel.
Bei Both sollte das Endergebnis mit der sichtbaren Sequential-Hypothese verglichen werden. Ein zweiter Durchlauf, der nur Satzzeichen ändert oder unnötig umstellt, verdient seinen Zusatzaufwand nicht. Entscheidend ist die zuverlässige Beseitigung sonst manuell zu korrigierender Fehler.
Parakeet-Nutzer mit verschwindendem Schlusswort oder Schlusssatz können den neuen Decoder-Ende-Betatest nutzen. Er fügt nach der Aufnahme kontrolliert Stille an und gibt dem Transducer mehr Schlusskontext, ohne früheren Audioübertragungsfehler und Decoderverhalten gleichzusetzen. Standard bleibt null, bis echte Vergleiche einen besseren Wert zeigen.
Die Feedback-Verknüpfung in Settings folgt demselben Betagedanken: Wünsche, Fehler und Beobachtungen gehören einen Tipp von den allgemeinen Einstellungen entfernt, nicht in ein produktspezifisches Untermenü.
Datenschutz bleibt ausdrücklich und modusbezogen
Lokales Batch, Streaming und Two-pass halten Audio auf dem Gerät. Sitzungsaudio dient dem aktiven Erkennungsplan, nicht einer dauerhaften Aufnahme. Two-pass bewahrt es nur für die angeforderte Schlussdekodierung auf.
Optionale Remote-Transkription bleibt ein eigener Netzwerkmodus mit eigener Konto- und Datenschutzgrenze. Diagnosespeicherung hält begrenzte inhaltsfreie Fehlerdaten vor, keinen diktierten Text oder Audio.
Ziel ist nicht bloß früherer Text. Es ist private Live-Diktierfähigkeit ohne schlechtere Endgenauigkeit, versteckte Rechenkosten oder Kontrollverlust der schreibenden Person.
Die aktuellen Produktgrenzen stehen in den v0.15.1-Versionshinweisen, unter Sprachmodelle und Datenschutz.