Loquela
Araştırma

Loquela canlı ve iki geçişli yerel sesle yazmayı nasıl geliştiriyor?

Loquela'nın yalnızca toplu çevrimdışı dikteden canlı yerel kısmi metne ve nihai doğruluk için isteğe bağlı ikinci geçişe uzanan çalışması.

7 dk okumaAraştırma kontrol edildi 2026-08-13

Loquela'nın yerel sesle yazması başından beri basit bir gizlilik sınırını tercih etti: konuşma modelini indir, yalnızca kullanıcı dikteyi başlatınca kaydet, tanımayı telefonda yap ve metni etkin Android alanına ekle.

v0.15'e kadar bütün yerel modeller tek zamanlama düzenini izliyordu. Loquela konuşmayı topluyor, Stop'u bekliyor ve tüm kaydı çevrimdışı tanıyıcıya veriyordu. Bu toplu tanımadır. Şu anda listelenen tüm yerel modellerle çalışır ama kişi konuşurken gerçek yerel metin gösteremez.

Sürüm 0.15 bu temeli değiştiriyor. Loquela aynı klavye deneyiminde Batch, Streaming veya Two-pass planları çalıştırabiliyor; tek modelin üç işi de yaptığını varsaymıyor.

Sürüm 0.15.1, bilerek daha herkese açık bir sonraki adımı atıyor: beta kullanıcıları ilk gerçek canlı yerel modeli kurup üç davranışı seçebiliyor. Uygulama bunlara Batch, Sequential ve Both diyor. “Streaming” ve “two-pass” yararlı mühendislik terimleri olarak kalıyor; ayarlar ise gerçek kullanıcı deneyimini anlatıyor.

Üç mod, üç açık vaat

Batch, Stop'u bekleyip bir çevrimdışı modelden transkript ister. Varsayılan kalır ve Loquela'nın yerleşik model kataloğunu destekler.

Sequential, konuşma gelirken Nemotron'u çalıştırır. Kelimeler değiştirilebilir oluşturma metni olarak sırayla görünür; böylece mevcut tahmin editörde yinelenen parçalar bırakmadan iyileşebilir.

Both önce Sequential çalıştırır, sonra tüm konuşmayı ayrı toplu modele gönderir. İkinci sonuç yalnızca geçici metin güvenle değiştirilebildiği sürece esastır. Kullanıcı imleci oynatır, düzenler, mesajı gönderir veya alandan ayrılırsa Loquela geç gelen düzeltmeyi onun çalışmasının üzerine uygulamamalıdır.

Bunlar kullanıcı seçimidir, sessiz yedek yollar değildir. Nemotron yoksa Sequential ve Both görünür biçimde seçili kalıp kurulum gerektiğini açıklar. Uygulama sessizce Batch'e dönmek yerine doğrudan Voice Models'a bağlanır.

Batch ortadan kalkmıyor

Toplu tanıma yanıt vermeden önce tüm konuşmayı inceleyebilir. İlk ifade belirsizse veya cümlenin devamı modele yardımcı oluyorsa bu değerlidir.

Hesaplama düzeni de daha toleranslıdır. Telefon uzun konuşmayı Stop'tan sonra birkaç saniyede işliyorsa sonuç yavaş gelebilir; ancak kullanıcı konuşmayı sürdürürken tanıyıcı giderek büyüyen canlı birikim oluşturmaz.

Bu yüzden Loquela mevcut toplu tanıma yolunu ve uyumlu kurulu modelleri korur. Yeni mimari strateji ekler; kanıtlanmış yolu tek bir moda tanıyıcıyla değiştirmez.

Streaming neyi değiştiriyor?

Yerleşik akış modeli konuşma sürerken küçük parçalar alır. Parçalar arasında tanıma durumunu önbellekte tutar ve yeni ses geldikçe tahminini günceller.

Android'de bu kısmi kelimeler oluşturma metnine aittir. Bu metin geçicidir: klavye editöre yinelenen parçalar kalıcı olarak eklemeden onu değiştirebilir. Loquela bu sözleşmeyi isteğe bağlı Remote gerçek zamanlı transkripsiyonunda zaten kullanır. Sürüm 0.15 aynı yeteneği yalıtılmış yerel sürece taşır.

Mikrofon süreç sınırının klavye tarafında kalır. Uzun ömürlü bir ses bağlantısı sıralı örnekleri tanıyıcıya taşır; geri çağrılar değişen kısmi sonuçları, konuşma sonu olaylarını, nihai transkripti veya içeriksiz hata kategorisini döndürür. Böylece her ses karesi için ayrı IPC çağrısı önlenir ve mevcut yerel model çökme yalıtımı korunur.

Streaming otomatik olarak topludan daha az bağlamsal değildir. Söylenenleri önbellekte korur. Farkı, mevcut tahmini göstermeden gelecekteki kelimeleri duyamamasıdır. Bu yüzden kısmi sonuçlar hem görünürde hem teknik olarak geçici kalmalıdır.

Two-pass ne ekliyor?

Two-pass iki zamanlama düzenini birleştirir:

  1. Akış paketi kullanıcı konuşurken hemen yerel metin üretir.
  2. Loquela etkin oturum için konuşma sesini tutar.
  3. Stop'tan sonra ayrı toplu paket tüm konuşmayı alır.
  4. Nihai sonuç, hâlâ güvenli olan oluşturma metnini değiştirir veya tamamlar.

İkinci geçiş genel yapay zekâ yeniden yazması değildir. Görevi hâlâ transkripsiyondur: tüm konuşmayı değerlendirebilen modelle söyleneni yakalamak. Loquela tonu, amacı veya yazarlığı sessizce değiştiren anlatım üreticisi eklemez.

Two-pass ayrıca modellerden birinde saklı özellik değildir. Akış paketi akış, toplu paket toplu kalır. Kullanıcıya sunulan mod uyumlu çifti oluşturur ve maliyeti görünür kılar.

Ayrım önemlidir çünkü iki geçiş pahalı olabilir. İki arşiv daha fazla depolama kullanır. İki tanıyıcıyı bellekte tutmak son düzeltmeyi hızlandırabilir ama tepe belleği artırır. Son modeli yalnızca Stop'tan sonra yüklemek örtüşmeyi azaltır ama soğuk başlangıç gecikmesi ekler. Hafif toplu model rahat sığsa da çok daha büyük akış modelini iyileştiremeyebilir; güçlü sonlandırıcı en pahalı çifti oluşturabilir.

Özellik ancak gerçek konuşmalarda ve telefonlarda anlamlı düzeltme yararı gösterirse öne çıkarılmayı hak eder.

İkinci model seçiminde yararlı bir gerilim vardır. Küçük sonlandırıcıyı bellekte tutmak kolaydır, ancak 600 milyon parametreli akış modelini ikinci çözümlemeyi haklı çıkaracak kadar geliştirmeyebilir. Whisper Turbo gibi büyük modelin değerli düzeltme yapma olasılığı daha yüksektir; fakat arşivini ve çalışma belleğini Nemotron ile birleştirmek pahalıdır. Çiftin önerilip önerilmeyeceğini mimarinin varlığı değil beta ölçümleri belirler.

Nemotron neden ilk ciddi akış adayı?

Loquela NVIDIA'nın Nemotron 3.5 ASR Streaming 0.6B modelini sherpa-onnx'in Android uyumlu çevrimiçi tanıyıcısı üzerinden değerlendiriyor.

NVIDIA ağırlıkları NeMo ekosisteminde eğitildi; ancak Loquela NVIDIA'nın Python çalışma zamanını gömmez veya CUDA istemez. Sherpa-onnx modeli ONNX'e aktarır ve Loquela'nın yerel modeller için zaten kullandığı Android yerel çalışma zamanı ailesinde çalıştırır.

Nemotron, önbellek farkındalıklı 600 milyon parametreli FastConformer-RNNT modelidir. NVIDIA 80 ms ile 1120 ms arasında beş gecikme yapılandırması yayımlar. Loquela 560 ms paketinden başlar; çünkü erken kısmi sonuçlarla kalite arasında makul bir orta noktadır, masaüstü testi telefona uygunluğu kanıtladığı için değil.

Model kartı 19 transkripsiyona hazır, 13 geniş kapsamlı ve ek ince ayar isteyen 8 uyarlamaya hazır yerel ayarı ayırır. Loquela, yeni kanıt gelmedikçe yalnızca 32 hazır veya geniş kapsamlı seçeneği sunacaktır. Yayımlanan 560 ms sonuçlarında otomatik dil algılamanın İngilizce doğruluğunu ölçülebilir şekilde düşürmesi nedeniyle İngilizce varsayılandır. Kullanıcı çok dilli algılamayı bilinçli ödünleşim olarak seçerse Auto kullanılabilir.

Kararı mimari diyagramı değil telefon verir

Yerel akış tanıyıcısı gelen sesten hızlı olmalıdır. 1.0 gerçek zaman faktörü yalnızca başa baştır; sıcak telefona, meşgul ön plan uygulamasına veya normal zamanlama sıçramalarına pay bırakmaz. Loquela'nın öne çıkarma hedefi, ısınmış cihazda tekrarlanan oturumlarda ses birikiminin büyümediği kanıtıyla birlikte sürekli 0.5 veya altıdır.

Doğrulama üç süreyi ayırır:

  • Soğuk hazırlık model ve yerel çalışma zamanı yüklemesini ölçer.
  • Sıcak durumda konuşmadan ilk kısmi sonuca süre, tanıyıcı hazır olduktan sonra yararlı metnin ne kadar çabuk belirdiğini ölçer.
  • Stop'tan nihai sonuca süre, konuşma bitince kullanıcının ne kadar beklediğini ölçer.

Hız yalnızca bir koşuldur. Fiziksel giriş, orta ve amiral gemisi telefonlar; yinelenen oturumlarda kararlı yerel bellek, süreç sonlanmasından kurtarma, sıradan ve alışılmadık editörlerde güvenli davranış ve metin kaybı veya yineleme olmadığını da göstermelidir.

Pil, yalnızca topluya oran olarak değil mutlak ürün maliyeti olarak ölçülür. Yararlı sayı tipik konuşma başına enerji ve belirtilmiş dikte hacminde öngörülen günlük maliyettir. Isıl yavaşlama ayrı bir doğruluk sorunudur; gerçek zaman ve birikim güvencelerini doğrudan bozabilir.

560 ms bir sınıfı az farkla kaçırırsa Loquela o sınıftan vazgeçmeden 1120 ms paketini ölçebilir. Daha fazla ileri bağlam ve daha az tanıyıcı çağrısı sunar; ancak ek kısmi sonuç gecikmesini haklı çıkaracak verim artışı varsayılmamalı, ölçülmelidir.

v0.15.1'i değiştiren fiziksel telefon hatası

OnePlus'ta Play'den kurulan ilk v0.15.0 testi, normal JVM testlerinin ve başarılı derlemenin gösteremediği bir hata buldu. Her yerel model sesin eksik aktarıldığını bildirdi. Android günlükleri, güvenilir dosya tanımlayıcı borusunun yalıtılmış tanıyıcı beklenen örnek sayısını almadan karşı tarafı sonlanmış bildirdiğini gösterdi.

Loquela bütünlük kontrolünü gevşetmedi. Sürüm 0.15.1, ayrı beklenen örnek sayısını ve açık bitiş sinyalini koruyarak normal Android borusuna geçti. Android araçlandırma testi artık aynı protokolle gerçek float örnekleri yazıyor, temiz EOF'ye kadar okuyup fiziksel donanımda tam sırayı doğruluyor.

Ayrım önemlidir: derleme API uyumunu, bayt dizisi birim testi çerçeveleme mantığını kanıtlar; hiçbiri Android dosya tanımlayıcısının gerçek süreç sınırındaki davranışını kanıtlamaz. Beta platform entegrasyonu hatası buldu, regresyon testi artık doğrudan o katmanı hedefliyor.

v0.15.1 neleri sunuyor?

Nemotron'un 560 ms paketi beta kurulumu için listelenir. Sequential ve Both ses ayarlarında her zaman görünür; Nemotron eksikse kurulum çağrısı gösterilir. Silinmiş veya hasarlı seçim seçili kalır ama onarım ihtiyacı açıktır; Loquela modu sessizce değiştirmez.

Moonshine v2 Tiny ve Base de çok daha küçük İngilizce toplu modeller olarak betaya girer. Tiny eski pakette yaklaşık 108 MB'den 30 MB'ye, Base yaklaşık 251 MB'den 111 MB'ye düşer. Eski paketler mevcut kurulumlarda kullanılabilir kalır, yeni kurulumlardan kaldırılıp yenilerine yönlendirir.

Moonshine v2, Nemotron'dan farklı bir temel bölümünü kullanır. Birleşik çözücü .ort düzeni açık çalışma zamanı profili, keşif, doğrulama, kurtarma ve çevrimdışı yapılandırma desteği ister. Nemotron bilinen encoder, decoder, joiner ve token dosyası rollerini kullanır; ancak dosyaları yeni çevrimiçi tanıyıcı stratejisi açmalıdır. Dosya biçimi tek başına modelin nasıl çalışacağını asla belirlememelidir.

Beta kullanıcıları neleri denemeli?

Yararlı Sequential testleri yalnızca temiz demo cümleleri değildir. Kısa komutlar, uzun dikte, adlar, teknik terimler, duraklamalar, sıcak yinelenen oturumlar ve oluşturma metnini agresifçe değiştiren editörler deneyin. Artan gecikme, yinelenen veya eksik kelime, düzenleme sonrası güvensiz değiştirme ve uygulama geçişi davranışını izleyin.

Both'ta nihai sonucu görünen Sequential tahminiyle karşılaştırın. Yalnızca noktalama değiştiren veya gereksiz oynamalar yapan ikinci geçiş ek maliyetini hak etmez. Önemli sinyal, aksi hâlde elle düzeltilecek hataları güvenilir biçimde gidermesidir.

Son kelimesi veya cümlesi kaybolan Parakeet kullanıcıları yeni çözücü sonu beta testini deneyebilir. Yakalanan konuşmanın sonuna kontrollü sessizlik ekleyip dönüştürücüye ek son bağlam verir; önceki ses aktarma hatasıyla çözücü davranışını aynı sorun saymaz. Gerçek karşılaştırmalar daha iyi değer bulana kadar varsayılan sıfırdır.

Settings geri bildirim kısayolu aynı beta anlayışının parçasıdır: özellik istekleri, hata bildirimleri ve gözlemler ürüne özel alt menüde gizlenmek yerine genel ayarlardan bir dokunuş uzakta olmalıdır.

Gizlilik moda özgü ve açık kalıyor

Yerel Batch, Streaming ve Two-pass sesi cihazda tutar. Oturum sesi kalıcı kayıt olarak saklanmaz, etkin tanıma planı için kullanılır. Two-pass onu yalnızca istenen son çözümleme için gerektiği kadar tutar.

İsteğe bağlı Remote transkripsiyonu kendi hesap ve gizlilik sınırı olan ayrı ağ modu kalır. Tanılama saklaması dikte metni veya ses yerine sınırlı, içeriksiz hata bilgisi tutar.

Amaç yalnızca metni daha erken göstermek değildir. Nihai doğruluğu zayıflatmadan, hesaplama maliyetini gizlemeden veya yazan kişinin kontrolünü almadan canlı özel dikteyi mümkün kılmaktır.

Güncel ürün sınırları için v0.15.1 sürüm notları, Ses Modelleri ve Gizlilik sayfalarına bakın.