Cara Loquela membangun pengetikan suara lokal langsung dan dua tahap
Peralihan Loquela dari dikte offline batch ke teks parsial lokal langsung dan tahap kedua opsional untuk akurasi akhir.
Pengetikan suara lokal Loquela selalu mengutamakan batas privasi sederhana: unduh model ucapan, rekam hanya saat pengguna memulai dikte, jalankan pengenalan di ponsel, lalu masukkan hasil ke kolom Android aktif.
Sebelum v0.15, semua model lokal mengikuti satu pola waktu. Loquela mengumpulkan ujaran, menunggu Stop, lalu menyerahkan rekaman lengkap ke pengenal offline. Itulah pengenalan batch. Pola ini bekerja dengan semua model lokal yang kini terdaftar, tetapi tidak dapat menampilkan teks lokal sesungguhnya saat pengguna masih berbicara.
Versi 0.15 mengubah fondasinya. Loquela dapat menjalankan rencana Batch, Streaming, atau Two-pass dalam pengalaman keyboard yang sama tanpa berpura-pura satu model mampu melakukan ketiganya.
Versi 0.15.1 mengambil langkah berikutnya yang sengaja lebih terbuka: penguji beta dapat memasang model lokal langsung pertama dan memilih ketiga perilaku sendiri. Aplikasi menamainya Batch, Sequential, dan Both. “Streaming” dan “two-pass” tetap istilah teknis yang berguna, tetapi pengaturan menjelaskan pengalaman pengguna.
Tiga mode, tiga janji yang jelas
Batch menunggu Stop lalu meminta transkrip dari satu model offline. Ini tetap bawaan dan mendukung katalog model Loquela yang sudah ada.
Sequential menjalankan Nemotron selama ucapan masuk. Kata muncul berurutan sebagai teks komposisi yang dapat diganti, sehingga hipotesis dapat diperbaiki tanpa meninggalkan fragmen duplikat di editor.
Both menjalankan Sequential dahulu, lalu mengirim seluruh ujaran ke model batch terpisah. Hasil kedua hanya menjadi acuan selama teks sementara masih aman diganti. Jika pengguna memindahkan kursor, menyunting, mengirim pesan, atau keluar dari kolom, Loquela tidak boleh menimpa pekerjaannya dengan koreksi terlambat.
Ini pilihan pengguna, bukan pengalihan diam-diam. Jika Nemotron belum ada, Sequential dan Both tetap terlihat terpilih dan menjelaskan perlunya instalasi. Aplikasi menautkan langsung ke Voice Models, bukan diam-diam kembali ke Batch.
Batch tidak akan dihapus
Pengenalan batch dapat memeriksa seluruh ujaran sebelum menjawab. Ini berguna jika frasa awal ambigu atau model terbantu oleh lanjutan kalimat.
Pola komputasinya juga lebih toleran. Jika ponsel membutuhkan beberapa detik setelah Stop untuk memproses ujaran panjang, hasilnya terasa lambat, tetapi pengenal tidak menumpuk antrean langsung yang terus tumbuh saat pengguna melanjutkan bicara.
Karena itu Loquela mempertahankan jalur batch dan semua model terpasang yang kompatibel. Arsitektur baru menambah strategi, bukan mengganti jalur teruji dengan satu pengenal yang sedang populer.
Perubahan dari Streaming
Model streaming native menerima potongan kecil saat ucapan berlangsung. Model menyimpan keadaan pengenalan dalam cache antarpotongan dan memperbarui hipotesis ketika audio tambahan masuk.
Di Android, kata parsial itu masuk sebagai teks komposisi. Sifatnya sementara: keyboard dapat menggantinya tanpa memasukkan rangkaian fragmen duplikat secara permanen. Loquela sudah memakai kontrak ini untuk transkripsi Remote waktu nyata opsional. Versi 0.15 membawanya ke proses pengenalan lokal terisolasi.
Mikrofon tetap berada di sisi keyboard pada batas proses. Satu koneksi audio berumur panjang membawa sampel berurutan ke pengenal; callback mengembalikan perubahan hasil parsial, peristiwa akhir ujaran, transkrip final, atau kategori kegagalan tanpa konten. Ini menghindari panggilan IPC per bingkai audio dan mempertahankan isolasi kegagalan model lokal.
Streaming tidak otomatis kurang kontekstual daripada batch. Ucapan sebelumnya disimpan dalam cache. Bedanya, model tidak dapat mendengar kata masa depan sebelum menampilkan tebakan saat ini. Karena itu hasil parsial harus tetap sementara secara tampilan dan teknis.
Tambahan dari Two-pass
Two-pass menggabungkan kedua pola waktu:
- Paket streaming langsung menghasilkan teks lokal selama pengguna berbicara.
- Loquela menyimpan audio ujaran selama sesi aktif.
- Setelah Stop, paket batch terpisah menerima ujaran lengkap.
- Hasil final mengganti atau melengkapi teks komposisi yang masih aman diubah.
Tahap kedua bukan penulisan ulang AI umum. Tugasnya tetap transkripsi: memulihkan ucapan memakai model yang dapat mempertimbangkan seluruh ujaran. Loquela tidak menyisipkan pembuat prosa yang diam-diam mengubah nada, maksud, atau kepengarangan.
Two-pass juga bukan properti yang disimpan pada salah satu model. Paket streaming tetap streaming, paket batch tetap batch. Mode pengguna membentuk pasangan kompatibel dan memperlihatkan biayanya.
Pemisahan ini penting karena dua tahap bisa mahal. Dua arsip model memakai lebih banyak penyimpanan. Menjaga kedua pengenal di memori mempercepat koreksi akhir tetapi meningkatkan puncak memori. Memuat model final setelah Stop mengurangi tumpang tindih tetapi menambah latensi awal. Model batch ringan bisa muat dengan nyaman tetapi gagal memperbaiki model streaming yang jauh lebih besar; finalisator lebih kuat bisa menjadi pasangan termahal.
Fitur layak dipromosikan hanya jika manfaat koreksi bermakna pada ujaran dan ponsel nyata.
Pemilihan model kedua memiliki tarik-menarik penting. Finalisator kecil mudah dipertahankan di memori tetapi mungkin tidak cukup memperbaiki model streaming 600 juta parameter untuk membenarkan dekode kedua. Model lebih besar seperti Whisper Turbo lebih berpeluang memberi koreksi berguna, tetapi memasangkan arsip dan memori runtime-nya dengan Nemotron mahal. Pengukuran beta, bukan keberadaan arsitektur, menentukan kelayakan rekomendasi pasangan.
Mengapa Nemotron menjadi kandidat streaming serius pertama
Loquela mengevaluasi Nemotron 3.5 ASR Streaming 0.6B dari NVIDIA melalui pengenal online sherpa-onnx yang kompatibel dengan Android.
Bobot NVIDIA dilatih dalam ekosistem NeMo, tetapi Loquela tidak menanamkan runtime Python NVIDIA atau membutuhkan CUDA. Sherpa-onnx mengekspor model ke ONNX dan menjalankannya melalui keluarga runtime native Android yang sudah dipakai Loquela.
Nemotron adalah model FastConformer-RNNT 600 juta parameter yang memanfaatkan cache. NVIDIA menerbitkan lima konfigurasi latensi dari 80 ms hingga 1120 ms. Loquela mulai dengan paket 560 ms sebagai titik tengah masuk akal antara hasil parsial awal dan kualitas, bukan karena tolok ukur desktop membuktikan kecocokannya untuk ponsel.
Kartu model membedakan 19 lokal siap transkripsi, 13 lokal cakupan luas, dan 8 lokal siap adaptasi yang membutuhkan pelatihan tambahan. Loquela hanya menampilkan 32 lokal siap atau bercakupan luas kecuali bukti berikutnya mendukung lebih banyak. Bahasa Inggris menjadi bawaan karena hasil 560 ms menunjukkan penurunan akurasi Inggris yang terukur dengan deteksi bahasa otomatis. Auto tetap tersedia jika deteksi multibahasa merupakan pilihan sadar pengguna.
Ponsel yang menentukan, bukan diagram arsitektur
Pengenal streaming lokal harus memproses lebih cepat daripada audio masuk. Faktor waktu nyata 1.0 hanya impas, tanpa ruang untuk ponsel hangat, aplikasi depan sibuk, atau lonjakan penjadwalan biasa. Target promosi Loquela adalah faktor berkelanjutan paling tinggi 0.5, disertai bukti antrean audio tidak tumbuh dalam sesi berulang saat perangkat sudah panas.
Validasi memisahkan tiga waktu:
- Persiapan awal mengukur pemuatan model dan runtime native.
- Waktu ucapan-ke-parsial-pertama saat sudah siap mengukur seberapa cepat teks berguna muncul setelah pengenal siap.
- Waktu Stop-ke-final mengukur penantian setelah ujaran selesai.
Kecepatan hanya satu syarat. Ponsel fisik kelas rendah, menengah, dan atas juga harus menunjukkan memori native stabil lintas sesi, pemulihan setelah proses mati, perilaku aman di editor Android biasa maupun tidak biasa, tanpa teks hilang atau duplikat.
Baterai diukur sebagai biaya produk absolut, bukan hanya rasio terhadap batch. Angka berguna adalah energi per ujaran umum ditambah proyeksi biaya harian pada volume dikte yang dinyatakan. Pelambatan termal merupakan masalah kebenaran terpisah karena dapat langsung merusak jaminan waktu nyata dan antrean.
Jika 560 ms hanya sedikit gagal pada suatu kelas, Loquela dapat mengukur paket 1120 ms sebelum menyerah pada kelas itu. Paket ini memberi lebih banyak konteks ke depan dan lebih sedikit pemanggilan pengenal, tetapi peningkatan throughput yang membenarkan tambahan latensi parsial harus diukur, bukan diasumsikan.
Kegagalan di ponsel fisik yang mengubah v0.15.1
Pengujian pertama v0.15.0 yang dipasang dari Play pada OnePlus menemukan kegagalan yang tidak terungkap oleh tes JVM biasa dan build sukses. Semua model lokal melaporkan audio tidak terkirim lengkap. Log Android menunjukkan pipe deskriptor berkas andal melaporkan sisi jauhnya mati sebelum pengenal terisolasi menerima jumlah sampel yang diharapkan.
Loquela tidak melonggarkan pemeriksaan integritas. Versi 0.15.1 beralih ke pipe Android biasa dengan tetap mempertahankan jumlah sampel yang diharapkan secara terpisah dan sinyal selesai eksplisit. Tes instrumentasi kini menulis sampel float nyata melalui protokol yang sama, membaca sampai EOF bersih, dan memverifikasi urutan tepat pada perangkat fisik.
Perbedaan ini penting: kompilasi membuktikan kecocokan API dan unit test array byte membuktikan logika pembingkaian, tetapi keduanya tidak membuktikan perilaku deskriptor Android melintasi batas proses sesungguhnya. Beta menemukan kegagalan integrasi platform, dan tes regresi kini menargetkan lapisan itu langsung.
Yang disediakan v0.15.1
Paket Nemotron 560 ms terdaftar untuk instalasi beta. Sequential dan Both selalu terlihat di pengaturan suara, dengan ajakan penyiapan jika Nemotron belum ada. Pilihan yang dihapus atau rusak tetap dipilih tetapi jelas memerlukan perbaikan; Loquela tidak diam-diam mengganti mode.
Moonshine v2 Tiny dan Base juga masuk katalog beta sebagai model batch bahasa Inggris yang jauh lebih kecil. Tiny turun dari sekitar 108 MB menjadi 30 MB; Base dari sekitar 251 MB menjadi 111 MB. Paket lama tetap dapat dipakai untuk instalasi yang ada, tetapi dihentikan untuk pemasangan baru dan mengarahkan pengguna ke penggantinya.
Moonshine v2 menguji bagian fondasi berbeda dari Nemotron. Tata letak dekoder gabungan .ort memerlukan profil runtime eksplisit, penemuan, validasi, pemulihan, dan dukungan konfigurasi offline. Nemotron memakai peran encoder, decoder, joiner, dan token yang familier, tetapi berkas tersebut harus dibuka oleh strategi pengenal online baru. Bentuk berkas saja tidak boleh menentukan cara model dijalankan.
Yang sebaiknya dicoba penguji beta
Tes Sequential berguna bukan hanya kalimat demo bersih. Coba perintah singkat, dikte panjang, nama, istilah teknis, jeda, sesi hangat berulang, serta editor yang agresif mengubah teks komposisi. Amati keterlambatan yang tumbuh, kata berulang atau hilang, penggantian tidak aman setelah suntingan, dan perilaku setelah berganti aplikasi.
Untuk Both, bandingkan hasil final dengan hipotesis Sequential yang terlihat. Tahap kedua yang hanya mengubah tanda baca atau membuat perubahan bolak-balik tidak layak mendapat biaya tambahan. Sinyal pentingnya adalah penghapusan kesalahan secara andal yang jika tidak akan membutuhkan koreksi manual.
Pengguna Parakeet yang kehilangan kata atau kalimat terakhir dapat memakai uji beta akhir dekoder baru. Uji ini menambahkan hening terkontrol setelah ujaran, memberi transduser konteks akhir tambahan tanpa menyamakan bug transfer audio sebelumnya dengan perilaku dekoder. Bawaan tetap nol sampai perbandingan nyata menemukan nilai lebih baik.
Pintasan umpan balik di Settings mengikuti filosofi beta yang sama: permintaan fitur, laporan bug, dan pengamatan lain harus berjarak satu ketukan dari pengaturan umum, bukan tersembunyi di submenu khusus produk.
Privasi tetap eksplisit dan khusus per mode
Pengenalan lokal Batch, Streaming, dan Two-pass menjaga audio di perangkat. Audio sesi digunakan untuk rencana pengenalan aktif, bukan disimpan sebagai rekaman permanen. Two-pass hanya menahannya selama diperlukan untuk dekode akhir yang diminta.
Transkripsi Remote opsional tetap mode jaringan terpisah dengan batas akun dan privasinya sendiri. Retensi diagnostik menyimpan informasi kegagalan terbatas tanpa konten, bukan teks dikte atau audio.
Tujuannya bukan sekadar memunculkan teks lebih cepat, melainkan memungkinkan dikte privat langsung tanpa mengurangi akurasi akhir, menyembunyikan biaya komputasi, atau mengambil kendali dari orang yang mengetik.
Lihat catatan rilis v0.15.1, Model Suara, dan Privasi untuk batas produk saat ini.