Tinklaraštis

Pagal numatytuosius nustatymus vietinis, debesija kaip atsarginis variantas: kaip Cue nušlifavimo etapas atsidūrė vartotojo įrenginyje

Cue diktavimo nušlifavimo etapas buvo sukurtas pirmiausia debesijai, o vietinis apdorojimas – kaip atsarginis variantas. 227 pavyzdžių benchmark šį sprendimą pakeitė. Ką atvejo analizė sako apie šį sprendimą.

Paskelbta

Cue diktavimas turi nušlifavimo etapą: neapdorota transkripcija su užpildo žodžiais ir trūkstamais skyrybos ženklais paverčiama tekstu, kuris skaitomas taip, kaip kalbėtojas norėjo. Kur vyksta šis etapas, buvo nuspręsta atlikus matavimą, ir šis matavimas yra viešas. Šis įrašas remiasi Google DeepMind atvejo analize, kurios skaičiai yra aktualūs 2026 m. gegužės mėn. duomenimis, ir neprideda nieko, kas nėra nurodyta tame puslapyje.

Pirminis dizainas

Šis etapas buvo sukurtas naudoti debesijos modelį, o vietinis modelis buvo atsarginis variantas, darant prielaidą, kad didesnis modelis nušlifuos tiksliau. Komandos nurodytas šio etapo tikslas buvo tekstas, kuris skambėtų kaip vartotojo, o ne kaip modelio: atkurta skyryba, suskirstyti sakiniai, pašalinti užpildai, neprimetant vidinio stiliaus.

Matavimas

Komanda atliko etapo benchmark su 227 realiais balso pavyzdžiais, apimančiais anglų, kitas kalbas ir mišrios kalbos įvestį. Remiantis šiuo benchmark, Gemma 4 E4B, veikiantis vietoje per Ollama Apple Silicon įrenginiuose, buvo pasirinktas kaip pirmo pasirinkimo modelis. Medianiška nušlifavimo etapo delsa sumažėjo nuo 876 ms iki 488 ms, o tai, kaip aprašoma puslapyje, telpa į komandos nustatytą biudžetą etapui, kuris turi jaustis greitesnis už spausdinimą.

Sprendimo pakeitimas

Po benchmark architektūra buvo apversta: vietinis modelis tapo numatytuoju, o debesijos modelis – atsarginiu variantu. Darbalaukio programėlė paleidimo metu patikrina, ar veikia Ollama; jei ne, nušlifavimo etapas nukreipiamas į debesijos modelį ir diktavimas tęsiamas.

Kas pasikeitė vartotojams, remiantis puslapiu

  • Vieno vartotojo diktavimo apimtis išaugo apie 30 procentų tarp aktyvių beta versijos vartotojų per keturias savaites prieš ir po pakeitimo; vartotojai, kurie diktuodavo trumpas žinutes, pradėjo diktuoti ilgesnes.
  • Papildomos etapo išvadų formavimo išlaidos sumažėjo iki nulio, ir puslapyje tai nurodoma kaip priežastis, kodėl diktavimas yra neribotas visuose planuose, įskaitant nemokamą.

Teiginio ribos

Perkeltas buvo tik nušlifavimo etapas. Transkripciją prieš nušlifavimo etapą atlieka debesijos kalbos pavertimo tekstu paslauga, o Cue agento režimas remiasi debesijos modeliu. Puslapyje pranešama apie ankstyvus Gemma 4 funkcijos iškvietimo vertinimus savarankiškoms agento užduotims ir jie vadinami ankstyvais. Todėl mūsų pagrindiniame puslapyje teigiama, kad nušlifavimas vyksta vartotojo įrenginyje, ir nieko nesakoma apie agento veikimą vietoje; platformų puslapyje nurodoma ta pati riba.

Visi įrašai