A Cue diktálásának van egy csiszolás lépése: a nyers átiratot, annak töltelékszavaival és hiányzó írásjeleivel, olyan szöveggé alakítja, amely úgy olvasható, ahogyan a beszélő szánta. Azt, hogy ez a lépés hol fusson, egy mérés döntötte el, és a mérés nyilvános. Ez a bejegyzés a Google DeepMind esettanulmányát követi, a 2026. májusi adatokkal, és nem tesz hozzá semmit, amit az oldal nem állít.
Az eredeti terv
A lépést úgy építették fel, hogy egy felhőmodellt használjon, helyi modellel mint tartalékkal, azon feltételezés alapján, hogy egy nagyobb modell pontosabban csiszol. A csapat által a lépéshez kitűzött cél az volt, hogy a szöveg a felhasználóra hasonlítson, ne egy modellre: helyreállított írásjelek, tagolt mondatok, eltávolított töltelékszavak, anélkül, hogy egy házistílust erőltetne rá.
A mérés
A csapat 227 valós hangmintán végezte el a lépés benchmarkját, amelyek angol, más nyelveket és vegyes nyelvű bevitelt fedtek le. Ezen a benchmarkon a Gemma 4 E4B modellt választották elsődlegesnek, amely helyileg fut az Ollama-n keresztül Apple Siliconon. A csiszolás lépés medián késleltetése 876 ms-ról 488 ms-ra csökkent, amit az oldal úgy ír le, hogy belefér abba a keretbe, amelyet a csapat egy olyan lépéshez szabott, amelynek gyorsabbnak kell éreznie magát a gépelésnél.
A megfordítás
A benchmark után az architektúrát megfordították: a helyi modell lett az alapértelmezett, a felhőmodell pedig a tartalék. Az asztali alkalmazás indításkor ellenőrzi, hogy fut-e az Ollama; ha nem, a csiszolás lépés egy felhőmodellhez irányítódik, és a diktálás folytatódik.
Mi változott a felhasználók számára az oldal szerint
- A felhasználónkénti diktálás körülbelül 30 százalékkal nőtt az aktív béta-felhasználók körében a váltás előtti és utáni négy hétben; azok a felhasználók, akik korábban rövid üzeneteket diktáltak, hosszabbakat kezdtek diktálni.
- A lépés marginális következtetési költsége nullára csökkent, és az oldal ezt adja meg okként arra, hogy a diktálás minden szinten korlátlan, beleértve az ingyeneset is.
Az állítás határa
Csak a csiszolás lépés költözött. Az átírást egy felhőalapú speech-to-text szolgáltatás végzi a csiszolás lépés előtt, és a Cue ágensmódja egy felhőmodellre támaszkodik. Az oldal a Gemma 4 funkcióhívásának korai értékeléseiről számol be önálló ágensfeladatokhoz, és ezeket korainak nevezi. A főoldalunk ezért azt állítja, hogy a csiszolás a felhasználó gépén fut, és semmit sem mond az ágens helyi futásáról; a platformok oldal ugyanezt a határt rögzíti.