Bloga

Tokikoa lehenetsita, hodeia babes gisa: nola bukatu zuen Cue-ren fintze-urratsak erabiltzailearen makinan

Cue-ren diktaketaren fintze-urratsa lehenik hodeian erabiltzeko diseinatu zen, tokiko aukera batekin babes gisa. 227 lagineko benchmark batek hori alderantzikatu zuen. Kasu-azterlanak erabakiari buruz jasotzen duena.

Argitaratze-data:

Cue-ren diktaketak fintze-urrats bat du: jatorrizko transkripzioa, betegarrizko hitzekin eta puntuazio-markarik gabe, hizlariak nahi zuen moduan irakurtzen den testu bihurtzen da. Urrats hori non exekutatzen den neurketa baten bidez erabaki zen, eta neurketa publikoa da. Argitalpen honek Google DeepMind-en kasu-azterlana jarraitzen du, 2026ko maiatzeko zifrekin, eta ez du orriak adierazten ez duen ezer gehitzen.

Jatorrizko diseinua

Urratsa hodeiko eredu bat erabiltzeko eraiki zen, tokiko eredu bat babes gisa, eredu handiago batek zehaztasun handiagoz fintzeko ustearekin. Taldeak urrats horretarako adierazitako helburua zen testuak erabiltzailearen antzera irakurtzea, eta ez eredu baten antzera: puntuazioa berreskuratuta, esaldiak segmentatuta, betegarriak kenduta, estilo jakin bat inposatu gabe.

Neurketa

Taldeak urratsa benchmark batean probatu zuen, ingelesa, beste hizkuntza batzuk eta hizkuntza mistoko sarrerak biltzen zituzten 227 ahots-lagin errealetan. Benchmark horretan, Gemma 4 E4B, Apple Siliconen Ollamaren bidez lokalean exekutatuta, lehen aukerako eredu gisa hautatu zen. Fintze-urratsaren mediana-latentzia 876 ms-tik 488 ms-ra jaitsi zen, eta orriak dioenez, hori taldeak idaztea baino azkarrago sentitu behar duen urrats baterako ezarritako aurrekontuaren barruan dago.

Alderantzikatzea

Benchmarkaren ondoren, arkitektura alderantzikatu egin zen: tokiko eredua lehenetsi bihurtu zen eta hodeikoa babes. Mahaigaineko aplikazioak abiaraztean egiaztatzen du Ollama exekutatzen ari den; hala ez bada, fintze-urratsa hodeiko eredu batera bideratzen da eta diktaketak aurrera jarraitzen du.

Zer aldatu zen erabiltzaileentzat, orriaren arabera

  • Erabiltzaile bakoitzeko diktaketa % 30 inguru igo zen beta erabiltzaile aktiboen artean, aldaketa egin aurreko eta ondorengo lau asteetan; mezu laburrak diktatzen zituzten erabiltzaileak luzeagoak diktatzen hasi ziren.
  • Urratsaren inferentzia-kostu marjinala zerora jaitsi zen, eta orriak hori ematen du arrazoi gisa diktaketa maila guztietan mugagabea izateko, doakoan barne.

Baieztapenaren muga

Fintze-urratsa bakarrik mugitu zen. Transkripzioa hodeiko ahotsa-testu bihurtzeko zerbitzu batek egiten du fintze-urratsaren aurretik, eta Cue-ren agente moduak hodeiko eredu bat erabiltzen du. Orriak Gemma 4-ren funtzio-deien lehen ebaluazioen berri ematen du agente-ataza autonomoetarako, eta goiztiartzat jotzen ditu. Gure hasierako orriak, beraz, fintzea erabiltzailearen makinan exekutatzen dela dio, eta ez du ezer esaten agentea lokalean exekutatzeari buruz; plataformen orriak muga bera jasotzen du.

Mezu guztiak