Blogu

Kwenye kifaa chako kwanza, cloud kama mbadala: jinsi hatua ya kung’arisha ya Cue ilivyoishia kwenye mashine ya mtumiaji

Hatua ya kung’arisha imla ya Cue iliundwa kwanza kwa kutumia cloud, na kifaa chako kama mbadala. Benchmark ya sampuli 227 ilibadilisha hilo. Uchunguzi kifani unaandika nini kuhusu uamuzi huo.

Ilichapishwa

Imla ya Cue ina hatua ya kung’arisha: nakala ya maandishi ghafi, pamoja na maneno yake ya kujazia na alama za uakifishaji zinazokosekana, hugeuzwa kuwa maandishi yanayosomeka jinsi mzungumzaji alivyokusudia. Mahali ambapo hatua hiyo hufanyika kuliamuliwa na kipimo, na kipimo hicho kiko wazi kwa umma. Chapisho hili linafuata uchunguzi kifani wa Google DeepMind, takwimu zikiwa za sasa hadi Mei 2026, na haliongezi chochote ambacho ukurasa huo hauelezi.

Muundo wa awali

Hatua hiyo iliundwa kutumia modeli ya cloud, na modeli ya kifaa chako kama mbadala, kwa dhana kwamba modeli kubwa zaidi ingeng’arisha kwa usahihi zaidi. Lengo lililotajwa la timu kwa hatua hiyo lilikuwa maandishi yanayosomeka kama mtumiaji badala ya kama modeli: alama za uakifishaji zikirejeshwa, sentensi zikigawanywa, maneno ya kujazia yakiondolewa, bila kulazimisha mtindo wa kampuni.

Kipimo

Timu ilifanyia benchmark hatua hiyo kwenye sampuli 227 za sauti halisi zinazojumuisha Kiingereza, lugha nyingine na ingizo la lugha mchanganyiko. Kwenye benchmark hiyo, Gemma 4 E4B, inayofanya kazi kwenye kifaa kupitia Ollama kwenye Apple Silicon, ilichaguliwa kama modeli ya chaguo la kwanza. Muda wa median wa hatua ya kung’arisha ulishuka kutoka 876 ms hadi 488 ms, ambao ukurasa unaelezea kuwa uko ndani ya bajeti ambayo timu ilikuwa imeweka kwa hatua ambayo inapaswa kuhisi haraka kuliko kuandika.

Mabadiliko

Baada ya benchmark, usanifu ulibadilishwa: modeli ya kifaa chako ikawa chaguo-msingi na modeli ya cloud ikawa mbadala. Programu ya kompyuta huangalia wakati wa kuanza ikiwa Ollama inafanya kazi; ikiwa haifanyi kazi, hatua ya kung’arisha huelekezwa kwa modeli ya cloud na imla inaendelea.

Kilichobadilika kwa watumiaji, kulingana na ukurasa

  • Imla kwa kila mtumiaji iliongezeka kwa takriban asilimia 30 miongoni mwa watumiaji hai wa beta katika wiki nne kabla na baada ya mabadiliko; watumiaji ambao walikuwa wametoa imla ya ujumbe mfupi walianza kutoa imla ya ujumbe mrefu zaidi.
  • Gharama ya ziada ya makisio ya hatua hiyo ilishuka hadi sifuri, na ukurasa unatoa hiyo kama sababu imla haina kikomo kwenye kila daraja, ikiwemo ile ya bure.

Mpaka wa dai

Ni hatua ya kung’arisha tu iliyohamishwa. Unukuzi hufanywa na huduma ya cloud ya kubadilisha sauti kuwa maandishi kabla ya hatua ya kung’arisha, na hali ya wakala ya Cue inategemea modeli ya cloud. Ukurasa unaripoti tathmini za awali za utendaji wa Gemma 4 wa kuita vitendakazi kwa kazi za wakala zinazojitosheleza na unaziita za awali. Kwa hivyo, ukurasa wetu wa nyumbani unasema hatua ya kung’arisha hufanyika kwenye mashine ya mtumiaji na hausemi chochote kuhusu wakala kufanya kazi kwenye kifaa; ukurasa wa majukwaa unaandika mpaka huo huo.

Machapisho yote