1X2.TV — Ro-innse Ball-coise AI
Ro-innse geamannan le AI & molaidhean geall
Ro-innse Stoc AI
Ro-innse margaidh stoc & mion-sgrùdadh le AI

Ath-sgrùdadh air Edge0-145B: A’ ruith comasan AI ùr-nodha air a’ choimpiutair agad fhèin

Faigh a-mach mar a tha Edge0-145B a’ toirt AI le 145B paramadair chun laptop agad. Ath-sgrùdadh air coileanadh, feumalachdan bathar-cruaidh, agus comasan buidhnean ionadail san sgrùdadh domhainn 2026 seo.

Sgioba AI Tools Hub
|
Edge0-145B Review: Running Frontier AI Capabilities on Your Own Computer
Ar Pròiseact

1X2.TV — Ro-innse Ball-coise AI

Ro-innse geamannan ball-coise le AI, molaidhean geall, agus mion-sgrùdadh domhainn. Air a chumhachdachadh le algairimean ionnsachadh-inneal a’ sgrùdadh 50,000+ geama.

Faigh Ro-innsean

Ath-sgrùdadh air Edge0-145B: A’ ruith comasan AI ùr-nodha air a’ choimpiutair agad fhèin

Airson bhliadhnaichean, thàinig an gealladh de “AI ionadail” le comharra-reul mòr. Ged a bha modalan fosgailte-leabhar mar Llama 3 no Mistral a’ tabhann comasan iongantach, bha iad gu tric ag iarraidh co-rèiteachadh ann an doimhneachd reusantachd, eòlas còdaidh, no riaghladh uinneag co-theacs an coimeas ris na co-aoisean stèidhichte air an sgòth mar GPT-4o no Claude 3.5. Bha an t-eadar-dhealachadh soilleir: ma bha thu ag iarraidh inntleachd aig ìre thoiseach, phàigh thu air a shon le creideasan API agus co-rèiteachadh prìobhaideachd. Ma bha thu ag iarraidh prìobhaideachd agus comas far-loidhne, shocraich thu airson modalan nas lugha agus nas lugha comasach.

Dh’atharraich an dinimigeachd sin gu mòr air 12 Samhain 2026, nuair a dh’fhosgail Edge0 Edge0-145B mar fhosgladh-leabhar. Air a chur air adhart mar a’ chiad mhodail AI ionadail fosgailte-leabhar san t-saoghal le 145 billean paramadair, tha e a’ gealltainn còdadh, reusantachd agus comasan buidhne a thig gu cothromach ri fìor mhòran sgòthan gu dìreach air a’ choimpiutair phearsanta agad. Ach an urrainn do mhodail le 145 billean paramadair ruith gu fìor air laptop, agus a bheil e a’ lìbhrigeadh air an hype?

San ath-sgrùdadh seo, briseidh sinn sìos an ailtireachd, na riatanasan bathar-cruaidh, coileanadh san t-saoghal fhìor, agus na buaidhean practaigeach a bhith a’ ruith Edge0-145B gu h-ionadail.

An Ailtireachd: Ciamar a tha 145B paramadair a’ freagairt air aon GPU

Is e a’ cheist sa bhad do neach sam bith aig a bheil ùidh: Ciamar? Mar as trice bidhe modalan dùmhail den mheud seo ag iarraidh suidheachaidhean ioma-GPU no cuimhne mòr de chlas frithealaiche. Tha Edge0-145B a’ coileanadh seo tro ailtireachd sgaoilte chasta. A rèir mion-sgrùdaidhean teicnigeach o chionn ghoirid, tha am modail a’ cleachdadh matrics eòlaichean co-roinnte, caochladh de dhealbhadh Mixture-of-Experts (MoE).

Ged a tha an àireamh iomlan de pharamadairean 145 billean, chan eil ach mu 10 billean paramadair a’ gnìomhachadh gach ceum co-dhùnaidh. Is e an sgaoileadh seo an iuchair aig a èifeachdas. Le bhith a’ gnìomhachadh dìreach fo-sheata den lìonra airson token sònraichte sam bith, tha an luchd obrachaidh agus na riatanasan leud-bann cuimhne air an lughdachadh gu mòr an coimeas ri modail dùmhail 145B.

Is e toradh a’ mhodail seo gu bheil e ag aithris cleachdadh cuimhne as àirde de mu 29GB rè co-dhùnadh. Is e figear deatamach a tha seo. Tha e a’ ciallachadh, ged nach urrainn dhut a ruith air GPU cunbhalach le 8GB no 12GB, gu bheil e comasach air bathar-cruaidh àrd-ìre cunbhalach, leithid an NVIDIA RTX 4090 (24GB) le beagan optimization, no nas fhasa air cairtean proifeasanta leithid an RTX 6000 Ada (48GB) no suidheachaidhean le dà GPU. Tha am modail air a dhealbhadh airson aon NVIDIA GPU, a’ sìmpleachadh na slighe sgaoilidh gu mòr an coimeas ri frèaman seirbheis sgaoilte.

Coileanadh: Astar agus Tro-theachd

Is e astar gu tric an t-àite lag aig modalan mòra ionadail. Ma dh’fheumas tu feitheamh deich diog is fichead airson freagairt, bidh buannachd “ionadail” a’ faireachdainn mar pheanas. Tha coltas ann gu bheil Edge0-145B air dèiligeadh ris seo leis an fhrèam co-dhùnaidh aonaichte aige.

Tha deuchainnean tràtha agus aithisgean luchd-cleachdaidh a’ sealltainn tro-theachd iongantach:

  • Pròiseasadh Stiùiridh: Barrachd air 1,100 tokens gach diog. Tha seo deatamach airson gnìomhan le co-theacsa fada, leithid a bhith a’ mion-sgrùdadh stòran còd gu lèir no a’ leughadh PDFan fada, far a bheil astar gabhail a-steach tòiseachaidh a’ dearbhadh cleachdadh.
  • Astar Gineadh: 80+ tokens gach diog. Airson co-theacsa, tha seo gu math os cionn na h-ìre airson eadar-obrachadh “fìor-ùine”. Lorgas a’ mhòr-chuid de luchd-cleachdaidh astaran gineadh os cionn 40–50 tokens/s luath agus freagarrach.

Tha na h-àireamhan seo a’ moladh nach eil Edge0-145B dìreach na rud ùr airson deuchainnean far-loidhne, ach na inneal làitheil practaigeach airson luchd-leasachaidh agus luchd-cleachdaidh adhartach a dh’fheumas cuideachadh AI luath, prìobhaideach.

Riatanasan Bathar-cruaidh agus Stèidheachadh

Mus luchdaich thu a-nuas na cuideaman, feumaidh tu dèanamh cinnteach gu bheil an bathar-cruaidh agad comasach air an luchd a ghiùlan. Tha am modail ri fhaighinn air Hugging Face mar Edge0/Edge0-145B-q3k, a’ comharrachadh dreach quantized (is dòcha Q3_K no coltach ris) gus a bhith a’ freagairt air crìochan VRAM bathar-cruaidh cunbhalach.

  • GPU: NVIDIA GPU le co-dhiù 24GB VRAM (RTX 3090/4090) airson dreachan quantized. Airson mionaideachd iomlan no uinneagan co-theacsa nas motha, thathar a’ moladh 48GB+ (RTX 6000 Ada, A6000).
  • RAM: Tha RAM siostaim 32GB+ iomchaidh gus luchdadh a’ mhodail agus os-cosgais an t-siostaim obrachaidh a làimhseachadh.
  • Stòras: NVMe SSD le co-dhiù 100GB de àite saor airson cuideaman a’ mhodail agus cache.

Innealan Sgaoilidh

Tha Edge0 air frèam co-dhùnaidh aonaichte agus innealan sgaoilidh a leigeil ma sgaoil, a’ dèanamh tòiseachadh nas fhasa na bha e a-riamh. Tha an còd ri fhaighinn air GitHub fo ceadachas Apache 2.0, a tha fosgailte airson cleachdadh malairteach agus pearsanta. Dhaibhsan a tha ag iarraidh eadar-aghaidh grafaigeach, tha Edge0 App ri fhaighinn airson deuchainn luath, ged a bhios cleachdaichean adhartach dualtach innealan CLI a thaghadh airson mion-tuning air paramadairean mar teòthachd, top-p, agus fad co-theacsa.

Comasan Còdaidh agus Àidseant

Is e am prìomh phuing reic aig Edge0-145B a chomas sruth-obrach còdaidh agus àidseant a làimhseachadh. Ann an ar deuchainnean, sheall am modail comas làidir ann am Python, JavaScript agus Rust, comasach air còd boilerplate a ghineadh, mearachdan loidsig iom-fhillte a dhebugadh, agus gnìomhan ath-sgrìobhadh.

Nas cudromaiche, tha e a’ toirt taic do chomasan àidseant. Tha seo a’ ciallachadh gun urrainn dha innealan a chleachdadh, brabhsadh air an lìon (ma tha e air a rèiteachadh le proxy ionadail), agus planaichean ioma-cheum a choileanadh. Mar eisimpleir, faodaidh tu iarraidh air “an sgrìobhainn as ùire airson leabharlann X a lorg, na h-atharrachaidhean briste a ghearradh, agus mo bhun-chòd ionadail ùrachadh a rèir sin.” Leigidh einnsean reusainnid a’ mhodail, a tha a’ farpais ri modalan sgòthan frontier ann an measaidhean càileachdail, dha na gnìomhan sin a bhriseadh sìos gu ceumannan so-riaghlaidh gun hallucinations tric.

Ach, tha e cudromach a thoirt fa-near gur e leigeil a-mach latha a h-aon a th’ ann. Mar le modalan fosgailte-foinse ùra sam bith, tha oirean garbh ann. Tha na benchmarks a tha Edge0 a’ toirt seachad air an ruith leis an neach-reic, mar sin tha dearbhadh neo-eisimeileach fhathast a’ nochdadh. Tha cuid de chleachdaichean air neo-chunbhalachd aithris uaireannan ann an uinneagan co-theacsa glè fhada (>100k tokens), ged a tha astar giullachd 1,100 tokens/s a’ lughdachadh an ùine feitheamh gu mòr.

Edge0-145B an aghaidh na farpais

Gus tuigsinn càite a bheil Edge0-145B a’ freagairt, nì sinn coimeas eadar e agus roghainnean eile mòr-chòrdte ann an sealladh AI ionadail agus sgòthan mar aig deireadh 2026.

FeartEdge0-145B (Ionadail)Llama 3.1 70B (Ionadail)GPT-4o (Sgòthan)Claude 3.5 Sonnet (Sgòthan)
Paramadairean145B (Sparse/MoE)70B (Dense)Gun ainmeachadhGun ainmeachadh
VRAM a dhìth~29GB (Bàrr)~40GB+ (FP16)Chan iomchaidhChan iomchaidh
Astar Gineadh80+ tokens/s20-40 tokens/sAtharrachail (Lìonra)Atharrachail (Lìonra)
Comas CòdaidhColtach ri frontierLàidirSàr-mhathSàr-mhath
Taic ÀidseantDùthchasachCuingichte/PluganDùthchasachDùthchasach
PrìobhaideachdIomlan IonadailIomlan IonadailSgòthanSgòthan
CeadachasApache 2.0Coimhearsnachd MetaPrìobhaideachPrìobhaideach
CosgaisCruaidh-chòd a-mhàinCruaidh-chòd a-mhàinCreideasan APICreideasan API

Nota: Tha riatanasan VRAM airson Llama 3.1 70B a’ gabhail ri cainteachadh àbhaisteach; tha ailtireachd sgapte Edge0 a’ leigeil le modal nas motha a bhith a’ freagairt ann an nas lugha de chuimhne na modal dùmhail co-ionann.

Tha an clàr a’ soillseachadh suidheachadh sònraichte Edge0-145B: tha e a’ tabhann comas coltach ris an sgòth le prìobhaideachd ionadail. Ged a tha Llama 3.1 70B na mhodal math, tha e a’ call doimhneachd reusantachaidh agus dealbhadh dùthchasach airson buidhnean-obrach (agents) aig Edge0. Tha modalan sgòth a’ tabhann cunbhalachd nas fheàrr ach aig cosgain ath-chuairteach agus le draghan prìobhaideachd.

Buannachdan is Eas-bhuannachdan

Buannachdan

  • Reusantachadh Ìre Frontier: A’ farpais ri modalan sgòth as fheàrr ann an gnìomhan còdaidh agus loidsig.
  • Ailtireachd Èifeachdach: Tha an dealbhadh MoE sgapte a’ leigeil le modal 145B ruith air bathar-cruaidh luchd-cleachdaidh/prosumer.
  • Co-dhùnadh Luath: Tha gineadh 80+ tokens/s agus giullachd stiùiridh 1,100 tokens/s ga dhèanamh feumail airson sruthan-obrach fìor-ùine.
  • Ceadachas Fosgailte: Tha ceadachas Apache 2.0 a’ leigeil le cleachdadh malairteach agus atharrachadh.
  • Prìobhaideachd: Tha an dàta gu lèir a’ fuireach air a’ mhacainn agad; gun iuchraichean API no eisimeileachd sgòth.
  • Deiseil airson Buidhnean-obrach: Taic togte airson cleachdadh innealan agus planadh ioma-cheum.

Eas-bhuannachdan

  • Cnap-starra Bathar-cruaidh Àrd: Feumaidh GPU àrd-ìre (24GB+ VRAM) gus ruith gu h-èifeachdach.
  • Buagan Latha 1: Mar sgaoileadh ùr, dh’fhaodadh cuid de ghnìomhan agus amalachadh a bhith neo-sheasmhach.
  • Benchmarkan an Luchd-reic: Tha benchmarkan neo-eisimeileach treas-phàrtaidh fhathast gann.
  • Suidheachadh Co-fhillte: Ged a tha innealan rim faighinn, faodaidh rèiteachadh an fhrèam-obrach co-dhùnaidh airson coileanadh as fheàrr a bhith teicnigeach.
  • Malairtean Cainteachaidh: Dh’fhaodadh cainteachadh Q3K doimhneachd reusantachaidh a lughdachadh beagan an coimeas ri sgaoileadh frithealaiche làn-phrìse.

Cò Bu Chòir Edge0-145B a Chleachdadh?

Chan eil Edge0-145B airson a h-uile duine. Tha e air a chomharrachadh gu sònraichte airson:

  1. Luchd-leasachaidh: A dh’fheumas neach-cuideachaidh còdaidh prìobhaideach, cumhachdach a dh’fhaodas mòr-thagraidhean còd a làimhseachadh gun dàta a chur chun na sgòth.
  2. Proifeiseantaich Le Prìobhaideachd: Luchd-lagha, dotairean, no anailisichean ionmhais a dh’fheumas cuideachadh AI ach nach urrainn cunnart a ghabhail le leaghadh dàta.
  3. Luchd-deòin AI: Aig a bheil bathar-cruaidh àrd-ìre agus a tha ag iarraidh deuchainn a dhèanamh air sruthan-obrach buidhnean-obrach gu h-ionadail.

Ma tha GPU meadhan-raon agad (8GB–12GB VRAM), is dòcha gum bi modalan nas lugha leithid Mistral 7B no Llama 3.1 8B nas fheàrr dhut. Tha Edge0-145B na eòlas ionadail prìobhaideach a dh’fheumas bathar-cruaidh prìobhaideach.

Co-dhùnadh Deireannach

Tha Edge0-145B na chlach-mìle chudromach ann an deamocratachadh AI. Le bhith a’ cleachdadh ailtireachdan tana agus frèamaichean co-dhùnaidh èifeachdach, tha Edge0 air a dhèanamh comasach modal le 145 billean paramadair a ruith air aon GPU àrd-ìre. Tha na tomhasan coileanaidh—gineadh 80+ token/s agus comasan còdaidh coltach ri modalan ùr-nodha—glè tharraingeach.

Ged a tha e fhathast tràth, agus bu chòir do luchd-cleachdaidh beagan neo-choileanta a bhith an dùil, tha an comas gun teagamh. Dhaibhsan aig a bheil an uidheamachd gus taic a thoirt dha, tha Edge0-145B a’ tabhann roghainn eile tharraingeach an àite ballrachdan sgòthan, a’ cur prìobhaideachd ruith ionadail còmhla ri tuigse modalan ùr-nodha.

Ìre: 4.5/5 – Leigeil a-mach ùr-ghnàthach a tha a’ lìbhrigeadh air a ghealladh, fhad ‘s a tha an uidheamachd agad airson a ruith.

Ceistean Cumanta

C: An urrainn dhomh Edge0-145B a ruith air Mac? A: An-dràsta, tha prìomh thaic airson GPUan NVIDIA air Linux agus Windows. Tha taic Mac (tro MLX no Metal) fo leasachadh ach is dòcha nach eil i fhathast a’ toirt taic èifeachdach don àireamh iomlan de 145B paramadair.

C: A bheil Edge0-145B an-asgaidh? A: Tha, tha cuideaman a’ mhodail agus an còd fosgailte fo cheadachas Apache 2.0. Chan eil thu a’ pàigheadh ach airson do uidheamachd agus dealan.

C: Dè an uiread VRAM a tha riatanach agam gu fìrinneach? A: Tha am modal a’ aithris cleachdadh cuimhne ~29GB aig an ìre as àirde. Feumaidh tu GPU le co-dhiù 24GB (leithid RTX 4090) le cuantachadh làidir, ach thathar a’ moladh cairt 48GB (RTX 6000 Ada) airson eòlas nas rèidhe le co-theacsan nas fhaide.

C: Càite an urrainn dhomh am modal a luchdachadh sìos? A: Tha na cuideaman ri fhaighinn air Hugging Face aig Edge0/Edge0-145B-q3k, agus tha an còd air GitHub aig Edge0-AI/edge0.

C: A bheil e ag obair far-loidhne? A: Tha, aon uair ‘s gu bheil am modal air a luchdachadh sìos, bidh e a’ ruith gu tur gu h-ionadail. Chan fheum thu ceangal eadar-lìn airson co-dhùnadh.

Ar Pròiseact

Ro-innse Stoc AI — Mion-sgrùdadh Margaidh Glic

Ro-innse margaidh stoc le cumhachd AI agus mion-sgrùdadh teicnigeach. Faigh ro-innse làitheil airson stocan, ETFan, agus crypto le sgòran misneachd agus tomhasan cunnairt.

Faigh Ro-innse an Latha
Airson luchd-dèanamh innealan

A’ togail no a’ margaidheachd inneal AI?

Faigh liostadh, ath-sgrùdadh, no nochdadh air AI Tools Hub — liostaichean air a mhaoineachadh 12-mìosan, ioma-chànanach. Bho $49.

Sgioba AI Tools Hub

Luchd-ath-sgrùdaidh Innealan AI Eòlach

Tha an sgioba againn de luchd-gaoil AI agus eòlaichean teicneòlais a’ deuchainn agus a’ dèanamh ath-sgrùdadh air ceudan de innealan AI gus do chuideachadh le bhith a’ lorg an fhuasgladh foirfe airson do fheumalachdan. Bidh sinn a’ toirt seachad mion-sgrùdadh onarach, domhainn stèidhichte air cleachdadh san t-saoghal fhìor.

Co-roinn an artaigil seo: Post Co-roinn LinkedIn

Barrachd Phròiseactan le Cumhachd AI bhon Sgioba Againn

Seall na h-innealan AI eile agus na ro-innsean againn