Hirdetés
Új hozzászólás Aktív témák
-
consono
nagyúr
válasz
S_x96x_S
#1420
üzenetére
Ziskind tesztelte az Exo-t már többször, utoljára talán 3 MacBookon (egy Pro és két különböző alap Air), de ha jól emlékszem még mindig nem az igazi, de legalább látszik már a potenciál.
Born too late to explore Earth, born too early to explore the Universe. Born just in time to sit in front of the laptop and join a Teams meeting...
-
Zizi123
senior tag
válasz
S_x96x_S
#1420
üzenetére
Az RTX 4060 TI low cost gamer kártya, ami nem speciálisan AI-ra lett fejlesztve., mint az M4 Pro. (vagy mint amennyire az M4 PRo-nál rá voltak gyúrva)
Viszont sebességben elveri az M4 Pro-t, mert minden +16GB RAM-ért kapsz 1 újabb RTX 4060 16GB-ot.
"MacBook Pro -n ( kimaxolva 128GB-ra )"
Az már 2,2m fölött van az már igencsak az a kategória, amikor ha valakinek van 2.2m AI-ra gépe, akkor akad ott 3m is, és akkor mér lehet tényleg olyat venni ami tényleg gyors.
(Bár csak 48GB RAM lesz a GPU-n.)Mondjuk az más kérdés, hogy mit kezd a 100MB-os modelllel a MacBook Pro, mert bár 128GB-val meg tudja nyitni, de a sebessége az a 11 token elég lightosnak tűnik.
-
Zizi123
senior tag
válasz
S_x96x_S
#1411
üzenetére
Akkor ezek szerint a channels és a controllers ugyanaz?
Csak mert a dual, quad, eight channels rendszerekbe ugye annyi darab memóriát kell rakni ahhoz, hogy kihasználja a rendszer sebességét.
Az Apple-né viszont 1-2db memória modul van max, és az tud 16, 24, 32 channelt???"kétcsatornás DDR5 memória ;
2x64 = 128 bit ; vagyis annyi tudhat mint az alap M4
és kevesebbet mint az "M4 Pro"
Ez azért fura, mert ahogy írtam is jelen pillanatban a létező leggyorsabb DDR5 memória modulok tudnak 40GB/s-et. azért nagyon elmarad a 120GB/s-től.Sajnos az Apple memória sebességről semmit nem lehet találni, hogy milyen gyors, mekkora a tényleges átviteli sebessége.
Visszatérve az AI-ra:
A Geegbench AI alapján:Single Precision (FP32) score:
M4 Pro 5.770
RTX 4090: 42.338Half Precision (FP16) score:
M4 Pro: 38.425 (RTX 4070 szint)
RTX 4090: 56.949Quantized (INT8) Score:
M4 Pro: 51.440
RTX 4090 31.147Tehát nagyon jó az Apple proci, főleg, hogy tartalmazza a GPU-t is, de 1 ugyanolyan árú PC-vel csak bizonyos AI feladatok esetén tudja felvenni a harcot.
[ Szerkesztve ]
-
Zizi123
senior tag
válasz
S_x96x_S
#1409
üzenetére
Értem, csak senki nem beszélt eddig notebookról.
Emlékeim szerint MacMini-ről, mini PC-ről volt szó utána én hoztam fel a PC-t, mint alternatív megoldást a MacMini helyett.Viszont még mindig nem értem, hogy a memória sebessége a controllerek számától függ?
Tehát a memória végtelen sebességű, csak attól függ a gyakorlati sebessége, hogy mennyi controller van a gépben?
Én eddig azt hittem, hogy maga a memória modulnak , a rajta levő chipnek van 1 sebessége. De akkor ezek szerint nem.
Pl az Intel i5-14500 CPU-ban mennyi memória controller van? -
Zizi123
senior tag
válasz
S_x96x_S
#1392
üzenetére
Bocs tényleg benéztem, hogy 16GB RAM van benne, így 100et-al olcsóbb, mint írtam.
Viszont amit írtál csak részben igaz."A gyors egyesített memória sebessége eléggé fontos, és egy M4 PRO-s 273GB/s of memory bandwidth -et lehetetlen összehozni 2 csatornás DDR5-ből."
Ez így igaz, ahogy az Apple sem tudja összehozni szerintem. Ez max 1 elvi sebesség lehet, mert maga a DDR5 memória nem tud annyit amit használ az Apple is. A csúcs DDR5 memóriák tudnak 40GB/s körül olvasni az LPDDR5 viszont nyilván nincs a közelébe ennek. Ha DDR5-ből csinál GPU memóriát, akkor annak kellene lennie a gyenge láncszemnek.
Vagy valamit nagyon félreértek.Nem túl sportszerű mobil GPU-val hasonlítgatni a MacMini-t
Ha a 4070 Ti-vel, vagy Ti Super-al hasonlítjuk összes akkor már nagyon csúnyán alúlmarad a MacMini a az RTX 4070 GPU-k 672.3 GB/s memória sávszélességhez képest.
Vagy az RTX 4080 Super 736MB/s-jéhez képest.Igen ezek csak 16GB-os kártyák azt nem tudom, hogy tudnak-e az AI alkalmazások több kártyát használni egyszerre, pl a (ComfyUI biztos nem, mert azzal szórakoztam én is, de azt írják, hogy csak 1 kártyát tud kezelni egyszerre)
Tehát azért 1 próbát megérne, hogy az említett 48GB-os modell-t ha betöltöd az milyen sebességgel dolgozik, a LPDDR5 memória visszafogja-e vagy sem ...
De persze ez józan paraszti logika, símán lehet, hogy nem így működik a dolog.
Írdd már meg légy szíves ha nem stimmel a gondolkodásom.[ Szerkesztve ]
-
S_x96x_S
addikt
válasz
S_x96x_S
#1399
üzenetére
És egy 28GB -os modell ; csak 1.55 token/sec
cpu mód:
"""
# ollama run gemma2:27b-instruct-q8_0 --verbose
>>> hello
Hello! 👋
How can I help you today? 😊
total duration: 26.185456189s
load duration: 72.464752ms
prompt eval count: 10 token(s)
prompt eval duration: 17.71s
prompt eval rate: 0.56 tokens/s
eval count: 13 token(s)
eval duration: 8.372s
eval rate: 1.55 tokens/s
"""
( Minisforum UM790 Pro - Ryzen 9 7940HS - 32 GB DDR5 RAM )Persze kinek mire kell;
de a nagy modellek sebessége egyre csak csökken és nem árt a memória sávszélesség.
emiatt a CPU módot hamar ki lehet nőni ...Mottó: "A verseny jó!"
-
-
Lokarson
tag
válasz
S_x96x_S
#1391
üzenetére
Én most Intel 1135g7(Iris XE) notit használok 24GB Ram-mal. IPEX-LLM-mel már GPU támogatásom is volt (taskbar-ban is láttam a GPU terhelést: 90%), de nem volt gyors.
A Mac-től egy kicsit tartok (nem ismert Op.rendszer, programok, perifériák, nem bővíthető stb.), ezért gondoltam a 125H/155H vonalra.
A 780M-re még nincs rendes GPU támogatás? (Ezt is néztem egyébként.)
Olvasva a többiek hozzászólását is, talán egy használt 3060 12GB-os gép lenne a legköltséghatékonyabb megoldás számomra, vagy heti néhány órára runpod."Ha jön a világvége kimegyek majd külföldre, ott nem talál meg elrejtőzöm előle..."
-
ptesza
senior tag
válasz
S_x96x_S
#1349
üzenetére
Nekem nagyon úgy tűnik, hogy nem az AI-t használják. Hanem a régi jólbevált végeselem módszert amit az ANSYS fog adni. Egy helyen meg is villantották. Egy ilyen hidraulikus szimuláció a háló sűrűségétől függően akár több napig is eltarthat egy 2000-3000 magos klaszteren is. Ez drága játékszer a nagyfiúknak. Eddig sem az volt a baj, hogy a mérnök nem értette azt amit csinált és kellett volna hozzá egy AI, hanem ilyen eszközökhöz inkább csak a nagy multi cégek tudnak hozzáférni és megfizetni.
-
válasz
S_x96x_S
#1338
üzenetére
majd ha melo mellett több időm lesz megg látom, hogy esetleg tudok valamit kezdeni a dologbol, akor ugy is jobban rá álnék a témára, de addig mig semmit nem tudok addig nem akarok pénzt belefeccolni, föleg ha tényleg nem ugy halad ahogy szeretném.
Ezért lett volna jo ha van egy olyan ismerős aki hasonlo érdeklödésu mint én és tud programozni, mert akkor folyamatába tdtuk volna egymást segiteni és az ötletelésel ö meg a kodolással és akkor elöbb utobb már mindenki beleszokott volna és átlátta volna a kodot, hogy mit miért hogyan . -
#1337
Komplikato
veterán
S_x96x_S
#1335
Komplikato
veterán
válasz
S_x96x_S
#1335
üzenetére
OFF: Nekem nagyon vicces, hogy ma a Phyton mennyire megkerülhetetlen. Mikor anno Amigára (!) kijött ez a nyelv, az alapjait tartalmazó könyvet alig bírták elsózni. Annyit tudtak felhozni mellette, hogy könnyebb és észszerűbb, mint a C.
Érdekelne hogyan vészelte át azt az 1-2 évtizedet, amíg annyira el volt ásva, hogy nem is hallottam felőle."Figyelj arra, aki keresi az igazságot és őrizkedj attól, aki hirdeti: megtalálta." - (André Gide)
-
válasz
S_x96x_S
#1335
üzenetére
ezeket a kröket már megfutottam évekkel ezelött, nincs senki ismerős aki kodolni tud, a codolos topicokbol meg elhajtanak azzal, hogy az ugy nem megy ahogy én gondolom, mert elöbb tanuljak meg basicet meg más egyszerü nyelvet majd utána ha az megy akkor tanuljak meg olyan nyelvet amivel már mindent lehet aztán azon is gyakoroljak kis programokat és majd utána nekiállhatok .
Mert azt ugy nem lehet, hogy egy nagy projectnek nekiálok és elöszor felépitem a vázát , és majd kicsinnyenként épitem fel hozzá a részleteket.
YT-on és könyvekbol meg egyedül nem leht , ugy hogy közben nincs senki aki megválaszolná azokat a részeket ami nem tiszta és ott se tudom átultetni olyan programba ami nekem tetszik, olyant meg nem szeretnék, hogy csak azért csinálok egy telefonkönyvet, vagy számologépet , amit utána nem használok, de az idő meg eltelik vele és nem haladok azzal ami érdekelne.Ezért is örülök, hogy már van ilyen AI leetőség,mert bár nem értem a kodot,, de legalább már most olyan dolgokat sikerült vele megcsinálnomm, amit szerettem volna , igaz, hogoy bajlodni kell vele, hogy megértse mit akarok, vagy hogy müködjön egyáltalán, de legallább valamerre visz.
-
válasz
S_x96x_S
#1333
üzenetére
mivel nem tudok egyáltalán kodolni és a legtöbb ilyenhez azért kéne érteni minimálisan valamit , ezért mégha le is van irva nem teljesen tiszta, hogy mikor mit és hogyan kéne használnom, a github meg amugy is nekem egy elég átláthatatlan valami
Csak annyira szoktam használni, hogy a zip filet le tudom tölteni .
DE inkább maradnék valami jobban átlátható leirásnál vagy egy OCI install nál vagy egy next next ok, stilusnál.
Ezért is kérdeztem, mert a YT-on látom hogy használják páran, de a pontos részleteit nem mutatják meg, hogy akkor most mégis mit honnan kell letötlteni beállitani.
Meg általában nálam sose szokott mukodni elsöre az ami ott igy a hibákat se tudom, hogy lehet kijavitani vagy mit kell olyankor tenni. -
Mp3Pintyo
aktív tag
válasz
S_x96x_S
#1265
üzenetére
Egyetlen egy magyar csoportról tudok ami van: ChatGPT developers (ChatGPT, OpenAi API, CustomGPT, AI code, AI)
A Twitter a legjobb és a legfrissebb ha naprakész szeretnél lenni.
https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók
-
-
consono
nagyúr
válasz
S_x96x_S
#1260
üzenetére
Igen, a kvantálás nagyon népszerű, mert sokkal emberibb mérete van a modelleknek és a q4_0 meg nem is "butul" olyan nagyon...
Born too late to explore Earth, born too early to explore the Universe. Born just in time to sit in front of the laptop and join a Teams meeting...
-
Mp3Pintyo
aktív tag
válasz
S_x96x_S
#1227
üzenetére
Nem véletlenül dicsérik a podcast készítő képességeit. Elindítottam én is a Spotify rendszerében egy AI tematikus podcastot amit ezzel készítek.
https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók
-
V.Stryker
nagyúr
válasz
S_x96x_S
#1205
üzenetére
Próbáltam és ugye alapból a plusba rakott be. Nagyon jól válaszolt, nem volt benne annyira sok halandzsa.
Amúgy ami a free-ből hiányzik, hogy tudjak neki doksikat (pdf, word,) bedobni és az abban lévő adatokról infókat kérdezni, hogy ne nekem kelljen órákig átnyálazni.
Na ez a plusban zseni módon működik.
Van esetleg erre ingyenes AI?
-
-
Atomgeszi
nagyúr
válasz
S_x96x_S
#1194
üzenetére
Nekem csak az a bajom, hogy rendkívül sokat hibázik, még egyszerű dolgokban is.
Amire 2 héttel ezelőtt zsigerből jól mondta a választ, azt most nem jól tudja. Ha kijavítom, akkor mondja, hogy "Igazad van, rosszul tudtam" "Javítom" "Legközelebb tudni fogom"... aha. Aztán utána ugyanúgy nem tudja. Persze, oké, hibázhat ez tény. De én már bármilyen válaszra inkább kétszer kérdezek rá, és akkor önellenőrzésnél általában saját magától rájön, hogy hibásan gondolkodott. Most kipróbáltam egy szándékosan egyszerű rajzzal is, már ezt elsőre benézte, amikor kértem, hogy rajzoljon bele.
Persze magunknak is ez egy jó ellenőrzés, hogy kételkedünk mindenben, amit mond, a gond azzal van, hogy sok sok idő megy el a kiigazításra.
És ez csak egy szándékosan párvonalas rajz volt, a bonyolultabbakat nem is mertem.
Amúgy hétről hétre ügyesebb, a válaszokat tekintve is. Csak tudni kell a korlátjait.
Eladó gyönyörű, kitűnő állapotú audiophile hangfalszett https://hardverapro.hu/apro/elac_carina_audiophile_5_0_szett_2/hsz_1-50.html
-
consono
nagyúr
válasz
S_x96x_S
#1194
üzenetére
Én is azokkal játszom, amiket írtál, de nekem az csak hobbi, nem tesz hozzá a munkámhoz. A munkámban is használok machine learninget, implementáltam is, de az megint egy elég szűk határterület (időskoros adatokon near realtime anomáliakeresés)....
Born too late to explore Earth, born too early to explore the Universe. Born just in time to sit in front of the laptop and join a Teams meeting...
-
-
Mp3Pintyo
aktív tag
válasz
S_x96x_S
#1111
üzenetére
Persze amikor megmutattam a senior fejlesztőnek egyből közölte, hogy tuti nem is érti a kódot! Mennyire nem jó.
Erre a válaszom. Működik? Működik 8 évesen ti mit fejlesztettetek? 
Ha jól emlékszem én lyukakat ástam a földbe, hogy megnézzem a gilisztákat...https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók
-
Mp3Pintyo
aktív tag
válasz
S_x96x_S
#1094
üzenetére
A Copilot laptopok már kaphatóak itthon is.
Az Open WebUI-t ezért linkeltem. Renegeteg bemutató videót is készítettem róla. Többek között azt is hogyan lehet a saját dokumentumomokat feldolgozni vele. Ingyenes, nyílt, open sourcehttps://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók
-
Mp3Pintyo
aktív tag
válasz
S_x96x_S
#1090
üzenetére
A Copilot esetén egyből bukik a ne jusson ki a netre. A Copilot 365 Studiot próbáltam én is. Felemás eredményeket adott válaszként. Késő tavasszal még nem kezelte jól a magyar nyelvű fájlokat. Az előfizetés sem olcsó rá. 100 dokumentumot lehet tudásbázisnak beadni amik max...mennyi is volt talán 1MByteosak lehetnek.
https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók
-
Mp3Pintyo
aktív tag
válasz
S_x96x_S
#1091
üzenetére
Az előbb néztem meg egy több mint 1 órás tesztet az o1-preview modellről. Elég jól teljesít. Érdekes mert az adatbézisa pl régebbi mint a 4o modellnek. olyan feladatokat is jól oldott meg amin mások elhasalnak.
https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók
-
-
5leteseN
senior tag
válasz
S_x96x_S
#1072
üzenetére
Annak a jó kis CPU-nak az egyik USB-4-es lehetősége bőven elég egy eGPU-s hardvernél az AI/MI-s szoftverekhez. A kb fele teljesítményű (nem néztem milyen IGP-s)Ryzen-eknél egy 3090 körülbelül 15-20-szor nagyobb teljesítményű(szoftvertől függően, it/s sebességben).
[ Szerkesztve ]
-
consono
nagyúr
válasz
S_x96x_S
#1072
üzenetére
Igen, vicces dolog
Bár hogy értem hozzád képest van azért különbség, mert itt az integrált Arc GPU végzi a munka nehezét, még ha nem is dedikált memóriával, hanem a RAM-ból lecsípve. Jó, hát gyorsnak így sem gyors, az tény Az NPU használatra én is kíváncsi lennék, főleg a fogyasztása miatt, mert csodát ott sem várok a teljesítményben egy combosabb GPU-hoz képest...
Born too late to explore Earth, born too early to explore the Universe. Born just in time to sit in front of the laptop and join a Teams meeting...
-
5leteseN
senior tag
válasz
S_x96x_S
#1070
üzenetére
"A CPU-nak: max 40 PCIe 3.0 sávja van. ..."
A sok (főleg megfizethetőség)szempontból versenytárs Ryzen-eknek meg a fele se. Van a Ryzen-nek 2-csatornás RAM-üzemmódja, amivel valóban lehet arany-árony a gyorsabb DDR5-RAM sebességet letenni az asztalra a jelen esetben 5GBps körüli négy-csatornás DDR3-as helyett, majd megduplázva az említett aranyárat lesz is
felenegyede RAM, mint ez esetben a "kis-öregnek"(2011-3): 128GB.
Nekem még ott van a "kis-öreges vas"(2011-3) esetében a tarsolyban a RAM-disk-es futtatás is!
![;]](//cdn.rios.hu/dl/s/v1.gif)
Linux-nál lazán megy(toram ).
Az alapra írják egyébként, hogy 2x16sávos VGA és 1x4sávos VGA van rajta, teljes(16 sávos aljzattal mindegyik)."...Vagyis modern GPU-t nem tudsz kihajtani vele..."
Miért nem?Ha drága az alap rendszer akkor tudok venni bele kezdetnek egy 3090-et, vagy 4060Ti 16GB-ot.
Ezek az AI programon többségénél az AI szoftvet(és modell/LLM/*.safetensor) betöltés után szinte csak a GPU-n dolgoznak. A PCIe3.0-ból 4 csatorna is elég a jelenlegi szoftverek esetén.Ha "fejhető" átlag-felhasználók többségének ez-ilyen VGA-ja van(lesz) akkor ezen a szoftver irányon nem is fognak tudni(akarni) változtatni a kereslet-kínálat törvénye alapján.
"...és egy modern SSD-vel se tudod etetni a GPU-t."
Miért nem tudom? Van 2 PCIe3.0-s SSD-m, szofveres RAID0 alá teszem őket!
Nicsak: Megvan a PCIe4.0-ás sebessége , és szerintem 2x1TB Gen3-as SSD olcsóbb, mint egy 2TB-os Gen4-es.A PCIe5.0-ás ellen valóban maradna a RAID0-ás (kétszeres PCIe3.0=) PCIe4.0-ás sebesség, de ez már olyan, mint amikor a(z ironikus) Playboy-karikatúrában a azon vitáznak ketten , hogy a Ferrari a tulajdonosnak jobb, vagy a Bugatti gazdinak, miközben órák óta ülnek a városi dugóban!
Igen, a PCIe5.0-s SSD sebességét ezzel a 2011-3-as alaplappal nem lehet elérni(csak a PCIe4.0-ásét), de a kettő közötti különbség a gyakorlatban jelentéktelen, viszont az ármegtakarításból a GPU-ra fordítható összeglátványosan megnő, és egy fél-professzionális AI-vas teljesítménye lesz kiépíthető így! ...gondolom(és csinálom) én!
[ Szerkesztve ]
![;]](http://cdn.rios.hu/dl/s/v1.gif)
Új hozzászólás Aktív témák
Hirdetés
- Zalman ZM650-EBT (hibás) eladó
- Újszerű ASUS OLED Zenbook! Csak 1 kg! 13,3 coll/i5-1135g7/512SSD/16GB 4267Mhz RAM
- AKCIÓ!!! GAMER PC: RYZEN 9 5900X + RTX 3060 12GB GDDR6! GARANCIA/SZÁMLA!!!
- BONTATLAN Új Iphone 16 PRO 128Gb - 1TB Független 1év Apple GARANCIA Deák Térnél Azonnal Átvehető.
- BONTATLAN Új iPhone 16 PRO MAX 256-512GGB Független 1év Apple GARANCIA Deák Térnél Azonnal Átvehető.
Állásajánlatok
Cég: PCMENTOR SZERVIZ KFT.
Város: Budapest
Cég: Axon Labs Kft.
Város: Budapest