Hirdetés
- PlayStation 4
- Fortnite - Battle Royale & Save the World (PC, XO, PS4, Switch, Mobil)
- Teljes verziós játékok letöltése ingyen
- Genshin Impact (PC, PS4, Android, iOS)
- Akciófigyelő: PlayStation "Januári" leárazások
- WoW avagy World of Warcraft -=MMORPG=-
- PlayStation 5
- EA Sports WRC '23
- Path of Exile 2
- EAFC 25
Új hozzászólás Aktív témák
-
consono
nagyúr
válasz Mp3Pintyo #1048 üzenetére
És ez tényleg használ NPU-t is? Végre össze lehet majd hasonlítani rendesen, hogy mire elég az a 40 TOPS, amit mindenki belerak a procijába egy GPU-val szemben! Ja, de ahhoz kéne olyan proci is
Szerk.: itt elsősorban a wattra virított teljesítmény érdekelne, nem a nyers erő...[ Szerkesztve ]
Born too late to explore Earth, born too early to explore the Universe. Born just in time to sit in front of the laptop and join a Teams meeting...
-
5leteseN
senior tag
válasz Mp3Pintyo #1046 üzenetére
Gyűrjük egymást keményen az AMD-s AI-újdonsággal(Amuse).
Még ismerkedünk, van jó is rossz is, viszont erősen jobb, mint az eddigi kb semmi !
Mivel az eddigi semmi/alig-valami( a CUDA-hoz képest) nagggyon-qrva gáz (szerintem) az AMD-nek. Úgy sejtem, hogy jönnek majd ezerrel az újabb fejlesztések is rá.
Szerintem a ROCm "faragása" is megy közben ezerrel a háttérben!Köszönet!
-
Mp3Pintyo
aktív tag
-
5leteseN
senior tag
Számomra király hírek jöttek a Discord-csatornádra, már töltöm is a Yt-os Amuse ismertető videó alatti linkről a Amuse-t
Kb az AI-s AMD-sek előre hozott Karácsonyi Ajándéka(Amuse) jött meg!
Kösz-kösz![ Szerkesztve ]
-
ptesza
senior tag
Tud valaki olyan megoldást ami képből vektor grafikát tud? img-->svg
Saját gépen lenne a legjobb. -
Mp3Pintyo
aktív tag
válasz gabranek #1039 üzenetére
Nem zavarja a progikat ha telejesen más a játszó környezetek python verziója. Hozz létre egy új conda környezetet a ComfyUI-nak de 3.10-es Pythont használva. Próbáld ki hátha segít a numpy hibán
https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók
-
Mp3Pintyo
aktív tag
válasz gabranek #1037 üzenetére
A Pythonban szinte minden csomag függ mindentől. Ha ráfrissítesz külön egy csomagra akkor az még plusz függőségekre is rá szokott frissíteni és így pillanatok alatt 3-4 másik csomag lesz működésképtelen.
Pythonnak inkább a 3.10-et ajánlanám.
Készítettél külön venv vagy conda környezetet?
Általában a numpy-ra mindenhol az a megoldás, hogy egy bizonyos verzióra frissítik. Pl:pip install numpy==1.26.4
https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók
-
gabranek
senior tag
Szeretnék kérni egy kis segítséget. Ki akartam próbálni a Comfyui-t. Feltelepítettem az Anacondát, pythont (3.11.5) és a git-et. Mivel AMD kártyám van, nem épp a legegyszerűbben, de sikerült is elindítani. A kép generálása is lefut, viszont a legvégén kidobja az alábbi hibaüzenetet (a numpy-t is lefrissítettem, de nem segített):
!!! Exception during processing !!! Numpy is not available
Traceback (most recent call last):
File "D:\ai\ComfyUI\execution.py", line 316, in execute
output_data, output_ui, has_subgraph = get_output_data(obj, input_data_all, execution_block_cb=execution_block_cb, pre_execute_cb=pre_execute_cb)
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "D:\ai\ComfyUI\execution.py", line 191, in get_output_data
return_values = _map_node_over_list(obj, input_data_all, obj.FUNCTION, allow_interrupt=True, execution_block_cb=execution_block_cb, pre_execute_cb=pre_execute_cb)
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "D:\ai\ComfyUI\execution.py", line 168, in _map_node_over_list
process_inputs(input_dict, i)
File "D:\ai\ComfyUI\execution.py", line 157, in process_inputs
results.append(getattr(obj, func)(**inputs))
^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "D:\ai\ComfyUI\nodes.py", line 1497, in save_images
i = 255. * image.cpu().numpy()
^^^^^^^^^^^^^^^^^^^
RuntimeError: Numpy is not available田中れいな
-
hiperFizikus
aktív tag
válasz Komplikato #1035 üzenetére
joo, megélted, de túléled-e ?
A gázt is és a féket is egyszerre nyomni nem menő dolog !
-
Komplikato
veterán
Ezt is megéltem, a Facebook algoritmusa Lumiere AI hirdetéseket sodor a látómezőmbe.
"Figyelj arra, aki keresi az igazságot és őrizkedj attól, aki hirdeti: megtalálta." - (André Gide)
-
hiperFizikus
aktív tag
Üdv mindenkinek, aki egy kicsit a lelke csücskében "mesterséges" ♥
Kitaláltam valamit, ne-ne ne-szaladj el nem fog fájni !
Le kell tölteni az internetről online általános lexikonokat és általános enciklopédiákat, amit aztán LLM programmal nézegethetsz !
Hogy ez hogy s mint van itt olvashatod ♥A gázt is és a féket is egyszerre nyomni nem menő dolog !
-
5leteseN
senior tag
válasz 5leteseN #1032 üzenetére
Miután feltöltöttem új X99-es "barátom" DDR3-as RAM helyeit, gondoltam, megnézem, mi a helyzet a Piacon, és "leültem"!
Ezért: 128GB RAM(4x32GB) 60€ körül DDR3-ból és 70€ körül DDR4-ből. Ráadásul az eBay-es rápillantás után nem győzöm elzavarni őket(Kösz, nem kérek árleszállításost sem, stb...), mert még mindig van egy csomó RAM-om a polcon.
Úgy hogy lazán megéri X99-re alapozott alap-rendszert összerakni(ha valakinek nincs erre a célra korábbi PC-je), mert harmad áron kijön, mint az asztali elemekből összerakott új Ryzen+DDR5 rendszer, annál ugyan 20-30%-kal kisebb CPU-RAM sebességgel, DE cserébe 2-3-szeres RAM-mérettel!
A RAM-ok esetében nem is biztos a sebesség-lemaradás, mert a szokásos Ryzen-ek csak 2-csatornás módban dolgoznak a gyorsabb DDR5-ös RAM-okkal, míg az ebben az üzemmódban nem sokkal lassabb DDR4-ek a szerverprocesszorokkal négy-csatornás üzemmódban "tolják", ősszességében tehát gyorsabbak!
Ott van még (a rövidesen learatható bónuszként) a több VGA-s üzemmód lehetősége is az X99-es platform mellett.Érdekességként:
- kínai X99-es alaplap 8xRAM, 3xVGA: 70€ körül
- Ryzen 3600X szintű CPU: 20-30€
- 128GB DDR4 RAM: 70€
- Bónusz: 2-3(-4+ +20-40€-ért) VGA használat lehetősége!!!
- kétCPU-s alaplap ártöbblete: 30-40+ €.Az nem szabad elfelejteni, hogy VGA-k 5-10(akár-15)-ször hatékonyabbak(RTX 3090), tehát egy dupla-CPU-s (csak-CPU-val dolgozó) AI-PC kb egy gyenge nVidia VGA tudását közelíti, 3-szoros fogyasztással!
A CPU-s rendszer előnye viszont, hogy a csillagászati árú(3090, és 4000-es nV-sorozat) tagjai is csak 16-24GB VRAM-mal rendelkeznek, tehát például egy 40GB-os Flux ugyan úgy CPU-rendszer-RAM összeállítást fog használni(ha van elég a drága asztali RAM-ból) kb dupla sebességgel, mint egy csak CPU+RAM-os X99-es PC.Minden jónak tűnő hír ellenére: Csak CPU-val tartósan nem éri meg AI területen ismerkedni, de (szerintem ! ) jó, és sokkal megfizethetőbb kiegészítője egy X99-es (sok-RAM-os, +sok-VGA-s) gép, mint egy ide(AI) nem optimális jelenlegi (tipikus)új asztali-PC!
Ha már a Flux.1 Image Generator szóba került: ITT lehet online próbálgatni, e-mail-es regisztrálás után.
"Nem rossz, nem rossz..."[ Szerkesztve ]
-
5leteseN
senior tag
Kellemes meglepetésként tegnap megjött az AI-s szupergépem(remélhetőleg az lesz ) alaplapja Kínából. Elsőre indítva bejött a BIOS-t követő menü, majd lazán betöltötte sokat látott WinToGo(Windows10-es) rendszeremet:
Az USB-s LEXAR(NM620) még kicsit jobban is megy, mit a hasonló korú Latitude 3500-ben, de még a családtag(szintén DELL) T8510-nél is gyorsabb kicsivel(pedig asszem ugyan az az Intel 612-es rendszer-chip alatt megy mindkettő).
Az is kijött, ami miatt az AI-ra jobbnak tartom, mint az eGPU-s laposokatt: a kb 50% órajellel lassabb DDR3-8500-as, 16GBos modulok négycsatornás üzemmódban gyorsabbak a DRR4-es SO-DIMM-eknél, mert bizony azok csak két-csatornás RAM-üzemmódban mennek a Latitude 3500-ban.
Számokban:
- Latitude 3500, DDR4-2400, két-csatornás üzemmód:26.000MBps körüli értékek,
- az X99-8D3 alaplap, DDR3-8500, négycsatornás üzemmód:
28.000MBps körüli értékek.
Elméletileg a DDR3-as RAM-jaim közel 30%-kal húzhatóak lesznek, megbízható működéssel, kis melegedés és +3-5W fogyasztás árán!
Nem viszem OFF-ba a témát, ennyi (mint "cél-hardver" ) szerintem belefér.
Zárásként a lényeg: Mindhárom VGA aljzat rendben van!
Mentem, építem a LEXAR NM 620 512GB-ra az AI-s Windows 11-emet.[ Szerkesztve ]
-
5leteseN
senior tag
válasz #79563158 #1029 üzenetére
Én 20+ éve IT-felhasználó vagyok és és csak érdeklődés szinten(szerintem az átlagnál komolyabban) foglalkozom biztonságtechnikával. Ennek ellenére eléggé biztonságban érezném magam valami kényes témában utazó kkv-ként, ha a kényes időpontokban egy páncélból elővett SSD-ről futtatnám az AI-programomat a lehúzott-kikapcsolt vezetékes és Wi-Fi hálózatos kapcsolattal(vagyis így ugyebár azok nélkül) dolgozó PC-n.
Mindezt tenném azután kb, hogy a BIOS-vírusokat is ellenőriztem például egy live-Linux-os írtóval(egyszerírt-lezárt CD-DVD), és az SSD-n lévő eszközzel is.
Szerintem akár egy Op-rendszer indítás előtti BIOS-reset is segítheti még a biztonságom "illúzióját"!Ha pedig a misztikum világáig fokoznánk a dolgot, akkor elmerülhetünk a CPU-mikrokódok "egy-pöttyet" konteós világában is!
Ha ezeknél a korábban említett segédeszközöknél is betartottam a képzeletbeli kkv IT-szakembereként a biztonsági előírásokat, akkor jó eséllyel maradna az emberi-tényező kihasználása, mert mint tudjuk a klasszikusból: "Van az a pénz amitől korpásodni fog a haj!"
Kis poénnal vittem színt a szakmai hsz-be, és a jóval korábbi (BIOS-os ?!? )Stuxnet-es olvasmányaimból is tanultam, és annak az orosz gázvezeték-robbanásnak a "fatális véletlene" is szolgált tanulságokkal!
Ennél jobban nem akarok belemenni ebbe az OFF-os kitérőbe.
Érdekes lenne egyébként erről a kérdésről megkérdezni az AI-kat![ Szerkesztve ]
-
#79563158
törölt tag
válasz 5leteseN #1028 üzenetére
Szerintem pont a lényeget nem érted. Nem csak akkor jelent problémát a backdoorozott gép, amikor valamit futtatsz rajta, hanem attól a pillanattól fogva, amikor rácsatlakoztattad a hálózatra. Ha volt rajta backdoor és rácsatlakoztattad, akkor már sanszos, hogy hiába húzod ki, mert nullánál nagyobb az esélye, hogy mire kihúzod már pivotoltak egy másik eszközödre.
Hogy miért nem hiszek benne, hogy megtalálnák a backdoort:
A Stuxnet évekig maradt rejtve, a Juniper backdoor szintén, a SolarWinds hónapokig. Ezek mind szuperbiztonságos hálózatokon mentek úgy, hogy olyan cybersecurity szakemberek vizsgálták a hálózatot akiknek ez a munkájuk. Ahhoz, hogy egy random kínai dzsunka alaplap BIOS-ában megtaláljanak egy backdoort kell egy spektrumon lévö unatkozó cybersecurity szakember, aki hétvégén a CoD vagy párja helyett inkább reverse engineerkedéssel szeretné mulatni az idöt. Nem mondom, hogy nincs ilyen, de én nem mernék rá nagyobb tétben fogadni, hogy tényleg megtalálná bárki. Ezt 10+ év szakmai cybersecurity tapasztalata alapján mondom, nem csak lelkes hobbiistaként.De ez itt tényleg off. Ha neked ez belefér használd egészséggel, csak nem szeretném, hogy mások a kockázatok ismerete nélkül ugyanezt csinálják.
-
5leteseN
senior tag
válasz #79563158 #1027 üzenetére
Akkor szinte mindenben egyetértünk:
Nem tartom valószínünek, hogy backdoor lenne benne(BIOS)
Más formában, ugyanezt írtam!...(mondjuk azt sem, hogy a szakmai berkek megtalálnák a backdoort),
Miért is nem?...de ha van benne, akkor nem csak akkor jelent problémát amikor érzékeny feladatokon dolgozol, hanem amikor hálózatra van kötve.
Írtam a megoldást! Annál jobb "Tűzfal" nincs!Ha a belső hálózatodon van egy backdoorozott gép, akkor gyakorlatilag a teljes hálózatod úgy kell kezelni, mintha direktben internetre lenne kötve, mivel a fertözött hostról bármilyen eszközödet tudják támadni.
Egyéni felhasználót írtam: Magamat!
Ha kellene(nekem, egyénként, egyáltalán) az említett biztonsági szint, akkor a kényes (AI-)időpontokban leválasztom a gépet.Én nem feltétlenül mernék ilyet használni szigorú hálózati szegmentáció nélkül, még akkor se ha van lokális IPS/IDS/tüzfal, mindig minden eszköz azonnal patchelve és hardenelve van, nincs gyenge jelszó, stb. De ugye mindenkinek más a kockázat éhsége.
Magad is írod a jó megoldást!
...gondolom én, még mindig, elég határozottan: A leggyengébb láncszem még mindig az Ember! -
#79563158
törölt tag
válasz 5leteseN #1019 üzenetére
Nem tartom valószínünek, hogy backdoor lenne benne (mondjuk azt sem, hogy a szakmai berkek megtalálnák a backdoort), de ha van benne, akkor nem csak akkor jelent problémát amikor érzékeny feladatokon dolgozol, hanem amikor hálózatra van kötve. Ha a belsö hálózatodon van egy backdoorozott gép, akkor gyakorlatilag a teljes hálózatod úgy kell kezelni, mintha direktben internetre lenne kötve, mivel a fertözött hostról bármilyen eszközödet tudják támadni.
Én nem feltétlenül mernék ilyet használni szigorú hálózati szegmentáció nélkül, még akkor se ha van lokális IPS/IDS/tüzfal, mindig minden eszköz azonnal patchelve és hardenelve van, nincs gyenge jelszó, stb. De ugye mindenkinek más a kockázat éhsége.
-
Mp3Pintyo
aktív tag
válasz lockdown90 #1005 üzenetére
https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók
-
5leteseN
senior tag
Maradjon kettőnk között : Mikor a Szíriuszra küldött, gyík-embereknek címzett rádió-üzenet AI-s visszafejtését elindítom majd, úgy tippelem, hogy kihúzom majd a hálózati kábelt(és kikapcsolom a Wi-Fi-t is), bárki alaplapját is fogom használni!
Komolyabban: Értem a problémát, és (naív-optimista módon) kezelhetőnek tartom.
-
scream
veterán
válasz 5leteseN #1019 üzenetére
Szeretem magam abba a hitbe ringatni, hogy a nagyobb nevű alaplapgyártóknál nem a beragadt raktárkészletek kikukázása utáni legózás eredményéhez, Pistajóska által tákolt fw-t szállítanak - így legalább, ha van rajta backdoor, valamilyen "rendezett" körülmények közötti backdoor kerül rá - ahol talán vigyáznak arra, hogy tőlük kifelé már ne kerüljön az adat.
-
Komplikato
veterán
válasz body007 #1012 üzenetére
Múlt héten találtam leírást amivel lehet tréningezni ilyen 7B/8B szintű (azaz kellően pici és buta) AI rendszereket 8-12-16GB VRam mellett. De cserébe a ugye le vannak degradálva ilyen FP4-re, tehát brutálisan lassúak. Elég bonyolult mindent felpakolgatni és összefűzni. Ilyen trainingről nincsenek tutorial hegyek, mint pl. képalkotó AI + Lora esetén.
"Figyelj arra, aki keresi az igazságot és őrizkedj attól, aki hirdeti: megtalálta." - (André Gide)
-
5leteseN
senior tag
válasz lockdown90 #1018 üzenetére
Én is hallottam ilyen(a közlő által nem bizonyított) híreket. Nem tudom a választ. Ha találsz valami nemzetközi hírt erről, szerintem szivesen látjuk azt. Mind-e mellet az én becsléseim szerint az AI terület száguldási ütemét látva bármilyen "vas" 3-5 éves élettartamban utazik. Ez alapján pedig ha mégis ilyen "ezer évre" tervezett szerver csipeket (újra-)használnak, akkor erre a további 3-5 évre én személy szerint akkor sem nem aggódom.
Ezen meggyőződésem ellenére sem vagyok (elvakult) hívő, nem erőltetem senkire a dolgot, vannak alternatívák erre, a nem sokkal többek-jobbak, újak, sok év garanciával, olyan 10(+)-szeres áron.Érdekes lenne nekem is egy ilyen AI-területre összerakott "neves cél-hardver" kontra "kínai-vas" összehasonlítás!
[ Szerkesztve ]
-
5leteseN
senior tag
Részben akár jogos is lehet az aggodalom(mint minden más gyártónál is ). Részemről az AI-t off-line(netről lekapcsolva) futtatnám, ha olyan érzékeny területen dolgoznék vele és a probléma megoldva!
Érdekessége a kérdésnek(és a válasznak), hogy az eddigi hírek szerint (ahogy én látom) az alaplap BIOS-a gyakorlatig nyilvános, visszafejtett, és jó eséllyel napokon belül futótűz szerűen terjedne a szakmai berkekben, ha mégis kínai hátsókapu lenne benne.
Az pedig alig 1000(+)% , hogy a nagynevű konkurenciák "objektív" háttéremberei is beszállnának a rémhír-terjesztős "buliba".Én ezek miatt gyakorlatilag kizártnak tartom. Ígéretet is teszek egy azonnali értesítésről, ha ilyet hallok, főleg mint aktuális felhasználó!
-
Mp3Pintyo
aktív tag
válasz body007 #1012 üzenetére
Nem kell ilyenekkel feltanítanod mert már vannak ilyen modellek. Ha te akarnád "feltanítani" akkor nem árt hozzá előbb eladni az összes ingatlanodat és abból gépet venni
Ebben a playlistben megtalálsz mindent arról hogyan futtass nyelvi modelleket a saját gépeden:
https://youtube.com/playlist?list=PLwgpW3US1sKntGLCW6JZqY2opJnFz6luQ&si=4x6wDJprCAZgEPea
Magyar nyelvű természetesen.Ha pedig konkrétan fejleszéshez kell akkor ajánlatos a fejlesztőkörnyezetedhez feltenni a Cody-t amit az Ollama kiszolgál a háttérben.
VGA: minimum 16GByte VRAM (12 már necces) azért, hogy jó modelleket tudjál futtatni.
32 GByte rendszermemória is jól jön. A többi kb mindegy. gyors ssdhttps://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók
-
consono
nagyúr
válasz 5leteseN #1013 üzenetére
Ideje lenne elengedned a Windowst lassan, ha tényleg komolyabban akarsz ezzel játszani. Minél komplexebb lesz a setupod annál nagyobb az esély, hogy Winen nem fogod tudni jól használni, de lehet, hogy csak pesszimista vagyok
Born too late to explore Earth, born too early to explore the Universe. Born just in time to sit in front of the laptop and join a Teams meeting...
-
5leteseN
senior tag
A két CPU-s rendszerek (azok alapján amit olvastam) csak 50% körüli plusz teljesítményt adnak, sok kérdőjellel és bizonytalansággal.
Ezért döntöttem a neves dupla-CPU-s szerver alkalmazás helyett(HPE ML350p, DELL-ek, HP380 G8/G9, ...) a tuningolható kínai mellett, ami szerintem jobb választás.
A felsoroltaknak van 5 x19-os VGA-juk, + még 2-3 kisebb, de nálam W10-11 alatt össze-vissza-akadtak, sok esetben nincs driver Windows-okhoz és bizonytalan(-abb, mit a kínai alaplapok esetében), mert a felsoroltak kimondottan szerver üzemmódra vannak tervezve, és a "Nagyok" nem adják ki az open-driverek megírásához szükséges kódokat/infókat.
A 2. évemet nyomom a "Nagyok" ezen (részükről üzletileg szándékosan gerjesztett)problémáinak kiismerésével és megoldásával.
Meguntam!
Szomorúan látom ráadásul, hogy az általuk "kínai-gagyi" kategóriásnak mondott eszközök állva hagyják a régi nagy neveket ezen a területen(is).A témához visszatérve: a kis tuninggal elérhető (Ryzen 5600X körüli) CPU-teljesítmény jól és fillérekért adja a kiegészítést és a szükséges hátteret az AI-n izzadó GPU-knak a modernek és ide nem optimális modern alaplapokhoz képest, de ehhez minimum 32(de még inkább 64)GB RAM kell.
Király: a valóban kicsit koros 8de ezzel az laplapi tuninggal egész jóteljesítményű) szerveres DDR3-akat most öntik a használ-piacra, és nem sokkal többért (és a desktop DDR4-nél és DDR5-nél főleg sokkal jobb áron) jönnek már a DDR4-es szerver-RAM-ok is. A 64GB RAM-mal és 1(-2) GPU-val ez az alaplap pár évig bőven elég lesz(reményeim szerint) egy élvonalbeli amatőr AI-s otthoni rendszerben, a ki tudja milyen(de folyamatosan botrányokkal tarkított) adatvédelmi káoszban.A GPU-k a CPU-hoz viszonyítva(sok szakfórum egyetértő megállapításai alapján) 7-15-szörös sebességgel futtatják az AI feladatokat.
A több VGA-s lehetőség rövidesen itt kopog az ajtómon! -
addikt
válasz 5leteseN #1007 üzenetére
Tetszik az elképzelés nekem is. A chatgpt "szerű" AI-hoz milyen vas kellene? vga vagy cpu? rengeteg ram? Az lenne a cél, h én feltanítom amivel akarom: bash, python skript írás, full linux ismeretek, hasonló dologgal és segítene fejleszteni. Ezt a chatgpt is tudja de jobb lenne ha otthon maradnánk az adatok
Mindenkit egyforma külső inger ér, de egyén függő, h éljük meg :P
-
Komplikato
veterán
válasz 5leteseN #1007 üzenetére
És ezekből van két processzoros verzió is.Én is gondolkodom ilyenen ram intenzív AI dolgok, meg Gaea word generátor programhoz. Csak kéne bele 2db jó kínai rtx3070m 16GB kártya is, de nehéz beszerezni. Mert az új alaplapokkal szben ebbe lehet több kártyát pakolni.
[ Szerkesztve ]
"Figyelj arra, aki keresi az igazságot és őrizkedj attól, aki hirdeti: megtalálta." - (André Gide)
-
DarkByte
addikt
válasz 5leteseN #1007 üzenetére
A több VGA használat tutira jön.
Pl. a Flux kapcsán is meg lehetne csinálni, hogy a T5 és a VAE rész is másik kártyán menjen, és akkor ezek a fázisok párhuzamosan tudnának menni, illetve egy-egy kártyába összesen kevesebb mindent kellene betölteni. (illetve a T5 részt nem a CPU-n kellene futtatni mint most, sokkal gyorsabb lenne, csak a 24GB-s kártyákkal egyszerűen nincs neki hely)
Jelenleg pl. ComfyUI ezt nem támogatja. Nem tudom megmondani a workflow egyes elemei melyik kártyára töltődjenek be.
De ami késik az nem siet..---
Apropó, a héten jön a ComfyUI-ba az Execution model inversion, ami rádob még egy lapáttal a workflow lehetőségekre, kvázi adva egy metaprogramozási lehetőséget. for ciklusok, változók, node-ok dinamikusan hozhatnak létre további node-okat.
Megint kinyit egy új dimenziótItt van pár demó workflow hogy mire lesz ez jó: [link]
Bár szerintem egyik sem igazán mutatja meg jól.Nekem pl. van egy több emberes InstantID workflow-m ami egy kép img2img párján azonos pozícióra azonos fejeket visz át. Azt jelentősen leegyszerűsítené például
[ Szerkesztve ]
-
DarkByte
addikt
Mindeközben Kínában megtalálták a módját hogyan csináljanak a 4090D-ből 48GB-s verziót (a 4080 SUPER-ből pedig 32GB-sat). Kérdéses ebből mi szivárog át majd az EU-ba és az Nvidia mit lép rá. Ez tkp. A100-at csinál a 4090D-ből.
A Flux lájkolná. (illetve a nagyobb LLM modellek)
[ Szerkesztve ]
-
5leteseN
senior tag
Kis hardver kitérő azoknak akiknek nem csak a legdrágább(és nem is mindig a legjobb), de elég-jó-vételes, jó teljesítményű, saját-építős hardver kell.
Ahonnan a későbbi döntésemig jutottam: Mivel a csábító Mini-PC-k a teljesítményhez képest drága lapos-RAM-okat használnak, azokat is csak két foglalattal, és csak külső eGPU lehetőséggel, és a "laposok" átépítése eGPU-val szintén nem győzött meg, ezért kis keresés után "meggyőződődtem", hogy a meglévő "több-kiló"(3-400GB ) szerver-RAM állományomat és a hozzá passzoló CPU-imat(E5-26xxv3-akat) meglepően jól tudom hasznosítani egy 2011-3-as alaplappal, Kínából. Az ECC-s DDR3 készletem a 4-RAM-csatornás alaplap és CPU segítségével közelíti a méregdrága és finnyás DDR5-ös rendszer RAM-sebességét, egyedül CPU-ban elmaradva. Erre viszont a fórum tárgyát képező AI-MI területen nincs is nagyon szükség, hiszen a VGA-GPU-k 8-15-ször jobban, hatékonyabban, gyorsabban dolgoznak az ezen a területen szokásos AI-feldolgozásnál a processzoroknál.
EZEN a berendelt alaplapomba
az eBay-en pár-tíz €-ért vannak Ryzen 3600 körüli teljesítményű E5-ösök, alig több (alul-feszelt) fogyasztással, de jelentősen jobb memória-rugalmassággal és fejleszthetőséggel: nem kettő Ryzen-es, hanem 8 RAM foglalattal! Ugyanez ráadásul érvényes a VGA-k számára is, ahol a Ryzen-ek viszonylag drága alaplapjai egy VGA-t szeretnek kezelni, míg az öregecske 2011-3 egy (szerver-)CPU-val is lazán visz 3(x16PVIe3.0-ás) VGA-t és 8 DDR3-DDR4-es RAM-ot. Egy viszonylag drágább, akciós alaplapom jön(meg, remélem hétvégére), de aki nálam is nagyobb fejlesztési lehetőséget akar(még több VGA, még több RAM), annak vannak nem sokkal drágábban(70- €-tól indulva, Ali-k, duplája: eBay) két-processzoros alaplapok is. Bevallom én kicsit túllőttem a fenti alaplappal az eredeti 2011-3-as célomon,
ami még mindig a korábbi(elvetett) Ryzen-es tervemnél jóval többet tud a két VGA-ak(+4xPCIe, +1xPCIe, ...) és 4 DDR3-DDR4 RAM aljzatokkal(128GB). Egy gazdaságos indulást tervező AI-s felhasználónak EZ a 2011-3-as alaplap is több mint elég az induláshoz, de én most ennél kicsit "nagyobbat markolok".
Mindezeket az hardver 5leteket és infókat úgy említem, hogy bár jelenleg (még) nem nagyon használnak az egyéni felhasználóknak összerakott AI-s programok(Fooocus, LM Studio, Ollama, ...) több VGA-t, de becslésem szerint azok is idők is sebesen közelegnek, tehát az a plussz 10-20€ befektetés a több-VGA-s alaplapokba nem túl nagy kockázat, a többlet RAM lehetőséggel főleg!
Gondolom én!Ki unaloműző szösszenet, amíg megérkeznek a Flux és RAG videók!
+[ Szerkesztve ]
-
Mp3Pintyo
aktív tag
válasz lockdown90 #1005 üzenetére
Igen, próbáltam már. egészen jól működik. Este jön róla a videó
https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók
-
lockdown90
senior tag
Deep Live Cam-et próbálta valaki már?
i7 13700k - 32Gb DDR5 - RTX4070S
-
DarkByte
addikt
válasz 5leteseN #1002 üzenetére
Elvileg lett most egy nf4 (4bit kvantált?) flux dev modell is, ami megy 6/8GB-os kártyákkal Forge-on keresztül.
Viszont ComfyUI támogatása nincs, és comfyanonymous azt írja, hogy nem tervezi egyelőre támogatni, mert saját próbái szerint jóval rosszabb minőségű képet produkál mint a teljes modell.
[ Szerkesztve ]
-
freddirty
senior tag
válasz DarkByte #1000 üzenetére
Igen pont az az ami nagyon meglepő a fluxban, hogy elsőre egy jól megírt prompt alapján egy nagyságrenddel jobb képet generál mint a szokásos. Egy SD 1.5, 2.x, XL bárminál a workflow kb. az, hogy belövöd kb. a promptot sok-sok próbálkozással (és nem leíróan, hanem szabak vesszővel elválasztva, fontossági sorrendben csökkenően), aztán generáltatsz egy nagyobb batch-el sok-sok képet, majd kiválasztod ami leginkább jellemző arra amit szeretnél, majd azt dolgozod tovább, inpaint, scale, etc... Na itt ez a munkamenet lerövidül egy jó leírópromptra, amiben egy LLM fél perc alatt segít, majd azt átírva már az akár első generálás után mehet az utómunka. Akár órákkal is kevesebb lehet egy kép elkészítése.
Így az SD el is felejtheti, hogy valaha létezett, ha nem tesz le egy hasonlót az asztalra, akkor át fog állni minden fejlesztő és AI hobbista erre.fred
Új hozzászólás Aktív témák
Hirdetés
Állásajánlatok
Cég: PCMENTOR SZERVIZ KFT.
Város: Budapest
Cég: Axon Labs Kft.
Város: Budapest