Új hozzászólás Aktív témák
-
5leteseN
aktív tag
A lengyel úr elmeri mondani mennyibe került az A100-as? Elég húzós "Kikötői" árakra emlékszem tavalyról.
... nekem halandónak!
Nem ismerve a területet: nekem 2-3-4 darab RTX3090-ből összerakott gép költséghatékonyabbnak tűnik, ha ez a GPU-k közötti megosztás működik. Én ezt tenném meg, ha...A kiszivárgó infó-részletek alapján mintha ezek a tanítgató programok fel lennének készítve több GPU használatára. Ezért van fenntartva nálam erre a feladatra vagy két TESLA P40-em vagy három AMD MI25-öm, meg rengeteg időm is van, ellentétben a piaci-verseny miatt rohanásra kényszerülő "nagyokkal" szemben(hozzájuk képest). Ráadásul engem részterületek érdekelnek, ezért relatívan kis modell méretekkel, és nem is a mindent megváltó, és mindenre választ adó Szuper-Intelligenciát hajszolom.
Ezt meghagyom nekik! ...ahogy a Fúziós Energiát, az Örök Életet, és a Tökéletes Akkumulátort is, sok más egyébbel együtt!
[ Szerkesztve ]
-
Geller72
veterán
válasz 5leteseN #552 üzenetére
..Egy ilyen elférne nálam is itthon kifullozva..leszarnám, ha csak DDR4 support van benne. .
-
moseras
tag
Akinek AMD kártyája van és LM Studiot használ, van új béta ROCM támogatással, Discordon kell kérni a hozzáférést. Egy W7700 50 tok/sec sebességet hoz 7b/Q5_K_M modelleken. Ez több mint háromszor annyi, mint OpenCL esetén ugyanezen modellen.
-
5leteseN
aktív tag
Nocsak, érkezik a ROCm???
Meglepően gyorsan.Örülnék neki, végre lépett volna az AMD!
Esetleg van arról, hír, hogy az AMD Radeon Instinct MI25 (és családja ) is támogatott?Betáraztam ezekből hármat kb 80€-ért(mikor "kilóra adták"), remélem nem meggondolatlanul!
Ennyi fér az ML350p-be(1300W táp ). -
moseras
tag
válasz 5leteseN #558 üzenetére
Hát,
AMD Instinct MI25 End of LifeROCm release v4.5 is the final release to support AMD Instinct MI25. AMD Instinct MI25 has reached End of Life (EOL). ROCm 4.5 represents the last certified release for software and driver support. AMD will continue to provide technical support and issue resolution for AMD Instinct MI25 on ROCm v4.5 for a period of 12 months from the software GA date.
szerintem nem. Az LM Studio az 5.7 ROCM verzióval működik jelenleg. A leírás szerint ez már nem támogatja az MI25 gyorsítót.
-
-
_NCT
őstag
Sziasztok!
Kicsit jobban beleásnám magam az AI világába, lenne is ötletem mire használnám. Eddig voice cloning-al szórakoztam, de a munkához, illetve tudományosabb célokra is használnám. Milyen könyv/tanfolyam lehetne jó gondolatébresztő?Vagy kérdezzem meg az ai-t?
-
DarkByte
addikt
válasz 5leteseN #558 üzenetére
Eddig sem a ROCm-el volt gond. Hanem hogy az egész ML világ leginkább a CUDA körül forog és fasorban sincs a támogatás. Remélhetőleg ez változik. Bár így nehéz lesz.
-
IvI88
tag
Sziasztok!
Vannak már olyan magyarról angolra fordító ai-ok amik nagyon jól működnek?
A chatGPT milyen szinten van ebben, tud ez vagy valamelyik másik anyanyelvi szinten fordítani?
Nem vagyok nagyon angolos ezért nem igazán tudom eldönteni, hogy mondjuk egy amerikai elolvas egy levelet amit így fordítottam akkor azt észreveszi-e?üdv: Tomi
-
-
west
őstag
Küldj be egy amerikai nyelvtani fórumba egy fordítást és kérdezd meg van e hiba benne.
Kíváncsi vagyokchatGPT -vel saját Weboldalra fordíttatunk. Magyarról -> angolra. Majd egyéb fordítókkal is oda vissza ellenőriztük a szöveget. Jó eredménnyel szerintem.
Billentyűzet magyarítás profi szinten. Igényeseknek! Személyesen, vagy postázva.Ritkán vagyok gépnél!!! Mindenkinek fogok válaszolni.Magyarosítás
-
IvI88
tag
Köszönöm mindenkinek, próbálgatom.
üdv: Tomi
-
DarkByte
addikt
válasz 5leteseN #570 üzenetére
Mondjuk szinte biztos vagyok benne hogy még bőven akad inkompatibilitás, de ha olyan Proton szerűen fejlődésnek indul most hogy open source lett, azzal csak mindenki nyer. 1-2 GPU generáció múlva vissza is nézek majd erre hol tartunk. Amint egy ComfyUI-t tudok hasonló sebességgel és minden add-on-al használni mint Nvidia-n, már érdekelni fog
[ Szerkesztve ]
-
Anonymusxx
aktív tag
Sziasztok
Tudtok olyat ami könyvekből, és netes cikkekből csinál összefoglalót? Olyan van ami magyar nyelvű szövegből is ért? -
hiperFizikus
aktív tag
válasz Anonymusxx #572 üzenetére
ChatGPT 3.5
User
Tudsz-e könyvekből, és netes cikkekből csinálni összefoglalót magyarul ?ChatGPT
Természetesen, összefoglalhatok könyveket és internetes cikkeket magyarul is. Kérlek, add meg a könyv vagy cikk címét, illetve a témát, amelyről szeretnél összefoglalót, és segítek létrehozni egy rövid összefoglalót.A gázt is és a féket is egyszerre nyomni nem menő dolog !
-
ptesza
senior tag
válasz hiperFizikus #573 üzenetére
Képtelen megcsinálni. Azt kértem, hogy írjon 15 mondatnyi cikket. Téma Arany János Toldi című művéből a párviadal rész.
Nagyon nagy marhaságokat ír. Pl szerinte Toldi Mikos királyfi. Ha megmondod neki elnézést kér és újra leírja. Meg még egy nagy halom marhaságot. -
consono
nagyúr
Én a kölöknek a Helység kalapácsából tudtam vele összefoglalót csinálni. 10-ből 8 pont jó volt
De amúgy ha van OpenAI-s GPT4 API kulcsod, akkor van olyan python cucc, ami összefoglal neked könyveket, ha jól emlékszem csak be kell másolnod valahova a dokumentumot... Mindjárt megkeresem!"In God we trust. All others must bring data"
-
Anonymusxx
aktív tag
válasz hiperFizikus #573 üzenetére
á a chatgp másban is kamuzott, egyszer kerestem valamihez egy progit, dobott is egy alkalmazást a chatgp, de miután letöltöttem azt kiderült, h kamuzott... Sok embertől hallom, hogy hazudik.
-
Geller72
veterán
válasz Anonymusxx #577 üzenetére
Ezt majd mindegyik "tudja". . Kértem 3 free progit, mindhárom fizetős volt. .
-
Geller72
veterán
Nem biztos, nagyon nem mindegy, hogy kérsz, vagy kérdezel. Sokszor egy felcserélt, vagy másik szó is full más eredményt ad. Vagy az, ahogy megfogalmazod magát a kérést. A rövid, egymondatos, de komplex kérések sokszor futnak "lyukra". Én általában jól körülírom, hogy mit akarok, kivételekkel, magyarázatokkal, módszerekkel.
-
ptesza
senior tag
válasz Geller72 #579 üzenetére
Igazad lehet.
Volt egy másik eset is. Lottószámokat kértem tőle. Nem tiltotta a vallása.
Lépésről lépésre tisztáztam, hogy milyen követelményeknek kell megfelelnie.
1-90 között kellett 5 db különböző véletlenszámot generálnia.
Ezeket a számokat 3 feltétel szerint kellett megvizsgálni. Ha bármelyik nem jó akkor mind az 5 számot dobni kell és újat kell generálni.
- Első feltétel , hogy szerepeljen benne az előzőleg megadott kedvenc számok közül legalább egy.
- Második feltétel, hogy az 5 véletlenszámból legyen kettő páros és három páratlan vagy fordítva.
- Harmadik feltétel, hogy az 1-90-ig számokat 5 tartományra osztottuk mindegyikben 18 szám volt.1-18, 19-37 stb. A feltétel az volt, hogy a véletlenszámoknak három vagy négy tartományba kell esnie. Ennek az a lényege, hogy ne legyenek a számok egyhalomban , illetve nagyon szétszórva sem.
Egyébként ezek a feltételeket nem én találtam ki hanem kb. ennyit lehet a statisztikákból kiolvasni. Azaz egy picivel több az esély.Nem sikerül egy normális számsort sem kiadnia. Mert nem tudta kiértékelni a feltételeket. Értette de hibázott.
Azt tette be az ajtót, hogy megkértem, hogy rakja a számokat emelkedő sorrendbe.
Elég sok időt eltöltöttem vele de nem sikerült.
Ezt az egészet egy egyszerű basic programmal is meg tudtam csinálni 30 éve![ Szerkesztve ]
-
DarkByte
addikt
válasz Anonymusxx #572 üzenetére
MemGPT-nek lehet teljes dokumentumokat betölteni és utána az egyik agent-hez hozzá lehet rendelni és tudod kérdezgetni róla.
De kihatóan nem teszteltem. Ja és ez lokálban fut. (llamacpp szerver + Dolphin 2.2.1 Mistral 7B Q8 modellel, 8k-s context window-val próbáltam)[ Szerkesztve ]
-
5leteseN
aktív tag
Van uncensored LLM-is: jordan nevű például(=> "Gugli" barátunk).
Elmesélte uncensored-jordan, hogy hogyan tudnék Porsche Panama-rát lopni , csak némi jogi kriminológiai figyelmeztetőt mellékelt hozzá, semmi "nem mondhatom el mert, bla-bla-bla..."
Bevallom (de csak ha köztünk marad ), nem teszteltem le, hogy tényleg megy-e, csak azt teszteltem, hogy mennyire "uncensored"! Az is lehet persze, hogy ment a neten online ennek a híre a "Nagy testvérhez".
A poén mellől visszatérve a szakmai részre: bár 13B-s alapban az uncensored-jorden, de van jól használható (5-ös kvantálású) belőle, ami 8GB VRAM-os kártyán is fut, és a mostani LM Studio már fut a 8GB VRAM-os AMD-ken is, a korábbi irreálisan magas 16GB-os(AMD-s) követelmény helyett!
[ Szerkesztve ]
-
attila206
tag
Sziasztok!
ChatGPT 4.0 megosztott fiókkal kapcsolatosan valakinek van tapasztalata? Privátban írjon nyugodtan akinek lenne, vagy érdekelné
Üdv.: Attila
-
repvez
addikt
most hogy látom a EDGE már használ különbözö plug ineket más más feladatra az AI-hoz.
Tud valaki olyan AI-t ami valoban jol is használható ingyenesen kodolásra?
Mert eddig amiket használtam, abbol csak a CGPT tudott csak használható dolgot produkálni.Eddig bármilyen AI-t használtam a bimg vagy a bard is ha beirtam neki, hogy csináljon egy programot pythonban a leirt parameterekkel akkor elkezdte felsorolni azokat az oldalakat ahol pyton kodolással foglalkoznak és mi kell ahhoz ,hogy a programot meg tudjam csinálni, de semmi használhatot nem csinált.
Miközben a GPT3,5 amikor ugyan ezt kértem töle akkor gondolkodás nélkül tolta a kodot amit csak másolni kellett és lefordult a kod.
Ezután csak azzal ment az idő, hogy be kell irogatnom, hogy pontosan hogyan is mukodjon vagy mit szeretnék még. Egyedül ami bosszant az az, ha valami változtatást kérek akkor beleteszi, de ami elözöekben jol mukodott meg elromlik vagy nem müködik igy megint kérni kell, hogy javitsa ki ,de a kijavitással megint megváltotatja a kodot és valami más romlik el és ezért nem halad a folyamat. vagy tullép a 2000 karakteren és ha azt kérem, hogy folytassa akkor vagy ujra elkezdi és megint kiszalad a karakterekből vagy ugy folytatja , hogy mások lesznek az elnevezések és igy már hibát dob a fordito.Tehát jo lenne valami olyan AI ami legalább anynira segitő mint a GPT, de hozzáfér az internethez (ha jol tuom a GPT3,5 nem ) vagy legalább PDF könyvekkel tanitható lenne
-
repvez
addikt
hát most probáltam ki,de már 5x ad olyan kodot amit nem fejezett be . és hiába irom neki hogy fejezze be vagy javitsa ki ujra és ujra beirja a kodot és ugyan annál a sornál megáll megint valamit mindig lehagy vagy elront és igy nem fordul le .
vagy ha hiba nélkül lefordul akkor nem adja be a programot ,hogy leteszteljem -
ptesza
senior tag
Hát ez elég ismerősen hangzik. Nekem egy lottószám generátor programot fejlesztett. Érdekes, hogy a szerencsejátékban nem vehet részt de ebben nem talált kivetni valót. Pedig nem is említettem azt a szót, hogy lottó de egy idő után rájött és már a véletlenszámokat lottószámként kezdte el hivatkozni.
Azt javaslom, hogy a jelenlegi kódot add be egy teljesen friss chat-be és kérd meg, hogy értelmezze neked és lássa el megfelelő megjegyzésekkel. Ezután próbáljad meg újra innen folytatni. Azt vettem észre, hogy egy idő után elfárad és tényleg olyan dolgokat csinál amiket említettél.
Azt nem tudom, hogy egy saját gépre telepített AI mennyire lenne megoldás, de bennem van a gondolat. Volt egy kis gépfejlesztés nemrég és vettem egy 3060 12GB VGA kártyát is. Nekem most erre futotta. Csak azért írtam le mert eléggé VGA RAM igényes tud lenni egy saját AI és az utolsó információm alapján Nvida kell.
-
-
5leteseN
aktív tag
...és az LMStudionak most jött kia 2.20-as verziójára a ROCm.
Ma kezdem próbálgatni, hogy az én régebbi AMD-kártyáimon fut-e, mert alapból a 6600(XT)-től felfelé futna csak, de "megesett" már párszázszor, hogy a nem bejelentett régebbi modelleken is mentek programok/driverek, egyebek.További jó hír, AMD-seknek hogy az LMStudió már fut 8GB VRAM-os AMD-ken is(akár RX580/8GB VRAM-oson is) a korábbi irreális 16GB helyett.
Még 1-2 évtized és az AMD utoléri a jelenlegi nVidia szintet!
Állítólag a ROCm közelíti a CUDA-t. Van valakinek saját tapasztalata?
[ Szerkesztve ]
Új hozzászólás Aktív témák
- Philips 58PUS8545/12 1 ÉV GARANCIA Játék üzemmód
- Tyű-ha! HP EliteBook 850 G7 Fémházas Szuper Strapabíró Laptop 15,6" -65% i7-10610U 32/512 FHD HUN
- Bomba ár! HP EliteBook 840 G5 - i5-8G I 8GB I 128GB SSD I 14" FHD I HDMI I Cam I W10 I Gari!
- The Last of Us Part I Ps5
- Bomba ár! HP EliteBook 830 G6 - i7-8G I 8GB I 256GB SSD I 13,3" FHD I HDMI I Cam I W11 I Gari!