Keresés

Új hozzászólás Aktív témák

  • Ubul86

    őstag

    válasz kispx #83493 üzenetére

    nálam "csak" webfejlesztés (docker, phpstorm, bár sokszor van erősebb grafikai igényű site is babylon/threejs-sel akár), az elmúlt 5 évben gamer géppel tolom, sok esetben jól jött az erősebb gpu.
    persze c++,java,c# más. Most én is Legion 5-el vagyok el, az 1 tb ssd a kevés, most úgy érzem. Előző gépemben 250-es volt csak, meg 1 tb hdd :D de már az a +250 is sokat számított :D

  • consono

    nagyúr

    válasz kispx #83493 üzenetére

    Leginkább a tömegben :D Illetve a fejleszthetőségben. Ha csak "játékból" kell a GPU a neurális hálóknak, akkor gyakorlatilag mindegy milyen gépet veszel, mert vagy a Colabon vagy tudod tanítani, vagy elég a CPU/GPU is. Ellenben, a míg megy a tanítás addig nem igazán tudod semmi másra sem használni a gépet, mert a memória is elfogy meg a VRAM is és a CPU is dolgozik. Ilyenkor egy headless Linux box eldolgozgat pár napig te meg közben a notebookon tudsz bármi mást is csinálni. Ha tényleg pénzt hoz a cégnek a deep learning, akkor el lehet gondolkodni felhős TPU-n is, akár csak a Colabon, mert az áram+beszerzési költség vs. $1-2 óránként lehet, hogy a felhő oldalára billenti a mérleget.
    Ha kész modelleket futtatsz, akkor persze más a helyzet, akkor inkább a sok VRAM meg a sok CUDA maga lényeg (csak NVidia GPU-t vegyél hardveresen gyorsított gépi tanul áshoz!). Gyakorlati példa: a stable diffusion különösebb trükközések nélkül minimum 8GB-s vidkarit igényel a helyi futtatáshoz (meg lehet trükközni 4 GB-ra is, mert nálam is fut, de ez a sebesség rovására megy).
    Ja, de az eredeti kérdésre visszatérve: a desktop RTX3080 10-12GB VRAM-mal fél misi alatt megvan már, de a 24 gigás RTX3090 is pár tízezerrel drágább, míg egy 8GB-s mobil RTX3080-al szerelt noti benéz simán egy-másfél misi fölé és a kettőnek egész más a TGP-je...
    Persze ez mind csak hunyorítva, messziről nézve az én véleményem, én csak hobbiból foglalkozom deep learninggel...

    "In God we trust. All others must bring data"

Új hozzászólás Aktív témák