Hirdetés

Új hozzászólás Aktív témák

  • S_x96x_S

    addikt

    válasz #36531588 #63952 üzenetére

    Ha a Gen5 miatt vagy még mindig sértett .. ne legyél.
    pedig annó nagyon nyomtad, hogy mekkora hülyeség a Gen5 ..
    most meg top TR + Gen5 + AVX-512 -vel vagy felszerelve ..
    Használd egészséggel :R

    > Az amd szépen trükközött a H100 és MI300X összehasonlító
    > teszteknél. [link]

    az AMD másnap (‎12-15-2023) válaszolt és cáfolt ...
    szerintem itt a fórumban is volt téma ..
    megy a szokásos adok - kapok ..

    Az AMD pont az nVidiát vádolja trükközéssel,
    mert pl. FP16 -ot hasonlított FP8 -al.

    https://community.amd.com/t5/instinct-accelerators/competitive-performance-claims-and-industry-leading-inference/ba-p/652304

    "AMD: Since then, Nvidia published a set of benchmarks comparing the performance of H100 compared to the AMD Instinct MI300X accelerator in a select set of inferencing workloads.
    The new benchmarks:
    - Used TensorRT-LLM on H100 instead of vLLM used in AMD benchmarks
    - Compared performance of FP16 datatype on AMD Instinct MI300X GPUs to FP8 datatype on H100
    - Inverted the AMD published performance data from relative latency numbers to absolute throughput

    We are at a stage in our product ramp where we are consistently identifying new paths to unlock performance with our ROCM software and AMD Instinct MI300 accelerators. The data that was presented in our launch event was recorded in November. We have made a lot of progress since we recorded data in November that we used at our launch event and are delighted to share our latest results highlighting these gains.

    The following chart uses the latest MI300X performance data running Llama 70B to compare:

    > Nem véletlen,
    > hogy mindenkinek az nv cucca kell,
    > és ezért hajlandóak akár hónapokat várni.

    aki nem tájékozódik, az így járt ..
    A jó marketing manapság többet számít mint a termék maga ..

    [ Szerkesztve ]

    Mottó: "A verseny jó!"

Új hozzászólás Aktív témák