Új hozzászólás Aktív témák
-
ddekany
veterán
Azt tán nem is tagadja senki, hogy most az a prioritás, hogy másiknál gyorsabb legyen. Hogy az mennyire folyik a civil szektorban (OpenAI/MS, Google, Meta, stb.), és mennyire a katonai/állami szervek rejtekében, persze nem tudjuk. De én nem csodálkoznék, ha az "államiak" (akármilyen szervei) most itt lépéshátrányba kerültek. Gyorsabbak/életrevalóbbak a nem-állami szervezetek, és a pénz is ömlik most rájuk.
Ha meg elérik az megálmodott szuper-AI-t (bár eléggé nyitott, hogy azon pontosan milyen is), akkor ha az emberi kontroll alatt marad, eléggé valószínű, hogy széttépjük egymást. És ha az AI cégeknél is így gondolják a fejesek, akkor... Ugye, az jön ki, hogy nem szabad, hogy kontrolláljuk. Másfelől pont ez a vááá #mindmeghalunk skynet, hogy nem kontrolláljuk, és autonóm. Na most akkor mi lesz?
Szerintem inkább ne sikerüljön ezt túl okosra csinálni mérnöki nehézségek miatt...
Jelenleg itt is tartunk, hogy a ChatGPT hülye, tehát az egész egy hype, az átlag ember szerint. Nyilván ez a kényelmes lelki állapot. Főleg mert ha valójában pár év is itt a szuper-AI, úgy is igencsak tehetetlen vagy. Szóval a tagadás kellemesebb állapot.[ Szerkesztve ]
-
XMI
csendes tag
Nem hiszem én, hogy itt valami összeesküvés lenne. Ez a szellem ki van eresztve a palackból, nem tudják effektíven betiltani. Már vannak kinn "opensource" modellek, amik a GPT3.5 szintjét egész jól megközelítik. Alig több, mint fél év telt el, hogy kijött, már sikerült az OpenAI után csinálni. Ezek un. "cenzúra nélküli" modellek. Nyilván ezen örvendezik mindenki, hogy nem polkorrekt válaszokat is ad, de valójában a gond az, hogy ez "unaligned" modell. Semmiféle etikai és/vagy safety finomhangolás nincs rajta.
A cégekből kikényszerítheted, hogy "megfelelő" (már ha tudnánk mi a megfelelő) safety intézkedéseket építsenek be, de ezek a szabadon elérhető modellek közkézen terjednek. Letöltheted, bérelhetsz valami monstre GPU-s cloud instance-ot, futtathatod magadnak.Ha betiltják, darkneten fognak terjedni. Bűnözői csoportok össze fogják barkácsolni emberek tömeges átverésére, malware készítésre és terjesztésre, és később robotoknak cselekvési terv generálásra is. (robot ugye nem hagy DNS mintát... ha kellően ügyes valaki, akkor úgy végeztetheti el a piszkos munkát, hogy nem lesz hozzá visszavezethető).
Az igazi baj az lesz, hogy az ilyen hozzá nem értő barkácsolók és kifejezetten rosszakarók fognak elszabadítani valamit, amit saját magát képes továbbfejleszteni.
Ekkor fognak rádöbbenni a politikusok, hogy a jog és az állami szervezetek mennyire tehetetlenek ezzel szemben.
Új hozzászólás Aktív témák
- Kerékpárosok, bringások ide!
- Metal topik
- Friss traileren a Commandos Origins
- Samsung Galaxy Tab S6 - letett valamit az asztalra
- Kicsit extrémre sikerült a Hyte belépője a készre szerelt vízhűtések világába
- TCL LCD és LED TV-k
- Magga: PLEX: multimédia az egész lakásban
- Vezetékes FEJhallgatók
- Kamionok, fuvarozás, logisztika topik
- Házimozi haladó szinten
- További aktív témák...