Új hozzászólás Aktív témák
-
ddekany
veterán
Azt tán nem is tagadja senki, hogy most az a prioritás, hogy másiknál gyorsabb legyen. Hogy az mennyire folyik a civil szektorban (OpenAI/MS, Google, Meta, stb.), és mennyire a katonai/állami szervek rejtekében, persze nem tudjuk. De én nem csodálkoznék, ha az "államiak" (akármilyen szervei) most itt lépéshátrányba kerültek. Gyorsabbak/életrevalóbbak a nem-állami szervezetek, és a pénz is ömlik most rájuk.
Ha meg elérik az megálmodott szuper-AI-t (bár eléggé nyitott, hogy azon pontosan milyen is), akkor ha az emberi kontroll alatt marad, eléggé valószínű, hogy széttépjük egymást. És ha az AI cégeknél is így gondolják a fejesek, akkor... Ugye, az jön ki, hogy nem szabad, hogy kontrolláljuk. Másfelől pont ez a vááá #mindmeghalunk skynet, hogy nem kontrolláljuk, és autonóm. Na most akkor mi lesz?
Szerintem inkább ne sikerüljön ezt túl okosra csinálni mérnöki nehézségek miatt...
Jelenleg itt is tartunk, hogy a ChatGPT hülye, tehát az egész egy hype, az átlag ember szerint. Nyilván ez a kényelmes lelki állapot. Főleg mert ha valójában pár év is itt a szuper-AI, úgy is igencsak tehetetlen vagy. Szóval a tagadás kellemesebb állapot.[ Szerkesztve ]
-
XMI
csendes tag
Nem hiszem én, hogy itt valami összeesküvés lenne. Ez a szellem ki van eresztve a palackból, nem tudják effektíven betiltani. Már vannak kinn "opensource" modellek, amik a GPT3.5 szintjét egész jól megközelítik. Alig több, mint fél év telt el, hogy kijött, már sikerült az OpenAI után csinálni. Ezek un. "cenzúra nélküli" modellek. Nyilván ezen örvendezik mindenki, hogy nem polkorrekt válaszokat is ad, de valójában a gond az, hogy ez "unaligned" modell. Semmiféle etikai és/vagy safety finomhangolás nincs rajta.
A cégekből kikényszerítheted, hogy "megfelelő" (már ha tudnánk mi a megfelelő) safety intézkedéseket építsenek be, de ezek a szabadon elérhető modellek közkézen terjednek. Letöltheted, bérelhetsz valami monstre GPU-s cloud instance-ot, futtathatod magadnak.Ha betiltják, darkneten fognak terjedni. Bűnözői csoportok össze fogják barkácsolni emberek tömeges átverésére, malware készítésre és terjesztésre, és később robotoknak cselekvési terv generálásra is. (robot ugye nem hagy DNS mintát... ha kellően ügyes valaki, akkor úgy végeztetheti el a piszkos munkát, hogy nem lesz hozzá visszavezethető).
Az igazi baj az lesz, hogy az ilyen hozzá nem értő barkácsolók és kifejezetten rosszakarók fognak elszabadítani valamit, amit saját magát képes továbbfejleszteni.
Ekkor fognak rádöbbenni a politikusok, hogy a jog és az állami szervezetek mennyire tehetetlenek ezzel szemben.
Új hozzászólás Aktív témák
- OpenMediaVault
- Milyen alaplapot vegyek?
- PlayStation 5
- Samsung Galaxy S23 és S23+ - ami belül van, az számít igazán
- Autóhifi
- Óra topik
- Eredeti játékok OFF topik
- Kodi és kiegészítői magyar nyelvű online tartalmakhoz (Linux, Windows)
- Gaming notebook topik
- AMD GPU-k jövője - amit tudni vélünk
- További aktív témák...
- Krómozott előlapos Jura Z5 automata kávéfőző beépített profi cappuccino fejjel
- Eladó teljesen új, bontatlan Nespresso Essenza mini piros színben
- Motorola Razr 40 - 8GB 256GB DualSIM Sage Green - Bontatlan - Garanciális
- Canon Ixus 285 HS
- Új! Bontatlan! Samsung 8TB 2.5 SSD eladó! Országos Szállítással