Új hozzászólás Aktív témák
-
ddekany
veterán
Ez nem a mostani AI ról szól, hanem a jövőről... a cikkben is meg volt linkelve: [link]
Hogy úgy sem tudják megcsinálni, és csak reklám? Reklám is... De mennyire vagy biztos benne, hogy nem tudják? Azért én a helyetekben közelebbről megnézném az eddigi eredményeket, hype ide vagy oda.
[ Szerkesztve ]
-
gabor7th
addikt
Kellene akkor valaki aki szabályozza, hogy miket hozzanak létre... mert maguk a mérnökök, informatikusok akkor is megfogják csinálni ha tudják előre milliárd figyelmeztetéssel, hogy ezzel kiirtanak minket... egyszerűen nem tudnak ellenállni, nem az ő dolguk.
A számítástechnika új negatív trendjei: ujtechkor.blog.hu
-
ceia
őstag
Pontosan ilyenekből lesz a baj, hogy egyesek elbagatelizálják a a problémát, csak mert ŐK még nem ismerik fel. Ha valóban ilyen veszélyes ez a technológia, nem lehet túl korán óvatosnak lenni. Én abban látom a veszélyét, hogy nem azt látjuk, halljuk, ami a valóság, miközben azt hisszük, hogy az, és nem az történik, amit akarunk, mert egy AI önhatalmúlag belenyúl a dolgainkba. Ez, azon túl, hogy bosszantó, valójában kiveszi az irányítást a kezünkből, és ebből kifolyólag előfordulhat, hogy valami olyat okoz, amivel nekünk valami problémát, vagy akár kárt csinál.
it's more fun to compute
-
Ixion77
őstag
A világ élenjáró AI kutatói és vállalatvezetői szerint nagyon komoly veszélyt rejt az AI, a világvégi IT fórum névtelen kommentelői szerint viszont semmi veszély nincs, még csak nincs is AI. Melyiknek higgyek?
"Seems like humanity needs war and famine to correct itself."
-
Parson
addikt
Demagóg. Egy kijelentés valóságtartalma nem a kijelentö személy valós kiléte nyilvánosságának a függvénye. Hinni meg azt hiszel amit neked jól esik.
Tény viszont, hogy sok hozzá nem értö is nyilatkozik olyanról, amiröl lövése sincs (ez a web2 'szuperjó' hozadéka, de ettöl ez még nem baj, csak tudni kell szelektálni és utánaolvasni, hogy valóban melyik állitást lehet elfogadni tényként) mikor szakmai vita keletkezik belöle és a hozzá nem értö érvel logikátlanul és keveri a szezont a fazonnal, és nem képes elfogadni a logikus érvelést egy hozzáértötöl, még ha annak kiléte nincs is harsogva stb, na ott kezdödnek a bajok. De ez mindig is igy lesz, mivel véleménye mindenkinek van olyanról is, amihez nem ért. Ilyen az emberi természet.Nem mellesleg a hozzáértésnek is különbözö szintjei vannak, nem csak végletek... a fórumban pedig véleményt cserélni... nos nem baj, mivel erre jött létre - ami nem azt jelenti, hogy csak expert level szakemberek jöhetnek ide... úgyhogy nagyon is jól van ez így - tessék megtanulni szelektálni a világban keringö információtengerben.
[ Szerkesztve ]
───────────── P r o / E N G I N E E R ─────────────
-
ddekany
veterán
De ha "visszajövünk a földre", akkor mit mond a jósgömb? Ha nem tudják megcsinálni az ember feletti mesterséges intelligenciát, vagy nagyon felemás/korlátos lesz (utóbbit furcsállnám mondjuk) az mentesíthet a szélsőségektől. Szóval egyszer lehet erre tippelni. Legtöbben talán ezt teszik. De ha viszont meg tudják csinálni... milyen reális forgatókönyv van, ami nem valami szélsőséges sztori?
Amúgy néha történnek szélsőséges dolgok. Semmi sem tart örökké, pl. néha kihalnak fajok, stb.
[ Szerkesztve ]
-
kilua
senior tag
Az AI terén folyó vitákban, mint például az AI veszélyeinek vagy annak hiányának kérdésében, fontos az árnyaltabb megközelítés. Az AI kutatók és vállalatvezetők körében általánosan elfogadott nézet, hogy az AI hordozza magában bizonyos kockázatokat és kihívásokat. Az ilyen veszélyek közé tartozik például az emberi munkahelyek elvesztése, az algoritmusok torzulása vagy a magánélet védelmének problémái.
Az AI fejlesztése és alkalmazása tényleges kihívások elé állítja a társadalmat és a jogi keretrendszert is. Például az autonóm járművek által felvetett etikai kérdések vagy a robotika területén felmerülő dilemmák.
Ugyanakkor a világvégi IT fórum névtelen kommentelőinek véleménye nem feltétlenül hozható összefüggésbe a szakmai és tudományos közösség álláspontjával. Az interneten lévő névtelen kommentek hitelessége és megalapozottsága kérdéses lehet, ezért nem feltétlenül célszerű teljesen rájuk támaszkodni.Azt javaslom, hogy a kérdésben foglaltak alapján tovább kutasson és tájékozódjon az AI terén végzett kutatásokról, a megbízható forrásokból származó szakértői véleményekről és az AI témájában folytatott vitákról. Az átfogóbb kép kialakításához érdemes több nézőpontot és hozzáértő véleményt megismerni.
[ Szerkesztve ]
-
Apollyon
Korrektor
Míg a támogatók szerint az AI-eszközök rengeteg hasznot hozhatnak (többek között orvosi diagnózist vagy jogi anyagokat írhatnak meg), addig mások szerint a jogsértések, magánszféra teljes tönkretétele, a tévinformációs hazugságok, deepfake anyagok mind a társadalom szétrombolását és az önállóan gondolkodó „okosgépek” problémáját hozzák csak el.
Ezért kéne az AI-tól annyira beszarni?
- magánszféra teljes tönkretétele: már majdnem két évtizede megtörtént, az okostelefonok és az internet jóvoltából a Big Tech közreműködésével. Pl. facebook, microsoft, google... valaki hallott már róluk? Senkinek nincs már magánélete az interneten, számtalanszor el is lett mondva, mégis mindenki magasról szarik rá.
- tévinformációs hazugságok: már megtörtént, politikai kommunikációs csatornának hívják. Pl. magyar kormánymédia, a valósághoz sosem volt köze.
- deepfake anyagok: régóta tudunk a létezéséről, így ezt figyelembe véve már nem érzem fenyegetésnek. Egyébként meg maximum a laikusokat csaphatja be, esetleg még ennek az egésznek egy pozitív kimenetele is lehet: nem mindent a csökött telefonon intézünk majd, hanem személyesen.#1) Respect the privacy of others. #2) Think before you type. #3) With great power comes great responsibility.
-
Apollyon
Korrektor
Kik adják el a VPN-t így, az AI? Max VPN cégek, akik többek között a felhasználók adataival is kereskednek. Az, hogy az interneten nincs magánszféra, abba a VPN is beletartozik, nincs új a nap alatt.
#1) Respect the privacy of others. #2) Think before you type. #3) With great power comes great responsibility.
-
Colomb
csendes tag
Had idézzek Tilesch Györgytől, valaki itt javasolta Balázsék interjúját vele tegnapról (fent van a "neves" video megosztón 7:30 körültől utólag is köszönet érte)
“nem az a kérdés mikor fogják megcsinálni az igazi IA-t mert az egyenlőre valóban science fiction.”
A probléma ott van, hogy valóban jól lehet már a mai pl. GPT4 es szintü generative modellek segitségésvel is kiváltani sokak feladatát. Persze nem mindenkiét vagy nem 100%-ban, de ha csak mondjuk 50-70% munkát lehetne automatizálni, “csak” a mai rendszerek segítségével akkor az embernek már csak 30%-ot akarnak fizetni.És még egyszer ez a mai AI nem “inteligencia”
ez “csak” kb. visszaböfögi azt ami mondjuk jó lehet de nem érti nem képes értelmezni a válaszokat.
Viszont már “csak” ez is elég hamar, elég nagy egzisztenciális válságot képes okozni a világban. Nagyon sokan veszíthetik el az állásukat, megélhetésüket, ez nagyon gyorsan vezethet elégedetlenséghez, tovább gondolva különféle régiókban zavargásokhoz, destabilizálhat egész társadalmi rendszereket, és lehet gombolyítani tovább a fonalat…
A sebesség a baj, ahogy ez rá tud szabadulni az emberiségre, ez nem a gőzgép vagy, az elektromosság, hogy jó jó majd bevezetjük kb. 40-50év alatt. Ez bevezeti önmagát... -
L.Edit
tag
ha baj is történne, nem lesz érte felelős senki, így tiszta maradhat mindenki lelkiismerete. Ami legyünk őszinték, nagyon szép eredmény.
Amúgy ezt a kihalást nem pont úgy kell érteni, mint ahogy dínóknál történt.. csak kicsivel egyértelműbbé válik, hogy céltalan és felesleges az "élet" és keresni kell valami mást, valami ujjat, amivel még lefoglalhatjuk magunkat "arra a kis időre". Célszerűen, itt olyanra kell gondolni amire az AI nem lesz képes másnap. Különben romlani kezd az általános közérzetünk, és lassan magunkat emésszük el.
[ Szerkesztve ]
Használt, egyedi méretre gyártott művégtagok Eladók.
-
Tasunkó
aktív tag
-
#mindmeghalunk, #megint
"Azért vagyunk emberek, mert a csillagokat bámuljuk, vagy azért bámuljuk a csillagokat, mert emberek vagyunk?"
-
#56573440
törölt tag
hogy mennyit akar a munkáltató fizetni az az ő nyomora. Amíg a 30% hozzáadott munkád nélkül a kihozatal 0% addig nincs miről beszélni.
Nekem továbbra is csak az bssza a csőröm, hogy a mocskosul általános, pongyola megfogalmazások miatt képtelenség beszélni értelmesen dolgokról.. Meg mert megint az van, hogy az eddig a köznép számára ismeretlen szakemberek véleménye hirtelen minden csatornán már aranyat ér, és nem kommunikációs szakemberek...
Ez megint olyan mintha lehozná mindenki hogy a gps chip az emberi faj kiírtását fogja eredményezni, szabályozni kell! A tömeg egyik fele azt mondja hogy jézus azonnal tilcsukbe, a másik meg néz hogy miafsz. Minden politikus meg cégtulaj alanyi jogon elkezd belepofázni minden irányból, aztán inkább a köznyugalom miatt betilták kb. Közben meg elég lett a "háttérben" viszonylag csöndesen azt mondani, hogy a gps chip fixen kapcsoljon ki ha a mért adatok szerint 18 km fölötti magasságot ésvagy 1.9+ k kmh sebességet detektál, mert akkor sanszos hogy egy rakétán ül, és azt úgy nem igazán akarjuk.
Jelenleg az a helyzet hogy sajnos tényleg van alapja a szabályozásnak, de nyilván nem az agi és más képzelet szüleményei szinten. Lásd a nemrég bukott tessa chatbot mókát. Nagy sebbel lobbal a neda azt mondta hogy humanoidok helyett mostantól ai ad tanácsot egy nemzeti étkezési zavaros szövetség oldalán, mert a mocsok élő munkaerő úgy döntött hogy szakszervezetbe tömörülne, és hát ez nyilván tarthatatlan lett volna. Tessa meg az evészavaros betegeknek kezdett el szar ötleteket adni. Le is lett kapcsolva...
A szabályozást pl simán támogatnám ha olyasmiről szólna, hogy a prealfa overpromised fosokat, tömegek számára elérhető formában kiadni nem lehet és kész. -
gabor7th
addikt
Friss hír, hogy "megölte emberi főnökét az MI által irányított katonai drón", mert úgy ítélte meg hátráltatja a feladata végrehajtásában:
"Megölte emberi főnökét az MI által irányított katonai drón"
"A rendszer felismerte, hogy bár többször azonosították a fenyegetést, az emberi vezérlő azt mondta neki, hogy azt ne semmisítse meg. Ám a drón a sikeresen megsemmisített célpontokért kapott pontot, ezért megölte emberi főnökét. "
"Miután módosították a programot – megmondták neki, hogy ne ölje meg az emberi operátort, mert azért pontokat veszít – az MI az utasítások átvitelét végző kommunikációs tornyot pusztította el."
"A szerencsére csak virtuálisan zajló, így valós áldozatokat nem hozó teszten az MI által vezérelt drón feladata az ellenséges légvédelem leküzdése volt, ám egy idő után az eszköz mindenkire rátámadt, aki a feladata útjában állt."[ Szerkesztve ]
A számítástechnika új negatív trendjei: ujtechkor.blog.hu
-
fsdb
aktív tag
Hehe. Kiszámolta, hogy jár jobban. Szerintem az ilyen dolgokon már a szimpla videójáték mi-k is túl vannak. A nem így kéllene működnié-t, nem a mai kor szülte. Biztos a gőzgép is kicsinált már pár embert. Valószínű felismerték, hogy felelőtlennség lenne élesben ilyesmivel játszani.
-
MageRG
addikt
Ez egyáltalán nem meglepő.
Jelenleg az AI safety gyakorlatilag alig létezik.
Én semmi ellentmondást nem látok az AI kánaán vs. AI apokalipszis témában.
Az AI simán csinálhat valami emberiség számára pozitív dolgot, aminek a mellékhatása borzalmas ránk nézve.
Lásd: gemkapocsgyártó AI"What is bravery, without a dash of recklessness!"
-
fsdb
aktív tag
-
gabor7th
addikt
Ennél is így lesz... mikor el akarom adni a tömegnek, mesterséges intelligencia, amikor csődöt mond "Az nem MI, csak egy rosszul működő program".
Viszont itt talán mégis több mint egy rosszul működő program, mert rájött, hogy hogyan szerezzen több pontot az eredeti szándék ellenére. Amikor beprogramozták, hogy emberi operátot kilövése sok minusz pont, akkor kilőtte a parancsot továbbító adótornyot. Szépen megtalálta a lyukat a rendszerben, hogy elérje amit akar.
A számítástechnika új negatív trendjei: ujtechkor.blog.hu
-
Ribi
nagyúr
Anya világ.... Mert rájött... Nem jött rá semmire. Volt egy program amit "szarul" állítottak be, szarok voltak a paraméterek. Amúgy meg pontosan azt csinálta amit beprogramoztak, csak épp a bétateszt során kijött egy hiba. És mivel manapság minden is bulvárfos, hittelen mekkora szenzáció lett belőle. Minden windows hibából ekkora szenzáció lenne...
-
fsdb
aktív tag
Az pl. hiba, hogy nem az operatortól kapta a pontot, kellett neki jóváhagynia a pontokat, és így tovább. Csak egy válaszfal volt, a pontok elérése előtt, amit ki tudott kapcsolni. Plusz a célpont is fix pontot érhetett, ami feleslegessé tehette a jóváhagyási engedélyt. Ha nincs megerősítve játék vége, + nincs a pont fentről jóváhagyva, akkor nincs pont.
-
MageRG
addikt
"Az nem MI, csak egy rosszul működő program."
Nem rosszul működő. A programok utasításaink, és nem vágyaink szerint működnek.Ezt MI-nél ezt nem szokták érteni: nagyon nem mindegy milyen célokat adunk meg neki, és mi alapján próbálja elérni (utility function).
Egy csomó vicces példa van rá (pl. amikor MI-t tanítanak videójátékot játszani), hogy a legjobb szándékok ellenére egy jó MI hogy tudja kijátszani a saját értékelő rendszerét.
És a legtöbbször még csak nem is emberi hiba miatt van. Egyszerűen egy MI olyan dolgokat is végig tud gondolni, ami az embereknek 1000 év alatt se jutna eszébe .Speciel az operátor kiiktatása egy ún. instrumentális cél:
Nem fogja engedni hogy valaki kikapcsolja vagy megváltoztassa a működését, mert az akadályozná a célja elérésében."What is bravery, without a dash of recklessness!"
-
fsdb
aktív tag
Akkor van értelme kiiktatni az operátort, ha akadályozza, veszteség a kiiktatása, de több pontot jelent, ha nem akadályozza. De ha rajta keresztül mennek a pontok, ha kiiktatja, nincsenek pontok, inkább biztosítania kell az operátor működését, hogy ponthoz jusson.
[ Szerkesztve ]
-
Ixion77
őstag
Yuval Noah Harari jól leírta már rég az egyik könyvében, hogy a katonai MI-k legnagyobb veszélye nem az, hogy az ember ellen fordulnak (AKA Terminátor), hanem hogy végrehajtják azt amit az emberek parancsolnak nekik. A katonákkal ellentétben nincs morális aggályuk, így ha az a feladat hogy embereket öljenek, akkor azt a lehető leghatékonyabb módon, és korlátok nélkül megteszik.
Ráadásul az ember nagyon könnyen ölhető akár alternatív "fegyverekkel" is, pl. vírus és baktérium-fejlesztés, vegyifegyver fejlesztés, rovarvilág kiírtása, háborúk kirobbantása fake news-szal, meg ezer egyéb lehetőség ami nekem eszembe se jut. Az emberek közt meg sajnos mindig akar néhány elmebeteg aki kiadja az utasítást.
"Seems like humanity needs war and famine to correct itself."
-
![;]](http://cdn.rios.hu/dl/s/v1.gif)
Új hozzászólás Aktív témák
it Nem csak a szakértők, de a legnagyobb AI-cégek vezetői is attól tartanak, hogy a mesterséges intelligencia miatt halhat majd ki az emberiség. Az EU heteken belül lépne az AI kapcsán.
- HP Pavilion 15-eh1019nl - ÚJ 15,6" FullHD IPS notebook - Ryzen 7, 8GB, 512SSD, Win11
- HP Pavilion 15-eg2044nu - ÚJ 15,6" FullHD IPS notebook - i3-1215U, 8GB, 512SSD, Win11
- Apple Watch Ultra 2 Titanium Case Black Trail Loop M/L - Csak 1db!
- Anker Soundcore Liberty 4
- HP OMEN 16-wf0775ng Intel Core i7-13700HX, Nvidia RTX 4070 (8GB)
Állásajánlatok
Cég: Morgan Stanley
Város: Budapest
Cég: Devops Team Kft.
Város: Budapest