Új hozzászólás Aktív témák

• #12 konzumpro senior tag Medocsabi #11

  Új Válasz 2023-06-07 15:17:32 #12

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  konzumpro

  senior tag

  válasz Medocsabi #11 üzenetére

  Régen attól rettegtettek, hogy nem fog már kelleni grafikus, merthogy van clipart, meg már mindent meg lehet csinálni Wordben. Sajnos a "hajrá!" reakció akkor még nem volt feltalálva.

• #15 XMI csendes tag Medocsabi #11

  Új Válasz 2023-06-07 16:44:06 #15

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  XMI

  csendes tag

  válasz Medocsabi #11 üzenetére

  Ennél megintcsak árnyaltabb a szituáció.
  Abban az AI safety szakértők (nem Musk, hanem kutatók akik ténylegesen publikálnak ilyen témákban) is egyetértenek, hogy a GPT-3 és a GPT-4 még nem AGI.

  Viszont, ha megnézed, hogy a fejlődés üteme milyen... A GPT-2 még ott tartott, hogy az egyes mondatai nyelvileg rendben voltak, de alig kapcsolódtak egymáshoz. 2-3 mondaton belül teljesen elvesztette a témát. Ehhez képest a GPT-3 már hosszasan tud értekezni mindenféle témákról. A GPT-3 amerikai egyetemi felvételiken 10% körüli pontszámokat tudott elérni, a legtöbb kérdést "nem értette meg", totálisan mellébeszélt. A GPT-4 már van ahol 90%-os eredményt ér el. Nemrég jelent meg cikk arról, hogy a GPT-4-et bekötötték minecraft-ba: mindig megkapta promptként, hogy milyen kockák vannak éppen a játékos körül, válaszként javascript API-ra kellett függvényhívásokat írnia, hogy a játékos karakternek mi legyen a következő művelete. Teljesen önállóan döbbenetesen sokáig eljutott a karakterfejlesztésben.

  Ha fél-egyévente kijön ebből egy újabb, ami ugyanilyen ütemben fejlődik (jelenleg semmi ok nincs kételkedni benne), akkor elég gyorsan nyakunkon lesz az AGI. Lehet, hogy 5 éven belül. Ha addig nem oldjuk meg az AI safety problémákat, akkor _nagyon_ nagy bajban leszünk. Érdemes Rob Miles videóit nézegetni youtube-on, elég világosan elmagyarázza, hogy mik ezek a konkrét problémák és hogy az intuitív megoldási ötleteink miért nem jók.

• #26 ddekany veterán Medocsabi #25

  Új Válasz 2023-06-08 17:35:28 #26

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  ddekany

  veterán

  válasz Medocsabi #25 üzenetére

  Hát igen. Lásd fentebb. Azaz, ezek alapján lehet arra következtetésre jutni, hogy az egyetlen esélyed ha te csinálod meg először a super-AI-t, és direkt olyanra csinálod, hogy az kontrollra törekedjen, és autonóm legyen, ne hallgasson a gyarló emberekre (persze eljátssza ha együttműködő ártatlan boci, amíg nem navigálta magát megfelelő pozícióban, mert nem hülye). Mert az emberek első körben gazdagságot/hatalmat akarnak, aztán bizalmatlansából esélyes, hogy jól összeháborúznak. Sőt, esetleg az AI is odavész az infrastruktúrával együtt.

  Ki tudja, talán valójában erről álmodnak Sam-ék (vagy valamelyik másikak). A nagy kockázat, hogy (valószínűleg) nem tudod, mit építettél. Főleg ha elsőnek kellett lenni, sokat nem lehetet kutatni, meg óvatoskodni. Csinálsz valamit, ami lever STEM-ben, meg szociáliás manipulációban, és csak reméled, hogy nem bukik ki belőle valami olyan szándék, amit nagyon nem preferálsz, amikor épp nem állsz a kábelnél a csípőfogóval.

Új hozzászólás Aktív témák