Új hozzászólás Aktív témák
-
XMI
csendes tag
"úgy paraméterezik, mintha fő szempont az lenne hogy fals infókat adjon"
Ugye technikailag ez egy szövegpredikciós modell. Az a célfüggvénye, hogy előállítson olyan szöveget, ami megkülönböztethetetlenül hasonló az emberi szövegekhez. Nem az a különleges, hogy "halucinál", hanem inkább az, amikor nem. Az összes tényanyag, amit tud, lényegében mellékhatásként került bele a modellbe a tanítóhalmazból. A probléma az, hogy mi emberek erre a "mindenttudó okoskatörp" képességére kaptunk rá. Ez nem egy szakértői rendszer, csak mi próbáljuk úgy használni, mintha az lenne.Nem nagyon lehet átparaméterezni ezt a képességét, ugyanis nincs olyan metrika a rendszerben, ami számszerűsíteni tudná, hogy mennyire konfidens az adott válaszban (egy szakértői rendszernél elvárás lenne, hogy tudjon egy %-os értéket mondani, hogy mennyire tartja megbízhatónak a választ). Ebben a modellben azt lehet mérni, hogy a soron következő token (kb egy szó) mennyire biztos, hogy oda illik. Azt nem, hogy az egész szöveg mondanivalója mennyire vezethető vissza a tanítóhalmazbeli konkrét tényállításokra, vagy egyszerűen csak szövegstatisztikai általánosságok alapján egy formailag korrekt, de állításaiban teljesen légbőlkapott szöveg adódott ki.
Új hozzászólás Aktív témák
it Az OpenAI vezérigazgatója szerint Izraelnek hatalmas szerepe lesz az AI-kockázatok csökkentésében – Elon Musk pedig arról beszélt, hogy Kína megrendszabályozza az AI-t.
