Az emberihez hasonló „álmodással” kísérletezik az Anthropic az AI-ügynökeinél
Az Anthropic „álmodásszerű” memóriaszelektálást tesztel AI-ügynökeinél, hogy a felhalmozódó, átláthatatlan jegyzetek helyett csak a fontos információkat őrizzék meg. A Pokémon Reddel és nagy dokumentumgyűjteményekkel végzett kísérletek a hatékonyság.
Az Anthropic kutatása szerint az AI-alapú ügynökrendszerek egyik legnagyobb kihívása annak eldöntése, mit érdemes megőrizniük memóriafájljaikban. Az ügynökök működésük során rengeteg dokumentációt készítenek maguknak, és gyakran minden apró részletet rögzíteni próbálnak, amiből átláthatatlan adathalmaz keletkezik.Ez egyszerre hordozza annak veszélyét, hogy fontos kontextus kimarad, vagy elavult adatok maradnak benne, ami rontja a rendszerek hatékonyságát.
A Claude-ot fejlesztő cég elemzése szerint az emberi álmodáshoz hasonló, „üresjáratokban” végzett memóriaszelektáló folyamatok jelenthetnek megoldást erre a problémára. A kutatók a Pokémon Red videójátékkal tesztelték a kérdést, két modell teljesítményét hasonlítva össze körülbelül tízezer játékbeli lépés után.A fejlettebb modell azért kerülhetett előnybe, mert
jegyzeteléskor kizárólag a navigációs stratégiákra, a levont tanulságokra és az aktuális célokra összpontosított, elkerülve a játék felületéről amúgy is leolvasható adatok felesleges tárolását. Az üresjáratokban végzett felülvizsgálat a memóriába csúszott hibák javításában is kulcsszerepet játszik, mivel a tévesen eltárolt adatokat a modellek később kész tényként kezelhetnék, pontatlan válaszokat eredményezve.
