Az Anthropic álmodni tanítja az AI-modelljeit, hogy kijavítsák a saját emlékeiket
Az Anthropic kutatásában a Claude-modellek két munkamenet között átnézik és javítják saját jegyzeteiket, ezt a folyamatot álmodásnak nevezik. A módszer a Pokémon Redben és egy nagyszabású wikis kísérletben is javította a teljesítményt.
Az emberi agyban a hippokampusz alvás és pihenés közben újrajátssza a friss élményeket, és fokozatosan beépíti őket a neocortexbe. Az Anthropic november 6-án közzétett kutatásában ezt a munkamegosztást ültette át mesterséges intelligenciára: a Claude-modellek munka közben naplókat és jegyzeteket készítenek, a két munkamenet közötti üresjáratban pedig visszanézhetik ezeket, kijavíthatják a hibás bejegyzéseket és rendszerezhetik tudásukat.
A folyamatot a kutatók egyszerűen álmodásnak nevezik.A kutatók először a Pokémon Reddel vizsgálták, mennyire tudják a modellek eldönteni, mit érdemes megjegyezni. A Sonnet 3.7 aprólékos nyilvántartása teherré vált, mert a játék állása folyamatosan változott, így jegyzetei hamar elavultak, és egy ponton 17 lépésen át csak fájlokat hozott létre és törölt, miközben a játékban egyet sem lépett. A Fable 5 előnye abból adódott, hogy csak olyasmit jegyzett fel, amit a játék magától nem mutatott meg.A Mt.
Moon barlangnál a Claude tévesen a hegy keleti oldalára helyezte a Pokémon Centert, ezért azt hitte, már túljutott a barlangon; a hibás jegyzettel futó változat háromszor zuhant le ugyanarról a párkányról. Az álmodás során a modell összevetette feljegyzéseit a munkamenet naplójával, észrevette és kijavította a tévedést, majd kevesebb mint kétezer lépés után elérte Cerulean Cityt. Az álmodás arra is képes, hogy a meglévő anyagokból új tudásbázist építsen.
