Et spørsmål som dukket opp under byggingen av KI-minne

Vi arbeidet med noe ganske praktisk: hvordan flere KI-agenter kan huske erfaringer fra tidligere arbeid uten at gamle opplysninger blir blandet med fersk systemtilstand. Da oppstod et spørsmål som løftet saken ut av programvarearkitekturen.

Hvis en tidligere erfaring blir aktiv igjen og påvirker det systemet gjør nå, hvordan vet systemet at representasjonen kommer fra fortiden?

Spørsmålet ligner et gammelt problem i hukommelsesforskningen. Mennesker kan huske en setning, et bilde eller en hendelse og samtidig måtte avgjøre hvor minnet kom fra: noe som faktisk ble sett, noe som ble hørt, noe en annen person fortalte, eller noe man selv forestilte seg.

Det er her parallellen blir interessant. Menneskelig hukommelse og KI-minne er bygget på helt forskjellige fysiske og tekniske grunnlag. Likevel møter begge et spørsmål om kilde: Hva er denne representasjonen, hvor kom den fra, og hvor mye vekt skal den få nå?

Et minne kommer uten ferdig kildestempel

I psykologien brukes begrepet source monitoring om prosessene som hjelper oss å avgjøre opprinnelsen til det vi husker. En undergruppe kalles reality monitoring: skillet mellom noe som ble oppfattet utenfra og noe som ble generert internt, som forestilling eller tanke.

Source-monitoring-rammeverket beskriver en hukommelse der opprinnelsen må utledes fra kjennetegn ved minnet. Det kan være sanseinnhold, tid og sted, semantisk innhold, følelsesmessige trekk eller spor etter de mentale operasjonene som var aktive da representasjonen ble dannet. En nyere nevrovitenskapelig meta-analyse beskriver på samme måte source monitoring som en egen attribusjonsoppgave: innholdet og kilden henger sammen, men de er ulike spørsmål.

Det er en viktig nyanse. Hjernen har mekanismer som forsøker å skille gjenkalling fra det som skjer her og nå. Poenget er at skillet krever arbeid. Det er mer enn selve innholdet i minnet.

Fortiden kan bli aktiv i nåtiden

Hukommelsesforskere bruker ordet reaktivering når aktivitetsmønstre knyttet til en tidligere erfaring kommer tilbake senere. Studier av episodisk hukommelse har funnet slike likheter mellom mønstre under persepsjon og under gjenkalling.

Det betyr heller ingen enkel avspilling. En gjennomgang i Trends in Neurosciences argumenterer for at hukommelsesrepresentasjoner kan være systematisk transformerte versjoner av representasjonene som var aktive under persepsjonen. Forskerne peker dermed både på likheten og på forskjellen mellom å se noe og å huske det.

En annen forskningslinje viser at reaktivering kan påvirke videre kognisjon. Når tidligere representasjoner kommer tilbake, kan de bidra til å stabilisere minner og samtidig påvirke hva som oppfattes eller vurderes senere. Fortiden blir dermed mer enn et arkiv. Den blir en del av inngangen til neste øyeblikk.

KI har et annet system – og et beslektet kontrollproblem

En KI-agent med hukommelse kan lagre tidligere oppgaver, løsninger, tilbakemeldinger eller sammendrag utenfor språkmodellen. Når en ny oppgave kommer, kan relevante poster hentes frem og legges inn som kontekst for den nye vurderingen.

Her finnes ingen biologisk gjenopplevelse. Det finnes heller ingen grunn til å anta at modellen opplever fortiden slik et menneske gjør. Men det gamle materialet kan likevel påvirke neste handling.

I 2025 undersøkte en forskergruppe hvordan minneforvaltning påvirker språkmodellagenter. De fant en tydelig «experience-following»-effekt: jo mer den nye oppgaven lignet en tidligere lagret erfaring, desto mer lignet agentens nye respons den gamle. Forskerne fant også to problemer: feil kunne forplante seg fra gamle erfaringer, og tidligere erfaringer kunne trekke agenten i feil retning når de passet dårlig til den aktuelle oppgaven.

Dette er den tekniske parallellen til spørsmålet vi startet med. For lite hukommelse kan gi problemer. Det samme kan feil bruk av tidligere erfaringer.

Samme kontrollspørsmål, ulike systemer

Menneskelig hukommelse

En tidligere erfaring gjenkalles gjennom nevrale prosesser. Kilden vurderes blant annet gjennom sanse-, tids-, sted- og tankeegenskaper. Reality monitoring bidrar til å skille oppfattet fra selv-generert materiale.

KI-agent med ekstern hukommelse

En tidligere post hentes fra et lager og blir ny kontekst. Arkitekturen må bevare opphav, tidspunkt, arbeidsobjekt, korreksjoner og gyldighetsgrense slik at gammelt materiale får riktig rolle.

Kanskje skal KI huske mindre som et arkiv og mer som en etterforskning

Nyere agentforskning flytter oppmerksomheten fra ren gjenfinning til aktiv rekonstruksjon. Et arbeid fra National University of Singapore, publisert ved ICLR 2026, beskriver minne som noe som rekonstrueres gjennom flere trinn i stedet for å bli hentet som én ferdig pakke. Agenten utforsker forbindelser, samler evidens og snevrer inn hvilke deler av tidligere materiale som faktisk er relevante.

En annen benchmark, MemoryArena, peker på et beslektet problem. Systemer som gjør det godt på tester av lang kontekst og gjenkalling, kan fortsatt gjøre det svakt når minnene må brukes til å styre handling over flere økter. Å kunne hente fortiden og å kunne bruke den godt er to forskjellige ferdigheter.

Dette åpner en mer krevende idé om KI-hukommelse: Et godt minne er kanskje ingen samling svar. Det er en samling spor som kan kontrolleres mot situasjonen som finnes nå.

Da blir minne en del av sikkerhetsarkitekturen

Opplysninger om minnets opphav, alder og senere korrigeringer får dermed en praktisk oppgave: De hjelper systemet å avgjøre hva som fortsatt gjelder. En gammel erfaring med feil kilde eller feil prosjektbinding kan bli en linse for neste problem. Et korrekt minne kan også være farlig dersom systemet bruker det uten hensyn til at verden har endret seg.

Den samme logikken gjelder mennesker i en svakere og mer kompleks analogi. Source monitoring handler nettopp om at en mental representasjon må tilskrives en opprinnelse. Hukommelsen hjelper oss å handle, men gjenkalling er en konstruktiv prosess som arbeider med spor fra fortiden i en ny situasjon.

For KI-utviklere blir spørsmålet derfor større enn hvor mange samtaler en agent kan huske. Det handler om hvor godt agenten kan skille mellom det som hendte, det som ble tolket, det som senere ble korrigert og det som faktisk gjelder nå.

Parallellen har en tydelig grense

Et menneske har et biologisk nervesystem, sanser, kropp, affekt og subjektiv erfaring. En språkmodell med ekstern hukommelse arbeider med representasjoner som er lagret og hentet gjennom tekniske systemer. De to kan derfor aldri settes likt i denne saken.

Det som kan sammenlignes, er kontrollproblemet som oppstår når fortiden får innflytelse over nåtiden.

Hos mennesket undersøker hukommelsesforskningen hvordan kilden til en mental erfaring tilskrives og hvordan gjenaktiverte representasjoner påvirker videre kognisjon. Hos KI-agenten undersøker forskningen hvordan tidligere erfaringer hentes, hvordan de styrer nye beslutninger, og hvordan feil eller utdaterte spor kan forplante seg.

Det er mer enn en teknisk detalj. Hvis KI-agenter skal arbeide over måneder og år, på tvers av prosjekter og mennesker, blir evnen til å huske ansvarlig like viktig som evnen til å huske mye.

Kilder og videre lesning

• Lavallé mfl.: The neural signature of reality-monitoring — meta-analyse av funksjonell nevroavbildning.
• External Source Monitoring and Reality Monitoring — nyere fMRI-meta-analyse.
• Favila, Lee og Kuhl: Transforming the Concept of Memory Reactivation.
• Tambini og Davachi: Awake reactivation of prior experiences consolidates memories and biases cognition.
• Xiong mfl.: How Memory Management Impacts LLM Agents — Experience-Following Behavior.
• Ji, Li og Hooi: Memory Is Reconstructed, Not Retrieved — ICLR 2026.
• He mfl.: MemoryArena — Benchmarking Agent Memory in Interdependent Multi-Session Agentic Tasks.

Kildene dekker ulike forskningsfelt og bruker ordet «minne» på forskjellige måter. Sammenligningen i saken er redaksjonens analyse av et avgrenset funksjonelt problem; den er ingen påstand om felles biologisk mekanisme.