Noem de overeenkomst tussen de oplossingen voor catastrophic interferentie


  • het feit dat je hoe dan ook een oplossing moet vinden voor het feit dat je niet dezelfde knopen voor meerdere dingen kan gebruiken. Je kan het oude niet bewaren als je het nieuwe leert (en dit lijkt in de praktijk niet te kloppen. Daarom is het geen goed model voor menselijk geheugen. Dat betekent niet dat neurale netwerk modellen per definitie niet voldoen. 

    • Sparse coding: Zorg dat slechts een klein deel van de knopen worden gebruikt voor een bepaalde lijst. Dan wordt het minder gedistribueerd, terwijl dat juist een belangrijk concept was voor dit model.
    • Verminder de overlap tussen de representaties van Lijst 1 en Lijst 2 (gebruik nieuwe knopen voor nieuwe items). Dit lijkt heel erg op de eerste oplossing.
    • Sla informatie in verschillende deelsystemen op: bijvoorbeeld een snel hippocampaal systeem en een traag corticaal systeem. Informatie wordt eerst in de hippocampus opgeslagen en daarna corticaal.
    • Re-activatie van lijst 1 gedurende het leren van lijst 2. Je zoekt een soort compromis tussen het onthouden van lijst 1 en het leren van lijst 2. Het netwerk gaat dan schipperen tussen 1 en 2. In de werkelijkheid klopt dit niet, want tijdens de taak zijn de lijsten temporeel gescheiden. 

    Rapporteer Plaats commentaar