Πολυεπίπεδη οργάνωση λανθάνουσας μνήμης

Με τη διαρκή πρόοδο στον τομέα των ολοκληρωμένων κυκλωμάτων έχει γίνει δυνατή η υλοποίηση ενός μέρους της λανθάνουσας μνήμης μέσα στο κύκλωμα του ίδιου του επεξεργαστή. Αυτή η μνήμη είναι πάρα πολύ γρήγορη, επειδή η προσπέλαση γίνεται στο εσωτερικό του ίδιου ολοκληρωμένου κυκλώματος, του επεξεργαστή.

Αυτή η «εσωτερική» μνήμη, όμως, είναι σχετικά περιορισμένη σε μέγεθος· έτσι, χρησιμοποιείται και άλλη, εξωτερική μνήμη, ως λανθάνουσα μνήμη, δημιουργώντας έτσι δύο επίπεδα λανθάνουσας μνήμης:

Το πρώτο επίπεδο λανθάνουσας μνήμης (Level 1 cache ή L1) είναι πάρα πολύ ταχύ επειδή ανήκει στον επεξεργαστή και λειτουργεί με την ίδια ταχύτητα με αυτόν.

Το δεύτερο επίπεδο λανθάνουσας μνήμης (Level 2 cache ή L2) έχει συνήθως περισσότερο χώρο αποθήκευσης και σχετικά μεγαλύτερο χρόνο προσπέλασης.

Το σύστημα διαχείρισης της λανθάνουσας μνήμης προσπαθεί να επιτύχει τη μέγιστη αξιοποίηση της μνήμης L1, ώστε να ελαχιστοποιείται ο χρόνος εκτέλεσης των προγραμμάτων.

Στην περίπτωση αυτή, η προσπέλαση της μνήμης γίνεται σε τρία βήματα: - Αν η λέξη που προσπελάζεται βρίσκεται στη μνήμη L1, τότε χρησιμοποιείται απευθείας από εκεί. - Αν δε βρεθεί στη μνήμη L1, τότε ελέγχεται μήπως βρίσκεται στη μνήμη L2. Αν ναι, χρησιμοποιείται και αντιγράφεται στη μνήμη L1. - Αν δε βρεθεί ούτε στη μνήμη L2, τότε η λέξη προσπελάζεται στο χώρο της κύριας μνήμης και αντιγράφεται συγχρόνως στη μνήμη L2.