Der Cache-Speicher ist sehr schnell, läuft mit Prozessorgeschwindigkeit.
Allerdings besteht Cache-Speicher aus sog. statischen RAM-Zellen, und die nehmen den 10 bis 20 fachen Platz ein, den eine dynamische RAM-Zelle benötigt. Dafür ist dynamischer RAM um rund den Faktor 20 bis 30 langsamer als statischer RAM.
Also, es ist schon eine Platzfrage und damit eine Geldfrage, weshalb man nicht so große Cache-Speicher auf den Prozessorchip packt.
Zweitens ist die Verwaltung des Chache-Speichers relativ aufwändig, deshalb geht man hier auch einen Kompromiss ein. Ein zu großer Cache macht die Verarbeitung nämlich wieder langsamer.
4 bis 8 MB Cache sind heute bei den Prozessoren gängig und reichen auch völlig aus.
Wenn man bedenkt, dass noch vor 15 Jahren 8 MB die Größe des kompletten Hauptspeichers betrug ist das schon ein gewaltiger Sprung...