Der Zugriff auf den Cache ist deswegen so schnell, weil der Prozessor ihn direkt mit auf dem Chip hat (meist mit voller Prozessortakt-Geschwindigkeit) und deswegen schneller darauf zugegriffen werden kann. Um den Arbeitsspeicher anzusprechen muß erst über mehrere Schritte die gewünschte Speicherzelle ausgewählt werden, dann muß gewartet werden bis die Daten an den Datenleitungen anliegen und irgendwann kann der Wert dann gelesen werden. Das dauert sehr lange (klar gehts trotzdem nur um Millisekunden oder noch weniger, aber der Vorgang muß oft wiederholt werden und da summiert sich das eben)
Der Cache ist ein Puffer zwischen RAM und dem Prozessor. Je größer er ist, umso mehr passt logischerweise rein und umso größer ist die Warscheinlichkeit, das der Prozessor benötigte Daten darin findet und nicht aus dem RAM holen muß.
HIER ist das recht schön beschrieben.