Das hättest du natürlich vor dem Aufrüsten fragen sollen.
Es bleiben andere limitierende Faktoren wie die CPU und die Festplatten.
An dem Ruckeln wirst du auch mit vlt 10% OC per FSB nicht ändern können, die Technik ist ja auch bald 10 Jahre alt. Eher geht irgendwas von der Betagten Hardware gänzlich kaputt.
Alles feintuning, win abspecken und
oc in Ehren, aber da bleibt dir nur auf aktuelle Technik zu setzen.