Wenn Memtest abstürzt (also keinen Fehler meldet, sondern wirklich einfriert), dann liegt die Fehlerursache wahrscheinlich nicht beim Speicher selbst.
Du hast 4 Riegel drin, oder? Probier mal, ob Memtest mit nur 2 Riegeln durchläuft. Nimm dafür auch erstmal alle vier Riegel raus und setz nur zwei wieder rein, evtl. sitzt auch ein Speicher nicht richtig drin. Ich weiß nicht, wie es bei den H(omo)55/57-Chipsätzen aussieht, aber zumindest P55-Boards können echte Bitches sein, was Speicher angeht.
Wenn das Board mit 2 Riegeln läuft (lass Memtest ruhig zweimal komplett durchlaufen, da wir ja nicht unbedingt den Speicher selber als Fehlerquelle ansehen) guckst du, ob du nen BIOS-Update machen kannst (müsste schon ne neue Revision geben). Das machste am besten mit USB-Stick und über das Tool, welches du vom Board selber aus starten kannst.
Nach dem BIOS-Update lädst du erstmal Default-Werte, dann stellst du ein, was du so brauchst/willst im BIOS. Dann setzt du die zwei Riegel, die draußen waren, rein, und lässt wieder Memtest laufen - ruhig auch wieder 2 mal.
Danach installierst du Windows 7 neu und installierst die neuesten, heruntergeladenen Treiber (um sicher zu gehen, dass du einerseits neue Treiber hast und andererseits könnte auch deine alte Installation durch Abstürze beim Installieren beschädigt sein, ohne dass du es - zumindest jetzt - direkt merkst).
Wenn bis dahin alles funktioniert hat, dann stresst du den PC mit Furmark und Linx (
Infos hier). Ich stelle dabei in Linx immer oben rechts von times auf minutes um und wähle darüber die Zeit, über die ichs laufen lassen will. Beim RAM nehm ich Available - 200MB (für Furmark). Das ganze solltest du 3-4 Stunden laufen lassen, länger ist natürlich besser/sicherer.
Wenn er das überstanden hat kannst du recht sicher sein, dass die Hardware ok ist.
Falls Memtest auch mit 2 Riegeln (ruhig verschiedene Kombinationen testen) immer wieder abschmiert würd ich nach Möglichkeit mal anderen Speicher zum Testen besorgen. Läufts damit, dann machst du nen BIOS-Update (wie oben beschrieben) und testest wieder mit 2 Riegeln von deinem Speicher.
Läufts auch mit anderem Speicher nicht, dann kannst du nen BIOS-Update machen (ich würd aber eher abraten, nen BIOS-Update aufzuspielen bei nem System, das schon so instabil läuft, dass Memtest abschmiert) oder du probierst nen anderes Netzteil (eher unwahrscheinlich) oder du gibst den PC in die Hände eines Fachmanns (vielleicht da, wo du es gekauft hast?) oder du gibst das Board in die Reklamation.