Windows macht nichts anderes als memtest ergo liegt es nicht am Hauptspeicher den können wir ausschließen.
Hat dein Monitor einen DVI Eingang?
Falls ja könntest du einen kostengünstigen Adapter probieren zusammen mit einem HDMI Verlängerungskabel männlich auf weiblich.
High Definition Multimedia Interface