Den ersten Teil der Frage kann ich nur vermutend beantworten, der zweite ist vergleichsweise einfach zu beantworten.
Deshalb fang ich mal mit Fraps an: Es wird nicht am Bildausgabepunkt (DVI-I Anschluss) gecaptured, sondern vereinfacht gesagt aus dem Framebuffer. Die Daten liegen bis dahin rein digital vor, sind also für einfache elektromagnetische Störsignale auch recht unempfindlich. Das zeigt, dass das Problem nicht in der GPU selbst - sprich ASIC - und nicht im VRAM besteht.
Du nutzt zur Darstellung auf dem Monitor analoge Bilddaten. DVI-I überträgt diese ja zusätzlich zu den digitalen. Der Adapter ist nur ein physikalischer, er ver- oder bearbeitet die Bilddaten nicht. Das analoge Signal wird bei Grafikkarten durch einen D/A-Wandler erzeugt, den sogenannten RAMDAC. Von da an wird es über Leiterbahnen auf dem PCB zum entsprechenden Anschluss (etwa DVI-I, D-Sub) geführt. Ein analoges Signal ist für Störungen sehr anfällig (siehe dazu EMV).
Meine Vermutung wäre jetzt, dass es mit den Spannungswandlern der Karte zusammenhängt. Im Idle/2D Betrieb gammelt die Karte bei niedrigen Takten, ASIC, VRAM etc. nehmen wenig Energie auf und die Spawas arbeiten wenig.
Wenn du in den Last/3D Betrieb wechselst, arbeitet die Karte mit maximal zulässigen Takten, d.h. die Spawas geben ordentlich Gas. Dabei erzeugen sie eine elektromagnetische Interferenz (siehe dazu EMI), die das analoge Signal stört bzw. beeinflusst.
Für diese Theorie spricht, dass du ja auch bei einem weißen Bildschrim die Störung ausmachen kannst, wenn auch nur in ganz geringem Umfang. Die Interferenz ist dann einfach sehr gering.
Dass es bei Spielen unterschiedlich stark auftritt kann daran liegen, dass die elektromagnetische Signatur der Spannungswandler im 3D/Last Betrieb nicht konstant ist - kommt also aufs Game an. Bei Grafikkarten, deren Spannungswandler unter hoher Last das fiepen anfangen kann man das sogar hören. Kann mich da noch gut an die HD 4870 erinnern, die zu ihrer Zeit eigentlich nicht überdurchschnittlich stark gefiept hat, aber im Call of Jaurez Benchmark haben mir die Spannungswandler da immer schön hörbar ein Liedchen gespielt.
Wie gesagt: Nur eine Vermutung, aber immerhin halbwegs plausibel wie ich hoffe
LG