Ich weiss nicht, ob ich helfen kann, aber ich schreibe meine Gedanken mal dazu.

Zurerst ein paar Fragen:

1. Von welchem Hersteller stammt die Grafikkarte denn? NVidia-Chips werden ja von vielen Grafikkartenherstellern verwendet und da gibt es sicherlich Unterschiede beim Preis, aber auch hinsichtlich Qualität und Zuverlässigkeit.

2. Wird die Grafikkarte aktiv gekühlt, hat sie also einen Lüfter montiert? Den FX5200 gibts meines Wissens nach auch mit passiver Kühlung.

3. Was für ein Netzteil steckt im Rechner?

Der Stromhunger des FX5200 ist relativ niedrig im Vergleich zu seinen grossen Brüdern. Ich halte es für äusserst unwahrscheinlich, dass er zu wenig Strom bekommt, selbst wenn das Netzteil schwachbrüstig ist.
Das erste Problem, was du beschreibst (Grafikprobleme beim Hochfahren), lässt möglicherweise aber tatsächlich auf ein fehlerhaftes Netzteil schliessen.

Ein Windows-Treiberproblem scheidet eigentlich aus, da die ersten Fehler ja schon vor dem Windows-Hochfahren auftreten, wenn ich dich richtig verstanden habe.

Eine Möglichkeit ist vielleicht noch, dass der Arbeitsspeicher vom Bios falsch erkannt und zu schnell angesteuert wird. Das hat bei mir schoneinmal zu Grafikproblemen geführt, aber als Begleiterscheinung auch durch beständige Blue-Screens und Systemabstürze noch während des Bootens vehement auf sich aufmerksam gemacht.

Defekte Grafikkarte also? Das halte ich für das Wahrscheinlichste, da die Fehler, wie du sie beschreibst von Anfang an auftraten. Du hättest dich vielleicht gleich an den Händler wenden sollen, der dir das System zusammengebaut hat. Aber dieser Weg steht dir ja immer noch offen.
Einfach mal hingehen und über die "defekte" Grafikkarte meckern. Am besten gegen ein anderes Modell tauschen (oder testeshalber eine andere Grafikkarte vom Nachbarn / Kumpel ausborgen) und testen, ob das Problem immer noch besteht.

Die genaue Fehlerquelle zu wissen wäre auf jedenfall hilfreich....

Viel Glück.