Mit sehr hoher Wahrscheinlichkeit (so bei 99%)ist es dein Netzteil oder die Kühlung. Sobald dein Rechner mehr Saft braucht, als das Netzteil liefern kann, stürzt er ab.
Zur Sicherheit stellst du im BIOS deinen RAM auf Fail-safe (also die "harmlosesten, langsamsten" Einstellungen) und testest noch mal ob der Rechner einfriert, sobald du ein 3D Spiel startest (oder den 3DMark).
Friert der Rechner ein, ist dein RAM okay. Dann kann es nur noch Netzteil oder Kühlung sein.
Da dein Rechner bei 3D Anwenungen mehr "arbeiten" muss, wird der Prozessor auch wärmer, genau wie die Grafikkarte. Diese Erwärmung muss mithilfe einer effektiven Belüftung aus dem Gehäuse geschafft werden.
Desweiteren ist es wichtig viel kühle Luft dem Rechner zuzuführen. Ich halte nichts davon den Rechner "offen", also mit geöffnetem Gehäusedeckel zu betreiben, da eine gute Gehäusebelüftung effektiver ist (thermischer Kurzschluß). Um Luft im Gehäuse zu kühlen müsstest du einen Tischventilator vor dein geöffnetest Gehäuse stellen... Prima Idee... (das war Ironie).
Welchen CPU-Kühler verwendest du?
Welche Gehäusebelüftung verwendest du?
Hat dein Netzteil im Boden einen weiteren Lüfter (von AMD empfohlen)?
Wie sind die Leistungswerte des Netzteils (wieviel Ampere bei wieviel Volt)?
Welches Gehäuse hast du?
Welche Wärmeleitpaste /Wärmeleitpad benutzt du?
Hast du eine Gehäusedämmung (Matten)?
Wieviel Platz ist zwischen CPU-Kühler und Netzteil?
Benutzt du Rundkabel?
So, beantworte mal die Fragen, dann sehen wir mal verbessert werden kann.
ciao,
illuminate