Also ich kenne solche Fehler vom übertakten meiner 9600XT im PC. Wenn ich die GPU übertakte, hängt sich der komplette Rechner auf, wenn ich aber den Speicher der Grafikkarte übertakte, erscheint ein solches Bild.
Ich tippe daher auch auf defekten Speicher der Grafikkarte, evtl auch Überhitzung.