Здравствуйте, Vitek Koval!
Для начала вынуть видеокарту из компьютера и тщательно осмотреть на предмет вздувшихся конденсаторов, следов пайки, гари. Если всё в порядке - почистить разъём PCI-E карты спиртом, очистить СО от пыли, желательно сменить термоинтерфейс.
Если рекомендации не помогут, то 99% вышла из строя видеопамять, либо её питание. Можно попробовать програмно понизить её частоту.
Рекомендую для замены, карты расположены в порядке увеличения производительности:
Sapphire ATI RADEON HD3850 Ultimate - 133.00
Palit GeForce 9600GT Soni - 173.00 у.е
Sapphire ATI RADEON HD3870 - 148.00 у.е.
Point of View GeForce 9800GT - 158.00
Либо аналогичную другого производителя.
З.Ы. БП придётся сменить на более мощный с честными ваттами. Иногда именно БП виноват в выходе из строя различных комплектующих. Не стоит на нём экономить!