Спосибо всем за помощь, но полистав мануал понял что проблема не в настройках, а просто даная видиокарта физически наможет одновременно выводить сигнал на DVI и HDMI выходы, поетому необходимо либо подключить монитор к D-SUB либо докупать дополнительную видеокарту