Именно после Вашего ответа проблему удалось разрешить, хотя казалось бы все то, что Вы посоветовали уже было перепроверено не один раз. Дело действительно оказалось в частоте. AVR Studio просил чтобы она была в 4 раза меньше частоты STK500 и значения на вкладке board этому соответствовали. Решил попробовать еще понизить частоту, так сказать с запасом - и все прошилось. Большое спасибо! =)