Приучение к туалету строго на улице

Добрый день! Я опишу немного всю картину.
Взяли с мужем собаку с передержки, такса кобель.
Сводили к ветеринару, сказали, что ему 6-8 месяцев.
У него одно яичко, второе не вылезло и ветеринар сказал, что уже не выйдет. Ближе к лету планируем кастрировать.
У нас живет 4 месяца. В квартире еще есть кошка, так, что он не скучает. На прогулки ходим три раза в день.
Вот и сама проблема:
помимо прогулок он может и дома сходить в туалет. Сначала делал это на ковер (писал, какал), а сейчас у него такая привычка сходить на кухне на ножку стола (писает), а еще заметили в зале не стену сходил в двух местах. Он ведет себя так не каждый день, бывает пару дней подряд, а потом всю неделю ведет себя хорошо, но потом опять, что нибудь натворит. Подскажите, как его воспитывать, такое поведение очень нас расстраивает.