Ругать и тыкать носом бесполезно, надо игнорировать и набраться терпения, а вот когда он на улице делает все свои дела надо хвалить собаку и поощрять, таким образом постепенно будет вырабатываться условный рефлекс на данное действие: "делать свои дела надо на улице, тогда меня хвалят и дают вкусняшки, быстрее на улицу!".
Также пора серьезно заниматься его дрессировкой. Дрессированные собаки никогда не позволят себе гадить дома.