Зубы у хомяков могут незначительно "ходить" в стороны. Как правило, это не страшно, если при этом зверёк действительно может спокойно есть и нормально стачивает зубы.
О странном поведении. Возможно, так она себя ведёт во время течки. Течка у хомяков - раз в 4 дня, и она почти всегда сопровождается некоторым изменением поведения. Так, короткие свистящие звуки во время течки издают многие самки. Обратите внимание, есть ли периодичность у этого её странного поведения?
Клаустрофобии у норного животного быть не может. Но многие хомяки выезжают из домиков "на улицу", когда домики становятся для них слишком тесными, - подумайте, в Вашем случае причина не в этом? При этом для хомячка естественно нервничать, когда его насильно запихивают куда-то, куда ему идти не хочется. :)