Математическое моделирование сложной нелинейной динамики излучения сильноточных пучков заряженных частиц в неодномерных пространственно-периодических структурах