Рассмотрена трехмерная модель взаимодействия популяций с учетом конкуренции и миграции видов. Для исследования модели использовано сочетание известных методов синтеза и анализа моделей и разработанного метода построения стохастических самосогласованных моделей. Получены условия существования состояний равновесия и выполнен анализ устойчивости. Предложены условия устойчивости на основе принципа редукции задачи об устойчивости решений дифференциального включения к задаче об устойчивости других типов уравнений. Указанный принцип предполагает переход от векторных обыкновенных дифференциальных уравнений к векторному дифференциальному включению и нечеткому дифференциальному уравнению, с учетом изменения параметров того или иного типа в исследуемых моделях. Для рассматриваемой модели популяционной динамики осуществлен синтез соответствующей стохастической модели на основе применения метода построения стохастических самосогласованных моделей. Описана структура стохастической модели, выписано уравнение Фоккера-Планка, сформулировано правило перехода к стохастическому дифференциальному уравнению в форме Ланжевена. Предложенный подход позволил провести сравнительный анализ качественных свойств моделей, учитывающих конкуренцию и миграцию видов, в детерминированном и стохастическом случаях. Условия устойчивости могут быть использованы для изучения динамического поведения моделей популяционной динамики. Полученные результаты направлены на дальнейшее развитие методов построения и анализа устойчивости недетерминированных математических моделей естествознания.