Предложен подход интеграции больших языковых моделей в системы поддержки принятия управленческих решений. Большая языковая модель выступает в качестве ассистента лица, принимающего решение, объясняя возможные причины проблемы и действия по их устранению. Выделены две задачи объяснения языковой модели: исследовательская, направленная на создание информационной среды для построения ментальной модели ситуации принятия решений и практическая, направленная на обоснование альтернатив решения. Предложен подход оценки качества системы поддержки принятия решений с участием языковой модели, основанный модели разумного-респондента, позволяющий получить численные оценки удовлетворенности ЛПР объяснениями языковой модели, и может применяться при проектировании систем поддержки принятия решений для выбора лучшей языковой модели в качестве ассистента.