В работе представлены определяющие соотношения модели, позволяющей описывать процессы деформации горных пород с учетом важнейших особенностей их поведения. Модель основана на комбинации предельной поверхности Друккера-Прагера и эллиптической поверхности. Представлены соотношения, которые описывают изменения поверхности предельного состояния и коэффициента дилатансии в ходе необратимой деформации среды. Используется неассоциированный закон течения. Приведен ряд примеров моделирования поведения плотных и высокопористых образцов в условиях плоской и трехосной деформации. Показано, что предложенная модель позволяет описывать поведение горных пород разной пористости с учетом формирования и распространение полос локализованной деформации в режимах как дилатансии, так и уплотнения.