Банк был зарегистрирован в 1992 году в форме акционерного общества закрытого типа с уставным капиталом 20 млн рублей. Его полное название тогда звучало как «Ханты-Мансийский банк возрождения и развития народов Севера». С 1996 года функционирует в форме открытого акционерного общества. С 1997 года носило наименование: ОАО «Ханты-Мансийский банк». В 2003 году ХМБ присоединил к себе ОАО «Коммерческий Восточно-Европейский Сибирский Банк» (Комвесбанк), а в 2009 году вошел в состав акционеров Новосибирского Муниципального Банка, купив 25,37% его акций. Постепенно увеличивая свою долю, к середине августа 2011 года ХМБ контролировал уже 93,76%, однако в октябре 2012-го года полностью вышел из состава акционеров НМБ.

До 1999 года основным акционером Ханты-Мансийского Банка являлось территориальное отделение Пенсионного фонда РФ. В 1999 году больше 50% акций кредитной организации стало принадлежать государственным предприятиям и учреждениям Ханты-Мансийского автономного округа. В декабре 2010 года московский НОМОС-Банк приобрел контрольный пакет акций ХМБ (51,21%). По данным СМИ, сумма сделки составила 12,1 млрд рублей. В сентябре 2012 года 44,2% акций ХМБ приобрела у ХМАО — Югры компания «Ферросплав Инвест», входящая в группу «ИСТ» Александра Несиса — одного из конечных бенефициаров «НОМОСа». Сумма сделки составила более 12,77 млрд рублей.

Банк долгое время являлся системообразующим муниципальным банком Ханты-Мансийского автономного округа — Югры, обслуживал казначейские и депозитные счета бюджета и внебюджетных фондов ХМАО — Югры, а также счета других органов власти, при этом активно развивал и розничный бизнес. В целом клиентскую базу ХМБ формировало более 40 тыс. юридических лиц и частных предпринимателей, а также порядка 3,5 млн физлиц.

13 ноября 2014 года стало известно о присоединении к Ханты-Мансийскому банку банков «Открытие» и «Новосибирский Муниципальный банк». Результатом проведенной реорганизации стало появление одного из крупнейших универсальных розничных банков с широкой региональной сетью, который вошел в ТОП-15 крупнейших российских финансовых институтов. Объединенная кредитная организация получила название Ханты-Мансийский Банк «Открытие» и планирует свое развитие в качестве универсального розничного финучреждения. Работать банк будет под двумя брендами: Ханты-Мансийский Банк (в регионах, где его узнаваемость исторически высока) и «Открытие» (на остальной территории России). Офисы Новосибирского Муниципального Банка будут работать под брендом «Открытие», став филиалом «Муниципальный».

Новая структура стала правопреемником присоединяемых организаций, в результате чего все действующие обязательства банков будут сохранены. Головной офис Ханты-Мансийского Банка «Открытие» зарегистрирован в Москве.