1 августа 1980 г. постановлением № 358 был образован Республиканский музей народных музыкальных инструментов Казахской ССР.

24 апреля 1981 г. он открыл свои двери для широкой публики. Создание Музея связано с именем Узбекали Жанибекова (1931-1998) – историка, этнографа, крупного государственного и общественного деятеля.

Некоторые из музыкальных инструментов, главным образом, домбры, кобызы, дангыра, кепшик, сылдырмак, а также отдельные русские, уйгурские, дунганские инструменты были переданы Музею из коллекций Центрального государственного музея РК, а также Уральского, Южно-Казахстанского областного историко-краеведческого музеев, Отрарского музея-заповедника. Часть инструментов приобреталась Музеем у населения.

11 марта 1990 г. было принято решение о присвоении Музею имени Ыхласа Дукенулы (1843-1916) – казахского народного композитора, кобызиста, одного из основателей школы кобыза.

В 2012-13 годах в рамках Года культуры в Музее была проведена масштабная реконструкция. 15 мая 2013 г. Музей народных музыкальных инструментов вновь открыл свои двери для широкой публики. Изменился не только внешний вид экспозиции, но и полностью поменялась концепция работы Музея.

Музей экспонатов осуществляет деятельность по сохранению, пропаганде и популяризации музыкального наследия, а также научному исследованию музейных коллекций.

На сегодняшний день в фондах Музея насчитывается более 1000 предметов, представляющих музыкальную культуру более чем 34 стран мира.

Музей народных музыкальных инструментов имени Ыхласа, является одной из визитных карточек Алматы города, его культурной достопримечательностью.