Став шамхалом Тарковским, в сороковые годы XIX века Абумуслим решил построить дом-дворец на вершине неприступной скалы Кала в Кафыр-Кумухе. Дворец состоял из 42 комнат, к нему вел эстакадный мост протяженностью 100 метров, располагался на восточной стороне селения, и фаэтоны поднимались на скалу со всем экипажем. Два двора предназначались для знати и для прислуги.
После смерти Абумуслима его сын Шамсутдин-хан со своей семьей в 1867 году переехал жить в Темир-Хан-Шуру. С того дня крепость осиротела, местные жители растащили камни на строительство школы и своих домов. Прекрасное здание, сотворенное руками талантливых дагестанских зодчих, исчезло, будто никогда и не существовало.
На сегодняшний день скала под воздействием эрозии наполовину разрушилась.