Као први становници Килве спомињу се Мтаката, Мранга и Мчинга са краљем Мримба. Султанат Килва је основао у 11. веку [[Персија|персијски]] принц Али-ибн-ал-Хасан из Шираза.<ref>James Hastings, ''Encyclopedia of Religion and Ethics Part 24'', (Kessinger Publishing: 2003), p.847</ref> Висок ниво развоја султаната забележио је [[1331]]. године путописац [[Ибн Батута]] наводећи гостопримство тадашњег султана Хасана-ибн-Сулејмана. Из истог периода датирају и палата Хусуни Кубва и проширење Велике џамије. Португалски морепловац [[Педро Алварес Кабрал]] је 26. јула 1500. године упловио у луку Килва, али није успео да се нагоди са султаном око плаћања пореза португалском краљу, што је три године касније у својој другој експедицији за Индију постигао [[Васко да Гама]]. Португалци у то време описују град као утврђено насеље са око 12 хиљада становника, уских улица са високим кућама које имају терасе и унутрашње вртове. У луци се налазио већи број бродова. Португалци су град први пут уништили 1505. године, а Килва је плаћала порез португалском краљу до 1512. године када је освајају Арапи. Град се поново развија, до [[оман]]ског освајања 1874. године. Током 19. века Килва је напуштена и запуштена. Средином 20. века почињу археолошка истраживања на острву да би локалитет био стављен 1981. године на листу Светске баштине.
