Cette ville se serait développée sur l'emplacement d'une ancienne cité romaine appelée Gerba ou Girba. Elle a été le témoin d'une multitude de civilisations : numide, punique, romaine, vandale, arabe, espagnole, arabe, turque, etc. Les corsaires et pirates en firent leur nid pendant plusieurs siècles et la fameuse bataille de Djerba a eu lieu dans son extrémité nord, autour de l'actuel Borj El K'bir.