Après une grave attaque cérébrale le 12 juin 1994, Cab CALLOWAY doit définitivement arrêter la scène. Il sort de l'hôpital début juillet pour se reposer dans une maison médicalisée à Cokesbury Village, une communauté de retraité à Hockessin (Delaware). Il décède quelque cinq mois plus tard des suites d'une pneumonie.
Sa femme, Nuffie, ses enfants et petits-enfants sont à ses côtés pour les derniers instants. Nuffie déclare au journa The Sentinel (20/11/1994) : "J'ai posé ma tête sur son épaule, et c'était très chaleureux. Il avait deux existences bien distinctes : celle de la scène et celle de la famille. Lorsqu'il fermait la porte de sa garde-robe, il rentrait à la maison et redevenait un mari, un père, un grand-père."
Ses funérailles ont lieu le 22 novembre suivant, suivies d'une soirée hommage le 29 novembre à la cathédrale St John The Divine de New York. Cette dernière soirée permet d'entendre chanter The Hi de Ho Orchestra avec Chris Calloway et de voir une présentation vidéo de la vie de Cab.