(Ceux qui me connaissent savent à qui je pense et pourquoi je parle d'un gars comme lui, un jour comme aujourd'hui...)
Né d'une famille portoricaine, à New York, son père en prêtre pentecôtiste. Il apprendra la guitare dès ses 10 ans, par lui-même, et en joue habilement et semi professionnellement, 6 ans plus tard, à l'heure des amateurs du Apollo Theater.
C'est à partir de là qu'il est invité à faire la guitare rythmique pour le groupe de Chuck Berry. On se le passe beaucoup entre les artistes soul de la fin des années 60 et du début des années 70. De 1968 à 1969, il tourne sur scène dans le band de James Brown. Mais après avoir manqué un signal musical sur scène, on lui coupe une partie de sa paye, ce qu'il trouve si ridicule qu'il quitte son band. En 1969, il forme son propre band comprenant Luther Vandross, Fonzi Thornton (qui lui, travaillera avec Chic et Roxy Music) et Robin Clark, future voix chez Simple Minds, et qui deviendra son épouse avec laquelle ils ont une fille.
Il sera ensuite musicien de session pour la compagnie RCA. Il sera des disques de Ben E. King et Joe Simon. Il fait du jazz aussi avec Kenny Barron, et fait la rencontre de Dennis Davis qui joue de la batterie pour Roy Ayers quand les deux font de la scène ensemble pour lui. Il sera d'une tournée de The Main Ingredient, qui comprend comme principal chanteur le père de Cuba Gooding Jr, Cuba Gooding Sr.
C'est avec un projet pour Lulu, une chanson signée David Bowie, qui réunira aussi la voix de sa femme, que se greffe Alomar à l'enregistrement de l'album Young Americans. Bowie l'aime beaucoup et l'invite à sa tournée pour Diamond Dogs. Mais Alomar ne sera pas des premiers spectacles, mais de la seconde partie rebaptisée "The Philly Dogs Tour". Ce n'est que pendant une pause de la tournée, quand Bowie enregistre dans des studios de Philadelphie avec lui, Murray, Clark et Vandross que la confiture prend goût. L'album de 1975 de Bowie colle Alomar à Bowie pour ses 6 albums suivants. Il est aussi des deux albums de 1977 d'Iggy Pop, à Berlin. Il sera directeur musical de plusieurs des tournées de Bowie. Jouera très souvent avec Dennis Davis à la batterie et George Murray à la basse. Il aura comme partenaire guitaristes, avec Bowie et Pop, Earl Slick, Stacey Heydon, Ricky Gardiner, Robert Fripp et Adrian Belew.
Avec Bowie il sera co-auteur de Fame, Sister Midnight/ Red Money, D.J. , Never Let Me Down.
Alomar ne sera pas de l'album de Bowie de 1983, mais de la tournée d'Iggy Pop. Il sera en revanche de la tournée Serious Moonlight de Bowie en 1983-1984. Et de son album Tonight.
Il jouera pour Jagger, McCartney, Arcadia. Il co-écrit la chanson titre de Bowie pour son album de 1987. La même année, il lance son unique album solo. Il sera aux percussions d'un morceau pour les Pretenders. Il sera de la tournée Glass Spider Tour de Bowie en 1987-1988-1989. Sera de tout l'album de Julia Fordham. Il sera aussi d'un album de Jennifer Rush, d'un album de Debbie Gibson, de deux de Belouis Some, d'un album de Cindy Lauper et d'un autre de Carly Simon.
Il renoue ensuite avec Brian Eno et David Bowie et créé en studio avec eux pour le projet 1.Outside.
Il se commet à nouveau auprès de Debbie Gibson.
Il sera d'un morceau de Heathen chez Bowie et d'un autre sur son album suivant.
Il sera créateur pour certains morceaux d'un album des Scissor Sisters.
Il sera aussi de l'album d'Alicia Keys de 2010.
En 2015, sa guitare est entendue partout dans le monde.
Carlos aura cette année, en mai, 70 ans.