Nascido no México, Santana começou a tocar guitarra aos 8 anos de idade. No inicio da década de 60 muda-se com a sua família para San Francisco, onde forma a sua banda: Santana Blues band, com nome encurtado para Santana.
Lançou o seu primeiro album, homónimo, em 1969 e nessa mesma tour deu um dos concertos mais lendários da sua longa carreira: Woodstock 69'.
Nos anos 70 desfez-se da sua banda, mas continuou a lançar albuns em nome próprio usando outros músicos na banda.
A partir de 1993 optou por uma carreira a solo mais baseada em colaborações, onde se destaca o album Supernatural, multiplatinada obra que fez de Carlos o artista mais bem sucedido de 1999. O album deu-lhe 9 Grammys e conta com grandes colaborações, destacando-se: Love of My Life com Dave Matthews, Smooth com Rob Thomas ou The Calling com Eric Clapton.
As colaborações continuaram nos seus dois registos seguintes: Shaman e All That I am, onde contou com Steven Tyler, Kirk Hammet, Joss Stone, entre outros.
Actualmente o guitarrista continua nos grandes palcos e usa Guitarras PRS com modelo Signature.