Larry Willis besuchte die New York's High School of Music and Art und danach die Manhattan School of Music. Er begann seine musikalische Laufbahn als Sänger und trat im Alter von siebzehn Jahren als Chorsänger in einer Oper von Aaron Copland unter Leonard Bernstein auf. Achtzehnjährig entdeckte er sein Interesse für die Jazzmusik und begann autodidaktisch das Klavierspiel zu erlernen. Er wurde dann Schüler von John Mehegan und trat bereits im Jahr darauf regelmäßig mit Jackie McLean auf, der ihm 1965 die erste Plattenaufnahme bei Blue Note Records ermöglichte. Seitdem spielte er mehr als dreihundert Aufnahmen ein und arbeitete mit Jazzmusikern wie Dizzy Gillespie, Lee Morgan, Woody Shaw, Hugh Masekela, Julian Cannonball Adderley, Nat Adderley, Stan Getz, Art Blakey, Art Taylor, Clifford Jordan, Pharoah Sanders, Carmen McRae, Shirley Horn, Richard Holmes, Earl May, David Newman, Branford Marsalis, Alphonse Mouzon, Joe Henderson, Eddie Henderson, Paul Murphy und Carla Bley.
Daneben wirkte er auch als Rock- und Pop-Pianist, spielt E-Piano, u.a. war er 1970 bis 1978 Pianist der Band Blood, Sweat & Tears, Arrangeur u.a. für Roy Hargrove, Vanessa Rubin und Joe Ford und Komponist. Für das Florida Southern College Symphony Orchestra komponierte er eine vierteilige Orchestersuite. Er leitet ein eigenes Jazztrio und -quintett. Stilistisch deckt er die Bandbreite vom Creative Jazz über Fusion bis zum Rock ab, und kombiniert dies geschickt mit Soul-, Gospel- und Funkelementen. (Pressetext)