Dla wielu tubista Howard Johnson to multiinstrumentalista ( grający także na saksofonie barytonowym i basowym, klarnecie, trąbce, flugelhornie, gitarze basowej), który do perfekcji wirtuoza doszedł drogą żmudnych ćwiczeń. Zasadniczo samouk muzyczny pobierający jedynie okazjonalne lekcje u wielu, przypadkowych pedagogów. Naukę gry na saksofonie barytonowym rozpoczął w 1954 roku, rok później grał już doskonale na tubie. Sporo, także muzycznie, nauczył się służąc w US Marines (w latach 1958-62), mieszkając przez wiele miesięcy w Bostonie, w rodzinie perkusisty Tony’ego Williamsa. Później, już w Chicago, grywał z Eric’em Dolphym. Przełomowym okazały się dla młodego muzyka lata sześćdziesiąte, gdy współpracował z wybitnymi twórcami jazzu (z Charlesem Mingusem (1964-66), Hank’em Crawfordem (1965), King’em Curtisem (1965-66), Archie Sheppem (1966 i 1968), Buddym Richem (1966), Gilem Evansem (od 1966 roku), Oliverem Nelsonem i Geraldem Wilsonem (od 1967 roku ).Podczas słynnego Berkeley Jazz Festival (1968) pojawił się na estradzie z zespołem Milesa Davisa. Niezwykłą aktywność przejawiał także w latach siedemdziesiątych; grał i aranżował dla wielu muzyków bluesowych i rockowych, w tym dla Taj Mahala, The Band, Paula Butterfielda, Johna Lennona.Grał z orkiestrze (1972) Duke’a Ellingtona,a w latach 1974-75 na elektrycznym basie z zespołem Gato Barbieri’ego. Pojawiał się nawet w telewizyjnym zespole Saturday Night Live Show (w latach 1975-80). W latach osiemdziesiątych grał z wybitnymi jazzmanami : Reggie’m Workmanem (1979-84), Jack’em DeJohnette (1983-86), big bandem McCoy Tynera (od 1984), zespołem Dizzy’ego Gillespie’ego ( od 1987). W 1988 roku zagrał główną rolę w jazzowej operze George’a Gruntza i Allana Ginsburga „Cosmopolitan Greetings”. Równocześnie sporo koncertował i nagrywał z Dexterem Gordonem, Chaką Khan, Carlą Bley, Hank’em Mobley’em, Frank’em Strozierem, Quincy’m Jonesem Jego awangardowe, autorskie grupy składały się z pięciu tubistów ( Substructure; 1968 -71), sześciu (Gravity; od 1971) oraz słynna Tuba Libre ( z Dave’m Bargeronem); lansował także ( w 1982 roku) arcyciekawy zespół „różnorodnych instrumentów” – Book of Miscellanies. Nie przerywając pracy z własnymi zespołami grywał z Gilem Evansem i Milesem Davisem (np. słynna sesja Montreaux’91) oraz regularnie pracuje z niemiecką Norddeutscher Rudfunk i koncertuje z własnymi zespołami. Chociaż doskonale gra na wielu instrumentach, postrzegany jest jako jeden z najciekawszych tubistów solowych nowoczesnego jazzu.