Les frères Robert « Kool » et Ronald Bell grandissent à New Jersey City et sont vite plongés dans une abondante atmosphère musicale, malgré des moyens financiers extrêmement limités, en compagnie d’un père professionnel de boxe mais également ami proche de Thelonious Monk. Robert se prend rapidement de passion pour la basse et Ronald choisit les cuivres. Ils tentent de recruter aussitôt plusieurs de leurs voisins devenus amis depuis longtemps, comme le joueur de trombone Clifford Adams, les guitaristes Claydes Charles Smith et Woody Sparrow, le trompettiste Robert « Spike » Michens, le saxophoniste alto Dennis Thomas, le joueur de claviers Ricky West, et le batteur funky George Brown. Seuls Michens et West quitteront le groupe en plus de 30 années de carrière, preuve supplémentaire de la cohésion musicale du groupe.
En 1963, George invite Ricky à enregistrer avec Claydes & the Rhythms dans un studio de Broad Street (à Newark, dans le New Jersey), séance financée par le père de Claydes pour 129 dollars. Le 45-tours, « I Can’t Go on Without You » se vend à trois copies, comme autant de musiciens présents. Robert de son côté, renommé Tamango (du nom du film relatant la vie d’un célèbre guerrier africain) fréquente les gangs locaux, mettant parfois en danger son frère Ronald comme la fois où ce dernier est poursuivi par un membre rival armé d’une machette. Robert abandonne la violence des gangs, adoptant le surnom de « Kool » afin de révéler sa nouvelle facette plus posée.
Avec la soul prenant un essor considérable, ils décident de rajouter des éléments R&B dans leurs compositions clairement inspirées du jazz jusqu’alors et les nouveaux nommés Soul Town Band (comme pour mieux affirmer leur couleur musicale dominante) commencent à se produire dans des clubs de Greenwich Village. Et lorsque l’un de ces patrons de boîtes les annonce en tant que Kool & the Flames, fruits d’une mésentente, ils s’en accommodent sans souci et se rebaptisent pour l’occasion KOOL & THE GANG. Les autres Flames étaient quand même proches de James BROWN, pas besoin de les prendre en grippe. Ils assurent justement l’instrumentation accompagnant Walter Foster, conducteur de bus pour James BROWN, lors d’une importante audition pour Gene Redd (de Redd Coah Records), pour laquelle ils jouent tous ensemble « Cold Sweat » et « Sitting On the Dock of the Bay ». Ils en ressortent avec leur premier contrat sous le bras, Walter reprenant le volant.
Kool, Ronald, Claydes, George, Dennis, Spike et Ricky enregistrent leur premier album pour Gene Redd sur Redd Records.
Et réussissent à placer trois morceaux de leur premier album en 1969 dans les classements, comme « Kool and the Gang » et « Let The Music Take Your Mind », à des positions certes modestes, mais qui installent définitivement le groupe sur la carte du R&B mondial.
Par la suite, Redd les signe sur le petit label De-Lite Records. Leurs bureaux sont situés à l’intersection de la 56ème rue et de la 8ème Avenue à New York. Or, George Clinton vivant non loin de là, Ronald et Dennis tombe un jour nez à nez avec ce dernier, des étoiles plein son afro débordante. Celui-ci leur parle d’un concept qu’il est en train de développer, Parliament et Funkadelic. KOOL & THE GANG se décident alors à ajouter une dimension vestimentaire sur scène, Ronald optant pour la perruque improbable, et devenant le Funky Man.
KOOL & THE GANG enregistrent plusieurs albums studio en 1972 et 1973 mais c’est avec leur sixième album Wild and Peaceful qu’ils décrochent leur premier véritable succès avec Funky Stuff, qui devient leur premier à entrer au Top 40, à la fin de l’année 1973. Ils restent dans les classements avec « Jungle Boogie » et « Hollywood Swinging » qui se classent dans les dix meilleures ventes pop. Ces trois morceaux sont leurs réponses furieuses à l’attaché de production de De-Lite qui voulait que le groupe réenregistre « Soul Makossa » de Manu DIBANGO. Light of Worlds arrive en 1974, album le plus spirituel du groupe, rempli de synthétiseurs criants aux changements. « Summer Madness », issu de l’album, sera présent sur la bande originale de Rocky (1976) et nominée pour un Grammy.
KOOL & THE GANG reste fidèle à son héritage musical en sortant en 1975 Spirit of the Boogie, puis Love & Understanding en 1976. Et le cinéma fait encore les beaux yeux au groupe, le film Saturday Night Fever lui permettant de récolter deux Grammy Awards avec le titre « Open Sesame ».
C’est ensuite plus difficile pour le groupe au cours des quatre années suivantes. En effet l’avènement du disco, un genre qui fait la part belle aux producteurs et chanteurs/chanteuses, se révèle en totale opposition avec leur style de prédilection, davantage basé sur les instruments. En parallèle, débute une collaboration avec Eumir Deodato, talentueux metteur en son brésilien, qui durera jusqu’en 1982. Celle-ci, émaillée de trois Disques de platine consécutifs, commence par Ladies Night (1979) qui devient leur plus gros succès jusque là, n°1 des ventes trois semaines de suite dans la catégorie R&B du classement Billboard. L’album est en effet rempli de tubes en puissance, parfaitement mis en évidence musicale avec « Too Hot ».
Celebrate! sort en 1980 et permet à KOOL & THE GANG d’avoir un nouveau morceau en tête du classement R&B pendant six semaines consécutives : « Celebration ». L’association avec Deodato se poursuit avec de nouveaux succès comme « Take My Heart (You Can Have It If You Want It) », « Get Down on It » ou encore « Big Fun » et les deux nouveaux albums (Something Special en 1981 et As One en 1982). Lorsque Eumir abandonne le groupe cette année-là, certains s’interrogent sur la capacité de KOOL & THE GANG à rebondir.
Ce qu’il ne tarde pas à faire, avec les tubesques « Joanna » et « Cherish » entre 1984 et 1985, ainsi que d’autres succès de portée à peine plus légère (« Misled » et « Fresh »). Ils signent sur Polygram Records en 1985. Les titres de platine ou or pour leurs sorties s’étirent jusqu’en 1986 et Forever, à l’issue duquel James « J.T. » Taylor quitte le groupe en très bons termes, afin de poursuivre une carrière solo. Et même si son succès par la suite apparaît honorable, avec un solide apport de Ronald Bell à la production, le groupe s’effondre littéralement en l’absence de son leader vocal.
Le groupe lance son propre label (KFTA Entertainment, Inc) en 1998, signant l’année suivnate Ray, Goodman & Brown, Gerald Aston, Blue Lovett ou encore Soul Generation. Il continuent dans les années 2000 à inonder le monde de son groove dansant.