Mary Elfrieda Scruggs nació el 8 de mayo de 1910 en Atlanta, Georgia, la segunda de once hijos. Aunque nació en Georgia, creció en Pittsburgh, Pensilvania.
A la edad de 3 años, Mary aprendió sola a tocar el piano y, a la edad de 6 años, tocaba en fiestas para ganar dinero y ayudar a mantener a su familia numerosa. Cuando tenía 7 años, Mary comenzó a actuar en público y se ganó el apodo en Pittsburgh como “La niña del piano”.
Cuando tenía 15 años, Mary se convirtió en músico professional, y un año Después, se casó con John Williams, un saxofonista de jazz.
Profesionalmente, era conocida como Mary Lou Williams, y demostró tener múltiples talentos, no solo como pianista, sino también como compositora, arreglista y directora de orquesta. A medida que pasaban los años, se podía encontrar a Mary Lou viviendo y trabajando en todo el este de los Estados Unidos en ciudades como Baltimore, Cleveland, Nueva York, Tulsa, Kansas City, Missouri y otras.
Mary Lou también fue mentora, maestra y colaboradora de muchos de los grandes musicales americanos de la época, como Duke Ellington, Miles Davis, Dizzy Gillespie, Benny Goodman, Thelonious Monk y Charlie Parker.
Mary Lou, aunque se dedicó principalmente al jazz, no se limitó al jazz. Por el contrario, no era ajena al bebop, boogie-woogie, swing y el tercer flujo (una fusión de música clásica y jazz).
Después de tomarse un descanso de la música a principios de la década de 1950, Mary Lou regresó a los Estados Unidos y, con la esposa de Dizzy Gillespie, Lorraine, ingresó a la Iglesia Católica en 1954. Fue entonces, cuando la obra misional de Mary Lou comenzó a brillar. Una de las formas en que ayudó a los demás fue estableciendo la Fundación Bel Canto que convirtió su apartamento en un centro de ayuda para los pobres y los músicos que luchaban contra la adicción a las drogas. También, estableció una casa de transición recaudando dinero de una tienda de segunda mano en Harlem. Muchos amigos creen que gran parte de la pasión de Mary Lou por ayudar a las personas con adicciones procedía del amor por su amigo y alumno, Charlie Parker, que sufría de adicciones.
Los sacerdotes católicos y el obispo de Pittsburgh alentaron a Mary Lou a usar su talento musical. Entonces, con su aliento, así como el de Dizzy Gillespie, Mary Lou una vez más usó su música para servir a Dios. Con la ayuda de los líderes de la iglesia, Mary Lou se convirtió en la primera compositora musical encargada de escribir música litúrgica en forma de jazz. Al igual que la Sierva de Dios Thea Bowman, que llevó la música soul afroamericana a la corriente principal del culto católico, Mary Lou buscó hacer lo mismo con el jazz. Interpretó su “Misa de Mary Lou” en un popular programa de televisión, The Dick Cavett Show, en 1971.
Con el tiempo, Mary Lou actuó en el Carnegie Hall de la ciudad de Nueva York, y para el presidente Jimmy Carter y sus invitados en la Casa Blanca, y enseñó durante un tiempo en la Universidad de Duke en Durham, Carolina del Norte.
Por el resto de su vida, Mary Lou continuó sirviendo a los que sufrían de adicción a las drogas.
Mary Lou Williams murió de cáncer de vejiga el 28 de mayo de 1981 a la edad de 78 años en Durham. Está enterrada en el cementerio católico Calvary en Pittsburgh, Pensilvania.