Mullins nació en Richmond, Indiana en una familia de agricultores de árboles. Su padre fue John Mullins, y su madre, Nevá Mullins. Tenía dos hermanas y dos hermanos.
Mullins creció asistiendo a Abran Friends Meeting, una iglesia cristiana en Lynn, Indiana. Fue bautizado cuando cursaba el 3.er grado de primaria. Durante su infancia, su bisabuela le estuvo enseñando a tocar himnos en armonía de cuatro partes.
Posteriormente, comenzó a estudiar piano clásico con un profesor cuáquero mientras cursaba aún la primaria.
En la década de los 70, Mullins fue el pianista, compositor y cantante de un grupo llamado New Creations Choir, iniciado inicialmente por Tim y Bonnie Cummings. El coro produjo un álbum y recorrió varios estados por autobús.
De 1974 a 1978, asistió al Cincinnati Bible College, una universidad cristiana en Ohio. En este tiempo, trabajaba en un garaje de estacionamiento para ayudar a pagar sus estudios.
Entre 1975 y 1978, fue el Director Musical de la iglesia Erlanger United Methodist Church, en Erlanger, Kentucky.
“Nunca olvides lo que Jesús hizo por ti, nunca tomes a la ligera lo que le costó a él, y nunca asumas, que si a él le costó su vida, a ti no te costará la tuya” – Rich Mullins
