Nació el 2 de enero de 1910 en el pueblo de Margolles, en el concejo asturiano de Cangas de Onís. Con 8 años empezó a tocar el tambor junto a su padre, el popular José Remis Vega, conocido como el "Gaiteru de Margolles" y pronto, con 12, y siempre con su padre, se inició con la gaita asturiana.

El 5 de agosto de 1956, en competencia con otros 25 gaiteros de toda Asturias, gana merecidamente el título de Gaitero Mayor de Asturias.

Un año más tarde se embarca a bordo del "Corrientes" rumbo a Buenos Aires, iniciando una gira por todo el continente americano que le llevó desde la Patagonia hasta Chicago, recorriendo más de 14 países y cientos de ciudades, como Santiago de Chile, Lima, Panamá, La Paz, Cartagena de Indias, Curaçao, Santo Domingo, Ciudad Trujillo, Puerto Rico, La Habana, así como varias poblaciones de México y Estados Unidos: Los Angeles (llegando a actuar ante las cámaras de la televisión en Hollywood), San Francisco, Chicago, Philadelphia, Pittsburg, Washington, Miami.... un total de casi 70.000 km. de éxitos y reconocimientos a su prodigiosa forma de tocar la gaita asturiana.

Según se refleja en las cartas que fue enviado a Asturias, a su gran amigo, Javier Díaz Díaz, el maestro tuvo la ocasión dentro de este periplo de cumplir su sueño de acercarsea a Tampa (Florida) a ver a su hermana mayor que había salido de España allá por 1918, con tan sólo 8 años. Pero son otros los encuentros del artista que más llaman la atención, como el haber coincido con las artistas Sarita Montiel o Maria Victoria en los escenarios americanos.

1960 marca la fecha de regreso del maestro a su Asturias natal, no sin antes haber grabado su primer disco el año anterior en Buenos Aires. Esta grabación se compuso de 12 piezas, entre las que destacan las siguientes: Jota Asturiana, Muñeira, Xiringüelu, Machaquito, Giraldilla, Panderetera... Ya de vuelta a España, grabó distintos discos desde 1964, acompañado en alguno de ellos por La Pastorina o por su hijo, José Remis Peñayos.

Muchas son las anécdotas de José Remis Ovalle a lo largo de su vida: como cuando, en una entrevista a un periódico regional, dice aquello de que el día que se enteró de la celebración de un concurso en Gijón para la reelección del Gaitero Mayor de Asturias en 1970, "llevaba años sin coger la gaita y dos días antes de la competición quise ver si me acordaba de manejar aquello". Ni qué decir tiene que José Remis Ovalle revalidó su título y que, días más tarde, y en dura pugna con otros gaiteros gallegos y asturianos, consiguiría el título de Gaitero Mayor de España. O cuando, con ocasión del Desfile del Día de Asturias en Gijón de 1963, recorrió todo el Muro de San Lorenzo, sólo sobre su moto y sin dejar de tocar la gaita a lo largo de varios kilómetros, despertando vítores de la multitud de espectadores que asistían al desfile...

Entre los homenajes recibidos a su trayectoria, destacan el que la Sociedad de Festejos de Colloto le dedicó en 1984, o el celebrado en el Teatro Colón de Cangas de Onís tres años más tarde, pero especialmente uno muy deseado por el gaitero, el organizado por el gobierno del Principado de Asturias en el Teatro Campoamor de Oviedo el 22 de marzo de 1987 y que constituyó un reconocimiento de su tierra por haber llevado el nombre de Asturias por todo el mundo durante años. El Centro Asturiano de Madrid le concedería el premio "Urogallo Especial" a toda su trayectoria artística.

Una de sus últimas actuaciones tuvo lugar el 4 de junio de 1986 con motivo del pregón de las fiestas en el Teatro Colón de Cangas de Onís. Tan sólo 3 días más tarde, el maestro tocaría su gaita por última vez en el programa de RNE en Asturias "Campanadas de Asturianía". Junto a él intervinieron también su nuera, La Pastorina, y el cantante José Morán. Dicen que al salir del programa de radio, donde fueron entrevistados por Oscar Luis Tuñón y Angel Martínez Suárez, se fueron a almorzar al Bar Gascona de Oviedo, y que Remis se animó a tocar la Jota asturiana. A los pocos días sufriría una trombosis de la que ya no se recuperaría.

José Remis Ovalle, gaitero entre gaiteros, falleció en su casa de Tornín la tarde del 25 de marzo de 1987, dejando su impronta imborrable y un hueco en el mundo de la música tradicional asturiana, con una maestría de la que pocos pueden presumir, y que ha marcado estilo hasta nuestros días en diversas generaciones de gaiteros.