El seu malnom, «Pitu» Abelardo, és degut la seva afició a la sèrie de dibuixos animats «Els Barrufets» (Los Pitufos, en espanyol) durant la seva infantesa.
Després que el Barcelona el fitxés pagant els 275 milions de pessetes de la seva clàusula de rescissió Abelardo va esdevenir un dels seus baluards defensius i va ajudar a guanyar dues lligues, dues copes del Rei, una supercopa d'Espanya, la recopa d'Europa i una supercopa d'Europa.
La temporada 2002-03 va fitxar per l'Alavés i va posar fi a la seva carrera esportiva. Més tard els tribunals li van reconèixer el dret a rebre una pensió de la Seguretat Social amb motiu d'una lesió mal guarida de genoll.
Ha entrenat el Real Sporting de Gijón, equip amb el qual va ascendir a la primera divisió espanyola de futbol la temporada 2014-15. El gener de 2017 va dimitir del càrrec d'entrenador de l'Sporting.[1] El desembre de 2017 va signar contracte com a entrenador del Deportivo Alavés, per intentar salvar del descens l'equip basc, en aquell moment cuer a Primera divisió, i que havia cessat uns dies abans Gianni De Biasi.[2][3] En el seu primer partit, tres dies després, va dur l'equip a la victòria per 2-3 a fora contra el Girona FC després d'anar perdent per 2-0 quan mancaven només 20 minuts.[4] La temporada 2018–19 l'equip va començar bé, i estava en zona Champions a la primera meitat de temporada. Acabà 11è a la lliga, i Abelardo va dimitir al final de temporada.[5]
El 27 de desembre de 2019, Abelardo va signar contracte amb el RCD Espanyol, situat en aquell moment en darrera posició de La Liga.[6]
