Rafael Gordillo kom till Real Betis 1972. Efter några år i ungdomslaget och B-laget gjorde han debut mot Burgos i januari 1977. Samma år vann klubben Copa del Rey.
Efter nio säsonger i klubben, där han bland annat blev utsedd till "Årets spelare i Spanien" 1980,[1] så flyttade Gordillo till Real Madrid där han under sitt första år vann UEFA-cupen. I finalen mot FC Köln gjorde han ett mål i den första matchen då Real Madrid vann med 5-1.[2] Han gjorde även matchens enda mål när Real Madrid vann Copa del Rey-finalen mot Real Valladolid 1989. I Madrid vann han även La Liga fem år i följd; 1986, 1987, 1988, 1989 och 1990.
1992 återvände Gordillo till Betis där han hjälpte klubben att vinna Segunda División och åter ta klivet upp i La Liga. Efter en säsong i Écija så avslutade han karriären 1996.
13 december 2010 blev han framröstad som ny president i Real Betis.[3]