Zarraga, de origine bască, a mai câştigat cu Real Madrid şase titluri de campion al Spaniei, o Cupă a Spaniei şi o Cupă Intercontinentală.
El a jucat la Real Madrid între anii 1949 şi 1962, evoluând pe postul de mijlocaş în spatele lui Alfredo Di Stefano şi Ferenc Puskas. Zarraga a fost convocat de opt ori la naţionala Spaniei.
Înaintea partidei Real Madrid – APOEL Nicosia, din manşa secundă a sferturilor de finală ale Ligii Campionilor, s-a ţinut un moment de reculegere în memoria lui Jose Maria Zarraga, iar jucătorii formaţiei spaniole au evoluat cu banderole negre pe braţ.