Garay speelde tot 2005 voor het Argentijnse Newell's Old Boys, waarmee hij in 2004 de Apertura won. Vervolgens vertrok de verdediger naar het Spaanse Racing Santander. Bij Racing Santander maakte hij vanaf het seizoen 2006/2007 indruk met zijn goede traptechniek en zijn doelpunten. Als verdediger maakte Garay dat seizoen tien doelpunten, waarvan zeven benutte strafschoppen. Hiermee was hij dat jaar op Marco Materazzi na de meest scorende verdediger van Europa. In mei 2008 werd Garay voor tien miljoen euro gecontracteerd door Real Madrid[1]. In 2008/2009 stalde Real hem nog voor één seizoen bij zijn vorige club Racing Santander, waarop hij in 2009/2010 definitief deel uitmaakte van de selectie. Hij tekende in juni 2014 een vijfjarig contract bij Zenit Sint-Petersburg, dat circa €15.000.000,- voor hem betaalde aan Benfica.[2] Hij verruilde Zenit Sint-Petersburg in augustus 2016 voor Valencia. In juni 2020 liep zijn contract af. Na een jaar clubloos te zijn geweest kondigde de Argentijn op 16 juli 2021 zijn afscheid als profvoetballer aan. Hij gaf aan nog wel aanbiedingen te hebben ontvangen maar vanwege aanhoudend blessureleed hier niet op in te zijn gegaan.
Garay werd in 2005 met Argentinië wereldkampioen op het WK –20 in Nederland. Op 22 augustus 2007 maakte de verdediger zijn debuut voor het Argentijns nationaal elftal, in een oefeninterland tegen Noorwegen (2-1 verlies).