Értelmiségi családban született a felvidéki Losoncon. Elemi és középiskoláit Balassagyarmaton, Léván és Selmecbányán végezte. Itt érettségizett. 1910-ben a Pápai Református Teológiai Akadémia elvégzése után egy évig az írországi Belfastban tanult teológiát ösztöndíjasként, majd a Somogy megyei Szennán, később1920 és 1930 között Tahitótfalun, illetve 1932-től 1946-ig Szeghalmon volt lelkész. 1924-ben alapító tulajdonosa a Sylvester Irodalmi és Nyomdai Intézet Rt.-nek, mely egyházi kiadványokat, szakkönyveket jelentetett meg. Fia, ifj. Tildy Zoltán egyebek mellett szintén kisgazdapárti politikus, országgyűlési képviselő (az 1945–1947-es ciklusban), valamint a természetvédelem országos szervezetének vezetője volt 1950 és 1974 között. Felesége, Gyenis Erzsébet 1945-től férje államfői kinevezéséig szintén FKGP-s országgyűlési képviselő volt. Veje, Csornoky Viktor szintén bejutott a törvényhozásba 1945-ben.

1917-ben lépett be a Nagyatádi Szabó István vezette Országos Függetlenségi és 48-as Gazdapártba, majd követte Nagyatádit az Egységes Pártba. 1929-ben Nagy Ferenccel együtt szervezte meg a Független Kisgazdapártot, melyben ügyvezető alelnöki tisztséget vállalt, s 1945-től lett országos pártelnök. Az 1931-es választásokon indult először, de alulmaradt a kormánypárti ellenjelölttel szemben. Az 1935-ös választásokon csalással ütötték el a mandátumától, ami ellen sikeres petíciót nyújtott be. A megismételt voksoláson aztán 1936-ban országgyűlési képviselővé választották. Az 1939-es választásokon ismét sikerült mandátumot szereznie, így egészen Magyarország német megszállásáig (1944 március 19.) országgyűlési képviselő volt, majd Zoltán fia segítségével illegalitásba vonult és csatlakozott az antifasiszta Magyar Fronthoz.

A háború után beválasztották az Ideiglenes Nemzetgyűlésbe, majd az 1945-ös választásokon is sikerült országgyűlési mandátumot szereznie Zoltán fiával és feleségével (Gyenis Erzsébet) egyetemben (mindannyian a Kisgazdapárt színeiben). 1945. november 15-étől 1946. február 1-jéig miniszterelnök volt, kormányának tagja volt többek közt Nagy Imre is mint belügyminiszter – igaz, ennek a kormánynak az összetétele kapcsán már szovjet szempontokat is figyelembe kellett venni.

1946. február 1-jén szűnt meg a királyság mint államforma, mivel az Országgyűlés kikiáltotta a köztársaságot. A II. köztársaság első államfője köztársasági elnökként Tildy Zoltán lett, a korábbi kormányfői posztot Nagy Ferenc kapta meg, aki új kormányt alakított. Noha az 1945-ös választások során a választók több mint 50%-a a kisgazdákat szerette volna kormányon látni, a kommunisták kihagyása nélkül nem lehetett kormányt alakítani. A szovjet befolyás egyre nőtt, s Tildynek is azt tanácsolták brit és amerikai politikusok, hogy igyekezzen szívélyes viszonyt kialakítani a Szovjetunióval.

Tildy elnöksége alatt folytak a háború utáni népbírósági perek a Bethlen- és Szálasi-kormányok egykori tagjai, többek közt Bárdossy László ellen. A halálos ítéleteket államelnökként Tildy írta alá, melynek nyomán jobboldali politikai ellenfelei a „palástos hóhér”-nak nevezték el.

1946-ban a kommunisták belső ellentétek szításával szétrombolták a kisgazdapártot (szalámitaktika), Nagy Ferenc miniszterelnök pedig az ellene felhozott koholt vádak hatására nem jött haza Svájcból. Tildyvel a kommunisták 1947-ben feloszlattatták a parlamentet, és augusztus 31-ére új választásokat írattak ki, amelyet az ún. kék cédulákkal elcsaltak. Tildyt 1948. július 31-én mondatták le veje, Csornoky Viktor hazaárulás vádjával való letartóztatása miatt (Tildy köztársasági elnöki tisztsége formálisan csak augusztus 4-én szűnt meg). Ezután a volt köztársasági elnököt egészen 1956 májusáig – közel nyolc évig – házi őrizetben tartották.

1956. október 26. és november 4. között a Nagy Imre-kormányban miniszterelnök-helyettes, ám a forradalom bukása után, 1958-ban hat év börtönre ítélték. 1959áprilisában betegségére való tekintettel kiengedték, ettől kezdve teljes visszavonultságban élt 1961. augusztus 4-én bekövetkezett haláláig.

1989. július 6-án – az 1956-os forradalom mártírjaival együtt – a Legfelsőbb Bíróság kimondta a korábbi vádpontok és az ítélet törvénysértő voltát, és hatályon kívül helyezte őket. Halála után 28 évvel rehabilitálták.