Narodil se 4.3.1915 v Kunovicích u Uherského Hradiště v dělnické rodině. Byl nejmladší ze čtyř sourozenců. V rodné obci navštěvoval pět tříd obecné a tři třídy měšťanské školy. Byl výborným žákem, ale vhledem k finanční situaci rodiny nastoupil do učení na číšníka ve Zlíně. Po vyučení číšníkem se stal vrchním ve zlínském hotelu Záložna. Ovládal několik cizích jazyků. 1.10.1937 nastoupil vojenskou prezenční službu u 10. hraničářského praporu v Trebišově. 1. 10. 1938 byl povýšen na svobodníka a po dalším roce na desátníka. Po okupaci je 1. 4. 1939 byl propuštěn z armády na trvalou dovolenou.

Část čs. dobrovolníků absolvovala ve V. Británii výcvik pro zvláštní úkoly

8. 5. 1939 odešel pracoval do Německa s úmyslem dostat se do čs. zahraniční armády. V Německu pracoval 6 měsíců při stavbě přístavu v Kielu a neúspěšně hledá cestu k útěku. V prosinci 1939 byl na dovolené - 2. 1. 1940 vstupuje přes území Slovenska do Maďarska, kde je chycen a vrácen zpět. V lednu se pokusil o přechod znovu, tentokrát úspěšně. Cestou přes Jugoslávii, Řecko, Turecko a Bejrút se dostal do Francie, kde byl 4. 6. 1940 zařazen jako desátník k 3. rotě 1. pěšího pluku. S touto jednotkou se účastnil bojů a byl vyznamenán Čs. válečným křížem 1939.

Chrám sv. Karla Boromejského v Praze po skončení boje s gestapem

Po ústupu se dostává lodí Rod el Farag 13. 7. 1940 do Anglie, kde je zařazen u 1. roty, 1. praporu. 28. 10. 1940 je povýšen na četaře a vybrán do výcviku pro zvláštní úkoly. 15. 8. 1941 je vyslán do základního sabotážního kurzu na STS 26, poté na paravýcvik na STS 51, kde absolvuje 4 seskoky. Prošel kurzem průmyslové sabotáže na STS 17 v Hatfieldu a 8. 11. 1941 je přidělen na čs. výcvikovou stanici STS 2 v Bellasis. Jan Hrubý hovořil perfektně německy, veliteli byl hodnocen jako energetický a naprosto spolehlivý poddůstojník. Byl náruživým sportovním fanouškem. Rád zpíval, byl velmi společenský, živé a temperamentní povahy.

V kostele sv. Karla Boromejského v Praze vybojovalo svůj poslední boj sedm čs. parašutistů :
rtm. Valčík, Gabčík a Kubiš, npor. Opálka, rtn. Švarc, čet.asp. Bublík a čet. Hrubý.

Dne 27. 4. 1942 odletěl do akce v rámci operace BIOSCOP jako Jan Daněk. Po vysazení u obce Požáry nedaleko Křivoklátu se s Josefem Bublíkem pohybovali po rodném kraji, později přešlili do Prahy. Po atentátu na Heydricha se ukrývali s dalšími pěti parašutisty v kryptě kostela sv. Karla Boromejského v Resslově ulici v Praze, kde si 18. 6. 1942 po marném boji s přesilou gestapa zvolili smrt. Kupodivu z jeho rodiny nebyl nikdo postižen odvetou gestapa.