Der 1890 in Naumburg an der Saale geborene Hube trat 1909 als Freiwilliger in die deutsche Armee ein und diente während des Ersten Weltkriegs im Rang eines Leutnants. Er nahm von Anfang an an dem Konflikt teil und wurde im September 1914 in einem Gefecht an der französischen Front am linken Arm kriegsversehrt. Die Behinderung hinderte ihn jedoch nicht daran, ein Jahr später als Kommandant einer Infanteriekompanie an die Front zurückzukehren. Er wurde für seine Tapferkeit ausgezeichnet und verbrachte die Zwischenkriegsjahre als Kompaniechef und Ausbildungsoffizier der deutschen Armee in Dresden.

Bei Ausbruch des Zweiten Weltkriegs wurde er sofort eingesetzt und nahm im September 1939 am Einmarsch in Polen und einige Monate später am Frankreichfeldzug an der Spitze der 16. Infanterie-Division teil. Nach seinen Erfolgen an der Westfront wurde er zum Chef der neuen 16. Panzerdivision ernannt und zunächst nach Rumänien und dann an die Ostfront versetzt, wo er im ukrainischen Sektor die Operation Barbarossa erfolgreich umsetzte.

Hans Hube war ebenfalls an der Einnahme von Mykolajiw und der Schlacht um Kyjiw beteiligt und wurde im April 1942 in den Rang eines Generalleutnants befördert. Kurz nachdem er das Kommando über das 14. Panzerkorps übernommen hatte, wurde dieses in die Schlacht um Stalingrad verwickelt. Als die deutsche Lage an der Ostfront kritisch wurde, wurde er im Januar 1943 evakuiert und an die Mittelmeerfront geschickt, um dort die Führung und die Neuaufstellung des 14. Panzerkorps zu übernehmen. Im Februar 1943 wurde er zum Oberbefehlshaber aller Heeres- und Luftwaffentruppen auf Sizilien ernannt und hatte damit das Kommando über die Achsenstreitkräfte bei den Verteidigungsoperationen in Sizilien. Von dieser Position aus gelang es ihm, den Vormarsch der Alliierten so weit zu verlangsamen, dass die Evakuierung der deutschen Truppen von der Insel organisiert werden konnte.

Nachdem er den Rückzug der deutschen Truppen nach der Landung der Alliierten in Salerno geleitet und die Gustav-Verteidigungslinie eingerichtet hatte, wurde Hube erneut an die Ostfront versetzt, um dort die sowjetische Gegenoffensive zu stoppen. Er wurde mit dem Kommando über die 1. Panzerarmee betraut, die ab Oktober 1943 entlang des Flusses Dnister eine Reihe von Niederlagen gegen die Rote Armee erlitt.

Am 21. April 1944 wurde Hans Hubes Karriere durch einen Flugzeugabsturz, bei dem er ums Leben kam, auf dem Rückweg von Hitlers Geburtstagsfeierlichkeiten auf dem Obersalzberg jäh unterbrochen.