Alberts Rumba dzimis 1892. gada 15. oktobrī Lielvircavas pagastā, Zemgalē. Pirmā pasaules kara sākumā izvēlējās militāro karjeru – pabeidza artilērijas skolu Petrogradā (tagad – Sanktpēterburga), kļuva par virsnieku un dienēja Krievijas impērijas armijā, pēc tam – Krievijas Pilsoņu karā cīnījās pret lieliniekiem. 1920. gadā Rumba atgriezās jau neatkarīgā Latvijā, kur turpināja virsnieka karjeru līdz pat valsts okupācijai 1940. gadā. Līdzās karadienestam aktīvi iesaistījās Latvijas sporta dzīvē.

"Armijas Sporta Klubu" ("ASK") pārstāvošais Rumba, kā jau tolaik ierasts, bija diezgan daudzpusīgs atlēts – spēlēja futbolu, bendiju (hokejs ar bumbiņu), nodarbojās ar dažādām vieglatlētikas disciplīnām, slēpošanu, šaušanu. Taču par viņa galveno sporta veidu kļuva slidskriešana jeb ātrslidošana. Tieši šajā sporta veidā Alberts Rumba kļuva par labāko Latvijā un arī pārstāvēja savas valsts krāsas pirmajās un otrajās ziemas olimpiskajās spēlēs.

"Rumbas laiks" Latvijas ātrslidošanā bija no 1924. līdz 1932. gadam. Pirmo reizi Latvijas čempiona titulu Alberts Rumba ieguva valsts meistarsacīkstēs 1924. gada februārī, un izcīnīto titulu paturēja līdz pat 1932. gadam. Jāpiebilst, ka tolaik attiecīgajā sezonā par Latvijas čempionu varēja kļūt tikai viens ātrslidotājs. Uzvarētāju noskaidroja, summējot sniegumu četrās distancēs – 500 m, 1500 m, 5000 m un 10 000 m.

Kad 1924. gada janvārī-februārī Šamonī (Francijā) norisinājās pasaules vēsturē pirmās ziemas olimpiskās spēles, Latviju tajās pārstāvēja tikai divi sportisti – Roberts Plūme slēpošanā un Alberts Rumba ātrslidošanā. Tas bija vispār pirmais Latvijas kā valsts starts olimpiskajās spēlēs! Plūme no sacensībām izstājās, taču Rumba diezgan pieklājīgi nostartēja visās četrās ātrslidošanas distancēs. Līdz medaļām bija tālu, taču debija bija diezgan izdevusies. Kaut arī viņa labākais sniegums bija 10. vieta 1500 m distancē, visu četru distanču kopvērtējumā Alberts Rumba ieņēma 7. vietu!

Arī turpmāk Rumba itin veiksmīgi piedalījās starptautiskās sacensībās. Saskaņā ar sporta vēstures pētnieku Viļa Čikas un Gunāra Gubiņa apkopoto informāciju, Alberts Rumba vairākās sacīkstēs uzvarēja, bet Eiropas čempionātā 1926. gadā (Šamonī) kopvērtējumā izcīnīja 5. vietu un pasaules čempionātā 1927. gadā (Tamperē) kopvērtējumā ieguva 7. vietu. Otrajās ziemas olimpiskajās spēlēs 1928. gadā Sanktmoricā tobrīd 35 gadus vecais Alberts Rumba vispār bija vienīgais Latviju pārstāvošais sportists. Šoreiz viņa augstākais sasniegums bija 14. vieta 1500 m distancē.

Līdztekus aktīvai sportošanai Alberts Rumba aktīvi līdzdarbojās Latvijas Ziemas sporta savienības (LZSS) darbā. Bija LZSS priekšsēdētājs (1927/1928), priekšsēdētāja biedrs (1928/1929) un LZSS Slidskriešanas (Ātrslidošanas) sekcijas vadītājs (1926–1929). 20. gs. 30. gadu vidū Rumba aktīva sportista gaitas pārtrauca; Latvijā arvien veiksmīgāk startēja un par valsts čempioniem kļuva Jānis Andriksons, Alfons Bērziņš. Jaunie ātrslidotāji guva arī redzamus panākumus starptautiskā līmenī. Savukārt Rumba turpināja dalību sporta organizēšanas darbā un vēl pēc tam laiku pa laikam startēja veterānu ātrslidošanas sacīkstēs. No 1936. līdz 1940. gadam Alberts Rumba ieņēma Latvijas Fiziskās kultūras un sporta komitejas ģenerālsekretāra amatu. Bija Latvijas ātrslidotāju oficiālais pārstāvis jeb, mūsdienu izpratnē, menedžeris dažādās starptautiskās sacīkstēs, tostarp ziemas olimpiskajās spēlēs Garmišā-Partenkirhenē (1936). Bija iesaistīts Rīgā 1939. gada februārī notikušo Eiropas ātrslidošanas meistarsacīkšu organizēšanas darbā.

Sporta darbā Rumba piedalījās arī pēc tam – padomju un nacistu okupāciju laikā. Otrā pasaules kara laikā viņš bija atjaunotā "ASK" priekšnieks, bet pēc kara palika Latvijā, trenēja sportistus. Līdz 1949. gada martā tika apcietināts un izsūtīts uz plašās Padomju Savienības Tālajiem austrumiem – Amūras apgabalu, vēlāk nometinājumā Kazahijas PSR. Atšķirībā no daudziem deportētajiem Albertam Rumbam bija iespēja savas "mūža mājas" rast dzimtenē. 50. gadu vidū viņš tika atbrīvots un atgriezās Latvijā.