Slepenā stratēģiskā bruņojuma izgudrotājs izstrādāja 92 zemūdeņu veidus.
Savu karjeru viņš sāka 1948.gadā, strādājot pie pirmā revolucionārā modeļa "S - 99", kas kļuva par Padomju Savienības jūras spēku ātrāko zemūdeni.
Kovaļovs savu pirmo kodolzemūdeni, bruņotu ar ballistiskajām raķetēm, izstrādāja 1958.gadā. Šajā gadā viņš kļuva par Padomju Savienības galveno atomzemūdeņu konstruktoru.
Krievijas prezidents Dmitrijs Medvedevs apsveikumā Kovaļova 90.dzimšanas dienā nosauca viņu par konstruktoru, kurš devis "neatsveramu ieguldījumu valsts kuģubūves nozares attīstībā".
Pēdējā laikā Kovaļovs bija iesaistīts piekrastes naftas un dabasgāzes platformu izstrādē. Tās ir ļoti svarīgas Krievijas centienos attīstīt tās Klusā okeāna piekrastē esošo energoresursu ieguvi.