James Calvert zahájil svou kariéru v americkém ponorkovém loďstvu ihned po dokončení námořní akademie v Annapolisu. V roce 1943 byl přidělen na útočnou ponorku USS Jack jako námořní poručík a postupně se vypracoval na špičkového operátora zaměřování torpéd. S ponorkou Jack absolvoval v Tichomoří osm bojových plaveb. Její posádka potopila patnáct japonských lodí a na konci války byla devátá nejúspěšnější podle potopené tonáže.
James Calvert byl jedním z nejvíce vyznamenaných důstojníků amerického námořnictva ve druhé světové válce. Po válce velel americké ponorce s jaderným pohonem, s níž se vynořil na Severním pólu, působil jako náčelník námořní akademie v Annapolisu, a nakonec jako velitel 1. floty v Tichomoří. Do zálohy odcházel jak viceadmirál.