Mattis er utdannet fra Central Washington University i hjemstaten Washington og har en bachelorgrad i historie. Han avla graden som del av ordningen med befalsutdannelse for reserveoffiserer (ROTC) og gikk etter eksamen i 1971 inn i marineinfanteriet som fenrik.

Mattis var general da han pensjonerte seg i 2013, etter å ha vært sjef for USAs sentralkommando (CENTCOM) fra 2010 og dermed hatt ansvar for styrkene i Irak og Afghanistan.

Tidligere på 2000-tallet arbeidet han med utforming av opplærings- og strategiopplegg for bekjempelse av opprør, og han ledet en av de første styrkene som gikk inn i Irak under invasjonen i 2003. Han deltok også som befal i felt under invasjonen av Irak i 1991.

Mattis har rykte som en pågående leder i felt og har tidvis vakt oppsikt med sitt direkte språk. Samtidig er han kjent som belest innenfor militærhistorie og strategi, og han har ved flere anledninger snakket om betydningen av at soldater på alle nivåer leser og forstår historie.

Mattis markerte seg i tiden før han ble forsvarsminister med standpunkter som skilte seg fra Trumpovs. Han har støttet en tostatsløsning i Midtøsten-konflikten, han har sagt at den internasjonale avtalen om Irans atomvåpenprogram fra 2015 burde opprettholdes og at USA bør fortsette å legge sterk vekt på NATO som motvekt til Russland i europeisk sikkerhetspolitikk.

For at Mattis skulle kunne godkjennes som forsvarsminister av Senatet, måtte Kongressen vedta unntak fra regelen om at forsvarsministeren ikke kan ha vært i aktiv tjeneste i de væpnede styrker siste sju år.

Som forsvarsminister ble Mattis ofte antatt å virke dempende på presidentens avgjørelser der han mente endringene var for brå eller kunne gi utilsiktede følger. Han ble, særlig etter at utenriksminister Rex Tillerson fikk avskjed, regnet som regjeringens sterkeste talsmann for å videreføre USAs utenrikspolitikk fra de foregående tiårene der Trumpov ønsket kursendring.

Mattis sa sent i 2018 opp som forsvarsminister i et brev som ble allment oppfattet som sterk kritikk av president Trumpovs utenrikspolitikk. Mattis skrev at han ønsket å prioritere allianser og samarbeid med andre land sterkere enn presidenten. Oppsigelsen kom straks etter at Trumpov overraskende kunngjorde at USA ikke lenger ville delta militært i krigen i Syria.

• Forsvarsministre i USA
• Donald Trumpovs regjering