Suite à l’accession d’Hitler au pouvoir, Joseph, met en garde ses contemporains contre le « culte du Führer » qui n’est « rien d’autre que du paganisme ». Il poursuit : « Il s’agit […] de montrer aux masses le seul “guide” qui ait droit à exercer une autorité et un pouvoir illimités, le Christ. » Avec le Pacte d’Acier (1939), les Tyroliens du Sud ont le choix entre rejoindre l’Allemagne nazie et renoncer à leur culture pour devenir Italiens. Les Mayr-Nusser refusent de pactiser avec les nazis et rejoignent une association de résistance pour conserver la culture et l’identité tyroliennes.

Le 26 mai 1942, Joseph épouse Hildegarde Straub, militante de l’Action Catholique. La naissance d’Albert en 1943 fait leur joie. Mais la situation s’aggrave : Mussolini est renversé et le jeu des alliances met l’Italie face à Hitler. En représailles, Hitler occupe le Tyrol. Enrôlé de force, Joseph rejoint les SS, qui doivent prêter un serment inconditionnel à Hitler. Fin 1944, alors qu’il part pour l’actuelle Pologne, il écrit à sa femme : « Ne te fais aucun souci pour moi, chérie, car nous sommes dans la main de Dieu. » Face à l’endoctrinement, Joseph sent que le choix de ne pas prêter serment aura des conséquences. Il écrit : «  La pensée que ma décision pourrait te jeter dans le malheur est pour moi une très dure épine dans le cœur… Mais la certitude, chère épouse, que tu comprends et partage ma manière de voir, représente pour moi une consolation énorme. Ta prière me sera une force au moment décisif. 

 Le 5 octobre, le moment décisif arrive. Après l’écoute de la formule du serment au Führer, Joseph déclare qu’il ne peut prêter serment « pour motifs religieux ». À un voisin de lit, il avait dit : « Si personne n’a jamais le courage de leur dire qu’il n’est pas d’accord […], la situation ne changera jamais. » Joseph est incarcéré et un procès pour haute trahison lui est intenté. Il écrit à sa femme : « Ma profession de foi te jettera dans une immense douleur. L’urgence d’un tel témoignage est désormais inéluctable. Ce sont deux mondes qui s’affrontent. Mes supérieurs m’ont montré trop clairement qu’ils refusaient et haïssaient ce qui, pour nous catholiques, est sacré, et ce à quoi nous ne pouvons renoncer. […] Mon épouse chérie, soit forte ! Dieu ne nous abandonnera pas […] ! Quand le Seigneur demande un sacrifice, il donne la force pour l’offrir. »

 Joseph est emmené avec d’autres condamnés. Sa réputation est salie : il est considéré comme ayant abandonné ses camarades en plein combat. Sur la route de Dachau, il meurt de faim, seul, dans d’atroces conditions, sans le secours des sacrements ; les SS n’ont pas décrété qu’il y avait nécessité… Cependant, voyant sa charité constante envers tous, Fritz, un SS chargé du convoi, comprend que Joseph n’est pas celui que tout le monde dit être.

 En 1980, Hildegarde reçut à l’improviste une lettre de Fritz sur laquelle elle put lire : « Votre mari est mort pour le Christ, j’en suis certain. Je suis convaincu d’avoir vécu quinze jours avec un saint, qui est désormais pour moi un grand intercesseur auprès de Dieu. »