對於不熟悉國民政府外交史的人來說，在1930年代，德國與南京國民政府居然建立起了密切的聯繫是非常令人詫異的。但事實上的確如此，按照美國著名學者柯偉林的說法就是：「從1928年到1938年，蔣介石政府與德國關係的密切程度，超過了列強的任何一個。」至於為何德國會在亞洲選擇了中國，中國最終選擇了德國，這個原因很多。一個可能是同病相憐，因為一戰後的德國作為戰敗國遭到嚴厲懲罰，被迫割地賠款，這對好面子的日耳曼民族來說是無法忍受的。而中國自近代以來就遭受列強入侵，而且此時的日本已經在1931年發動九一八事變，將東北全境占領，並窺視關內，中日大戰迫在眉睫。這樣，雙方擁有了相似的民族情感經歷。
但要說雙方完全因為民族感情才交往頻繁，是不恰當的。畢竟國家之間，利益是最主要的關注點。此時的德國急於擺脫凡爾賽體系對它的束縛，希望大力發展軍備。但是德國領土面積較小，國內資源有限，特別是緊缺一種製造軍火最重要的戰略物資——鎢礦。因為在鋼鐵中加入一定的鎢，能大大提高槍砲管的熔點，不會出現因持續射擊造成槍砲管高溫軟化變形的情況。可見，鎢礦對於德國發展軍事力量來說至關重要。但問題是，歐洲英、法等戰勝國始終對德國存有戒心，嚴格控制鎢礦等戰略物資的出口，使德國十分惱火。無奈之下，德國只得將目光轉向中國。早在1929年，德國工業界就通過民間貿易從中國獲得了其所需的88%的銻和53%的鎢。1915年至1937年，中國鎢礦的平均產量就占世界總產量的38%。銻的重要用途在於製造印刷合金（鉛字）及軸承合金等。1934年，中國也成為德國進口銻的主要來源。
為了東山再起，德國不斷向外派遣軍事顧問，一是為了保證退役軍官的素質，二是為給德國的工業和軍用品尋找市場與戰略物資。由於德國被強制裁軍，使得大批具有軍事技術技能的軍官們無事可做。根據《凡爾賽條約》，禁止德國戰略物資的出口，同時也禁止德國公民以軍事資格受聘於外國，所以德國軍官們通常是以「平民」身分受聘，而德國政府則宣稱無權阻止他們。這樣，1928年11月，經過中、德兩國反覆磋商，由德國名將鮑爾率領下的首批德國顧問團來華，主要是為德國的軍事裝備開拓中國市場和幫助蔣介石訓練軍隊。
早在1930年的中原大戰中，蔣介石就使用了由德國人訓練的軍隊，最後在張學良的幫助下，最終打敗了反對者，蔣介石也渡過了他一生中最嚴重的政治危機。這些德式訓練的軍隊，同時也被用於「剿共」軍事。由於蔣介石利用德國軍事顧問來訓練軍隊，紅軍就要被他們俘虜的國民黨軍官來給紅軍戰士講授德式戰術課，例如《多種武器的使用與作戰》等。這大概有點冷幽默的味道，德國軍事顧問的訓練方式，居然在國、共兩黨的軍隊中被同時使用。
在所有的德國顧問中，最著名的是有「國防軍之父」之稱的塞克特將軍了。塞克特曾在蔣介石的盛邀下兩次來華，他1934年4月第二次來華擔任總顧問之職時已是67歲高齡。蔣介石對他十分尊崇，使他在給家人的信中自誇為「軍事上的孔夫子」。南京給他每月2000美元工資，是前任顧問魏采爾的三倍，據說這是「南京政府付給一位外國顧問的前所未有的高薪」。他的門口還有禮儀士兵站崗，平時有四位保安跟隨，旅行時乘坐特供的車廂。蔣介石不在時，他還可坐在蔣介石的辦公室召見中國軍官。1936年12月27日，塞克特因心臟病逝世後，南京國民政府還特別為他舉行了追悼大會，蔣介石因「西安事變」後回溪口休養，由何應欽代他致悼詞，給予塞克特高度評價。
在國、共兩黨的歷史上，德國顧問都是值得書寫的重要內容，因為他們對中國政局、軍事力量的變革都發揮了舉足輕重的影響。但隨著第五次反「圍剿」的失敗和第二次世界大戰的蔓延，這些顧問們都先後結束了自己在華的使命。
在南京的德國軍事顧問，可以說對南京政府的軍事改革起到了重要作用，這為後來中國的抗戰奠定了重要基礎。例如塞克特在考察了南京政府的軍隊後，他給蔣介石呈遞《陸軍改革建議書》，建議加大對軍官的培養與精銳部隊的訓練。在德國顧問的協助下，南京政府先後建設了一大批專門軍事院校，比如步兵、騎兵、砲兵、工兵等學校。特別是加強了軍隊的砲兵、裝甲兵等。可以說，在1928年至1937年間，南京政府從武器裝備到軍事思想，幾乎全部仰仗於德國。塞克特返國後，由法肯豪森將軍繼任總顧問之職。為了應對即將到來的中日戰爭，法肯豪森設計了從上海到南京間的江南國防工事圖，這條被稱為「中國的興登堡防線」後來成為中國抗日國防的重要工程之一。在1937年淞滬會戰中，蔣介石將德式裝備的主力第八十七、第八十六、第三十三師全部投入作戰，「打給外國人看」。在這些德式訓練軍隊的頑強作戰下，中國軍隊抵抗日軍居然達三月之久，這對於堅定國際上對中國抗戰的信心具有積極意義。在此次戰役中，德國顧問團在法肯豪森將軍的率領下，親赴前線協助作戰，一些德國顧問甚至下派到師、團一級。
但是，好景不長，中德關係很快就隨著二戰的爆發而趨於冷淡。德國在華軍事顧問也很快被終止了在華的使命。二戰中德國為了獲取日本的支持，將所有在華的德國顧問全部撤回國內，中、德關係就此走向低谷。1941年7月1日，在德國承認了汪精衞政權後，重慶國民政府迅速作出反應，第二天就宣布與德國斷絕外交關係。珍珠港事件後，重慶政府正式向德、意、日三國宣戰，雙方關係徹底破裂。