明朝初年，今总统府为当时德侯府和汉王府。清军入关后，明汉王府旧址被辟为江宁织造署、江南总督署、两江总督署，清康熙、乾隆下江南时均以此为“行宫”。康熙六下江南，四次居住在当年的江宁织造府，因此就把江宁织造府所在地称为大行宫，并沿用至今。

民国十七年（1928年）10月，国民政府实行五院制，辟国民政府东院（东花园）为行政院办公处，国府西院（西花园）为国民政府参谋本部和主计处。至1937年11月，谭延闿、蒋介石、林森先后任国民政府主席；谭延闿、宋子文、蒋介石、陈铭枢（代理）、孙科、汪精卫先后任行政院长；李济深、何应钦、朱培德、蒋介石、程潜先后任总参谋长；陈其采为主计长。民国二十七年（1938年）3月28日，梁鸿志等人在南京成立日本傀儡政权中华民国维新政府。