年19岁的希特勒曾两次报考维也纳艺术学院，均未被录取，只能在维也纳靠做零活和出售临摹画糊口，他在维也纳受到了泛日耳曼民族党的影响。希特勒后来声称，“维也纳过去是、现在仍然是我一生中最艰苦的学校。

在那里形成的世界观和人生哲学，日后成了我一切行动的坚实基础。除了我当时打下的基础以外，后来很少再需要学习什么东西，也不需要改变什么东西”，而这种世界观和人生哲学就是“人类之所以为万物之灵，并非基于人道的原则，而是仅凭最野蛮的斗争……假使你不奋斗，则你也就无法生存”。

希特勒对犹太人的种族灭绝政策，使得早已在维也纳埋下几百年的反犹太主义在20世纪死灰复燃，德国进军奥地利后不久，雅利安人种的维也纳人开始不由自主地威胁、折磨和抢劫犹太人种的维也纳人，将他们从家里赶出去。年11月9日至10日凌晨被称为“水晶之夜”，开始了纳粹对犹太人有组织的屠杀，维也纳共有92所犹太会堂遭到摧毁，仅有一处幸免于难。

纳粹一方面将现代艺术定义为“堕落的艺术”（德语：EntarteteKunst），另一方面大力宣传维也纳的“德意志文化”，比如在年隆重庆祝莫扎特逝世（）周年时。“奥地利”的名字从历史文献中消失，只有年在维也纳成立的奥地利第一储蓄银行仍当时保留着这个名字。

年3月17日盟军第一次空袭维也纳，整个城市的五分之一被毁。年4月2日维也纳被宣布成为纳粹的防守区，女人和孩子被要求离开这座城市，这意味着战争到了白热化的阶段，苏联军队距离维也纳仅剩下数公里。维也纳战役持续了八天，4万人丧生。维也纳的斯蒂芬大教堂在空袭和战争中未受损坏，但却在一次洗劫中陷入火海。

维也纳在二战结束后被苏联占领，不久苏联红军开始新建城市管理机构，先是由共产党人担任临时市长，在3天后由奥地利社会民主党人接替。年4月27日，奥地利社会民主党、奥地利人民党和奥地利共产党的代表在维也纳市政厅宣布奥地利独立，4月29日占领当局将议会大厦移交给临时新政府，“奥地利民主共和国”重建。

年秋，苏联允许其他三个同盟国军队进入维也纳，美国、英国、法国和苏联共同占领维也纳，直至年5月15日奥地利国家条约签署，盟军撤出，奥地利才完全独立。

同奥地利和西欧的其他城市一样，维也纳在二战后马歇尔计划的帮助下，经历了经济复苏和城市重建。

年发生匈牙利十月事件，反对共产党当局的起义失败后，大批匈牙利人逃亡西方，维也纳接收了许多匈牙利人。维也纳在年布拉格之春后又接收了许多捷克人和苏联人。