落在峰峦高耸，山谷狭窄的沂山主峰东南侧，依山立关，四向险要，素有“齐南天险”之称。穆陵关历史悠久，早在周惠王二十一年（公元前656年），就闻名于世。据《左传》记载，鲁嘻公四年，齐桓公伐蔡侵楚，楚成王质问说：你住北海，我在南海，这不是风马牛不相及吗？为何来到我的国土？管仲回答说：我们齐国的边界，东至东海，西至黄河，南至于穆陵……管仲说的穆陵，就是指的穆陵关。到齐宣王时（公元前319-前311年），齐国疆域扩大，在穆陵关两侧修筑长城，东至光光山，西至大坡顶，长约45公里。这一段长城，都建在山岭上，就地取材，以石砌筑。
后来，齐国为防御鲁、楚入侵，就把以前零星修筑的长城连接起来，并加 延长，西起平阴，东至胶南县夏河城东南5公里的琅琊台，蜿蜓曲折，绵亘500余公里。穆陵关是齐南的门户，在古代战争中发挥过重要的作用。东晋义熙五年（公元409年），南燕主慕容超兴兵抢掠东晋的淮北地区。东晋大将刘裕奋力反击，率兵征伐南燕。慕容超召集群臣商讨对策。大将公孙五楼提出三条对策。上策是，据守大岘天险（即沂山），阻其前进，旷日延时，沮其锐气，然后派骑兵绝其粮道，再派将率兵从兖州而东，形成腹背夹击。
中策是令各州依险自固，储备足够的粮食和物资。然后坚壁清野，使其野无所掠，运粮不济，又求战不得，旬日之间，不战自退。下策是，把晋军放过大岘天险，出城迎战。骄傲自信的慕容超，不采纳其上策和中策，不听众将的劝谏，坚持要把晋军放进大岘天险穆陵关，想在平原上角骑兵冲击，消灭晋军。开始，东晋军队害怕南燕据守穆陵天险，使自己陷入进退两难的境地。但进到穆陵关，竟没有发现守军，刘裕不禁大笑，对部将说：大军已过天险，将士必有死战之心，庄稼遍野，无缺乏军粮之优，我已胜利在握了。刘裕挥军长驱直入，在临胸城南与燕军展开激战，拼杀了一天，不分胜负。
刘裕便派一支军队，绕到燕军背后，一举攻下临胸。这时，慕容超才知弃关的危险，但为时已晚，只好下令向广固（南燕都城）撤退。刘裕紧紧追击，燕军大败，10余名大将战死，大批军需物资落到晋军手中，连慕容超的车辇、玉玺也被晋军夺去。慕容超退守广固，晋军围城攻打，城破被俘，南燕从此灭亡。穆陵关历经烽火狼烟，关楼虽然早已不见，但记载明代嘉靖年间重修关楼的石碑却仍屹立关前。春秋时期修筑的长城遗迹清晰可见，有的残墙高达1-2米。现在新沂至益都的公路从此通过，穆陵关仍是控制南北交通的要塞。
穆陵关所在的沂山上，风景秀丽，名胜古迹甚多。主峰玉皇顶，海拔1000多米。周围有峰29座，幢盖纵横，巍峨险峻。万松凝寒，千流沸漾，沂、沐、猕、汶四河均发源于此，蜿蜓回环群峰之间，气势磅礴，景色诱人，素有“泰山为五岳之尊，沂山为五镇之首”之说。宋朝初年于东麓建东镇庙，祀沂山王，现在殿已不存，仅存元、明时期的石碑，龟跌龙首，古朴浑厚。玉皇顶高耸于群峰之上，峰顶有巨石探出，名日“探海石”，可观东海日出，可尝“沂山晚翠”胜景。由此上行2公里，峭壁摩天，危岩若坠，瀑布飞溅，是为“百丈崖”。崖高65米，绝壁如削，山陡谷深。
雨季山水四出，激流喷涌，至崖腾空而下，形成瀑布，如白练悬空。晨曦初上，水雾中虹霓七色，尤为胜景。崖下积雪，夏初仍不消融，寒气逼人，古人有“百丈瀑布六月寒”之说。悬崖中腰原有仙客亭，楹联上写着“山静凝神气，泉水识道深”。崖北有吕祖洞，古松横出石缝，天矫凌空，称“万年松”。石壁上镌“海岳”二字，大一丈有余。近年来，这里已利用瀑布水源修建了水电站，到夜晚，无数盏灯犹如满天星斗落人间，把穆陵关晖映得更加雄伟壮观
