2000年，内蒙古（呼和浩特）大青山自然保护区管理局依据《呼和浩特市人民政府第58次常委会议纪要》（常务会议〔2000〕13号），并经呼和浩特市编委批复而成立。
2008年1月经国务院批准晋升为国家级自然保护区。
大青山自然保护区在东经109°47′—112°17′，北纬40°34′—41°14′之间。
大青山自然保护区属阴山山脉的主体。西至包头昆都伦河，东至呼和浩特大黑河上游谷地。东西长240多公里，南北宽20～60公里，海拔1800～2000米，主峰大青山海拔2338米。岩石主要由太古代、元古代的片麻岩、大理岩、石英岩和古生代、中生代的砂页岩、砾岩所组成。大青山南北坡明显不对称，北坡平缓，剥蚀残余的低山丘陵和盆地交错分布，逐渐与内蒙古高原连在一起；南坡陡峭，为明显的构造断块地形，断层崖被侵蚀切割，形成一系列断裂三角面，形势险峻。山麓分布有侵蚀残余的低山和众多的山沟，雨后洪流破山而出，造成复式带状洪积扇裙。山沟为流水侵蚀成为宽谷后，往往形成前山与后山的交通孔道。
大青山国家级自然保护区气候为暖温带季风大陆型气候，四季分明，雨量充沛，气侯温和，全年平均气温14.1℃，极端最高气温36.5℃，最低气温-11.1℃，年降水量849毫米，全年无霜期200天以上。
大青山国家级自然保护区土壤为山地栗钙土─山地典型棕褐土─山地淋溶褐土─山地草甸草原土。北麓山间盆地和滩川地的水土条件较好，耕地扩展很快，上限已达海拔1850米。
大青山国家级自然保护区总面积388577公顷，其中核心区面积114038公顷，缓冲区面积85121公顷，实验区面积189418公顷。东以乌兰察布市卓资县上高台林场的东界为界；南从大西沟沿林班线向西至哈拉沁沟，沿沟东坡山脊线向北至卯独庆，再沿山脊线向南至哈拉沁沟口，沿大青山南麓山脚线向西至沟门，沿林班线再至西九峰、天林背，沿邓沙沟、纳令沟至公山湾，再沿五当召林场南界线至昆都仑河谷；西以昆都仑河谷为界；北以乌兰察布市上高台林场的北界为界，向西以呼和浩特市武川县五道沟林场、武川县井尔沟林场、武川县五家村林场的北界为界直至李二沟，向西至马鞍山、后黑沙、三岔口、大敖包山、后店、五分子、小七号，沿白彦沟林场北界线再向西至昆都仑河谷止。
大青山国家级自然保护区主要保护对象为：①以青海云杉、白杄、青杄、侧柏等分布边缘物种群落为代表的山地森林、灌丛—草原生态系统。②物种多样性及濒危珍稀物种。③保护山体，涵养水源。
大青山国家级自然保护区属于“自然生态系统类”，森林类型（森林、灌丛—草原）超大型自然保护区。
截至2013年，据统计保护区高等植物852种，隶属127科422属，其中种子植物736种，隶属88科348属，分别占保护区高等植物科、属、种数的69.3%、82.5%、86.4%；蕨类植物19种，隶属9科12属，占7.1%、2.8%、2.2%；苔藓植物97种，隶属30科62属，分别占23.6%、14.7%、11.4%。保护区有野生真菌157种，隶属于2亚门3纲13目42科88属157种。其中子囊菌亚门有4目7科8属8种，分别占保护区大型真菌科、属、种的16.7%，9.1%，5.1%；担子菌亚门有9目35科80属149种，分别占83.3%，90.9%，94.9%。保护区植物在内蒙古植物区划中属于欧亚草原植物区—亚洲中部亚区，由于同时受欧亚草原植物区和东亚阔叶林植物区的影响和渗透，许多植物分区在本区内相互交迭，从而大大丰富了这个地区的区系地理成分。保护区植物区系成分以东亚区系成分、华北区系成分及达乌里—蒙古成分为主，并混有泛北极成分、古北极成分、东古北极成分、亚洲中部区系成分等，并在不同海拔高度形成了兼有华北特色及蒙古草原成分的山地植物垂直分布。
截至2013年，初步查明保护区脊椎动物有218种，隶属于24目55科123属，其中兽类有33种，隶属于6目12科25属；鸟类有173种，隶属于15目37科89属；两栖爬行类有12种，隶属于3目6科8属。
该保护区共有景源129处，其中特级景源16处，一级景源58处，二级景源28处，三级景源27处。具体说该区有“三绝”、“三妙”。
三绝：
象形石神石——象形石多，形态逼真，天下一绝。神仙上头坐、群兽满山跑，形态各异、一石三景。著名的有鹰石、蛇石、龟石、蛙石、天犬石、双熊石、姥姥姥爷石……，个个形神兼备。
峰林——峰峰峥嵘，各显风姿，美如国画。青山峰林以奇险著称于世，花岗岩岩体所构成的山峰极其陡峭、巍峨！东西两侧似刀削斧劈，绝壁之下如临万丈深渊。青山峰林处处峥嵘，连绵不绝，在苍穹之下显得突兀、险峻、灵秀、深沉。山有山形，岩有岩相；千峰显态，峰峰争奇。
冰臼——冰臼成群，种类繁多，姿态万千，形神俱备。
三妙：
高山草甸疏林，乔灌交织、郁郁葱葱、春花秋色、景美迷人。青山景区共有高等植物926种，分属于103科，406属，青山植物季相变化鲜明，春天野果树吐白凝红，漫坡杜鹃花姹紫嫣红；夏天百花竞放、青山苍翠；秋天枫叶如火、白桦铺金、山果挂红；冬季雪压枝头，银装素裹。
草甸，高山草甸、群峰环绕、绿草如茵、繁花似锦青山草木植被丰富，空间开合变化、远景、中景、近景搭配合理。青山也是野生动物的栖居场所。鸟类已知有17目36科155种。大鸨、鹰、隼等在空中尽情翱翔。兽类有7目（类）17科68种，马鹿、狍子、野猪、狐狸、沙狐、黄鼠狼、艾虎、蒙古兔等随处可见。
大青山国家级自然保护区境内的阴山山脉，它东与冀北山地衔接，西与贺兰山、北大山、马鬃山相通，构成了一条环内亚干旱、半干旱区南缘的生态交错带。这条生态交错带在中国北方草原区占据了一个独特的生态区域，成为干旱、半干旱区森林岛屿和诸多大型动物活动带，在维护和保持内亚荒漠草原生态稳定性，涵养水源、保持水土，屏护山前河套平原乃至华北平原具有重要的意义。
