清雍正二年闰四月初五（1724年5月27日），在灯市街东建成清朝左翼宗学。左翼宗学系清镶白旗子弟学校，其确切校址是今东四南大街（东四十字路东侧至灯市东口）马路东侧的街面上。
光绪三十一年（1905年）戊戌变法，左翼宗学改建为左翼八旗第五初等小学堂。
宣统二年（1910年）3月，改为左翼八旗中学堂，校址也移至史家胡同。
民国元年（1912年）改为京师公立第二中学校，后又改名为北平市立第二中学、北京市立第二中学。
民国25年（1936年）11月1日，北京二中由史家胡同迁入内务部街15号现址。即原军阀段祺瑞政府内务部公署所在地。
1949年4月1日，学校正式由中国共产党和人民政府接管，因此，4月1日就被确定为校庆纪念日。
1951年，定名为北京市第二中学。
1952年，被评为北京市重点中学。
1999年，被批准为北京市首批全国示范性普通高中建设校。
2002年，与85中合并，整合教育资源，扩大校园面积。11月28日，接受了市教委组织的专家组对学校示范高中建设工作的评估。
2003年9月1日，北京市市长王岐山参加了学校新学年开学典礼。11月7日，获批第二批北京市示范性普通高中。
2011年，北京市第二中学与美国索斯兰中学（Southlands Schools International）合作举办中美高中双文凭课程项目。
截至2011年1月，学校建有6350平方米规格的全塑胶操场。
截至2015年5月，学校先后建有60多个专业实验室和专业活动场所。
学校在艺术领域建有动画创意与三维艺术工作室、油画写生工作室、中国画创作·美术鉴赏工作室、书法篆刻工作室、电脑绘画与设计工作室、舞蹈排练厅、管乐厅、音乐教室。
学校在体育与健康领域建有室外足球场、室内综合体育馆、畅心苑──心理咨询室。
学校在技术领域建有未来工程师实验室、创新工作室、金工与木工、技术与设计室、机器人工作室、电子控制技术工作室、汽车系统与驾驶学习室、家政与生活学习室、建筑及其设计工作室、服装及其设计室、学生机房3个、教师电子备课中心、学生电子阅览室、网络实验室、校园网络系统。
学校在科学领域建有生物技术实践工作室、生物组培实验室、分子生物学实验室、微生物实验室、显微互动实验室、环境监测中心、数字化学实验室、数字化物理实验室、3个普通物理实验室、3个普通化学实验室、2个普通生物实验室、理化生学生自制餐综合实验室、“郭慕孙”数学实验室。
学校在人文与社会领域建有英语听说教室、外文图书阅览室、模拟联合国教室、地理情景教室、文史哲馆、国粹馆、图书馆、网络阅览室。
学校建有程思浩、程思淼“天文工作室”，彭博、陈彦龙“化学工作室”等学生个人实验室。
学校还建有教师博物馆、古籍收藏室、视频编辑室、4G网络与高清录播室、师生谈话室、小影院、视听墙、文化墙、学生博物馆、学生茶歇室、学生校园电视台、综合专业教室、学生餐厅等。
学校在科技俱乐部研究领域建有的基地：基础科学研究领域、生命科学研究领域、资源环境科学研究领域、高技术科学研究领域。
截至2011年1月，学校校舍占地面积20821平方米，建筑面积22624平方米。
截至2013年9月，学校有40余个教学班，学生一千五百余名。通过世界五百强企业搭建的平台，建立了国家机关、农业生产、航空、运输、机械制造、集团生产、市场营销、连锁企业、兵工、环保、媒体、非物质文化遗产、应急单位等十三个类别的社会实践基地。
截至2011年1月，学校教职工总数215名，其中专任教师134名。截至2015年5月，学校任职教师中有13位博士，特级、市区级学科带头人、骨干教师共75位。
截至2015年5月，先后与瑞士、丹麦、日本、英国、芬兰、新加坡、香港等11个国家和地区的学校建立了友好交流关系，有十几批学生出访瑞士、丹麦、英国、法国、日本、香港等国家和地区。
北京二中国际部是与美国索斯兰·克里斯蒂安中学合作的中美高中双文凭联合办学项目，获得美国大学理事会颁发的AP课程教学资质。办学层次为高中教育，纳入北京市高中统一招生计划，学制三年。主要招生对象是初三年级成绩优秀的应届毕业生。毕业时可同时获得北京市第二中学和美国索斯兰中学的高中毕业文凭。
2006年，该校学生参加全国及市级学科竞赛，近四百余名学生获奖，12位同学分别获得全国各类学科竞赛一等奖；二中金帆舞蹈团在全国第二届中小学生艺术展演出活动中获得金奖，并荣获北京市金帆艺术奖；学校学生在Robocup中国公开赛上获得全国一等奖。
2010年，该校1名学生在全国健美操联赛常州站比赛中获得男单冠军；2011年2月，赴法国里昂参加健美操世界杯系列赛，分别荣获三人操比赛铜牌、六人操比赛金牌。
2011年4月，在FLL中国公开赛中，学校学生获得全国第六名、全国一等奖。学校学生在全国中学生天文奥林匹克竞赛决赛中，获一等奖、二等奖各1名学生，2名学生获三等奖。
2012年，9名学生在第29届全国中学生物理竞赛（北京赛区）中获得二等奖，23名学生获得三等奖。8月，在第27届全国青少年科技创新大赛中，1名学生获环境科学一等奖和“高士奇科普专项奖”，2名学生获工程学一等奖和“中鸣数码科技专项奖”。
2014年，1名学生在第31届全国中学生物理竞赛北京市赛区获得一等奖；1名学生在第28届全国化学竞赛北京赛区获得一等奖；5名学生在在第三十四届北京科技创新大赛取得一等奖；1名学生获第十二届北京青少年科技创新市长奖。
2015年，1名同学在第31届全国中学生物理竞赛中获银牌，3名同学在北京市第35届科技创新大赛获得一等奖。10月，学校学生在第二届全国中学生朗诵大赛中获特等奖。
2008年4月，在由北京市教委、北京教育学会主持的国家级课题“高中新课程选修模块”网络资源开发与实施项目中，学校语文组两个选修专题“伟人诗魂”、“酒神盛歌”获表彰。
2008年，1名教师被评为首都十大年度教育新闻人物。
2011年12月，在东城区首届高中研究性学习指导教师基本功大赛中，学校郭俊彬老师获得特等奖，贾国华老师获得一等奖，胡宝刚老师获得三等奖。
2015年4月，学校老师在第三届全国中小学机器人教学展评活动中获得中学组全国一等奖。
该校曾获得全国精神文明建设工作先进单位等荣誉称号。
2000年，通过科技事业单位档案管理国家二级的考核，升级为国家二级。
2004年，被评为2003-2004年度“全国青少年科技活动先进集体”。
2005、2006年连续两年获“首都文明单位标兵”称号。
2008年5月，学校钮小桦校长工作室和数学特级教师王文杰工作室获北京市东城区第三届名师、名校长工作室。
2009年，被评为北京市创建学习型学校先进单位。
2011年1月，北京二中金帆舞蹈团在2010年上海世博会总结表彰大会上获“先进集体”称号。
学校校徽为圆形，红色的外环边缘是黑色的线，上面是北京市第二中学的校名，下面是其英文名。
中间是“中”的艺术图案，左边黑色部分是斜体“1”和半圆组成，右边是红色的半圈，并脱有一个尾巴，让整体图案形成了“北”的艺术形式。
数字1724是学校的创建时间。校徽主色调为黑色和红色，彰显学校的厚重底蕴。
北京二中的校训是“敬业乐群”和“扎实、创造、团结、有恒”。
敬业乐群：出自《礼记·学记》，所谓业，有学业、职业、事业。所谓群，有比较固定的群，有比较流动的群。学业有成就，职业有保障，事业有成功的希望，一方面是靠自己能专心致志在不断努力，一方面是靠师长、同学的不断予以指导、帮助。
扎实、创造、团结、有恒：以人为本，坚持品格教育和诚信教育，严格管理。
