清真大寺建于明洪武年间（１３６８－１３９８年），至今已有６００余年的历史。西宁东关清真大寺占地总面积为１３６０２平方米，建筑物雄伟壮观，具有中国古老的建筑艺术和伊斯兰教特色。大寺的原正门，即“前三门”，座南朝北，是一大两小的绿色西式大门，高十米，宽为十五米，门顶横幅匾额上镶有金光闪闪的“西宁东关清真大寺”八个大字（前三门现处在清真大寺临街楼房之前）。
进了“前三门”，约三十多米处，在数十阶花岗石的台墩上耸立着五个平顶拱形门，称为“中五门”，高近十米，宽为二十一米。九八年清真大寺改建时，于“中五门”前修了带有新正门的三层主楼一幢，与原中五门、大殿处同一中轴线，正门主楼下设五圆拱门，楼顶两侧各建一高达４５米的圆拱顶式宣礼塔，楼底设地下停车场；主楼临街一侧为六层商贸综合大楼，南侧建五层楼，作为寺管委会办公室、会客室、宿舍、教室、餐厅等。
“中五门”南北两侧矗立着两座宣礼塔，行人顺石台阶拾级而上，只见重门和宣礼塔碑壁上规则而又清晰地分布着嵌铁字图案（象征吉祥福寿长久），给人一种强烈的艺术感染。再步入重门，展现在眼前的是一方整齐清净的大青砖场地，每到此地，人们都觉得置身于清净的殿堂了。南北是两座老式木楼，北楼为接待室、藏经室、会议室等，南楼为阿訇进修班教室、学员宿舍、教研室等。南楼背面为男女沐浴室和殡葬室。两楼中间是面积为４４９０平方米的大院。大院西面，是座落在石基之上的礼拜大殿。俗称“凤凰单展翅”的大殿面积为１１３６平方米，以及殿顶端具有中国传统文化的“明脊暗卷”式古老宫殿的建筑风格，给人留下古老苍劲的印象。其外形砖木结构，外壁全用大青砖砌成，坚实牢固，饱经风霜，完好无损。前廊两侧各种图案精雕细刻，殿脊中心竖有三个金黄色经筒，灿烂夺目。殿门两侧是砖制九扇屏，上面是精巧的花草砖雕图，其工艺至今看来仍然是融古朴庄重、典雅清秀于一炉的艺术珍品。殿堂门口及殿堂里面的地面皆铺以木板，更增添了几分庄重和朴素。
寺院的整体布局以前门、重门、大殿特殊的双重门次第而进，所以显出三门端正、持重，五门挺秀，宣礼塔拔地高耸，两厢楼挺秀屹立。大殿更以凝重、庄严、端庄、古朴为特点，为寺院增添一种肃穆的气氛。立于大殿殿脊中央的三个镏金经筒和宣礼塔六角顶上安装的两个镏金经筒，遥遥相对，相映成辉，在整体建筑群的碧绿色琉璃瓦的映衬下，越发显出独有的气韵，有如天造地设一般。中午，在和煦阳光的照射下，更能显出迷人的景色，使人留连忘返。
大殿门廊上原有很多匾额和对联，都曾是伊斯兰文化的真实记载，只可惜在十年动乱时毁于一旦。历史上，东关清真大寺历来是经堂教育的场所。不仅在西宁，而且西北乃至豫、皖、湘、鄂、川、滇、粤、沪等地都受了它的影响。早在１９３８年《边声》创刊号署名“浩”题为“西宁”的文章就说：“此不谓东关回族同胞之信仰寄托地，亦为西宁回族最高之学府，四川、陕西各地回族同胞来此求学者不乏其人。”马万福自１９１６年来到西宁后，即以“尊经革俗”、“凭经立教”为宗旨，尽生平学识，致力于讲学，使得伊斯兰教影响逐步扩大，宗教上层人士如古铭瑞等许多哈智也纷纷改宗伊赫瓦尼，于是，伊赫瓦尼教派迅速发展。以后此派在全国许多省区都有广泛的传播，在该派所开展的经堂教育中，除传授阿拉伯文以外，还授以汉语文，这对于提高回族的文化素养以及增进民族之间的互相了解，加强民族团结都起了非常积极的作用。在马万福个人的不懈努力及马麒、马步芳的支持下，伊赫瓦尼得到长足发展，从而建立了西宁东关清真大寺在全省及邻近地区的海乙寺。
