La gran mezquita esta situado en el barrio musulmán a lo largo de Huajue Lane, que esta corto camino desde la torre del tambor y el campanario en el centro de la ciudad. La gran mezquita, que es un lugar activo de la adoración y fue establecido por la dinastía Tang en el año 742 para los comerciantes musulmanes de Asia Central que se establecieron en Xian.
Dentro del complejo de la gran mezquita que es difícil decir que los edificios son islámicos, ya que fue construido de acuerdo a las formas tradicionales de arquitectura china y muchos de los símbolos islámicos están sinizado. Diferencia de los típicos templos chinos, que se basan en un eje norte-sur, la gran mezquita se construye este-oeste con la sala de oración en el extremo oeste de conformidad con el Reglamento Islámica de cara a La Meca para orar. Aunque originalmente construido durante la dinastía Tang, que ha sido renovado con muchos de los edificios actuales provenientes de la dinastía Qing. La gran mezquita y los edificios circundantes ocupan una superficie de 13.000 cuatrados métros, aun sin todos los ámbitos, tales como la sala de oración, son accesibles a los no musulmanes.
La zona que rodea la gran mezquita se llama Huifang y tiene una atmsphere musulmanes distintos, con pequeños árboles alineados calles llenas de restaurantes y tiendas que están vivos con la actividad.