Desde el 714, la ciudad pertenece al Califato de Córdoba y fue un puesto avanzado en la lucha contra los reinos cristianos del norte, denominado Marca Superior, que gozó de relativa independencia. Fue gobernado en la segunda mitad del siglo X por una dinastía de origen muladí que tenía lazos de sangre con los Íñigo Arista de Pamplona, los Banu Qasi.

Tras la guerra civil en Córdoba, a principios del siglo XI, el poder central desapareció y esto condujo a la caída del Califato y la constitución de estados independientes o taifas. Así ocurrió con la antigua Marca Superior, que ocupaba los territorios del valle medio del Ebro y cuya capital era Zaragoza.

Este reino fue uno de los más brillantes de al-Andalus y permaneció independiente durante casi un siglo. Los tuyibíes, clientes de los omeyas, fueron los primeros reyes de la Taifa de Zaragoza hasta 1038, en que los Banu Hud llegaron al poder y llevaron al Reino de Zaragoza a su máximo esplendor político y cultural. En el último cuarto del siglo XI, bajo la monarquía de Al-Muqtadir, sus dominios se extendían hasta la actual Alicante por el sur y hasta la actual provincia de Tarragona por el norte, siendo el régulo de Valencia vasallo de Zaragoza. La obra más señera de esta época es el Palacio de la Aljafería, construido bajo el reinado de Al-Muqtadir.

En 1110 fue ocupada por los almorávides, aunque mantuvieron gobernadores que gozaron de cierta independencia hasta 1118, el año de la ocupación cristiana por parte de Alfonso el Batallador