La capital de la isla tiene una fecha de nacimiento específica: el año 123 a. C., cuando la conquista romana. Puede ser que los conquistadores edificaran la ciudad a partir de un  anterior emplazamiento talayótico, que dominaría toda la bahía, la más abierta de cuantas existen en la isla. De todas formas, hasta ahora no existe ningún indicio de este hipotético núcleo anterior.

La nueva ciudad se llamó Palma. Actualmente, conocemos poco sobre el tema y es difícil de investigar, ya que sus restos están en el subsuelo del núcleo antiguo, concretamente, en el barrio de la Almudaina. Este conserva todavía la huella romana de sus calles y mantiene el espíritu que describió en su momento el escritor Llorenç Villalonga: «el barrio es venerable, noble y silencioso, con calles estrechas y casas amplias, que parecen deshabitadas».

Con todo, las excavaciones que se han llevado a cabo en los últimos años han aportado numerosa información. Uno de los restos visibles más importantes lo constituye la parte inferior del arco de la calle de la Almudaina, que corresponde a una puerta de la muralla romana. De esta muralla, que llegó hasta el siglo XIII, quedan restos en el jardín del palacio episcopal, en el interior de Can Bordils (c. Almudaina, 9) y en la pared medianera entre las casas de las calles de Morey y Zanglada (por ejemplo, puede verse una muestra al descubierto en el patio del edificio de la calle Morey, 14). Después de la extinción del imperio, la ciudad entró en un proceso de decadencia hasta la conquista islámica de principios del siglo X. El nuevo poder musulmán reconstruyó y amplió el núcleo anterior y edificó allí la sede central del poder, con la edificación de la fortaleza de la Almudaina, separada del resto de la ciudad por una muralla, que aprovechaba el antiguo trazado del muro romano. La ciudad pasó a llamarse Medina Mayurqa y se extendió de un modo notable, hasta llegar a superar los 20.000 habitantes. Un  nuevo perímetro de muralla la rodeó, que a principios del siglo XII alcanzó su trazado definitivo, que ya no experimentó más cambios.

En 114-115 el ataque catalanopisano devastó la medina, que fue reconstruida por los almorávides. A lo largo del siglo XII, la actividad comercial de la ciudad fue importante, intensificada por los tratados firmados con las repúblicas de Pisa y Génova, cuando sus mercaderes disponían de sus propias instalaciones. La ocupación almohade de 1203, al parecer no excesivamente violenta, no impidió el tráfico mercantil, que continuó hasta la conquista catalana de 1229. Dicha conquista tuvo lugar después de más de tres meses de asedio contra la ciudad. El campamento cristiano se situó en la zona norte de la ciudad, entre la muralla y el lugar que hoy se llama La Real. El asedio está tejido de episodios violentos, como cuando los musulmanes colgaron vivos sobre la muralla los prisioneros cristianos, para que recibieran el impacto de las piedras que tiraban sus correligionarios contra el muro (milagrosamente ninguna piedra impactó sobre uno de ellos) o la réplica de Jaime I que mandó lanzar dentro de la ciudad docenas de cabezas de los musulmanes muertos. Finalmente, el día 31 de diciembre, las tropas del rey Jaime entraron en la medina Mayurqa, aprovechando el derrumbe de una parte de la muralla en una de las puertas del recinto, concretamente la puerta de «Bab al-Kofol», situada en la actual confluencia entre la calle de Sant Miquel y las Avingudes. Es famoso el grito de guerra con el que el rey animaba sus cavalleros cuando éstos retrocedían, empujados por los asediados: «¡Verguenza, cavalleros, verguenza!».

La entrada de las tropas catalanas, violentísima, conllevó la extinción de buena parte de los antiguos pobladores musulmanes, que fueron asesinados o huyeron: en este último caso, una parte abandonó la isla y el resto se refugió en las montañas del interior. Hasta se desconoce el destino del gobernante musulmán de entonces, Abu Yahya, a quien en rey Jaime prometió que cuando lo prendiera lo arrastraría por la barba, hecho que tenía un sentido muy humillante. La población vencida fue subtituída por los nuevos colonizadores, mayoritariamente catalanes, que en parte llenaron el vacío demográfico provocado por la desaparición de los anteriores habitantes. Pero no solamente desapareció la gente sino también el rastro islámico de la ciudad: las mezquitas se convirtieron en iglesias o fueron derribadas, el ambiente morisco de las casas dio lugar a otra tipología urbana (aunque a grandes rasgos permaneció la estructura viaria), etc.

Mientras se normalizaba la vida urbana, empezaron las obras de reconstrucción de las murallas, castigadas por el asedio. Estas se mantuvieron en pie hasta que en el siglo XVII se subtituyeron por una nueva estructura, que seguía el trazado antiguo, de origen islámico, sin apenas cambios. La nueva muralla, con sus puertas, estuvo presente hasta su derribo, realizado en sucesivas etapas, los últimos años del siglo XIX y los primeros del XX. En su lugar, ahora hay avenidas, auténtica vía de circumvalación de la ciudad antigua, a partir de las cuales empieza el moderno ensanche de Palma.

Se inició simultáneamente la edificación de la Seu y de las numerosas iglesias y conventos que durante los siglos XIII, XIV y XV modificaron el paisaje urbano de la ciudad musulmana. Este proceso de destrucción de la ciudad islámica —a pesar de conservarse el trazado de las calles y el sistema de distribución de agua, con retoques— culminó con la inundación provocada por el torrente de la Riera en 1403, que destruyó centenares de viviendas y ocasionó unos miles de muertos, haciendo desaparecer numerosos testimonios, tanto de la dominación islámica, como del gótico posterior a la conquista. Este torrente atravesaba la ciudad por la Rambla y el Born actuales, hasta que, a causa de las constantes inundaciones, se desvió de su curso mediante unas obras que terminaron en el año 1615.

A efectos administrativos, la rebautizada ciudad de Mallorca (traducción literal en castellano de madina Mayurqa) se dividió en cinco parroquias: Sant Miquel, Santa Eulalia, Santa Creu, Sant Nicolau y Sant Jaume. A partir de las mismas surgieron los barrios antiguos, caracterizados por funciones específicas. En torno a Santa Creu se reunieron los pescadores y marineros; en las Drassanes (Atarazanas), cerca de la Llonja y del Consolat, los mercaderes del mar; alrededor de la Seu residía la aristocracia; y en la zona de Llevant se localizaban las clases trabajadoras y los menestrales, que se reunieron más tarde en gremios por calles y de los que todavía quedan los nombres: Gerreria, Ferreria, Bosseria, Capelleria, Pelleteria, Argenteria, Bastaixos (ahora llamado Jaume II), Cereria, etc. Aquí también se situaban las actividades mercantiles relacionadas con la producción rural: Pes de sa palla, Sa quartera, Banc de s´oli, Pes de sa farina, etc., cuyos topónimos todavía  perduran.

Desde un punto de vista urbanístico, el crecimiento se hizo intramuros, a partir de la reserva de suelo no edificado (huertos, necrópolis…). De este modo, por ejemplo, la Judería y el barrio de Sa Calatrava se construyeron durante el siglo XIV. Hay que destacar la regularidad del trazado de las zonas urbanizadas de nueva planta, hecho que delata cierta planifición del espacio. Fuera de los muros, la obra pública más importante fue el inicio de la construcción del primer muelle de Palma, también iniciado durante el siglo XIV, con el fin de acercar a la ciudad las actividades que se realizaban en Portopí.