Época romana hasta la edad media

Cardiff fue fortificado por los romanos durante la ocupación de las Islas Británicas. Cuando el dominio en Britania terminó a principios del siglo V, el fuerte fue abandonado.Los restos de esa fortificación original son todavía visibles en el Castillo de Cardiff.
En 1091 Robert Fitzhamon comenzó a trabajar en el castillo para preservar las murallas de la antigua fortaleza romana. El edificio fue modificado sustancialmente y ampliado durante la época victoriana por John Crichton-Stuart, 3º Marqués de Bute, y el arquitecto William Burges.

A la sombra del castillo creció pronto un pequeño pueblo compuesto principalmente por colonos procedentes de Inglaterra. Durante la Edad Media, la población de Cardiff osciló entre los 1.500 y los 2.000 habitantes, el tamaño normal para un pueblo galés en la época. Sin embargo, a finales del siglo XIII, Cardiff fue la única ciudad de Gales con una población de más de 2.000 habitantes, aunque seguía siendo relativamente pequeña comparada con otras ciudades del Reino de Inglaterra.

Durante la Edad Media, el poblado fue un ajetreado puerto, que en 1327 ya se había convertido en el elemento básico de la ciudad. A principios de siglo XII, se construyó una empalizada de madera en todo su perímetro para protegerla.
En 1404 Owain Glyndwr incendió Cardiff y tomó el Castillo. Como el poblado era aún muy pequeño, la mayoría de los edificios que eran de madera fueron reducidos a cenizas. Sin embargo, poco después fue reconstruido y comenzó a florecer una vez más.