La pedra de la muntanya d'Olèrdola és calcària recifal tova i fàcil de treballar. Es coneixen dues pedreres a cel obert utilitzades pels romans. Una d'elles està situada al peu de la muralla i, l'altra, a l'interior del recinte. D'aquesta última, els romans van extraure la pedra per edificar la muralla i la torre-talaia. Per a l'extracció dels grans blocs practicaven l'obertura de trinxeres que delimitaven les quatre cares del bloc i permetien desprendre'l de la roca amb l'ajut de tascons de fusta o ferro.
Una part de la pedrera es continuà explotant en època medieval, per tal de treure la pedra en blocs per aixecar l'església, la muralla i el castell, situats ben prop.