Vigo tenía 15.000 habitantes en esa época y disponía de dos cementerios. El de Picacho, ubicado en la zona del Berbés y con vistas al mar, y el de Santiago. Este último había sido clausurado por el ayuntamiento debido a las deficientes condiciones que presentaba, ya que el terreno era inestable debido a la alta concentración de agua. Era necesario encontrar otro lugar donde ubicar el cementerio de la ciudad. En 1896 se iniciaron los trabajos en Pereiró después de la iniciativa que partió de José Elduayen. El proyecto, que contó siempre con la supervisión municipal, se prolongó mucho tiempo. Fue necesario invertir más de 38.000 pesetas en la expropiación de los terrenos. El coste total ascendió a 100.000 pesetas, una gran cantidad de dinero en aquella época. El diseño correspondió a Jenaro de la Fuente, uno de los principales arquitectos de la ciudad.
Precisamente en la inauguración se agradeció especialmente el apoyo y constancia José Elduayen, considerado como el hombre que impulsó de manera decidida su construcción. Antonio López de Neira, alcalde de Vigo, y Menéndez Conde, arzobispo de Tui-Vigo, recibieron las llaves del recinto. También estaba Sánchez Patiño, prior de la Colegiata. El Decano, en su información, destacó que se realizó la bendición del recinto y también de la capilla dedicada a la Virgen de los Dolores. Después de terminada toda la ceremonia, que se prolongó por espacio de tres horas, fueron muchos los ciudadanos que se acercaron a visitarlo. Para celebrar la inauguración, el marqués del Pazo de la Merced pagó una comida a todos los enfermos pobres que se encontraban en el hospital municipal.
El espacio tenía una superficie de 62.500 metros cuadrados, según la información oficial. Lo rodeaba un muro de piedra de tres metros y medio. En su diseño figuraban dos grandes paseos centrales y ocho pasillos. Todo se dividió en 16 cuadrados perfectamente alineados. Se podían realizar sepulturas de cinco clases, dependiendo del tamaño y también de la ubicación. La capilla, con rasos bizantinos, románicos y góticos, acogía la imagen de la Virgen de los Dolores. Estaba colocada sobre un mármol blanco que había sido traído especialmente de Italia.
Otros detalles también fueron significativos. Así, la fachada principal se realizó en la que aquella época era la carretera de Vincios. También se dice que cerca se podían encontrar los elementos necesarios para la construcción de lápidas. A todo se ello se unía que se ubicaba en las afueras de la ciudad, una condición que era indispensable para el Ayuntamiento de Vigo cuando decidió encontrar un emplazamiento al cementerio.
La historia dice que el primer entierro en este lugar fue el de un niño. Sin embargo, otras versiones afirman que fueron los 153 soldados muertos que llegaron a Vigo tras la guerra de Cuba y Filipinas con Estados Unidos. Antes de que se cumpliera un año, fue enterrado allí José Elduayen, fallecido en el mes de junio.
Durante la Guerra Civil, sus muros fueron utilizados para realizar fusilamientos. Cuenta la historia que así se era más fácil transportar los cadáveres al cementerio.
