Entre los valles vizcaínos de Atxondo y Elorrio se localiza el macizo de Memaia en el que se encuentran las ruinas de las ermitas de Santa Cruz y Santa Marina. En un escrito de 1053, referente a la fundación de San Miguel de Echevarría, se cita un monasterio en Memaia (usque ad monasterium quod dicitur Memaia) pudiéndose identificar con algunas de estas ermitas.
La ermita de Santa Cruz fue derribada a fines del siglo XVIII. Fue objeto de una excavación arqueológica por Azkarate en 1987 en la que se descubrieron los restos de una iglesia altomedieval y una necrópolis que se extendía al sur y al este de la ermita y estaba formada por una gran variedad de tipos de sepulturas. La cronología de los enterramientos, siglo X, facilitó también la datación de un epígrafe fundacional hallado en las excavaciones. Se trata de un sillar de arenisca de 19x36x16 cm. con una inscripción precedida de una cruz griega que reza.:
“In Dei nomi / ne ego Cas / siani presbite /ri fecit baselica”.
En el nombre de Dios, yo, el presbítero Casiano, edifiqué esta basílica
Hoy en día se encuentra en el Museo Arqueológico, Etnográfico e Histórico Vasco de Bilbao (Bilbao, Vizcaya). También se localizó una ventana prerrománica ejecutada en un bloque de arenisca con tres vanos, similares a los de San Salvador de Berreño.
A corta distancia de la anterior ermita están las ruinas de la ermita de Santa Marina, ya en ruinas en el siglo XVIII. Se realizó también aquí una intervención arqueológica que dejó al descubierto la planta de la iglesia. De ella proceden, según J. R. Iturriza (Iturriza y Zabala, Juan Ramón (1936) Historia General de Vizcaya y Epítome de las Encartaciones, Bilbao, Dochao, edición de A. Rodríguez Herrero (1938-1939-1967), p. 492.), algunos sepulcros reutilizados en la fuente de la plaza de Elorrio.
De esta ermita procede también una inscripción rectangular de 25×35 cm., del siglo X, que se conserva desde 1792 en la iglesia de San Roque. En ella se conmemora la consagración de otras iglesias, las ya mencionadas así como otra dedicada a San Acisclo, cuya ubicación se desconoce. Dice:
” S(—)tam eclesie / <S>(an)c(t)e Marina / S(an)c(t)e Crucis et / S(an)c(t)i Aciscli”.
Más información sobre estas ermitas: Aregi y Azpeitia Gurutzi de: Tres ermitas medievales de Elorrio demolidas a finales del siglo XVIII