Χτισμένη σ΄έναν ψηλό βράχο στο Κάστρο του Μανδρακίου βρίσκεται η Μονή της Παναγίας της Σπηλιανής. Σύμφωνα με την παράδοση, το 1400 μ. Χ. ένας γεωργός ανακάλυψε μια μικρή εικόνα της Παναγίας, την οποία και μετέφερε στο ναό της Παναγίας της Ποταμίτισσας. Λίγες μέρες αργότερα όμως η εικόνα εξαφανίστηκε για να βρεθεί στη συνέχεια σε μια σπηλιά στην κορυφή ενός μεγάλου βράχου. Οι κάτοικοι την επέστρεψαν στο ναό αλλά το περιστατικό επαναλήφθηκε.
Για το λόγο αυτό αποφασίστηκε να χτιστεί στη σπηλιά μια εκκλησία όπως και έγινε λίγα χρόνια αργότερα. Ανεβαίνοντας ο επισκέπτης 130 σκαλοπάτια φτάνει στην ιερή σπηλιά και αντικρίζει το αξιόλογο ξυλόγλυπτο τέμπλο του 1725 μ.Χ. Επάνω σε αυτό εδράζονται οι εικόνες του Ιησού, της Θεοτόκου με το Βρέφος, της Κοιμήσεως της Θεοτόκου και του Αγίου Χαραλάμπου. Η εικόνα της Παναγίας, επενδυμένη από ασήμι, είναι αμφιπρόσωπη: στο πίσω μέρος εικονίζεται ο Άγιος Νικόλαος ενώ στο άλλο η Παναγία με το Βρέφος, φιλοτεχνημένη με την τεχνοτροπία της ρώσικης σχολής. Λέγεται ότι στο αριστερό χέρι της Παναγίας βρίσκεται η μικρή εικόνα που είχε ανακαλυφθεί τον 13ο αιώνα μ.Χ. Η εικόνα είναι θαυματουργή, γι αυτό και τον 15 Αύγουστο πλήθος προσκυνητών επισκέπτεται το νησί.