Έξω από το χωριό Ρούσσα, βρίσκεται ο περίφημος τεκές των Κιζιλμπασήδων αιρετικών μουσουλμάνων απογόνων του μοναχικού μυστικιστικού τάγματος των Μπεκτασήδων, στο οποίο ίσως να είχαν προσχωρήσει κατά τους χρόνους της κατάληψης της Θράκης από τους Τούρκους και μερικοί αιρετικοί χριστιανοί οι Παυλικιανοί.

Ο τεκές μοιάζει εξαιρετικά με χριστιανικό Μοναστήρι με μεγάλο ξενώνα. Στο κέντρο υπάρχει μικρό κτίσμα που στο εσωτερικό το στεγάζεται ο τάφος του ιδρυτή του Τακέ του Κιζίλ Ντελή, που αποτελεί τόπο προσκυνήματος των πιστών. Σε διπλανό κτίσμα χωρίς παράθυρα γίνονται συνάξεις των μνημείων που θυμίζουν τα αρχαία μυστήρια.

Ιδρυμένο στις αρχές του 15ου αιώνα και ανακαινισμένο στα 1759 το συγκρότημα αποτέλεσε τη βάση για τη διείσδυση του αιρετικού αυτού τάγματος στη Θράκη. Από το κτισμένο με ακανόνιστη πέτρα και ανεπίχριστο κονάκι με το χαγιάτι και την πυργόσχημη όψη προς το δρόμο, μέχρι το απροσπέλαστο για τους μη μυημένους μεϊντάν, τον τελετουργικό χώρο των μυστικών συναθροίσεων των πιστών και από το πενταγωνικής κάτοψης μαγειρείο με την πανύψηλη καμινάδα, μέχρι τον τουρμπέ, τον τάφο του ιδρυτή της Μονής και τα αρχαία νεκροταφεία τα πάντα βιώνονται εδώ ως ανήκοντα σε μία άλλη περίοδο της ιστορίας.

Γύρω από το χωριό της Ρούσσας, σώζονται μεγαλιθικοί τάφοι – dolmen (9ος αιώνας π.Χ.). από την πρώιμη εποχή του σιδήρου με μεγάλες πέτρινες πλάκες και πέτρινα κρηπιδώματα [τοποθεσίες Ντικιλή τας (= όρθια πέτρα) και Σκοπιά]. Κατασκευασμένοι από πέντε μεγάλες πλάκες και το χαρακτηριστικό για τα dolmen άνοιγμα στη μια στενή πλευρά του. Στους τάφους αυτούς τοποθετούσαν μεγάλα αγγεία που περιείχαν την τέφρα του νεκρού ή απευθείας τα υπολείμματα της καύσης μαζί με τα κτερίσματα.

Πολύ αξιόλογο δείγμα της ανθρώπινης παρουσίας είναι ένας βράχος με εγχάρακτα σχέδια στην ανατολική του πλευρά και σε διαστάσεις 3,80 Χ 2,70. μορφές ανδρών και γυναικών σε διάφορες στάσεις και διάφορα άλλα σχέδια. Η παράσταση ανάγεται στην ύστερη εποχή του χαλκού ή των πρώιμη του σιδήρου, συνδέεται πιθανόν με θρησκευτικές δοξασίες και είχε μαγικό αποτρεπτικό χαρακτήρα. Ίσως οι κάτοικοι της περιοχής, Πομάκοι και Κιζιλμπάσηδες να είναι απόγονοι των ανθρώπων που άφησαν αυτά τα ίχνη της διάβασής τους.