Na hribu Silovec so še danes vidne ruševine cerkve sv. Marjete, prvič omenjene leta 1545 (že takrat je v omembi označena, kot “stara cerkev”). Območje cerkve spada pod naselje Kunšperk, prvič omenjenega leta 1201. Cerkev je bila nekoč zelo obiskana, celo iz Hrvaške. Do nje je vodila pot s kapelicami. Po turškem uničenju se je romarska pot prestavila na Svete gore.
Leta 1473 naj bi na območje Kunšperka vpadla turška vojska. Domačini so se zatekli v varno zavetje taborskega obzidja cerkve, katerega so kmalu oblegali in tudi osvojili Turki. Moški so bili pobiti, ženske in otroci odpeljani v suženjstvo, cerkev pa izropana in požgana. Po dogodku je bila cerkev obnovljena, a ni nikoli več dosegla prejšnje veličine.
V cerkvi so nekoč kaplani sv. Petra brali vremenske maše in so zato sprejemali zbrani mošt. Leta 1777 so bile te maše na pobudo oskrbnika na Bizeljskem prenesene k Sv. Magdaleni v Orešje. Tako lahko domnevamo, da je bila takrat sv. Marjeta opuščena, saj na zemljevidu iz leta 1825 ni več označena.
Na Vischerjevi topografiji gradu Kunšperk in Bizeljsko je okoli cerkve vidno taborsko obzidje. Arheološke raziskave so pokazale, da so v okolici cerkve številne arheološke strukture in najdbe iz železne ter bronaste dobe. Na lidarskem posnetku je vidno večje prazgodovinsko gradišče vrh Silovca.
Slike:
Legende:
O gori Silovec (na kateri stoji cerkev) obstaja ustno izročilo, da je gora votla in polna vode, ki bo nekega dne prebila na plano in poplavila celotno območje Orešja na Bizeljskem.