19a. devintojo dešimtmečio pabaigoje ar dešimtojo pradžioje miestelyje buvo pastatyta pravoslavų cerkvė. Cerkvė sprendžiant iš 1916 m. žemėlapių buvo pastatyta ant ežero kranto netoli Lietuvos-Rusijos sienos (dabartinėje Dariaus ir Girėno gatvėje, kitoje pusėje nuo dabartinės policijos nuovados). Ši vieta matoma nuotraukoje. Nelikus miestelyje stačiatikių, cerkvė kurį laiką stovėjo nenaudojama. 1924m. pastatytas aprašytas ir pasiūlytas nugriauti. Tai padaryta iki 1927m.

Ant Ilgojo kalno netoli Kanapkio malūno buvo pastatytas varinis paminklas-skulptura žydų tautybes aukoms atminti. Jos autorius berods buvo skulptorius ....Apie 1990m. skulptūra matomai del joje esančio vario, buvo nuversta ir sunaikinta. Ji taip ir nebuvo atkurta, o vagys, aišku taip ir liko nenubausti...Praėjus keliems metams skulptūros vietoje buvo pastatytas akmeninis paminklas su užrašais jidiš kalba.....

Berods 1978m. Kanapkio vėjo malūne įkurto Vištyčio etnografinio muziejaus neliko nei pėdsakų. Šis muziejus tais laikais buvo tiesiog Vištyčio pasididžiavimas - jį lankydavo ištisos ekskursijos, delegacijos o ir pavieniai asmenys. Eksponatų muziejuje buvo sukaupta išties nemažai ir gana įdomių bei vertingų. Be to tuo metu buvo renovuotas ir pats malūnas - naujai apkalta jo išorė ir sutvarkytas vidus, sutvarkyta aplinka. Reikia pridurti (pasakyti), kad ir pats etnografinis muziejus ir žydų kapai ant Ilgojo kalno sudarė visomis prasmėmis netradicinį duetą. Bet taip buvo...Dažnas aplankęs muziejų visada aplankydavo ir žydų kapines. Kokios tuo metu žmonėms kildavo mintys ir įspūdžiai galima tik paspėlioti. Be abejo tais sovietiniais laikais ant Ilgojo kalno birželio 22d. vykdavo tradiciniai mitingai ir paminėjimai. Nes ir pats užrašas ties įvažiavimu link malūno teigė, kad tai yra "Fašistinių okupantų nužudytų tarybinių aktyvistų palaidojimo vieta". Be abejo dabar šio užrašo jau nebėra.