Tajos laikos, kad Zilupi vēl dēvēja par Rozenovu, mirušu ebreju lika īpašā zārkā, ko turēja sinagogā, un veda ratos uz tuvākajiem ebreju kapiem Ludzā. Zirgus turēja un mirušos pārvadāja Laizers Goldbergs.
Divdesmito gadu beigās starp Priežu, Kluso un Bērzu ielām tika ierīkoti ebreju kapi 2000 kvadrātmetru platībā. Pirmie apbedījumi kapos sākti 1935.gadā. Virs lielākā kapa izveidota plāksne ar Toras ruļļa attēlu. Zem tās novietoti savu mūžu nokalpojuši Toras ruļļi un senos laikos izdoti svētie raksti - tāda ir ebreju tradīcija, veidojot jaunu apbedījuma vietu. Uz kapiem ved aptuveni 30 metrus gara taciņa no Bērzu ielas.
Tepat blakus kapiem uzbūvēta dzīvojamā ēka un betona būve beit-taharas vajadzībām. Beit-taharā veic mirušo apmazgāšanu un pārģērbšanu pirms apbedīšanas. Dzīvojamā ēkā mīt ģimene, kas veic kapu sargu pienākumus un citus ar apbedīšanu saistītus darbus.