סכסוך עם שכן מהבנין הסמוך לשלנו

בבנין הסמוך לבנין שלי יש אדם מסוים שכל הזמן גונב מהבנין שלי חפצים שונים כמו עציצים ענקיים לנוי, מנורות צבעוניות, שתילים, מרבדים לניקוי נעליים בכניסה לבנין וכו' הוא טוען שהוא לא עושה שום דבר רע ובמקום אלו שלקח לבנין שלו הוא מוכן להביא תחליפים אחרים כפיצוי, אך לא להחזיר את מה שלקח.
השכן הזה טוען שלא כדאי להתעסק איתו כי האחים שלו הם מהעולם התחתון, ולכן כדאי לנו לשתוק.
אנחנו פוחדים לרכוש דברים חדשים לבנין, כי כולם מפחדים להתעסק איתו.
מה נותר לנו לעשות.

הפעולות המתוארות הן עבירות פליליות, ולכן באפשרותכם להתלונן במשטרה הן על כל הגניבות (שהוא אף הודה בהן, לדבריך) והן על האיומים.
או.... שתתקינו דלת עם אינטרקום...