Na terenie Augustowa funkcjonowały co najmniej dwa cmentarze żydowskie. Jak wynika z "Księgi Pamięci Augustowa", stary cmentarz założono przy dzisiejszej ul. Waryńskiego. Obecnie fragment dawnej działki cmentarnej jest ogrodzony, wewnątrz znajduje się współczesny pomnik z napisem: "Cmentarz żydowski".
Drugi cmentarz żydowski w Augustowie założono około 1820 r. (według innych źródeł w 1800 r.) w pobliżu jeziora Necko, przy obecnej ul. Zarzecze. W wyniku dewastacji do dziś na jego terenie zachowały się jedynie pojedyncze macewy. Na wydzielonym fragmencie nekropolii urządzono niewielkie lapidarium, do budowy którego wykorzystano nieliczne odnalezione nagrobki. W centralnej części lapidarium wzniesiono stylizowany na macewę pomnik z napisami w języku hebrajskim, polskim i angielskim: "Miejsce poświęcone. Na tym cmentarzu spoczywają tysiące Żydów, mieszkańców Augustowa i ziemi augustowskiej. Niech ich dusze będą związane w wieniec życia wiecznego. Fundatorzy: potomkowie rodzin pochodzących z Augustowa: Sokolski, Gradowski, Lewinson, Słowatycki. Wszyscy ci ludzie pochowani są w ziemi świętej, którą czcimy". W pobliżu znajduje się niewielka tablica z napisem w języku angielskim o treści: "Ku pamięci członków naszych rodzin, którzy zginęli podczas Holocaustu, nigdy nie doświadczyli pełnego i radosnego życia, żyjących przed odbudową ludu żydowskiego w kraju Izraela. Niech ich pamięć na zawsze będzie błogosławiona. Niech ich dusze znają tylko pokój. Umieszczono tu w dniu 17 sierpnia 2002 r., który odpowiada 9 elul 5762 r. przez członków rodzin: Weinberg (Szumski), Powombrowski, Rean (Rynkowski), Warsman, Fish Bein, Zakowski, Sinklair i Rosen".
W ostatnich latach lapidarium było kilkakrotnie bezczeszczone. Na macewach pojawiły się namalowane farbą swastyki, potłuczono także tablicę memoratywną.