În curtea muzeului se afla Lapidarium ce cuprinde piese de arhitectura şi cult din diverse epoci. Sunt de remarcat piesele de epoca romana aduse de la Durostorum şi stela funerară de la Oraşul de Floci. În Lapidarium mai sunt expuse râşniţe din diverse epoci, ancore, precum şi o mină marină din primul război mondial.

Una dintre cele mai reprezentative piese este stela funerară de calcar, provenita din centrul militar si urban roman de la Durostorum. Interesul special prezentat de aceasta inscripţie consta în menţionarea unui veteran, Iulius Iulianus, fost călăreţ al legiunii XI Claudia.