Legelőször 1923. december 16-án, a közgyűlésen merült fel, az első világháborúban elhunyt polgárok emlékére emlékművet állítsanak, a tervet Dr. Sztranyavszky Sándor, Nógrád és Hont vármegye főispánja terjesztette elő, a költséget adományokból gyűjtötték össze. 1925-ben a város megvásárolta a szobor kicsinyített bronzmását, ami máig a Városházán, a polgármester asztalán található. Az emlékmű körül vitát váltott ki, hogy felkerüljön-e az elhunytak nevei vagy nem, végül a nevek nem kerültek fel, aminek két oka is volt. Egyrészt nem sikerült összeállítani a háborúban elesett balassagyarmatiak teljes névsorát, másrészt a szóba jöhető 400-600 név jelentősen megemelte volna a költségeket. Az oroszlán eredeti anyaga eredetileg bronz lett volna, de a költségekbe ez nem fért bele, ezért mészkő lett az anyaga, amit sötétbarnára lefestették, hogy bronz hatása legyen.

A szobrot 1929. október 20-án adták át a Vármegyeháza melletti téren, a Kisvármegyeháza helyén, amit az I. világháború alatt elbontottak, az avatáson jelen volt Horthy Miklós kormányzó is. Állítólag több probléma is volt az avatáson. Egyik, hogy segítség kellett a lepel lehúzásához, mert nem akart az lejönni, a másik, az ünnepségen eleredt az eső, és lemosta a szobor sötétbarna festését.

A szobrot 1937-ben át kellett helyezni a Palóc ligetbe, mert a vármegye a helyére álltatta Madách Imre szobrát.

Az 50-es években az emlékmű pajzsát szétverték, a szöveget megrongálták. 2006-ban a Jobbik helyi szervezete kezdeményezte a szobor helyreállítását, amit ők el is vállalták, ekkor meszelték fehérre.

Újabb felújításon esett át 2016 februárjában, az önkormányzat a világháború centenáriuma alkalmából archív fotók és Keviczky Hugó makettje alapján pótolták az oroszlán hiányzó részeit.

---