До 200-річчя Полтавської битви, в 1909 році, біля Сампсоніївської церкви за ініціативою викладача історії Петровського Полтавського кадетського корпусу, відомого дослідника історії Полтави Івана Францовича Павловського був споруджений невеликий одноповерховий будинок для музею Полтавської битви на Шведській Могилі. Участь у його створенні взяв голова комісії з організації святкування 200-річчя Полтавської битви генерал від кавалерії барон О.О.Більдерлінг. Першим завідувачем музею став І.Ф.Павловський. На 1910 рік колекція музею нараховувала 339 експонатів.

У 1910 році до будівлі були прибудовані дві бічні частини. За стилістико-композиційним рішенням будинок музею мав форми давньоросійського фортечного будівництва.

У 1917-1918 рр., після декількох пограбувань червоноармійцями, І.Ф.Павловський змушений був закрити музей. Щоб зберегти решту колекції, 1920 року він передав експонати до Центрального Пролетарського музею Полтавщини (нині Полтавський краєзнавчий музей), де вони обліковувалися як збірка «Полтавська баталія».

У радянський час головна вхідна група та декоративні башточки на фасадних кутах основного об’єму будинку були зруйновані. Приміщення певний час використовувалось під клуб та господарчі потреби.

У 2009 році було проведено реконструкцію будинку першого музею.