北投溫泉博物館前身為「北投公共浴場」，由日治時期的台北廳長井村大吉下令擘劃，總督府建築設計師森山松之助監造，完工於1913年(大正二年)6月17日，為和洋折衷風格的雙層建築，亦為當時東亞最大的溫泉公共浴場。一樓浴池區為磚造，二樓休憩區為木造，入口處位於二樓。

該浴場運用當時台北州廳在公共衛生方面的經費，仿照日本靜岡縣伊豆山溫泉浴場所建。二樓休憩區設有涼亭、換鞋玄關，以及可供遊客泡湯後乘涼的榻榻米大廳。大廳旁另有一突出平台「望樓」，可在此欣賞北投山光水色。此外室內也販售餐點飲料，有時甚至安排藝文演出。1923年(大正12年)日本皇太子裕仁抵台視察，亦曾至北投參觀公共浴場與考察溪中的北投石。為此浴場還在二樓增建「御休所」供其休憩，其位置就在現今溫博館的視聽室。

日治時期，湯客下樓梯後可至一樓浴池區更衣泡湯(目前已作為博物館不提供泡湯服務)。一樓最主要的特色就是以服務男賓為主、由圓拱列柱圍起的羅馬風格大浴池，以及浴池外側迴廊牆上的鑲嵌彩繪玻璃窗花，兩者一同塑造出極為明亮華麗的沐浴氣氛。大浴池另一側則有小浴池，為當時為女性與兒童泡湯的場所，此外還另設有獨立的浴室和休息間供重要賓客使用。整體而言，北投公共浴場可謂北投溫泉發展史上極重要的公共休閒娛樂場所。

第二次世界大戰後，公共浴場曾作為中山堂、台北縣議會招待所、民眾服務處、民防指揮部與光明派出所等使用，因管理單位更迭而終至荒廢。直到1994年，一群北投國小師生在鄉土校外教學的過程中，發現形同廢墟的北投公共浴場。為保存古蹟及空間再利用，這群孩子、社區居民及文史工作者一同發起連署陳情書，希望保留浴場。歷經不斷的溝通與協調，北投公共浴場終於在1997年經內政部公告為三級古蹟 (現為市定古蹟)，1998年10月31日在地方熱心居民與臺北市政府的斥資整修下，以「北投溫泉博物館」之名正式重新開放使用。