平涼市博物館前身是平涼地區博物館，成立于1979年。1985年從平涼地區群眾藝術館分出搬到明代韓王紫金城延恩寺的舊址寶塔梁上。2002年平涼撤地設市后，正式改名為平涼市博物館，為國家公益性全額撥款文化事業單位，機構規格為科級，主要職能是文物收藏、管理、鑒定、研究及考古發掘等。隸屬平涼市文化廣播影視新聞出版局，館藏有青銅器、陶瓷器、金銀器、玉器、石器、壁畫、書畫和皮影等10個種類的國家珍貴文物一萬多件，是一處集歷史文物、旅游觀光、休閑娛樂于一體的綜合性博物館。
　　2004年平涼市博物館被財政部、國家文物局確定為全國博物館館藏文物保存環境標準化達標試點單位。歷經一年，建成了基礎設施和設備一流的標準化文物庫房、文物陳列室、文物養護室和信息資料中心，安裝了全自動化的空調與溫濕度控制系統、高智能的安防報警系統和消防預警系統，同時，從全市數萬件文物藏品中精心篩選出500多件精品文物，推出了《文華物寶》——平涼歷史文物精品展和《絲路遺珍》——平涼佛道教文物藝術展兩大展覽。2005年4月28日正式開館后，優雅和諧的場館環境、特色鮮明的精品陳列、全新的科技管護手段，受到社會各界的普遍稱贊，獲得文化部“全國公共文化設施管理先進單位”、團中央“中國青少年社會教育‘銀杏獎’——優秀團隊”榮譽稱號，是甘肅省“愛國主義教育基地”，也是平涼市“中共黨史教育基地”和“科普教育示范基地”，成為在全國具有一定知名度和影響力的標準化地市級博物館。
　　2008年4月25日，平涼市博物館向社會免費開放以來共接待觀眾近30萬人。