隨著國家經濟建設和各項事業的蓬勃發展，對計量科技人才提出了迫切需求。1978年9月10日，國家計量總局向國務院申請提出籌建計量學校；10月5日，國務院批轉國家科委《關于國家計量總局工作任務和機構設置的報告》，批準國家計量總局在杭州籌建計量學校，目標是為全國培養既有一定理論基礎、又有較好實際操作技能的計量技術人員。

1979年7月27日，國家計量總局批文同意浙江省標準計量局代擬的《杭州計量學校基本建設計劃任務書》，杭州計量學校定為中等計量專業學校，學校暫先設置長度、熱學、力學、電磁、無線電計量五個專業，學制四年，面向全國招生，畢業后全國分配，在校學生1200人，教職工300人；學校直屬國家計量總局，實行以總局領導為主的總局和浙江省雙重領導體制；成立籌建處，負責學校基建工作。

1979年9月1日，杭州計量學?；I建處印章正式啟用，開始辦公，辦公地點設在曙光路黃龍洞口浙江省標準計量局內。學校干部、人事、黨務工作暫由浙江省科委黨組代管，其他業務工作由浙江省標準計量局代管。

1980年7月2日，杭州市規劃局同意，杭州計量學校校址定點在西湖區古蕩公社境內和尚圩（教工路以西，天目山路以北）。

隨著國家經濟建設和改革開放的發展，中等專業學校已不能適應形勢發展的需要。1982年，國家計量總局多次向國家計委、教育部提出籌建計量測試學院、培養高級計量科技人才的報告。1983年5月10日，教育部（83）以教計字79號文，同意國家計量局原籌建的杭州計量學校改建為杭州計量測試?？茖W校，設置幾何量計量與測試等五個專業，學校規模750人，實行由國家計委和浙江省人民政府雙重領導，以國家計委為主的領導體制。

1983年12月，國家計量局請示教育部和國家計委，要將原批準的“杭州計量測試?？茖W?！毙Ｃ臑椤坝嬃繉？茖W?！辈⒄浇ㄐ?，于1984年秋季正式招生。

1984年2月6日，教育部以（84）教計字016號文，通知國家計量局，同意計量專科學校正式建校并招生。學校建在杭州市，設置幾何量計量與測試、電磁計量與測試、力學計量與測試、電子計量與測試、熱工計量與測試五個專業，學校規模750人；學校由國家計量局、浙江省雙重領導，以國家計量局為主。6月1日，計量?？茖W校印章正式啟用。

1984年8月，計量?？茖W校招收首批大專學生257人。1985年8月，招收首批函授?？茖W生136人。

1985年3月16日，國家計量局基于計量科技隊伍知識老化、高級計量科技人才嚴重匱乏，向教育部提出建立本科學院；5月16日學校正式向教育部呈報了《關于建立中國計量學院的申請報告》。經過嚴格的論證評審，1985年10月18日，國家教委以（85）教計字134號文，通知國家計量局、浙江省人民政府，批準建立中國計量學院。中國計量學院以計量專科學校為基礎建立，繼續實行國家計量局與浙江省人民政府雙重領導、以局為主的領導體制；學院發展規模為3000人；在發展規模中，?？粕３忠欢ū壤槐?、?？频男迾I年限為：本科四年、專科二年。

1986年8月，中國計量學院根據國家教委批準的幾何量計量測試、力學計量測試、熱工計量測試、電磁測量及儀表、無線電計量測試五個專業，招收首批本科學生200名。

1986年10月，中共中央總書記胡耀邦同志為學院題寫校名“中國計量學院”。

1988年9月，學院與中國計量科學研究院聯合招收首屆研究生5名；1989年10月，首次招收2名法國留學生。

2000年5月，經國務院批準，學院由國家質量技術監督局管理為主調整為“省部共建、以省為主”的管理體制，納入浙江省高等教育發展總體規劃。同年，學院制定了到2005年全日制本科在校生規模達到12000人的規劃；學院取得浙江省人民政府重點扶持，首批進入下沙高教園區辦學，新校區征地面積1180畝，投資5.35億元，規劃建設校舍面積21萬平方米。

2001年，學院制定了《中國計量學院十年發展規劃（2001-2010年）》，提出“到2010年，把學校建設成以質量監督檢驗檢疫為特色，多學科協調發展、教學研究型的浙江省重點大學”的發展目標。

2003年8月，學院整體搬遷至下沙高教園區辦學。9月，經國務院學位委員會批準，新增列為碩士學位授權單位。

2016年3月1日，教育部發文《關于同意中國計量學院更名為中國計量大學的函》，同意中國計量學院更名為中國計量大學，學校系多科性本科學校，以本科教育為主，同時承擔研究生培養任務。3月28日，浙江省人民政府發文通知，中國計量學院更名為中國計量大學。4月6日，中國計量大學新校名正式啟用。