秦王政二十五年（公元前222年），秦将王翦平定江南，在吴越两国旧地建会稽郡。郡内建县，其中以颜乌墓所在的今稠城为中心设邑。由于孝子颜乌因葬父而死，血诚格天，影响很大，因而根据颜乌葬父而献出生命这一事迹，将县名命名为“乌伤”，旨在旌表颜乌孝德。

西汉末年，王莽建新朝，于建国元年（公元9年），将乌伤县名改为“乌孝”。可是只使用16年，刘秀建东汉，建武元年（公元25年），东汉王朝又恢复乌伤旧名。

三国吴宝鼎元年（公元266年），分会稽郡置东阳郡（郡治在长山，即今金华市区），辖乌伤。

唐高祖武德四年（公元621年），朝廷将乌伤县从婺州（今金华）分出，并升为州的建制，州名绸（今通作稠）州，与婺州并列。武德七年（公元624年），绸州州制撤销，乌孝、华川两县合并，定名义乌，一直沿用至今。 1949年后，义乌县隶属金华专区（现在的金华市和衢州市范围）

1960年1月浦江县建制并入义乌县，1966年12月又从义乌县析出浦江县。

1985年金华地区（1968年金华专区改）撤消，分设金华、衢州两市。义乌始隶属金华市。

1988年5月，义乌撤县建市，成立义乌市。