上虞在公元前222年（秦王政二十五年）就建县了，当时县治设在百官镇。唐长庆二年（822年）迁至丰惠镇，丰惠镇自822年至1954年为县城。今县政府所在地又在百官，但镇已改称街道，县亦改市。
不过“上虞”的名称在建县之前早就有了，其来历同“三王五帝”中的舜帝有关。
《水经注》引《晋太康三年地记》云：“舜避丹朱于此，故以名县。百官从之，故县北有百官桥。亦云，舜与诸侯会事讫，因相娱乐，故曰上虞。”
这里“舜避丹朱”之事发生在尧死之后，尧把帝位禅让给舜①，作为尧长子的丹朱（因尧把女儿娥皇、女英嫁给舜，丹朱也便是舜的舅老爷）纠集贵胄子弟向舜发难（作乱），舜没有平乱而作出了“避”的决策，“天下诸侯朝覲者，不之尧子而之舜”，文武百官跟舜来到了上虞这个地方，所以有百官桥、百官镇地名。而“虞”通“娱”，“上虞”按现在的解释便是“皇上娱乐”的意思。
“虞”字的这种解释是否一定正确也是值得怀疑的。因为舜又叫虞舜（唐尧虞舜），上虞既然由舜而来，那么这个“虞”是否就是虞舜的“虞”呢？虞舜本姓姚，名重华，字都君，虞为部落氏族之名，舜为谥号（有仁圣贤明之意）；当年姚老先生把“虞”的名称带到一个逃难落脚的地方，也不是没有可能。
上虞的山水统称虞山舜水，都与舜有关，舜江（即曹娥江）、小舜江、舜井含有舜的名；上虞的大象公园（象耕公园），也与舜有关，传说舜帝孝感动天，大象为之耕田；还有，上虞姚庄的姚姓居民都自认是舜的后裔。不过上虞并不是舜的人生终点，《孟子》说“舜生于诸冯，迁于负夏，卒于鸣条”，舜是死在湖南九嶷山的，那里有舜帝陵在。
①关于尧舜禅让，《史记》中说：“尧知子丹朱不肖，不足授天下，于是乃传授舜。”而实际上，尧最先看好的是巢父与许由，因二人坚决不受，继续访贤才得虞舜。
评论