王僧虔的伯父是太保王弘，也是南朝宋的宰辅重臣。有一回，王昙首兄弟的各个子孙在一起聚会，其他的孩子都在奔跑、打闹、玩游戏，王僧虔当时才几岁，却独自正儿八经地坐在那里采蜡烛上的珠子制作凤凰，王弘看见后说：“这孩子早晚是要做大官的。”王僧虔还不到二十岁时，就养成了弘厚的性格，而且善于写隶书。宋文帝看到他书写的白绢扇面，赞叹说：“不仅墨迹超过了王献之，而且器度高雅更胜一筹！”于是任命他为秘书郎，太子舍人。王僧虔平时为人谦让，但不喜欢与人交往，只和袁淑、谢庄关系比较投机。他后来又转任义阳王文学，太子洗马，迁任司徒左西属。
王僧虔的哥哥叫王僧绰，是宋文帝的心腹大臣，太子刘劭跟始兴王刘睿两人用巫术诅咒皇上的事情暴露后，王僧绰力劝宋文帝马上罢黜太子，但宋文帝优柔寡断，最后被刘劭所杀，王僧绰也因此被害。王僧绰被害的时候，亲戚朋友都劝王僧虔逃避一下，王僧虔则流着泪说：“我的哥哥他为国家忠贞不渝，对我慈爱非常，他今天被害，我只恨不能见他一面。如果能和他同归九泉，那便好比成仙升天一样呀！”还有一次，他哥哥的儿子王俭在路上生了病，王僧虔为此担忧的废寝忘食，同行的宾客都来劝慰他。王僧虔说：“当年马援用同样的感情对待儿子和侄子，邓攸对待弟弟的儿子更超过自己所生，我的心情和他们相同，与古人的确没什么不同。王俭是我死去的哥哥的后代，不应有任何忽视。如果此儿不得救治，我便要回舟辞职，哪还有兴致出来做官啊！”大家都被他的忠义所感动。
到了孝武帝初年，王僧虔出任武陵太守，后被调回京城任中书郎，转任黄门郎，太子中庶子。孝武帝刘骏也很喜欢书法，一心想要在书法界获得很高的名誉。为此，王僧虔就很少显露自己的真实的书法水平，他常常故意用不好的毛笔书写，以此来满足孝武帝的虚荣心，孝武帝就让王僧虔出任了豫章王刘子尚的抚军长史，迁散骑常侍，又任新安王刘子鸾的北中郎长史、南东海太守，行南徐州事，这两个蕃王都是孝武帝最心爱的儿子。
后来王僧虔又移任会稽太守，当时南朝宋著名的奸臣阮佃夫的家在会稽，他正好请假在家中。王僧虔的宾客们考虑到阮佃夫在朝廷正是大红大紫的时候，就劝王僧虔去拜访他，王僧虔说：“我的为人有自己一贯的操守，岂能曲意奉承这样的人物？如果他要对我表示不满，我便拂衣而去就是了。”阮佃夫知道后，果然在宋明帝跟前说了不少王僧虔的坏话，还让人弹劾王僧虔说：“王僧虔以前在吴兴任上，就有过许多错误行为，现经调查在他到会稽上任后，任用私人500多人，应当责承有关部门核实后予以削减。”王僧虔因此而被免去官职。不久，王僧虔又以白衣的资格兼任侍中，出监吴郡太守，又迁任使持节、都督湘州诸军事、建武将军、行湘州事，继而转任辅国将军、湘州刺史。由于他为官清正，爱民如子，所以他治下的百姓都很喜欢他。
公元479年，萧道成登基建立南齐帝，王僧虔转任侍中，抚军将军，丹阳尹。第二年，又晋升为左卫将军，他坚决辞让不接受，朝廷就改任他为左光禄大夫，侍中、尹等职仍旧。当时郡县的监狱中经常利用中药的汤剂来杀死囚犯，所以监狱的管理很混乱。王僧虔上疏萧道成说：“药汤本是用来救病的，现在有人用它来实施暴行，甚至有人用它来泄私愤。如果犯人罪当死刑，自有国家正当的执法；如果说为了治病用医也应事先启奏上级。那里有犯人的死生大事，由监狱里偷着处理的道理？我以为给囚犯治病，必须先打报告向郡里请示，找有关负责人和医生共同会诊确认；偏远的县份，则由家人来省视后，再作处理。这样可以使死者不恨，生者无怨。”萧道成采纳了他的建议。
萧道成也很喜欢书法，有一次和王僧虔比赛后对他说：“谁是第一？”王僧虔说：“在人臣中我第一，在皇帝中陛下您是第一。”皇上笑道：“你真算是善于为自己谋划了。”王僧虔和萧道成的这个故事，经常被用于现代管理的培训课程中，在现代的沟通理论中，有一种定律叫做古德定律，它是由美国的心理学家P.F.古德提出来的。定律的内容是说成功的沟通，是靠准确地把握别人的观点来完成的。在上面的故事里，萧道成提出的这问题是比较难回答，说高帝的字比自己的好，是违心之言；说高帝的字不如自己，又会使高帝的面子搁不住，弄不好还会将君臣之间的关系弄得很糟糕。而王僧虔的回答很巧妙，中国的皇帝就那么几个，而臣子却不计其数，王僧虔的言外之意是很清楚的。而萧道成既领悟了其中的言外之意，又满足了他的虚荣心，堪称是中国古代君臣沟通的千古佳话。
王僧虔一生为官清简，无所欲求，也不经营财产。齐世祖萧赜做皇帝后，王僧虔由于患风疾打算上表请求解职，正赶上世祖任他为侍中、左光禄大夫、开府仪同三司。有一回，王僧虔和少年时代的朋友随从及宗族的人聚会，有客人相面说：“王僧虔的爵位最高，官可以做到三公，其他人都赶不上呢。”后来他果然被授予三公，王僧虔对兄子王俭说：“你在朝中受到重任，不久将会享受三公一级的待遇，我如果再接受这个职位，一门中便有二个高级大臣，实在可怕呀。”于是坚决辞让不接受，世祖知道原因后也就批准了他的请求。宾客中有人问他坚决辞让的动机，王僧虔说：“君子担心的是没有德行，而不是担心没有宠幸。我衣食满足，荣位已过，只惭愧平庸浅薄没什么好报答国家的，岂能再接受更高的爵位，在官职上遭人指骂呢？”后来他哥哥王僧绰的儿子王俭成了朝廷的宰臣，他建造了长梁斋，规模稍有过分，王僧虔看了就很不高兴，怎么也不肯进他的门，王俭就立即将此斋拆除了。公元485，王僧虔去世，死时六十岁。朝廷追赠他为司空，侍中仍旧，谥号为“简穆”。
因为王家人对教育的重视，所以王僧虔的两个儿子也都是南朝有名的书法家。他的长子叫王慈，七岁时，外祖父江夏王刘义恭将他带到正厅，拿来各种宝物，让他随意取拿。王慈只拿起一张素琴画的孝子图。王慈十岁时，和跟他一般大的小孩蔡约到寺庙去拜佛。正赶上和尚们在佛前忏悔。蔡约调戏僧人说：“众位僧人今天在这里干什么呢？”王慈应声答道：“你这样不懂礼仪，怎么去振兴蔡家的宗门？”。还有一次谢超宗看到王慈学习书法，问他：“你的书法与王僧虔比较怎么样？”王慈答：“我的书法和家父比较，就象拿鸡跟凤凰比一样啊！”谢超宗自讨没趣。王慈的墨迹有《柏酒帖》、《汝比帖》等存世。王僧虔还有一个儿子叫王志，也是为人笃实谦和，善草隶，他的字被当时的人作为了学习的摹本，代表作有《喉痛帖》。
据说到了武则天万岁通天二年，王家的后人王方庆献出他十一代祖王导，十代祖王羲之、王荟，九代祖王献之、王徽之、王珣，一直到他曾祖父王褒，王家一门二十八人的墨迹珍本十卷献出，武则天在武成殿展示给群臣看，然后命中书舍人崔融做了《宝章集》，以记录这件事情，并把它赐给了王方庆。唐摹的《王羲之一门书翰》十卷二十八人书，在唐代被称为《宝章集》，原本久已亡佚。后来到了南宋时，文学家岳珂写了一首叫《万岁通天帖赞》的诗歌颂此事，后人就把《宝章集》叫做《万岁通天帖》了。《万岁通天帖》后来传之于世的都是摹本，摹本在流传过程中两次遭火劫，一次是明代无锡华夏真赏斋大火，一次是清乾隆年间乾清宫大火。最后仅存王羲之等七人的十帖墨宝，现藏于辽宁省博物馆。《万岁通天帖》剩下的十帖是：王羲之的行书《姨母帖》；王羲之的草书《初月帖》；王荟的行草书《疖肿帖》；王荟的行草书《翁尊体帖》；王徽之的行书《新月帖》；王献的行楷《廿九日帖》；王僧虔的行楷《太子舍人帖》；王慈的行草书《柏酒帖》；王慈的草书《汝比帖》和王志的行书《喉痛帖》。欲知后事如何？且听下回分解。