西周末年，周宣王封申伯於謝邑（即今河南南陽一帶），建立申國，申国被楚國滅亡後，後申伯子孫以「謝」為氏。
三國時，太學生謝纘在曹魏司馬懿部下任典農中郎將，遷居陳郡陽夏縣都乡吉迁里（今河南省太康县），遂以陈郡为郡望。
西晉時，謝纘之子謝衡為國子祭酒。东晋初年，謝衡之子谢裒为儿子谢石向琅琊诸葛氏求婚，被诸葛恢拒绝，可見陳郡谢氏在东晋初年还只是一个普通士族。直至谢万出仕，掌握了豫州之后，方才开始崛起，可谢万也被阮裕鄙视，称其为暴发户[2]，直到淝水之战，谢氏所领北府兵以少胜多后，东晋政府追论功绩，追封谢安为庐陵郡公，封谢石为南康郡公，谢玄为康乐县公，谢琰为望蔡县公，陈郡谢氏一门四公，奠定了一流士族的地位。
陈郡谢氏的主要功绩，为領導北府兵，淝水之战之中以少胜多，打敗了前秦苻堅，保全了东晋江山。淝水之战之后，谢氏子弟开始隐退，较少参與實際政治。但仍旧保持了最高门第的地位不坠。自东晋至蕭梁(317年－557年)，谢氏共有13代、100余人见于史传，其门第之高，连皇帝有时也不得不借助于他们的影响力。谢氏拥有大量资产，子弟也大多才华出众，被视为士族领袖，前后一百餘年。