按照古代户籍划分，陈与义算不上地地道道的洛阳人——他的老祖宗本来一直居住在京兆，也就是现在的陕西西安，后来赶上安禄山造反，只得跟着唐玄宗入蜀避乱，迁居青神。后来，陈与义的曾祖陈希亮又把家搬到了洛阳。陈与义也算出生在书香门第。他的曾祖陈希亮（字公弼），官至太常卿，与苏洵父子为世交。大文豪苏东坡后来还写了《陈公弼传》作为纪念。陈与义的祖父和父亲也曾做过官，其外祖父张友正还是名显一时的书法家。 陈与义也确实给先祖争气。出生于哲宗元祐五年（公元1090年）六月的他自幼勤奋好学，博闻强志。稍长，他又学诗于当时颇有名的崔鶠（音yàn），其后进入太学深造。

　　24岁时，陈与义考中进士，随后当上文林郎。这是个闲职，负责开德府（今濮阳）的文学教育工作。陈与义干了3年后辞职，回家与一帮好友吟诗赏画，日子过得好不快活。又过了两年，他被任命为辟雍录，也就是到太学的预备学校里当老师。

　　宣和二年（公元1120年），陈与义的母亲辞世。他在汝州服丧期间，结识了州守、词人葛胜仲。两年后，由葛举荐，他入京做了太学博士。次年，他29岁时的诗作《和张矩臣水墨梅五绝》，竟被徽宗看上了。

　　陈与义自幼聪明好学，能诗文，为同辈所敬重。《宋史》本传说他“天资卓伟，为儿时已能作文，致名誉，流辈敛衽，莫敢与抗”。徽宗政和三年（1113年）登上舍甲科，被授于开德府（今河南濮阳）教授，累迁太学博士，进升为符宝郎，掌皇帝八宝及国之符节，不久被贬为陈留郡（今河南杞县境）酒税监。

　　靖康二年（1127年）四月，金兵攻入宋都汴京（今河南开封），掳走宋徽宗、宋钦宗二帝，北宋遂亡。陈与义自陈留避难南奔，经襄阳，转湖南，绕广东、建，于绍兴元年（1131年）抵南宋首都临安（今浙江杭州）。陈与义为高宗旧臣，高宗得知他的忠心，便任命他为礼部侍郎。不久，以徽猷阁直学士知湖州（今浙江吴兴）。召为给事中，参与讨论政事，抄发章疏，稽察违失，以备顾问应对。又以显谟阁直学士提举江州（今江西九江）太平观，旋而复用为中书舍人、直学士院。绍兴六年（1136年）十一月，拜翰林学士、知制诰。七年正月，授参知政事（相当于副宰相），唯师礼用道德以辅朝廷，尊主威振纲纪而呕心沥血。

　　陈与义性格沉重，不苟言笑，待人接物谦虚谨慎。被他推荐和提拔的官吏很多，他从来不向外人流露，也不向被推荐、提拔的人表白，更不提出任何要求。因此，他在士大夫阶层中具有较高的威望。朝臣们多愿向他坦露心迹或请求指正迷津。当时，丞相赵鼎在朝廷放言：“人多谓中原有可图之势，宜便进兵，恐他时咎今日之失机。”高宗说：“今梓宫与太后、渊圣皆未还，若不与金议和，则无可还之理。”丞相的意思是，多数人主张打回汴京，收复中原，若不如此，恐怕将来因失去机会而受到追究。而高宗则认为，二帝被掳，连同太后、嫔妃、宫女都在金人手里，若不议和恐难于返回。陈与义听了之后，赞成丞相的用兵，反对高宗的议和，便婉转地说：“若和议成，岂不贤于用兵；万一无成，则用兵必不免。”高宗曰：“然。”从道理上以为陈与义的话很对，但事实上他甘心于偏安江左，以求苟延残喘。陈与义看出高宗无意收复中原，他很失望，便以病托辞退职，朝廷复以资政殿学士（授予罢政宰相的职衔）知湖州，加提举临安洞霄宫（今浙江余杭西南，宋代凡执宰大臣去位者，皆以提举洞霄宫系衔）。绍兴八年（1138年）十一月病逝，终年四十九岁。