김상용은 선조 23년(1590) 증광문과(增廣文科)에 병과로 급제하였으며, 임진왜란 때 강화 선원면 선행리로 피난하였다가 양호체찰사(兩湖體察使) 정철(鄭澈)의 종사관이 되어 왜군 토벌과 명나라 군사 접대에 공을 세워 선조 31년(1598) 승지로 발탁되었고, 성절사(聖節使)로 명나라에 다녀왔다. 인조반정 뒤, 판돈영부사를 거쳐 병조, 이조, 예조의 판서를 역임하였으며, 정묘호란 때에는 도류대장(都留大將)으로 서울에서 지냈다. 병자호란이 발발하고 1637년 청나라가 강화에 침입해오자 김상용은 남문에 올라 화약궤를 끼고 자폭하였다.
그 바로 직전에 계하에 있던 사람이 그에게 “배를 마련하여 급할 때 대비하십시오” 하고 말했거늘, “전하께서 적에게 포위당해 계시어 안후를 알 수 없고, 종묘사직과 원손께서 모두 여기 계신데 만약에 불행한 일이 있으면 죽을 뿐이요, 어찌 살기를 도모한단 말이오” 하며 응하지 않자 누구도 더이상 말을 하지 못하였다. 그리하여 여러 사람들이 그의 뒤를 따르고자 하였으나 모두 물러가라고 외치고 서손(庶孫)인 수전(壽全)과 종자 한 사람이 끝내 물러가지 않았으며, 별좌(別坐) 권순장, 생원 김익겸(金益兼)이 함께 죽겠다고 애원하므로 하는 수 없이 묵인한 다음 담뱃대의 불을 화약궤에 붙이니 천지를 진동하는 굉음과 함께 누각은 공중으로 산산히 날아가고 사람 또한 자취도 없이 사라졌다.
난이 평정된 후 정려문(旌閭門)이 세워지고 영조 34년(1758)에 영의정에 추증되었다. 강화 충렬사를 위시해서 양주 석실서원, 정주 봉명서원, 상주 서산서원, 정평(定平) 모현사(慕賢祠)에 배향되었다. 시호는 ‘문충(文忠)’이다.