김유신은 금관가야의 마지막 임금인 구형(仇衡)왕의 증손으로 595년 충북 진천군의 태령산 아래에서 태어난다.

구해왕의 아들인 무력은 진흥왕을 도와 백제를 한강 유역에서 몰아내는 데 큰 공을 세운다. 무력은 진흥왕이 한강 하류 서해안 일대를 통치하기 위해 553년 새로 설치한 신주(新州)의 군주(軍主)가 된다. 

무력은 빼앗긴 땅을 탈환하기 위해 공격해 온 백제군을 크게 물리치는데 이 과정에서 성왕을 사로잡아 참수하고 백제-가야-왜의 연합군 2만 9600명을 참살한다. 구형왕의 손자이자 무력의 아들인 서현 또한 여러 전쟁에서 큰 업적을 거둬 금관가야 왕족이 신라에서도 명문가로 자리잡는 데 한몫을 하는 대장군인데, 젊은 시절에 만노군(충북 진천) 태수로 근무한 경력이 있다. 김유신은 서현의 아들이다.

611년, 김유신은 중악(中嶽)으로 들어간다. 중악이 어디인가에 대해서는 사람마다 분분한 의견들을 내놓고 있지만 경주 건천 단석산이라는 설이 다수의 지지를 얻고 있다. 단석산은 이름 그대로 김유신이 칼로 바위[석石]를 자른[단斷] 산이다.

660년, 김유신은 상대등이 된다. 상대등이라면 귀족회의 의장이면서 지금의 국무총리에 해당하는 직책이다. 이 해 6월 21일 김유신은 백제 공략을 위한 구체적 전략을 수립하기 위해 서해의 덕적도로 간다. 7월 9일 김유신 부대는 황산벌에서 계백과 마주치고, 이윽고 7월 18일 의자왕은 백기를 든다. 동악 석굴에 들어가 삼한통일을 염원하는 기도를 올렸던 김유신의 소망이 마침내 그 결실을 맺는 첫 순간이다.

소정방은 사비성 언덕에 진을 구축하고 호시탐탐 신라를 공격할 기회를 노린다. 진작에 당나라의 그같은 내심을 꿰뚫어본 신라는 당군에 맞먹는 규모의 군대를 이끌고 백제 땅에 와 있었다.

그러므로 김유신은 거리낌없이 무열왕에게 건의한다.

“나라의 어려움을 당하여 어찌 스스로를 돌볼 계획을 세우지 않겠습니까? 대왕께서는 결심을 하소서.”

당과 일전을 하자는 주장이다. 물론 유신의 이 말은 신라가 당과 전쟁을 불사할 태세를 다 갖추고 있음을 소정방에게 알리려는 계획된 발언이다. 밤낮으로 암약하는 간첩들이 자신의 말을 즉각 당군에게 옮겨준다는 사실을 유신은 너무나 잘 알고 있었던 것이다.

662년 1월, 쌀 4천 섬과 벼 2만2천 섬을 실은 수레 2천 대와 군사들을 이끌고 김유신은 임진강에 도착한다. 이미 고구려 땅으로 들어선 것이다. 하지만 한 달 이상 내린 궂은비가 눈보라로 변해 동상자가 속출하는 지경이었으므로 임진강 안으로 들어가려는 장졸이 없었다. 나이 68세의 노장 김유신은 “죽음이 두렵다면 어찌 이곳까지 왔는가?” 하며 앞장서서 강을 건넜다. 그러자 장졸들이 뒤를 따랐다.

평양으로 가는 곳곳에서 고구려 군대를 물리치며 이윽고 김유신은 대동강이 지척인 곳까지 이른다. 평양성과의 거리는 3만6천 보(약 50km) 정도. 오랫동안 평양성을 포위하고 있었지만 추위와 굶주림에 못 이겨 죽음 직전까지 몰렸던 소정방 군은 김유신 부대의 지원에 힘입어 간신히 목숨을 부지하게 되고, 당나라로 철수하는 데 성공한다.

결국 이 전쟁 뒤인 668년 5월 연개소문이 죽고 고구려는 내분을 겪다가 나당 연합군의 공격을 물리치지 못한 채 그해 10월 멸망한다.

이 전쟁의 대총관은 김유신이었다. 그러나 74세의 고령에다 와병 중이었던 김유신은 이 전쟁에서 직접 칼을 휘두르지는 못했다. 다만 전쟁이 끝난 후 논공행상을 하면서 문무왕이 “그는 나가면 장수의 일을 하였고, 들어서는 재상의 일을 하였으니 그의 공적이 매우 크다. 만일 공의 한 가문에 의지하지 않았다면 신라의 흥망은 알 수 없었을 것이다”라고 공언하며 태대각간의 벼슬을 내린 데서도 확인되듯이 김유신은 일통삼한의 최고 영웅이었다.

673년 7월, 김유신은 79세를 일기로 사망한다. 김유신이 병으로 자리에 누워 있자 문무왕은 그를 집으로 찾아가 문병한다. 왕이 신하의 집을 찾아가 문안을 한다는 것 자체도 대단한 파격이지만, 문무왕과 김유신이 나눈 대화가 더욱 대단하다.

“과인에게 장군이 있음은 물고기에게 물이 있는 것과 같습니다.”

“대왕께서 의심하지 않고 신을 등용하여 의심 없이 임무를 맡겨주셨으므로 약간의 공을 이루었을 뿐입니다. 소인배를 멀리 하시고 군자를 가까이 하시고, 위로는 조정이 화목하고 아래로는 백성과 만물이 평안하여 나라의 기틀이 무궁하게 된다면 저는 죽어도 여한이 없겠습니다.”

임금과 신하의 사이가 이와 같았으니 내분으로 저절로 곪아간 백제와 고구려가 어찌 신라를 이길 수 있었으랴. 김유신이 죽자 문무왕은 크게 애통해 하며 채색 비단 2천 필, 벼 2천 섬을 부의로 보내 장례에 보태게 하고 군악대 100명을 보내 식을 엄숙히 치르도록 한다.

김유신은 노쇠한 몸임에도 불구하고 당나라 군대를 몰아내어 한강 이북의 고구려 땅을 되찾은 후, 673년 7월 병세가 악화되어 병문안을 온 문무왕에게 당부의 말을 남기고 죽었다. 이때 그의 나이 79살이었다. 문무왕은 김유신의 죽음을 크게 슬퍼하며 비단 1천 필과 조 2천 석을 내려 장례식에 쓰게 했으며, 군악의 고취수 100명을 보내주었다. 또한 금산원에 장사를 지내게 하고 신하들에게 명하여 비를 세워 공명을 기록하게 했으며, 그곳에 민호를 정착시켜 김유신의 무덤을 지키게 했다. 835년에는 흥무대왕(興武大王)으로 추존되었다.