신라 탈해왕 때 호공이라는 사람이 이 숲의 나뭇가지에 황금궤가 걸려 있고 그 옆으로 흰 닭이 울고 있는 것을 발견하고, 이 사실을 탈해왕에게 알리게 되어 왕이 친히 행차하여 금궤 뚜껑을 열어보니 그 속에서 한 사내아이가 일어 나므로 왕은 하늘이 내린 아이로 알고 태자로 삼았으며, 금궤에서 나왔다 하여 성을 김이라 하고 이름을 알지라 했으며, 흰 닭이 알림으로써 태자를 얻었다 하여 원래 시림이라고 한 이 숲을 계림이라 고쳐 부르게 했다는 것이다. 

탈해왕이 돌아가자 태자인 알지는 파사에게 앙위를 양보하였다. 그 후 미추왕이 왕위에 올랐는데, 이 왕은 김알지의 7세손이며 신라 내물왕부터 신라가 망할 때까지 김알지의 후손이 나라를 다스리게 되었던 것이다.  

이 계림은 신라 김씨 임금의 시조가 태어나 숲이라 해서 신성스러운 곳으로 지금까지 내려오고 있다. 비각내의 비는 조선 시대인 순조 3년(1803)에 세운 것으로 김알지의 탄생에 관한 기록을 세웠다.