김 이사장은 전북 고창 출신으로 전남고와 서울대 법대를 졸업했다.

1977년 19회 사법시험에 합격해 1982년 대전지법 판사를 시작으로 대법원 재판연구관, 정읍지원장, 서울중앙지법 부장판사, 특허법원·서울고법 부장판사, 청주지법원장, 서울남부지법원장, 특허법원장, 사법연수원장 등을 지냈다.

2012년 9월 헌법재판관에 임명된 그는 2017년 문재인 대통령이 헌법재판소장 후보자로 지명했으나, 같은 해 9월 11일 국회에서 임명동의안이 부결됐었다. 그는 2018년 9월 6년 재판관 임기를 마친 후 전남대 로스쿨 석좌교수, 공익법률기금 고문, 정부공직자윤리위원장 등으로 활동해왔다. 이후 2020년 7월 조선대 이사장으로 선출됐다.