1970년 부산에서 태어나 충렬고등학교를 졸업하고 1989년 부산외국어대학교 국어국문학과에 입학했다. 1995년 같은 학교 대학원 국어국문학과에 입학해 ＜해방기 전위시의 양식 선택과 세계 인식＞으로 석사학위를 받았고, 2005년 경희대학교 대학원 국어국문학과에서 ＜한국 모더니즘 문학의 미적 근대성 연구＞로 박사학위를 받았다. 2000년 ≪서울신문≫ 신춘문예에 문학평론이 당선되어 등단했으며, 2006년 제12회 고석규비평문학상, 2015년 제16회 젊은평론가상을 수상했다. 지은 책으로는 ≪반대자의 윤리≫, ≪다른 목소리들≫, ≪모더니티의 이면≫, ≪유령들≫, ≪비인칭적인 것≫, ≪고유한 이름들의 세계≫ 등이 있다. 현재 계간 ≪문학선≫, 계간 ≪포지션≫의 편집위원을 맡고 있으며, 경희대학교 후마니타스칼리지 교수로 재직하고 있다.

1908년 1월 5일(음력 1907년 12월 2일) 부산 절영도(현재의 영도)에서 아버지 구(舊) 한국 탁지부(度支部) 관리 김옥현과 어머니 박덕수의 장남으로 출생했다. 김소운의 부친은 당시 탁지부 소속의 관리였다. 하지만 1909년 당시 의병들에게 친일파로 몰려 살해되었고, 이후 할머니와 함께 경남 진해로 이주했다. 1912년에는 어머니가 재혼해 러시아로 떠남으로써 생모(生母)와 이별했다. 이때부터 김소운은 양친과 떨어져 할머니를 비롯한 친척들과 함께 생활했고, 거주지 역시 진해, 김해, 목포, 진남포 등으로 계속 옮기며 살아야 했다. 1914년 5월 경남 진해에 위치한 사립대정학교에 입학했으나 1915년 경남 김해의 고모 집으로 거처를 옮기게 되면서 김해공립보통학교 1학년에 편입했고, 하교 후에는 한문을 집중적으로 사숙했다. 1916년에는 러시아와 관계가 있는 사람을 만나기 위해 단신으로 평안남도 진남포에 가서 2개월 체류한 후 부산으로 돌아왔다. 이때가 그의 나이 불과 아홉 살 때였으니 이는 러시아로 떠난 어머니를 만나기 위한 것으로 추측된다. 1916년 부산으로 돌아온 김소운은 절영도 소재 사립 옥성학교 2학년에 편입했다. 1919년 3·1운동 당시 절영도 소년단을 구성하여 활동했으나 이 사건이 문제가 되어 학교를 중퇴, 종형을 따라 석탄선을 타고 일본으로 밀항했다.
일본으로 건너간 김소운은 1921년 동경 개성중학교에 입학했다. 하지만 1923년 9월 동경대지진 사건으로 학업을 중단하고 오사카(大阪)의 숙부 댁에서 약 반년을 지내다 한국으로 돌아왔다. 그리고 다음 해에는 상경하여 오상순, 김범부, 조명희, 변영로 등의 문학인들과 교류했다. 1924년 5월 명동에 위치한 제국통신지사에 나이를 속여 입사, 전보문을 원고지에 옮겨 적는 일을 하다가 그해에 창간한 ≪시대일보≫(사장 최남선) 에 ‘제국통신’의 축사를 전달하는 일이 계기가 되어 동지 해당 신문에 습작 시 ＜가을＞, ＜신조＞ 등을 발표했다. 하지만 1925년에는 다시 부산으로 돌아가 ≪조선일보≫의 통신원으로 일했고, 같은 해 9월 시첩(詩帖) ≪출항≫을 부산에 위치한 한 인쇄소에서 500부 한정으로 인쇄했으나 인쇄 비용을 지불하지 못해 10여 부만 찾고 판매하지 못했다. 1926년에 다시 일본으로 건너간 김소운은 동경 부근을 돌아다니며 조선에서 건너온 노동자들을 중심으로 구전민요를 채집했고, 이것을 일본의 유력한 시 잡지 ≪지상낙원≫에 ＜조선의 농민 가요＞라는 제목으로 6회 연재하기도 했다. 이것이 계기가 되어 1927년 9월 영문학자 사이토(齊藤秀三郞) 문하(門下)인 아홉 살 연상 오가와 시즈코(小川靜子)와 결혼했다. 1928년에는 일본 시인 기타하라 하쿠슈(北原白秋)의 초대로 동경에서 ＜김소운 소개의 밤＞이 열렸고, 1929년 8월에는 기타하라 하쿠슈(北原白秋)가 서문을 쓴 일역(日譯) 시집 ≪조선 민요집≫을 출간했다. 하지만 1929년 10월 또 다시 귀국하여 ≪매일신보≫ 학예 기자로 약 2년간 근무했고, 1931년에는 다시 일본으로 건너가 여러 대학을 전전하며 독학했다. 그러다가 1933년 8월 다시 한국으로 돌아와 약 4년 동안 소년 잡지 ≪아동세계≫, ≪신아동≫, ≪목마≫ 등을 발행했다. 한국과 일본, 식민지와 제국을 왕복하는 김소운의 불안정한 생활은 이후에도 계속되었다. 그는 1940년 다시 일본으로 건너가 일역 시집을 포함한 여러 종의 단행본을 출간했고, 더불어 문학적인 활동의 폭도 꾸준히 넓혀 나갔다. 하지만 1944년 태평양전쟁에 대한 생각의 차이로 일본인 아내와 이혼했고, 해방 직전에는 북만주를 여행하기도 했다. 해방 직전인 1945년 6월 한국으로 돌아온 그는 김해에 체류하면서 강원도 월정사로 출가를 준비하던 중 해방을 맞이했다.
해방 후 김소운은 부산 광복동에서 사업과 원예 생활을 통해 생계를 이어 나갔다. 1948년에는 다시 상경하여 가판 중심의 주간지 출간을 시도했으나 여순사건 발발로 인한 가판 금지령이 떨어져 사업을 접었다. 1951년은 김소운의 생애에서 매우 의미 있는 해였다. 이 해에 일본에서 발행되는 한 주간지에 한국전쟁을 종군한 미국 언론인들의 좌담이 게재되었다. 이 좌담의 참석자들은 전쟁에 휩싸인 한국을 ‘지옥’, 일본은 ‘천국’이라고 평가했다. 이 기사를 접한 김소운은 불과 얼마 전까지 미국과 영국을 ‘도둑과 짐승’으로 간주하면서 결사 항전을 다짐하던 일본이 오히려 자신들이 ‘원수’라고 비난했던 세력의 지원을 받아 ‘천국’으로 변한 아이러니한 현실을 비난, 일본인들의 허위의식을 신랄하게 비판하는 ＜목근통신＞을 발표했다. 같은 해 11월 일본의 유력한 잡지 ≪중앙공론≫에 번역되기도 한 이 글은 국내는 물론 일본에서도 상당한 반향을 불러일으켰고, 이로 말미암아 김소운의 존재감 역시 함께 상승했다. 이러한 김소운의 존재감은 1952년 유네스코 초청으로 베니스 국제예술가회의에 한국 대표 자격으로 참가한 것에서 확인된다. 하지만 그는 이 행사를 마치고 일본을 경유하여 한국으로 돌아오던 중 일본에서 이승만 정권을 비판한 인터뷰가 문제가 되어 그때부터 13년 동안 입국을 금지당했다. 1965년 10월 귀국한 이후 김소운의 행적은 그다지 알려진 것이 없다. 이때부터 생의 마지막 순간까지 그는 책을 출간하고 글을 쓰는 일을 하면서 시간의 대부분을 보낸 듯하다. 김소운은 1981년 11월 2일 서울 강남의 자택에서 췌장암으로 타계했다.