그로스만은 오스트리아-헝가리 제국이 지배하던 폴란드 갈리치아에서 태어난 유대인으로 초기 사회주의 활동은 대체로 폴란드와 관련 있었고, 자본주의 위기와 제국주의에 관한 저작들은 독일에서의 연구에 바탕을 두고 있었다.

제국주의, 민족문제, 인종주의에 대한 초기 관심은 자연스러운 것이었다. 그는 유대인 노동자들의 독립적 조직 건설을 주장한 분트(Bund)의 영향을 받았다. 제국주의 지배로부터 폴란드를 해방시키는 문제에서 민족주의에 비판적이었고, 제국주의에 맞선 저항이 착취에 맞선 노동자들의 투쟁과 결합돼야 한다고 봤다. 1905년에는 갈리치아에서 유대사회민주당이 형성될 때 지도적인 구실을 했다.

러시아에서 1905년 혁명이 실패하고 1917년 새로운 혁명이 시작되는 중간 시기에는 적극적인 사회주의 활동에 참여하진 않았던 것 같다. 1910년 즈음부터 오스트리아 비엔나에 머물렀고 군대에 징집됐다.

1917년 러시아 혁명 후에는 폴란드 공산당에 참여하고 바르샤바 인민대학 의장이 됐다.

1925년 독일로 이주한 이후 프랑크푸르트에 있는 ‘마르크스주의 사회조사연구소’에서 직책을 맡았다. 이곳에서 본격적인 마르크스주의 경제학에 대한 작업을 시작했다. 그는 마르크스의 ‘자본론’ 이후 위기를 설명하는 데 있어 주변으로 밀려나 있던 이윤율의 저하 이론을 부활시켰다. 《자본주의 체제에서 축적과 붕괴의 법칙》(1929)이 그것이다. 이윤율 저하가 가져온 자본주의 위기의 표현이 제국주의고, 제국주의가 해외무역, 독점, 자본수출을 통해 이윤율 저하를 상쇄한다고 봤다.

독일에 대한 코민테른의 정책과 민중전선 전략에 비판적이었지만, 스탈린의 러시아가 히틀러를 막을 수 있는 현실적인 힘이라고 보고 스탈린에 대한 비판을 삼가게 됐다.

제2차세계대전 이후 동독에 정착해 생을 마쳤다. 그러나 그의 마르크스주의 경제학은 스탈린의 도그마와 다르다는 이유로 스탈린주의 공식 교과서에서 비난을 받았다.