Rođen je u poznatoj porodici sefardskih Jevreja u Beogradu.
Nakon završene zanatsko-umetničke škole u Beogradu, slikarstvo je studirao u Parizu i Minhenu.
Slikarstvo i novinarstvo kombinovao je sa politikom i od samog osnivanja KP Jugoslavije u Beogradu bio njen član, zbog čega je bio progonjen od strane kraljevskog režima.
Ne prestaje sa aktivizmom ni nakon što je partija zabranjena, a u jednom trenutku je čak i vodio štampariju KPJ koja je tajno štampala komunistički propagandni materijal i list „Komunist“.
Kada je 1925. godine ova štamparija otkrivena Moša Pijade je uhapšen.
Osuđen je na 20 godina zatvora, ali mu je kasnije ova kazna smanjena na 12 godina.
Međutim, Moša Pijade ni u zatvoru ne prestaje da se bavi aktivizmom i počinje da organizuje zatvorenike, zbog čega biva osuđen na još dve godine zatvora.
Bio je revolucionarni komunista i predvodnik mnogih štrajkova i demonstracija zatvorenika koji su se time borili protiv zatvorskog režima.
Tokom svog boravka u zatvoru držao je marksističku školu i tom prilikom upoznao metalskog radnika, zatvorenika, Josipa Broza Tita, čiji će bliski saradnik ostati do kraja života.
Dok je bio na izdržavanju zatvorske kazne uspeo je čak i da prevede kapitalno delo oca komunizma, Karla Marksa, „Kapital“ i još mnogo drugih komunističkih radova.
Kada je izašao iz zatvora, 14 godina kasnije, pred sam početak Drugog svetskog rata, odmah nastavlja sa revolucionarnim radom, ali ubrzo završava u koncentracionom logoru u Bileći.
Sudbina mu je bila da tri dana pred napad Trećeg Rajha na Jugoslaviju bude pušten na slobodu, nakon što je po treći put bio zatvoren.
On odmah odlazi u Crnu Goru po nalogu partije i odatle učestvuje u organizovanju narodnooslobodilačke borbe.
Organizuje stvaranje AVNOJ-a i nastavlja rad na prevodima komunističkih spisa.
Osnivač je i Telegrafske agencije nove Jugoslavije(TANJUG) koja je počela sa radom 1943. godine.
Aktivno je doprineo donošenju odluka koje će kasnije postati temelj nove posleratne države, Ustava novostvorene države i mnogih drugih osnivačkih zakona.
Kao najpoznatiji Jevrejin među partizanima bio je žrtva oštrih napada nacističke strane.
Nakon rata više puta je bio biran za narodnog poslanika i do kraja života bio u najužem partijskom i državnom rukovodstvu.
Umro je 1957. godine u Parizu po povratku iz Londona gde je predvodio jugoslovensku delegaciju.
Iza sebe je ostavio 120 slikarskih radova, od kojih je većina izgubljena i više stotina crteža i skica.
U Narodnoj biblioteci u Bileći nalazi se portret Isaka Karaoglanovića, koji je Moša Pijade navodno naslikao četkicom za zube tokom svog boravka u logoru, a koji je premešten u kasarnu koja je kasnije dobila njegovo ime, pre raspuštanja logora.
Fotografije i eksponati iz perioda logora u Bileći na kojima se vidi i Pijade uništeni su.
U zatvoru u Mitrovici gde je Pijade takođe boravio, otvoren je muzej, u kom se između ostalog može videti i fotografija slikara sa štafelajem u ćeliji, međutim nijedno njegovo platno nije sačuvano.
Sahranjen je u Grobnici narodnih heroja na Kalemegdanu, u kojoj su sahranjeni i Đuro Đaković, Ivan Milutinović i Ivo Lola Ribar.
Ovaj spomenik meta je čestih napada desničarskih grupa i trenutno se nalazi pod stražom SKOJ-a dok se ne obezbedi video nadzor koji bi sprečio skrnavljenje spomenika.