1887年、現ベラルーシ・ヴィツェプスクに生まれる。ロシア名マルク・ザハロヴィチ・シャガル、後にパリでマルクと名乗るようになる。
1907年、ニコライ・リョーリフが学長を務める美術学校に入るが、同校の教育に満足しなかったため1909年にズヴァンツェヴァ美術学校で学ぶ。1910年パリに赴き、5年間の滞在の後、故郷へ戻る。

最初のパリ時代の作品にはキュビスムの影響が見られる。ロシア時代はロシア・アバンギャルドに参加して構成主義の影響の濃い作品、デザイン的作品を制作したが、出国後の作品は「愛」の方へと傾斜していく。1923年に再びパリへ渡る。

1941年第二次世界大戦の勃発を受け、ナチスの迫害を避けアメリカへ亡命する。1947年パリへ戻り、その後フランス国籍を取得。1960年、エラスムス賞受賞。同年、当時のフランス共和国文化大臣でシャガールとも親交のあったアンドレ・マルローはオペラ座の天井画をシャガールに依頼。1966年、17点の連作『聖書のメッセージ』をフランス国家に寄贈。マルローはこの連作を含むシャガールの作品を展示するための国立美術館の建設を推進し、ニース市が土地を提供する形で、1973年シャガール86歳の誕生日に、ニース市に「マルク・シャガール聖書のメッセージ国立美術館」（現国立マルク・シャガール美術館）が開館。1985年、没。