Ang ideya ng isang bagong gusali ay ipinanganak labing pitong taon na ang nakalilipas, nang ang Grand Duchy ay naging isa sa anim na nagtatag na mga bansa ng European Union, at nagpasya ang mga awtoridad na suportahan ang imahe ng Luxembourg hindi lamang bilang isang masagana sa ekonomiya na estado, ngunit din bilang isang mahalagang sentro ng kultura ng kontinente. Gayunpaman, ang mismong ideya ng paglikha ng isang koleksyon ng mga napapanahong sining, at ang sagisag na arkitektura nito sa anyo ng isang proyekto ni J. M. Nakilala ni Pei ang paglaban sa iba't ibang mga lupon ng konserbatibong-malipunang lipunan. Bilang isang resulta, ang kanyang konsepto ay binago ng maraming beses, ang disenyo at maging ang konstruksyon ay nasuspinde. Noong 1997 lamang natutukoy ang lugar para sa museo: ang mga labi ng kuta ng Tungen (1732), na kasama sa bagong gusali. Noong 1999, nagsimula ang pagtatayo, ngunit pagkatapos ay nagambala ito sa loob ng apat na taon dahil nais ni Pei na gumamit lamang ng gintong apog mula sa France para sa kanyang konstruksyon, at nagbunga ito ng maraming mga bagong problema.
Gayundin, lumitaw ang mga paghihirap sa koleksyon: yamang wala kailanman isang koleksyon ng sining ng ika-20 siglo sa Luxembourg, kinailangan itong likhain. Dahil sa limitadong pondo, walang pag-uusap tungkol sa pagbili ng mga gawa nina Dali at Picasso: ang karamihan sa mga exhibit mula sa 230 na bagay na kabilang sa museo ay kabilang sa panahon pagkatapos ng 1980. Ngunit, ayon sa direktor ng museo, si Marie-Claude Beaux, ito ay dinisenyo upang lalong mapalawak ang koleksyon, upang mangolekta ng sining ng hinaharap, sining ng siglo XXI.
Ang complex ay matatagpuan sa gitna ng isang parke, sa pagitan ng dalawang mga distrito ng negosyo ng lungsod. Ang tampok na tumutukoy dito ay ang berde na baso na tore sa itaas ng pangunahing atrium, nakapagpapaalala ng kuta kung saan ito itinayo. Halos lahat ng sahig ng pangunahing baitang ay gawa sa salamin, kaya't ang karamihan sa mga bulwagan ay may likas na ilaw. Sa ground floor mayroong dalawang maliliit na gallery at isang lecture hall. Sa labas, ang mga dingding ng museyo ay nahaharap sa may kulay-pulot na apog, ang pangunahing pasukan ng museo ay isang kumplikadong spatial na komposisyon sa anyo ng isang angkop na lugar. Ang kabuuang lugar ng gusali ay 10,000 sq. m, kung saan 4,800 sq. m - mga puwang sa eksibisyon. Ang museo ay may pangalan ng Grand Duke Jean, na ngayon ay inilipat ang pamamahala ng bansa sa kanyang anak na si Henri.
