Museet indeholder tre permanente samlinger, som alle i deres grundstamme går tilbage til stifteren C.L. Davids tid: Islamisk samling, Ældre europæisk samling og Nyere dansk samling.

Den islamiske samling, der i en international sammenhæng er museets vigtigste, udgøres af udsøgt kunsthåndværk fra det 7. århundrede og frem til midten af det 19. århundrede fra et område, der strækker sig fra Spanien i vest til Kina i øst og fra Usbekistan i nord til Yemen i syd.

Den ældre europæiske samling indeholder et rigt udvalg af kunst fra det 18. og 19. århundrede – møbelkunst, fransk og tysk porcelæn, dansk fajance og sølvtøj samt danske, nederlandske og franske malerier.

Den nyere danske samling består af malerier og skulpturer udført omkring 1880-1950 af danske kunstnere. For tiden vises udelukkende værker af maleren Vilhelm Hammershøi.