大成殿の奥につづいているのが博物館の建物で、2階フロアが「中国歴代博物館」、3階フロアが「長崎孔子廟史料館」となっています。
「中国歴代博物館」は、日中友好と文化交流の促進をめざして1983年に建てられ、多様な企画展を開催しています。
「長崎孔子廟史料館」は、長崎孔子廟が所蔵する数々の銘品や関連の資料を多数展示しており、孔子や孔子廟のことを学ぶには必見のフロアです。