Adeiladwyd y Castell mewn blwyddyn (1824-25), a chafodd ei gynllunio gan Richard Lugar ar gyfer y teulu Crawshay, am gost o £30,000.  Bu’n amgueddfa ac yn ysgol ers 1910.  Cafodd ei ailwampio ym 1992, i’w ddangos yn ei harddwch Regentaidd gwreiddiol, ac mae’r adeilad ei hun yn werth ymweld ag ef.

Mae rhyw deimlad od, Ffug Duduraidd i’r cyntedd, wedi’i gynllunio i roi’r ymdeimlad o dŷ teuluol hynafol.  Mae’r tariannau bychain o gwmpas y ffrîs, y pileri tal o gwmpas y ffenestri, y drysau Gothig enfawr a’r ffenestru gwydr coch a chlir bendigedig sy’n llenwi cefn y cyntedd, i gyd yn ychwanegu at y rhwysg nodedig.  Mae’r nenfwd yn darlunio rhosyn gwyn swydd Efrog, cartref gwreiddiol y teulu Crawshay.

Mae’r orielau llawn awyrgylch ar y llawr isaf wedi’u lleoli yn yr hyn oedd unwaith yn selerydd gwin.  Cawsant eu hailwampio ym 1990 i greu oriel yn portreadu 3000 o flynyddoedd o hanes Merthyr Tudful.  Mae’r pynciau sy’n cael eu dangos yma’n cynnwys merthyrdod Tudful, merch llwythddyn lleol.  Mae’r dref wedi ei henwi ar ôl y santes Geltaidd hon, gafodd ei llofruddio gan oresgynwyr Pictaidd tra’i bod yn gweddïo.  Mae’r arddangosfeydd yn symud ymlaen i edrych ar hanes ffermio’r ardal, gyda chegin a llaethdy Cymreig nodweddiadol yn cael eu dangos.  Mae datblygiad y diwydiant haearn yn bwnc pwysig, gydag arddangosfeydd ar bob un o’r pedwar prif waith haearn Cyfarthfa, Dowlais, Penydarren a Plymouth. Edrychir hefyd ar amgylchiadau byw mewnddyfodiad i’r dref, gyda gwybodaeth am orboblogi a chlefydau.

Mae stori locomotif stêm Richard Trevithick yn cael ei datgelu yma hefyd.  Dyma’r locomotif cyntaf erioed i dynnu llwyth ar hyd cledrau.  Cafodd yr injan ei hadeiladu yng ngweithfeydd haearn Penydarren ym 1804, 20 mlynedd cyn Rocket Stephenson.

Mae hanes gwleidyddol y Fwrdeistref Sirol yn cael ei drafod, gan edrych ar Derfysg Merthyr ym 1831, ac ar gell Dic Penderyn yn y carchar.  Mae datblygiad y mudiad Llafur hefyd yn cael ei bortreadu ar gyfres o banelau gwybodaeth.