Ron Davies, Ysgrifennydd Gwladol Cymru wnaeth y penderfyniad i leoli'r Cynulliad Cenedlaethol ar y safle presennol ym Mae Caerdydd ym mis Ebrill 1998. Elfen holl bwysig o'r penderfyniad oedd darparu adeilad newydd ar ran o safle ger adeilad Ty Crughywel, fel a’i gelwid ar y pryd, ac o flaen y Bae. Prynwyd y tir ar brydles 150 o flynyddoedd am £1.
Penodwyd y penseiri ar gyfer yr adeilad newydd yn dilyn Cystadleuaeth Ddylunio a drefnwyd dan nawdd Sefydliad Brenhinol Penseiri Prydain. Roedd y gystadleuaeth yn nodi manylion gweithredol yr adeilad, ac yn cyfyngu'r pris i £12 miliwn gan gynnwys ffioedd. Yr Arglwydd Callaghan oedd Cadeirydd Panel Asesu'r Gystadleuaeth, ac fe argymhellodd y Panel i Ysgrifennydd Gwladol Cymru y dylid penodi Partneriaeth Richard Rogers i ddatblygu dyluniad.
O’r cychwyn cyntaf, roedd tryloywder yn rhan annatod o’r cynllun, gyda phwyslais ar hygyrchedd a hyweledd. Byddai’r cynllun yn gadael i bobl ‘edrych i fewn’ ar waith y gwleidyddion, ac yn gadael i Aelodau’r Cynulliad ‘edrych allan’ ar y byd – symbol o system newydd o ddemocratiaeth.