ହରେକୃଷ୍ଣ ମହତାବ ରାଜ୍ୟ ଗ୍ରନ୍ଥାଗାରର ଧାରଣା ପ୍ରଥମ ପଞ୍ଚବାର୍ଷିକ ଯୋଜନା ସମୟରେ ଭାରତ ସରକାରଙ୍କ ପରାମର୍ଶ ଅନୁଯାୟୀ ଗଠିତ ହୋଇଥିଲା ଏବଂ 1959 ମସିହାରେ ଏହା ପୂର୍ଣ୍ଣ ହୋଇଥିଲା। ଏହି ଗ୍ରନ୍ଥାଗାର ଏକ ଆକର୍ଷଣୀୟ 16,000 ବର୍ଗଫୁଟ୍ କାର୍ପେଟ୍ ଏରିଆରେ ନିର୍ମିତ ହୋଇଛି, ଯାହା ଭୁବନେଶ୍ୱର ରାଜଧାନୀର ଏକ 3 ଏକର ଜମି ଉପରେ ଅବସ୍ଥିତ।1967 ମସିହାରେ ଏହି ଗୃହଟିକୁ ଗାନ୍ଧୀ ଭବନ ଭାବରେ ନାମିତ କରାଗଲା, ଯାହା ରାଷ୍ଟ୍ରପିତା ମହାତ୍ମା ଗାନ୍ଧୀଙ୍କ ଜନ୍ମଶତବାର୍ଷିକୀ ଉପଲକ୍ଷେ ଥିଲା। ପ୍ରାରମ୍ଭରେ ରାଜ୍ୟ ଗ୍ରନ୍ଥାଗାର କେବଳ ଏହି ଭବନର ଏକ କୋଣରେ ଅବସ୍ଥିତ ଥିଲା। 1987 ମସିହାରେ ଏହା ପୁନଃନିର୍ମିତ ହୋଇ ଚାରି ତଳା ଭବନ ସମ୍ପୂର୍ଣ୍ଣ ଭାବେ ଦୁଇଟି ଗ୍ରନ୍ଥାଗାର ପାଇଁ ବ୍ୟବହୃତ ହେବାକୁ ଲାଗିଲା: