玉府右街位于西城区东南部。南起西长安街，北至西安门大街。因其地理位置在民国时总统府右侧而得名。
民国二年（1913）十月十日，袁世凯就任大总统。总统府设在中南海。将总统府西侧的灰厂夹道改名为府右街。
明陆钱《病逸漫记》载：“京师有妖尼，上遣内官汪直出主灰石，孰鞫之后，即以灰厂为西厂。”引文中的汪直，是明代有名的大太监，同主持东厂的大太监魏忠贤臭名相齐，东厂和西厂都是当时的特务机构，有秘密捕人、杀人之特权。引文中的“灰厂”即今之府右街。
从府右街的开辟到现在，不过八十多年的历史。从前，府右街南半部为皇城，北半部为中南海的一部分，是不能通告的。如今成了沟通北京南北城交通的主干线之一。马路两侧的便道上，国槐茂盛，绿树成荫，是一条美丽而安静的街道。府右街路东，为中南海西围墙，北墙南半段为红墙，为明清两朝皇城西墙的一部分。红墙高一丈八尺，顶上覆盖首金黄琉璃瓦。从灵境胡同东口以北的围墙是民国以后重修的。