河南登封县少室山麓的少林寺,建于北魏太和十九年(公元495年),是佛教禅宗创立的祖庭。在唐代,因该寺和尚助唐太宗平王世充开国有功,极受唐王朝重视而盛极一时。玄奘的故乡偃师县与登封县相邻,故他对少林寺是十分熟悉向往的。
玄奘在唐贞观十九年(公元645年)正月从印度游学返抵长安。当时唐太宗不在长安,而在洛阳,玄奘在二月就赶赴洛阳,在仪鸾殿拜见了唐太宗。李世民询问了西行情况之后,劝玄奘离开佛门到朝中做官,奘辞而不就。李世民又欲让玄奘随军相陪,玄奘又婉言推却。玄奘向太宗请求:“我从西域求得梵文经本六百多部,尚一言未详。在距此不远的嵩山之南的少室山,有座少林寺,远离城乡闹市,林壑幽静,是北魏孝文皇帝建造,当年菩提留支三藏曾在此处翻译经书。故也希望能到少林寺专事翻译佛经。”太宗答复道:“不必到少林寺去。当年师去西域时,我为穆太后(太宗之母)在西京长安建造了弘福寺,那里禅院宽敞幽静,你可就在那里从事翻译。”玄奘返长安后,乃就译于弘福寺。
玄奘译经图唐高宗显庆二年(公元657年),玄奘还原藉迁葬父母之坟墓。这时,玄奘家乡,亲人都已相继去世,只有一个姐姐健在。玄奘姐弟,以隆重的仪礼,改葬了父母灵柩。玄奘的家乡缑氏县(今河南偃师县缑氏镇),位于嵩山少林寺西北岭下,相距仅数十里之遥。那层峦叠嶂气势雄伟的少室山,那建筑宏大、十多阶禅院佛堂座落有致的少林寺,以及菩提留支译经、达摩面壁十年的清修圣地,又唤起玄奘入少林寺译经礼佛的念头。他于显庆二年(公元657年)秋九月二十日,再次上表唐高宗,恳切陈词,申述入少林寺译经之愿望。高宗看后,次日(九月廿一日)即亲笔复书回绝,并告诉玄奘,不要再上表陈请了。玄奘入居少林寺的愿望,始终未能实现。