این مسجد در فاصله یک فرسنگ و نیم از مدینه قرار داشته که اکنون با گسترش شهر، این مسافت کمتر شده است. چون درخت کنارى در کنار مسجد بوده، این مسجد به نام «شجره» معروف گردیده است. اهمیت این مسجد بیشتر در آن است که رسول خدصلى الله علیه وآله در عمره حدیبیه، عمرة القضاء و در حجة الوداع، در آنجا محرم شد. هم اکنون حاجیان ایرانى که پیش از اعمال عمره به مدینه مى‏روند، در مسجد شجره احرام مى‏بندند.این مسجد در سال‏هاى پیش بسیار محقر و خالى از نظافت بود. در نوسازى اخیر (از ۱۳۶۶ به بعد) بر مساحت مسجد افزوده‏ اند؛ چنانکه مساحت مسجد حدود ۲۶۰۰۰ متر مربع مى‏باشد. در بیرون مسجد بیش از پانصد دوش حمام و بیش از سیصد و پنجاه عدد دستشویى ساخته شده است.