בריכת המים נבתנה בתקופת השלטון הבריטי כחלק ממעכרת אספקת המים לירושלים. מי הבריכה הגיעו ממעייינות ערוב (כ-3.5 קילומטרים דרומה מכאן) באמצעות משאבות חשמליות. מהבריכה זרמו המים בכוח הכבידה צפונה לאורך 20 קילומטרים עד לבריכת אגירה בצפון ירושלים (רוממה), וממנה אל מוקדי חלוקה וברזים בתוך העיר. קו המים, שהושלם ביוני 1918, נבנה בתוך פחות משלושה חודשים בעיצומה של מלחמת העולם הראשונה על ידי כוחות ההנדסה הצבאית הבריטיים (Royal Engineers) במטרה לספק מים לעיר שסבלה ממצוקת מים חמורה.
מערכת זו הובילה לירושלים כ-1,000 מ"ק מים ביממה, פי שמונה מהקו ששימש את העיר בתקופה העות'מנאית. ייחודיותו של הקו באה לידי ביטוי בשימוש שנעשה לראשונה במשאבות חשמליות וכן בצינורות ברזל במקום בצינורות חרס. הקו שימש את העיר עד תחילת שנות השבעים של המאה העשרים.
מעיינות ערוב הם מקור מים חשוב לירושלים עוד מימי בית שני, והיו חלק ממערכת אמות המים הקדומה שהייתה בשימוש עד תחילת המאה העשרים. מערכת מים זו כללה בין השאר את אמת הערוב, אמת הביאר ובריכות שלמה.
סמוך לבריכה הוקם בשנת תרפ"ז (1927) מגדל עדר, היישוב היהודי הראשון בגוש עציון בעת החדשה.
ניתן לתאם סיור בבריכת המים להשכיר את המתחם למפגשים שונים.