הרב דוד מילגרום, שלוחו ואיש אמונו של מרן ראש הישיבה הגראמ"מ שך זצ"ל, מראשית שנות הקמת הקהילה התורנית בירוחם, עמל בימים אלו על הרחבת ההתיישבות החרדית בעיר הדרומית, בעידוד רכישת מאגר דירות הקיים בתוככי הקריה התורנית בירוחם וסביבותיה במחירים השווים לכל נפש, תוך כדי יצירת מקומות עבודה עבור נשות האברכים הבאים להתגורר במקום.

כשנכנס לביתו של ראש הישיבה הגרי"ג אדלשטיין לקבל את עצתו בענין הרחבת גבולות הקדושה בעיר, הורה לו הגרי"ג להקים תחילה את הישיבה הגדולה בקריית הישיבה שבירוחם, בבחינת 'את יהודה שלח לפניו להורות'.

בהכוונתם של הגאונים רבי דוד כהן ורבי שרגא שטיינמן, הוחלט להעמיד בראשותה של הישיבה מרביצי תורה מפורסמים, וכך נתבקש הגאון הנודע רבי חיים קוק, בעל מוניטין רב בהרבצת תורה ויראה שכבר איתמחי בהעמדת תלמידים גדולי תורה, לעמוד בראשות הישיבה, כשלצידו ישמשו בראשות הישיבה הרבנים הגאונים רבי אלחנן פיליפס ורבי מרדכי יוסף קונשטט.

בכנס היסוד שנערך בביתו של ראש הישיבה הגאון רבי לנדו, במעמד רב רושם לכבודה של תורה, פיארו בהשתתפותם מרנן ורבנן ראשי הישיבות וחברי מועצת גדולי התורה, הגאון רבי אברהם יצחק קוק ראש ישיבת מאור התלמוד, הגאון  רבי ברוך ויסבקר ראש ישיבת בית מתתיהו, הגאון רבי שרגא שטיינמן ראש ישיבות ארחות תורה. כמו כן כיבדו את המעמד הגאון רבי ברוך דב דיסקין ראש ישיבת אורחות תורה. והגאון רבי אלעזר דוד אפשטיין מראשי ישיבת תורת בתפארתה.

ראש הישיבה הגרי"ג אדלשטיין שיגר למעמד מכתב נרגש בו הוא מביע את שמחתו על הרחבת גבולות הקדושה בעיר ירוחם על ידי הקמת מקום תורה שישפיע טובה על כל העיר.

ראש ישיבת חברון הגאון רבי דוד כהן שלח מכתב מיוחד בו הוא יוצא מגדרו, וכתב כי יום בשורה הוא כאשר אנו זוכים לראות בהקמתה של הישיבה החדשה בירוחם, בראשות ידיד נפשי הגאון המופלא מגדולי מרביצי התורה רבי חיים הכהן קוק, אשר איתמחי גברא בהעמדת תלמידים  מפוארים הבנויים היטב בדרכי הלימוד וההבנה, ואנשים של צורה שיראתם קודמת לחכמתם. וברוך ה' כבר עכשיו יש ציבור חשוב של בני עליה המצטרפים לישיבה עם הרבה חשק ורצון לעלות ולהתעלות במעלות התורה במקום המנותק מהמולת הכרך והוא מסוגל מאוד לשקיעות מוחלטת בעמל התורה.

הגר"ד כהן הוסיף, כי בהקמת ישיבה בירוחם יש גם משמעות גדולה שהוא מקום שיש שיש בו הרבה שטחים שאפשר להעמיד שם קהילה גדולה של אברכים, ולמצא פתרון למצוקת הדיור של עולם התורה, שכן אפשר לרכוש דירות במחיר זול ולהעמיד קהילה לתפארה, ואין דרך להעמיד קהילה של אברכים אלא על ידי 'יהודה שלח לפניו' להעמיד בית תלמוד לעמלי תורה, ישיבה שתהיה למגדל אור כל העיר והקהילה המצטרפת לישיבה, ובוודאי הוא זכות גדולה להיות חלק מבנין מקום תורה זה. בברכה לר' דוד מילגרום, המוסר את נפשו למען הקהילה והישיבה, ובמציאת פתרון למצוקת הדיור של עולם התורה, שיצליח ה' דרכו בכל מפעליו.

הגאון רבי אברהם יצחק קוק ראש ישיבת מאור התלמוד, נשא דברים נרגשים בחשיבות הקמת מקום תורה זה ובגדלותו של רה"י הגר"ח קוק שידיו רב לו בהעמדת תלמידים הגונים תלמידי חכמים מפוארים כבר עשרות בשנים, במסירות והשקעה אין קץ, ובודאי שגם הישיבה הגדולה שבראשותו תזכה לגדל תלמידי חכמים ברי מעלה מיוחדים.

הגאון רבי ברוך ויסבקר שטרח להגיע למעמד מתוך הערכתו לראשי הישיבה, הדגיש בדבריו את גודל המעמד הנשגב ואת שמחתו על הקמת הישיבה הנכבדה, שעולם הישיבות נצרך להקמתה ולייחודיותה, ואיך שבהקמתו של מקום תורה גדול זה מגן על הארץ כולה.

לאחריו נשאו דברים הגאון רבי ברוך דב דיסקין וראשי הישיבה כשהגר"ד לנדו נעל את הכינוס, בהתרגשות גדולה, כשאמר, כי הדבר הנעלה הזה לא צריך סייעתא, ופשיטא מעצמו, רק ה' יעזור לנו. יסוד ישיבות וכוללים זה הבסיס של הכל. כל כולל אברכים, כל ישיבה מרבה עוד ועוד אור תורה בינינו. כל התפתחות של התורה בארץ הקודש ובכל העולם. וזה הדבר שמוטב לעשות, להרבות יותר ויותר. אני אומר דברים פשוטים. ה' יעזור שהכל יתנהל בטוב, ויהא סייעתא דשמיא בכל מעשיכם, ותהא שכינה שרויה במעשי ידיכם.

הגר"ד הוסיף ובירך את התלמידים המייסדים את הישיבה בירוחם: הצלחה רבה לכל התלמידים, שילמדו טוב ויצליחו, ולמלמדים אותם יהא נחת.

הישיבה החדשה היא בשורה לעולם התורה בכלל, ולעולם התורה בדרום הארץ בפרט, כאשר הגאון רבי חיים קוק ראש ומייסד ישיבות תורת רפאל, יעמוד בראש ישיבת ה'קיבוץ' שנפתחת בראשית זמן הקיץ הבעל"ט, כאשר עשרות מטובי עולם הישיבות יבואו להיות ה'מייסדים' של הישיבה החדשה, ביניהם תלמידים מובהקים של הגאון רבי חיים עוד מ'תורת', אשר קשורים בליבם ובנפשם לרבם הגדול במשך השנים, ועתה מצטרפים יחד עם קבוצה נכבדה מטובי עולם הישיבות להקמת הישיבה הגדולה בירוחם. הגאון רבי חיים קוק אמור להעתיק את מושבו לירוחם, ולשהות בישיבה במשך כל השבוע, ולהשפיע מאור תורתו ויראתו על כל הדרום וירוחם בפרט, מה שאמור לסייע גם להרחבת הקהילה התורנית בס"ד.

הישיבה התחילה בתנופת רישום חזקה ועל הרישום ממונים: הרב דוב קליין והרב יעקב רוטנברג.