באותם ימים, בהם חי ופעל התנא רבי שמעון בר יוחאי, היתה תקופה קשה ביותר לעם ישראל. הרומאים, ובראשם הקיסר אדריינוס, רדפו את היהודים בכל מקום. הרדיפות נמשכו מאז חורבן בית המקדש. הרומאים רצו לגזור על היהודים שימירו את דתם. דור זה נקרא בפי חז"ל: "דורו של שמד", כי זו היתה עיקר מטרתם של הרומאים: השמדה רוחנית של כלל ישראל. הם הוציאו להורג את עשרת הרוגי מלכות, אשר ביניהם נמנו גם רבותיו של רשב"י. לאחר מכן, בימיו של רבי שמעון, כשעלה על כס קיסרות רומי המלך אנטונינוס פיאוס, הוקל מעט עולם של הרומאים. אולם לא כן היה גורלו של רבי שמעון. הוא עצמו נרדף על ידי המלכות ואף הוציאו עליו גזר דין מוות, מסיבת היותו מנהיג ישראל, ומלמד תורתו. הוא הוכרח להמלט ולהתחבא במערה במשך שלש עשרה שנה.
ומעשה שהיה כך היה:
הרומאים, במקביל לגזרותיהם, התחילו בבניין ארץ ישראל: בנו גשרים ושווקים ותקנו מרחצאות. הכל כדי להראות ליהודים, שטוב וכדאי להתחבר אליהם ולחסות בצילם. באותה עת ישבו יחד חכמי ישראל והם: רבי יהודה בר אילעי, רבי יוסי ורבי שמעון בר יוחאי, אתם ישב גם יהודה בן גרים. פתח רבי יהודה ואמר: "כמה נאים מעשיהם של אומה זו: תקנו שווקים, תקנו גשרים, תקנו מרחצאות!" רבי יוסי שתק ולא הגיב מאומה. נענה רבי שמעון בר יוחאי ואמר: "כל מה שתקנו לא תקנו אלא לצורך עצמם: תקנו שווקים - להנאתם ולטובתם. תקנו מרחצאות - לעדן בהם את עצמם. תקנו גשרים - לטול בהם מכס".
הלך יהודה בן גרים וסיפר את הדברים לקרוביו וידידיו, ומתוך כך נודע הדבר גם למלכות. והם חרצו את דינם כך: רבי יהודה ששיבח את הרומאים - יתעלה ויהיה ראש המדברים בכל מקום. רבי יוסי ששתק - יגלה לציפורי. רבי שמעון שגינה - יהרג!
כאשר נודע הדבר לרבי שמעון, ברחו, הוא ובנו רבי אלעזר, מביתם והתחבאו בבית המדרש. בכל יום היתה אשתו מביאה להם לבית המדרש פת לחם וכד מים.
כאשר גברו החיפושים, חשש רבי שמעון שמא יתגלה מחבואם, ואמר לבנו: הנני חושש שמא יצערו אנשי המלכות את אמא, והיא עלולה לגלות את מקום מחבואינו! יצאו רבי שמעון ובנו מבית המדרש וברחו אל מחוץ לעיר והתחבאו במערה אחת, בכפר פקיעין אשר בגליל העליון. נעשה להם נס ונברא להם עץ חרובים ומעיין מים.
בזמן שהותם במערה הם פשטו את בגדיהם כדי שלא יתבלו, וישבו עד צווארם מכוסים בחול, תוך שהם לומדים ועוסקים בתורה. רק בשעת התפילה לבשו את בגדיהם והתפללו בהם.
שתים עשרה שנים רצופות ישבו רשב"י ובנו במערה, ואיש לא ידע על מקום מחבואם, זולת אליהו הנביא, שהיה בא אליהם פעמיים בכל יום ולומד עמם. באותו זמן הגיע רבי שמעון למדרגותיו הנשגבות, שם נתגלו לו סתרי תורה ורזין דרזין. לאחר שיצאו מהמערה גילה אותם לבני החבריא, וכמו שהעיד רבי יוסי, שמיום בו עזב רבי שמעון את המערה, לא היה דבר שנעלם מהחברים, וסודות עליונים ביותר נתגלו להם בבהירות כה גדולה, כאילו נתנו באותה שעה מהר סיני.
לאחר שעברו שתים עשרה שנה, מת המלך והגזרה נתבטלה, אלא שלא היה מי שיודיע על כך לרבי שמעון בר יוחאי. בא אליהו ועמד על פתח המערה ואמר: מי יודיע לבן יוחאי שהמלך מת וגזרותיו התבטלו? שמעו זאת רבי שמעון ובנו ויצאו מהמערה.
בצאתם מהמערה ראו בני אדם כשהם חורשים וזורעים. התפלא רבי שמעון על העולם שנוהג כמנהגו, ואמר: כיצד מניחין הללו חיי עולם ועוסקים בחיי שעה? כל מקום שנתנו בו עיניהם, מיד נשרף. יצאה בת קול ואמרה להם: האם יצאתם מן המערה כדי להחריב את עולמי? חזרו למערתכם!
חזרו למערתם וישבו שם שנים עשר חודשים נוספים. נענה רבי שמעון ואמר: כבר נענשנו דיינו, כי גם משפט רשעים בגיהנום אינו יותר משנים עשר חודש. יצאה בת קול ואמרה: צאו ממערתכם!
כשיצאו מן המערה, פגשו בצייד, שהיו בידו קשת וחצים ללכוד בהם ציפורים. עמדו והבחינו, כי יש מהן שנלכדות, ויש מהן שנמלטות מהחץ. כששמע רבי שמעון בת קול מן השמים האומרת: "דימוס, דימוס!" (הצלה ושחרור), לא היתה הציפור נלכדת, וכשהקול יצא והכריז: "ספקולא!", נלכדה הציפור.
פנה רבי שמעון אל בנו רבי אלעזר ואמר:
"אם ציפור אינה יכולה להלכד אלא אם כן נגזר עליה מן השמים, נפש האדם בודאי שלא! למה עלינו להתחבא?"
שליחות היונה
יום אחד קם רבי יוסי ברבי יהודה בבוקר וראה יונה אחת עפה. קם רבי יוסי על רגליו ואמר: יונה, יונה, הנאמנת בשליחותה מימי המבול! הדיוקן של העם הקדוש לך יאה ולך נאה, שהרי כנסת ישראל נמשלה ליונה. לכי ועשי לי שליחות אחת לבן יוחאי במקום שהוא שם!
ירדה היונה ועמדה לפניו. כתב רבי יוסי פתקה. לקחה היונה את הפתקה בפיה, ועפה אל רבי שמעון וכשכשה לו בכפניה. הסתכל רבי שמעון, הבחין בפתקה ובכה, הוא ורבי אלעזר בנו. אמר: "בוכה אני על שפרשתי מן החברים, ובוכה אני על הדברים, שלא נתגלו להם"
לעת ערב כתב רבי שמעון פתק ושם אותו בפי היונה. עפה היונה ובאה לרבי יוסי, שהיה עדיין עומד במקומו ועיניו מצפות. כיון שראה אותה, אמר: יונה, יונה! כמה נאמנת את, יותר מכל עופות השמים! לקח ממנה את הפתק, נכנס לחברים וגילה להם את המעשה, ותמהו החברים מאד.
בכה רבי יהודה ואמר: "וי! אף על פי שאין אנו יודעים היכן הוא נמצא, מקום שבן יוחאי שם, החברים עמו ומתעוררים על ידו ולומדים ממנו. אשרי נפשו של בן יוחאי, שהקדוש ברוך הוא עושה עמו ניסים. הוא גוזר והקב"ה מקיים. ועתיד הוא להיות ראש לצדיקים היושבים בגן עדן, ויקבל פני השכינה ויראה את הקב"ה, וישתעשע עם הצדיקים ויאמר להם: "באו ונשתחווה ונכרעה, נברכה לפני ה' עושנו" (תהלים צ"ה, ו'). 
היציאה מן המערה
לאחר שיצאו מהמערה, ראה רבי אלעזר כי האנשים עוסקים בהבלי העולם הזה ואינם עוסקים בתורה. היה רבי אלעזר מעניש אותם ורבי שמעון מרפא אותם. אמר לו רבי שמעון לבנו: בני, די לעולם אני ואתה, שאנו עוסקים בתורה!
בערב שבת עם חשכה ראו זקן אחד כשהוא מחזיק בידו שתי חבילות הדסים וממהר לביתו. שאלו אותו: למה לך חבילות אלו?
אמר להם: לכבוד שבת הבאתי אותן, להריח בהן!
שוב שאלו אותו: למה לך שתיים, ואין די לך באחת?
אמר להם: אחת כנגד "זכור" ואחת כנגד "שמור"!
אמר לו רבי שמעון לבנו: בוא וראה כמה חביבות הן המצוות על עם ישראל! ושניהם שמחו מאד על שמצאו בדרכם יהודי יקר זה. נתיישבה ונחה דעתם, ויותר לא הקפיד רבי אלעזר.
לאחר שיצאו מהמערה היו רבי שמעון ובנו תשושי כח וכל גופם העלה חבורות ופצעים. כששמע חותנו, רבי פנחס בן יאיר, שרשב"י ובנו יצאו מהמערה, הלך לקראתם לקבל את פניהם, והביאם לטבריה כדי לרחוץ שם בחמי טבריה. הכניסם לבית המרחץ וסך ורחץ את גופם במים ובשמן. הבחין רבי פנחס, שכל גופם מלא סדקים ובקעים מחמת החול שישבו בו במשך שלוש עשרה שנים. התחיל רבי פנחס לבכות מרוב צער, ונשרו דמעותיו על פצעיו של רבי שמעון, והכאיבו לו מאד. אמר לו רבי פנחס: "אוי לי שראיתי אותך פצוע ומוכה!"
אמר לו רבי שמעון: "אשריך שראיתני בכך, שאלמלא ראית אותי כן, לא היית מוצא בי כל כך הרבה תורה!"
אמנם גם לפני שיצא רבי שמעון אל המערה היה גדול מאד בתורה, אך לפני היות רבי שמעון במערה - כאשר היה מקשה קושיה בתוך לימודו, היה רבי פנחס מתרץ ועונה שנים עשר תירוצים. ואילו עתה, לאחר יציאתו מהמערה - כשהיה רבי פנחס מקשה קושיה, היה רבי שמעון מתרץ לו עשרים וארבעה תירוצים על קושייתו.
לאחר שרחצו את גופם בחמי טבריה, עלתה להם ארוכה. פצעיהם נתרפאו וגופם התחזק והחלים.