הבסיס להקמת הג'יהאד האסלאמי החל עם המהפכה האסלאמית באיראן בסוף שנות השבעים ועלייתו של חומייני לשלטון. גם הרוח שהפיחה פעילות צבאית של תנועת האחים המוסלמים במצרים, ששיאה ברצח הנשיא אנואר סאדאת ב-1981, שימשה השראה לארגון, וכן ופעילות צבאית של אסלאם פוליטי בסודאן, שהובילה להקמת משטר צבאי מבוסס חוקי שריעה.
קבוצת סטודנטים קטנה במצרים יצרה את הארגון הקטן והקיצוני, הג'יהאד האסלאמי הפלסטיני (גא"פ). הקבוצה כללה את ד"ר פתחי שקאקי, דובר הגישה המהפכנית שאחרי שנים הפך להיות מזכ"ל הארגון, שקרא בראשית דרכו לאחד כוחות בין האסלאם הסוני לשיעי, על מנת לשחרר את פלסטין מידי ישראל ולנקוט בגישה אלימה - בדרך של טרור.
גישה זו סייעה לחיבור עם איראן, שיוביל מאוחר יותר לצינור קבוע להעברת כספים מטהראן לשטחים. בשנים 1986-1987 הובילו פעילי הג'יהאד פיגועים רצחניים שהאפילו על הטרור שהוציא חמאס, שנתפס בראשיתו כיותר חברתי מדתי. הטרור שהפעיל גא"פ סייע בגיוס תרומות, אך הוביל שנים לאחר מכן לגירוש בכירי הארגון מהשטחים ללבנון, ביניהם גם שקאקי. שב"כ וצה"ל החלו לרכז סביב הארגון הממודר והקיצוני תשתית מודיעינית ענפה. בנובמבר 1994 ניתן האות החזק ביותר לשינוי המגמה ביחס לפעילי הארגון ובכיריו, כאשר האני עבד, ממנהיגי הארגון בעזה, חוסל בפיצוץ מכונית תופת.
בכירי הג'יהאד האסלאמי הופתעו מחשיפת מקום הימצאו של המבוקש הבכיר, וטענו כי הרשות הפלסטינית סייעה בחיסולו. בהתאם לכך, נשמעו בהלווייתו קריאות "בוגד" לעברו של יאסר ערפאת. כעבור מספר שבועות אף התנהלו חילופי אש כבדים בין אנשי הרשות לפעילי הג'יהאד האסלאמי. אלא, שבארגון החליטו לשנות דפוסי פעולה, ולשלח מחבלים מתאבדים למטרות בעומק ישראל. הפעולה הכואבת ביותר אירעה בראשית שנת 1995, כאשר שני מחבלים התפוצצו בבית ליד ורצחו 21 חיילים ואזרח.
בתגובה לפיגוע, בישראל החליטו לשנות את כללי המשחק ובאוקטובר באותה שנה חוסל ד"ר שקאקי במלטה, מירי שיוחס ללוחמי מוסד. במקומו מונה לתפקיד המזכיר הכללי ד"ר רמדאן שלח, שנמנה עם גרעין המייסדים של הארגון. לפני כמה שנים מצבו הרפואי הידרדר והאחריות הועברה לבכיר קיצוני מאוד: זיאד נחאללה היושב בדמשק.
בראשית שנות האלפיים נחשפה תשתית טרור רחבה מאוד של הג'יהאד האסלאמי בשומרון, שהוציאה אל הפועל סדרה גדולה מאוד של פיגועי התאבדות ברחבי ישראל, ביניהם פיגוע התופת בדיזנגוף סנטר בתל אביב במהלך צעדת חג פורים. המחיר הכבד הוביל לקידום מדיניות הסיכול הממוקד והקמת המכשול בקו התפר.
באוקטובר 2000 שוחרר מהכלא הישראלי איאד חרדאן, תושב עראבה שבנפת ג'נין, שריצה מאסר בגין עבירות ביטחון. חרדאן הוגדר אז כראש הזרוע הצבאית של הג'יהאד האסלאמי בג'נין, אחרי חיסולו של אנואר חמראן. הוא פעל לגלגל פיגועי טרור, ביניהם מכוניות תופת בשוק מחנה יהודה ובשכונת תלפיות בירושלים. ב-5 באפריל 2001 הוא יצא מהכלא הפלסטיני, נכנס לתא טלפון ציבורי בג'נין סמוך לבניין העיריה, וכשהרים את השפורפרת הופעל נגדו מטען שלא הותיר לו כל סיכוי לשרוד.
לדברי גורמים ותיקים בצה"ל, באותם חודשים התנהל מצוד אחרי רביעיית ה"אסים" של הגא"פ בג'נין. תחילה, שב"כ הצליח לחשוף את מקום המסתור של ואאל עסאף ואסעד דקה וכוח צנחנים כיתר והרג אותם. אולם, השניים הנוספים, מוחמד טואלבה ות'אבת מרדאווי, היו יותר מתוחכמים. השניים, תושבי ג'נין, ששיגרו בפועל את מרבית המתאבדים הרימו לבסוף ידיים, נעצרו בתום מצוד שנמשך שנים ונשפטו למאסרי עולם ממושכים.
איראן המשיכה להזרים כסף ליו"ש לאורך השנים, ובמקביל להמשך הפיגועים, בין היתר פיגוע ההתאבדות במסעדת מקסים בחיפה ב-2003 שבו נהרגו 21 אזרחים, בנתה את כוחו של הארגון ברצועת עזה. זאת, על ידי רקטות, טילי נ"ט מתקדמים, ידע צבאי, משכורות לפעילים ואף מימון פעילות חברתית ותמיכה כלכלית למשפחות הפעילים שנהרגו.
בינואר 2012 שוב נחשפה על ידי שב"כ תשתית רחבה של הג'יהאד האסלאמי באזור ג'נין, שקיבלה סיוע נרחב ממפקדת הארגון בסוריה. כסף רב הועבר למימון פעילות טרור, רכש אמצעי לחימה ומימון משכורות אסירים ביטחוניים ובני משפחותיהם. עשרה פעילים שנעצרו והועברו לחדרי החקירות סייעו בבניית תמונה על שיקום התשתיות בג'נין.
הג'יהאד האסלאמי גייס מבין שורות הסטודנטים פעילים בעלי אידיאולוגיה קיצונית ונוקשה כלפי ישראל. בעשור האחרון, הוא הוציא לפועל פעולות שהסתכמו בניסיונות לבצע פיגועי ירי בשטחים ובירי רקטות. במקביל, הוא לא הפסיק מלהוציא לפועל פיגועים מתוחכמים, שכוללים מנהרות ואף שילוח חביות מהים לעבר חופי ישראל.
הדמות הבולטת ביותר בעשור האחרון היה מפקד החטיבה הצפונית ברצועת עזה, בהאא אבו אל-עטא, שכונה על ידי גורמים בכירים בצה"ל "הנפץ". אל-עטא נהג לשגר רקטות לעבר ישראל בניגוד לעמדת חמאס. האירוע הבולט ביותר כלל את שיגור הרקטות במהלך כנס פעילים של ראש הממשלה דאז, בנימין נתניהו, באשדוד. בתגובה לכך, העבירה ישראל מסרים מאיימים דרך המתווך המצרי, לפיהם אם אל-עטא לא יחדל ממעשיו - הוא ישלם בחייו.
ב-12 בנובמבר 2019 הונחתה מהלומה על ארגון הג'יהאד האסלאמי. שב"כ הוציא אל הפועל סיכול ממוקד שבמהלכו נהרג אל-עטא. לפי פרסומים זרים, באותו לילה תקף חיל האוויר הישראלי בסוריה את ביתו של אכרם עג'ורי, סגנו של מזכ"ל הארגון זיאד נחאלה. עג'ורי ניצל, אך בנו ושומר ראשו נהרגו. בשנת 2020 הגבירו שב"כ וצה"ל את הלחץ על השטח, והחלו לבצע גל מעצרים שכלל יותר מעשרים פעילי טרור, ביניהם בכירי הארגון בעיקר באזור ג'נין, חברון ובית לחם.
העימות הבא בין צה"ל לג'יהאד האסלאמי התנהל במבצע שומר חומות. למרות התקציב הגדול והסיוע הרציף של איראן וחיזבאללה לארגון, לא הצליחו פעיליו להוציא לפועל פיגועי איכות נגד ישראל ותרומתו לטרור הייתה נמוכה מאוד, והסתכמה במטחי רקטות. בראשית המבצע חוסל ראש מערך הרקטות של הארגון בעזה, סמאח עבד אל-ממלוכ שהסתתר בדירה בלב העיר עזה, וכמה ימים לאחר מכן חוסל גם מפקד החטיבה הצפונית חסאם אבו הרביד.
בינתיים, המפקדה של הג'יהאד האסלאמי בסוריה המשיכה ללחוץ לבצע פיגועים, ובהתאם לכך התשתיות בג'נין הרימו ראש. בשנה האחרונה כל כניסה של צה"ל למחנה הפליטים בעיר לוותה בירי מסיבי של חמושים מהג'יהאד האסלאמי. ביוני השנה נכנס כוח ימ"מ למחנה הפליטים, עצר כמה מפעילי הארגון שהיו מעורבים בפיגועי ירי, הרג את ג'מיל אל-עמורי ופצע פעיל נוסף. לפני כחודש נכנס כוח של מסתערבים ממשמר הגבול ללב המחנה וביצע מעצר של פעילי הארגון. בתגובה לכך, נפתחה לעבר הלוחמים אש חיה ממספר כיוונים, והם נאלצו להשיב באש, שממנה נהרגו תוך דקות ארבעה פעילים. בהוראת המפקדה בדמשק, הגיב הארגון בשיגורי רקטות מרצועת עזה לעבר ישראל.
בימים אלו המאבק בין ישראל לארגון הטרור נמשך, במסגרת המצוד שמתנהל אחרי שני פעילי הג'יהאד האסלאמי, שנמלטו מכלא גלבוע יחד עם בכיר התנזים זכריה זביידי וטרם נתפסו. המידור הגבוה ותכנית המילוט הקפדנית לא הפתיעה גורמים בצה"ל ובמערכת הביטחון, שכן ידוע שמדובר בארגון שמחנך את אנשיו לחשאיות גבוהה.
במסגרת החיפושים פועלים כוחות צה"ל ושב"כ במעוזי הארגון בנפת ג'נין, כדי לאתר פיסות מידע אודות מקום המסתור. גורמים במערכת הביטחון מעריכים כי האסירים הביטחוניים ינסו לחזור אל המרחב המוכר להם מאוד. מכאן גם נבעה ההערכה במערכת הביטחון כי זביידי שולב בתוכנית הבריחה בשל יכולתו לקבל סיוע והגנה מאנשי מחנה הפליטים בעיר.
מאז הבריחה מהכלא אירעו כמה מקרי ירי לעבר כוחות הביטחון באזור, בעיקר במעבר ג'למה. ניסיון העבר מלמד שמספר רב של חמושים מהג'יהאד האסלאמי יגן על האסירים אם יצליחו להגיע אל מחנה הפליטים ג'נין, והקרב שצפוי לצה"ל באחד המקומות הצפופים ביותר ביהודה ושומרון יהיה מורכב וקשה.