שנים הסתפק בתפקיד מזכ"ל אש"ף, מספר שתיים של ערפאת, אבל לא ממש התחכך איתו. כשערפאת הגיע לעזה, מחמוד עבאס לא היה שם. רק מאוחר יותר בא עם משפחתו. הוא לא התמודד לפרלמנט וסירב להשתתף בממשלת הרשות. מקורביו אמרו שאינו רוצה בתפקיד שכפוף, ישירות, לערפאת בגלל הבדלי האופי וחילוקי הדעות. כאשר הקוורטט כפה עליו לכהן כראש ממשלה ועל ערפאת להשלים עם מינויו ב-2003, חש שאין לו ברירה אלא להסכים. לאחר שישה חודשים התפטר. אחת מנקודות המחלוקת העיקריות היתה האינתיפאדה. אבו מאזן היה המנהיג הבולט שאמר לערפאת כי עצימת עין ומתן אפשרות להמשכה של האינתיפאדה הם מעשים חסרי תוחלת שרק יזיקו לפלסטינים.
לאחר מות ערפאת היתה בחירתו לנשיא כמעט מובנת מאליה. אף שיחסיו הקשים עם ערפאת לא היו סוד, ואף שהתפטר מהמוסדות הפוליטיים שבהם היה חבר, איש בהנהגה לא היה יכול לעמוד מולו. הוא נחשב לאב-מייסד. כוונתו היתה לכהן תקופת כהונה אחת ולהעביר את השרביט לבן הדור הצעיר. לא היה לו מועמד מסוים.
הוא ציפה כי בחירתו (ברוב של 62%) תאפשר לישראל לפתוח במו"מ ישיר ומשמעותי. הוא הכיר את שרון וחשב שכראש ממשלה הוא עשוי להפתיע. שרון העניק לו סטירת לחי - יציאה מכל רצועת עזה, תוך כדי הריסת היישובים הישראליים, ללא הסכם, מלבד תיאומים טקטיים. שרון לא הסתיר את דעתו: אין פרטנר ואין הבדל בין התנועות הפלסטיניות. אבו מאזן הבין: שרון העניק את עזה כשי לחמאס.
חודשי כהונתו האחרונים
את הבחירות הפרלמנטריות של 2006 הפסידה מפלגתו לחמאס, ושנה וחצי מאוחר יותר השתלט חמאס על עזה והקים שם ישות נפרדת. אולמרט, שהחליף את שרון, היה הפתעה מעודדת מבחינתו של אבו מאזן. הוא שמח על ההזדמנות לקיים איתו מו"מ, אך הבין שלבני לא מעניקה גיבוי לאולמרט וכי ימיו בשלטון מתקצרים על רקע המשפט המחכה לו.
בחירתו של ברק אובמה העניקה לאבו מאזן תקווה כי אובמה דיבר כאחד מראשי מחנה השלום הישראלי. הוא קיווה כי הנשיא ישכנע את נתניהו לשנות כיוון והתעודד מנאום בר-אילן. אך הפיכת התביעה להקפאת ההתנחלויות לתנאי לקיום המו"מ על יד אובמה סתמה את הגולל על קיומו של מו"מ. נתניהו התנגד להקפאה מלאה, והוא לא יכול היה להסתפק בפחות מהתביעה האמריקנית המקורית.
הפנייה לאו"ם היתה, מבחינתו, מהלך של אין ברירה. השימוש באלימות נפסל, התיאום הביטחוני עם צה"ל הגיע לשיא, ואילו הציבור הפלסטיני ציפה למהלך משמעותי על רקע "האביב הערבי", שלא הגיע אל הפלסטינים. כישלון המהלך המדיני הוביל אותו לניסיון להגיע להבנות עם חמאס, שנוא נפשו, לקראת בחירות שיתקיימו במאי. הוא לא ישתתף בהן.
אלה, ככל הנראה, חודשי כהונתו האחרונים. יהיו בקרבנו כאלה שישמחו. מנהיג פלסטיני המתנגד לטרור ומצדד במו"מ כשהוא לבוש בחליפה קשה יותר ממנהיג המרבה בסיסמאות, שומר לעצמו את האופציה האלימה וחובש כאפייה. מול אחד כזה נוח יותר להודיע לעולם שאין לנו פרטנר. מי שחושב שזהו האינטרס של ישראל לא יצטער על לכתו. אחרים יסמנו לעצמם את החמצתה של הזדמנות נוספת.