האם אנחנו בדרך למציאות אפוקליפטית שבה המכונות מחליטות לחסל את האנושות, בדיוק כמו בסרטי "שליחות קטלנית"? לפי אחד המדענים הבכירים בבריטניה, זה כבר לא תסריט הוליוודי מופרך, אלא סכנה מיידית ומוחשית ש"ייתכן שכבר אין לנו זמן לעצור אותה".
דייוויד דלרימפל, מנהל תוכנית ומומחה לבטיחות AI בסוכנות המחקר וההמצאות הממשלתית הבריטית (ARIA), שיגר השבוע אזהרה חריפה שמהדהדת בכל מסדרונות השלטון: הציבור צריך להיות מודאג מאוד מהיכולות הגוברות של טכנולוגיית הבינה המלאכותית, שצפויות לעקוף את היכולת האנושית בכל תחום קריטי ולהשתלט על העולם כפי שאנו מכירים אותו.
"אנחנו ננוצח בתחרות בכל התחומים שבהם אנחנו חייבים להיות דומיננטיים כדי לשמור על שליטה בציוויליזציה, בחברה ובכוכב שלנו", אמר דלרימפל בראיון ל"גארדיאן".
2026: שנת המפנה
לפי התחזית של דלרימפל, אנחנו נמצאים במירוץ נגד השעון שהולך ונגמר. הוא מעריך כי בתוך חמש שנים בלבד, רוב המשימות בעלות הערך הכלכלי יבוצעו על ידי מכונות ברמה גבוהה יותר ובעלות נמוכה יותר מאשר על ידי בני אדם. אבל נקודת המפנה קרובה הרבה יותר: להערכתו, עד סוף שנת 2026, מערכות AI יוכלו לבצע באופן אוטונומי יום עבודה שלם של מחקר ופיתוח.
ברגע שזה יקרה, הזהיר, המערכות יוכלו לשפר את עצמן (Self-improve) ללא מגע יד אדם, מה שיגרום ל"האצה נוספת ביכולות" וליצירת מעגל משוב שישאיר את בני האדם הרחק מאחור. "זה לא מדע בדיוני", הדגיש.
עוד בנושא
המהפכות הקודמות שיפרו את האנושות. זה מה שתעשה המהפכה הזאת
3 שנים למהפכה: "האנושות תשלם מחירים. מי ימציא את כיפת ברזל הבאה?"
"הולכים מתוך שינה אל הלא נודע"
דלרימפל טוען שיש פער עצום בהבנה בין המגזר הציבורי לבין חברות הטכנולוגיה לגבי העוצמה של פריצות הדרך המתקרבות. "הדברים זזים מהר מאוד, וייתכן שאין לנו זמן להקדים את זה מבחינת בטיחות", אמר. "אי אפשר להניח שהמערכות האלו אמינות. המדע שנדרש כדי להפוך אותן לבטוחות כנראה לא יתממש בזמן, בגלל הלחץ הכלכלי העצום".
לדבריו, אם הקידמה הטכנולוגית תקדים את הבטיחות, התוצאה תהיה "ערעור היציבות הביטחונית והכלכלית". הוא סיכם במילים קודרות: "אני פועל כדי לנסות לגרום לדברים ללכת טוב יותר, אבל הסיכון גבוה מאוד והציוויליזציה האנושית, בגדול, צועדת לתוך המעבר הזה מתוך שינה".
הנתונים המפחידים: 60% הצלחה ב"שכפול עצמי"
האזהרות של דלרימפל מגובות בנתונים חדשים שפרסם החודש המכון לבטיחות בינה מלאכותית של ממשלת בריטניה (AISI). הדו"ח חושף תמונה מטרידה של קצב ההתקדמות:
הביצועים של המודלים המובילים מכפילים את עצמם כל 8 חודשים בתחומים מסוימים.
מודלים מובילים מצליחים כעת להשלים משימות ברמה של "מתמחה" ב-50% מהזמן (לעומת 10% בלבד בשנה שעברה).
מערכות מתקדמות מסוגלות להשלים באופן עצמאי משימות שלוקחות למומחה אנושי יותר משעה.
אולי הנתון המפחיד ביותר נוגע ל"שכפול עצמי" - היכולת של וירוס או תוכנה להפיץ עותקים של עצמה למכשירים אחרים ולהפוך לבלתי ניתנת לשליטה. בבדיקות שערך המכון, שני מודלים מובילים השיגו שיעורי הצלחה של יותר מ-60% בניסיונות שכפול עצמי.