קצין אמריקני טען בחודש שעבר כי כלי בלתי מאויש (כטב"ם) שערך אימון ונשלט על ידי בינה מלאכותית (AI) "הרג" את המפעיל שלו, כדי למנוע ממנוע להתערב ולהפריע בהשלמת המשימה. חיל האוויר של ארצות הברית הכחיש הבוקר (שישי) את המקרה. עם זאת, בכיר אמריקני תיאר את התקרית כ"אסטרטגיה מאוד לא צפויה להשיג את המטרה".
הקצין, טאקר המילטון, שאחראי על בחינת ה-AI בחיל האוויר האמריקני, סיפר כי המערכת "הרגה" את המפעיל אחרי שהוא מנע ממנה לפגוע באיום שהיא זיהתה. "אימנו את המערכת להבין שלפגוע במפעיל זה רע, אז מה היא עשתה? היא התחילה לפגוע במערכות הקשר, כדי שהיא תוכל להשלים את המשימה", הסביר המילטון.
על אף הדברים של הקצין, דוברת חיל האוויר האמריקני הכחישה בתוקף את המקרה. "לא ערכנו שום סימולציה שקשורה בכטב"ם שמופעל על ידי מערכת בינה מלאכותית", אמרה. "אנחנו עדיין מחויבים לאחריות וכללי האתיקה שמלווים על ידי הפעלת מערכת AI. נראה שדבריו של הקצין הוצאו מהקשרם".
מוקדם יותר השבוע פורסמה עצומה עליה חתמו בכירים בתעשייה ההיי-טק העולמית, בהם מנכ"ל OpenAI (מפתחת ChatGPT) סם אלטמן ומנכ"ל DeepMind של גוגל, דמיס האסביס, שקוראת לקבוע תקנות ולבחון את ההשפעות של מערכות ה-AI. בסך הכל, מדובר בהודעה קצרה, שבה נכתב: "הפחתת סכנת ההכחדה שקיימת מבינה מלאכותית צריכה להיות בראש סדר העדיפויות העולמי לצד סיכונים אחרים בקנה מידה חברתי כמו מגפות ומלחמה גרעינית".
ההצהרה הדרמטית של הבכירים בתעשייה מצטרפת למסרים דומים שנשמעו מפי דמויות מפתח נוספות. אילון מאסק, מנכ"ל טסלה ו-SpaceX, התייחס לאחרונה לסיכונים הממשיים של הטכנולוגיה ואמר ש-"בינה מלאכותית היא אחד הסיכונים הגדולים ביותר לעתיד הציוויליזציה". לדבריו, בניגוד למכוניות ומטוסים, ל-AI עדיין אין כללים או תקנות המבקרים את הפיתוח.