וואלה
וואלה
וואלה
וואלה

וואלה האתר המוביל בישראל - עדכונים מסביב לשעון

בינה מלאכותית בשירות החוק: המשטרה מחפשת טכנולוגיה לזיהוי "דיפ-פייק"

עודכן לאחרונה: 23.5.2024 / 9:49

מהפכת ה-AI הגבירה את הנגישות של גורמים פליליים לטכנולוגיות "דיפ פייק" והפכו את הסכנות שבשימוש בכלים אלו לממשיות. כעת, במשטרה מבקשים להצטייד בכלים אנליטיים, מבוססי בינה מלאכותית, כדי להתמודד עם האיום: "היכולת להבחין בין מידע אמין למידע מזויף - קריטית"

דיפ פייק - לפני ואחרי/BMW

הסכנה החדשה-ישנה סביב השימוש בסרטוני ב"דיפ-פייק", הפכה עם מהפכת ה-AI לאיום שכיח יותר בידי גורמים פלילים ועוינים. כעת, במשטרה מבקשים להצטייד בכלים אנליטיים, מבוססי בינה מלאכותית, כדי להתמודד עם האיום הגובר.

החשש במשטרה הוא שבאמצעות הטכנולוגיות החדשות יכול למעשה כל אדם המתמצא בפלטפורמה לערוך סרטונים פיקטיביים, שקריים ומגמתיים באמצעות הטמעה של פנים ודמויות מהעולם האמתי בתוך סרטונים ותמונות הקיימות ברשת. התוצר הסופי הוא אמין מאוד ובכוחו להפליל כל אדם, לבצע שיימינג ובעצם להנדס מציאות אלטרנטיבית.

דיפ פייק. ShutterStock, ShutterStock
דיפ פייק/ShutterStock, ShutterStock

כאמור, במשטרה מבקשים להצטייד בכלים אנליטיים בכדי להתמודד עם התופעה. הכלים יזהו האם סרטונים ותמונות עברו עריכה וזיוף או כל שינוי באמצעות AI. לפי דרישות המכרז, שפורסם במשטרה לפני ימים אחדים, הטכנולוגיה תספק למשטרה יכולת לזיהוי של עריכה או שימוש ב-"דיפ-פייק" בסרטון או תמונה שיבחנו על ידה, זיהוי מניפולציות מורכבות כמו החלפת פנים או הוספת אובייקטים".

"במציאות שבה אנו חיים קצב התפשטות המידע גדל אקספוננציאלית ומגיע לאוכלוסיות רבות ומגוונות", נכתב בדברי ההסבר למכרז של אגף הטכנולוגיה והתקשוב במשטרה, "הקדמה הטכנולוגית מאפשרת לידע ומידע רב להגיע אלינו בלחיצת כפתור אך לצד יתרון משמעותי זה קיימות גם סכנות. בהן: חוסר היכולת להבחין בין מידע אמיתי ואמין לבין מידע שעבר זיוף עמוק, היכולת לדעת בזמן אמת האם המידע אותנטי או האם עבר עריכה באמצעות Al היא קריטית ותאפשר למנוע הונאות ולשמור על מרחב תודעתי בטוח ומוגן עבור כולנו".

טרם התפרסמו תגובות

הוסף תגובה חדשה

+
בשליחת תגובה אני מסכים/ה
    2
    walla_ssr_page_has_been_loaded_successfully