הסכנה החדשה-ישנה סביב השימוש בסרטוני ב"דיפ-פייק", הפכה עם מהפכת ה-AI לאיום שכיח יותר בידי גורמים פלילים ועוינים. כעת, במשטרה מבקשים להצטייד בכלים אנליטיים, מבוססי בינה מלאכותית, כדי להתמודד עם האיום הגובר.
החשש במשטרה הוא שבאמצעות הטכנולוגיות החדשות יכול למעשה כל אדם המתמצא בפלטפורמה לערוך סרטונים פיקטיביים, שקריים ומגמתיים באמצעות הטמעה של פנים ודמויות מהעולם האמתי בתוך סרטונים ותמונות הקיימות ברשת. התוצר הסופי הוא אמין מאוד ובכוחו להפליל כל אדם, לבצע שיימינג ובעצם להנדס מציאות אלטרנטיבית.
כאמור, במשטרה מבקשים להצטייד בכלים אנליטיים בכדי להתמודד עם התופעה. הכלים יזהו האם סרטונים ותמונות עברו עריכה וזיוף או כל שינוי באמצעות AI. לפי דרישות המכרז, שפורסם במשטרה לפני ימים אחדים, הטכנולוגיה תספק למשטרה יכולת לזיהוי של עריכה או שימוש ב-"דיפ-פייק" בסרטון או תמונה שיבחנו על ידה, זיהוי מניפולציות מורכבות כמו החלפת פנים או הוספת אובייקטים".
"במציאות שבה אנו חיים קצב התפשטות המידע גדל אקספוננציאלית ומגיע לאוכלוסיות רבות ומגוונות", נכתב בדברי ההסבר למכרז של אגף הטכנולוגיה והתקשוב במשטרה, "הקדמה הטכנולוגית מאפשרת לידע ומידע רב להגיע אלינו בלחיצת כפתור אך לצד יתרון משמעותי זה קיימות גם סכנות. בהן: חוסר היכולת להבחין בין מידע אמיתי ואמין לבין מידע שעבר זיוף עמוק, היכולת לדעת בזמן אמת האם המידע אותנטי או האם עבר עריכה באמצעות Al היא קריטית ותאפשר למנוע הונאות ולשמור על מרחב תודעתי בטוח ומוגן עבור כולנו".