יישום בינה מלאכותית בביטחון – תקציר עבודת מחקר.
הקדמה: באיזו מידה יכול שימוש בבינה מלאכותית לשפר את היעילות והדיוק של מערכות אכיפת החוק במאבק בטרור ובפשיעה?
בשנים האחרונות ובמיוחד לאחר השקה והתפרסמות של ChatGPT, בינה מלאכותית צברה תאוצה והפכה לחלק בלתי נפרד מתחומים רבים בחיינו. לבינה המלאכותית יש פוטנציאל משמעותי להשפיע עמוקות על תחומים רבים בחיינו, באינטראקציות של אנשים ובין אנשים לשלטונות, אחד התחומים הבולטים בהם הבינה המלאכותית צפויה להשפיע הוא תחום אכיפת החוק, מאבק בטרור ומאבק בפשיעה.. כאשר כבר היום מערכות שונות משתמשות בטכנולוגיות מתקדמות כדי לשפר את היעילות והדיוק במאבק בטרור ובפשיעה. השאלה המרכזית שעולה היא באיזו מידה יכול שימוש ב-AI לתרום למערכות אלו. מחקר זה שאנו עורכים נוגע בלב הדיאלוג המתמשך בין החלום האנושי למיגור טרור ופשיעה לבין המחיר הכרוך: ככל הנראה וויתור מוחלט על פרטיות, אנונימיות וכמה מהדברים היסודיים שמאפשרים לבני אדם להיות מי שהם.
במסגרת עבודת מחקר זו, אנו מתכוונים לחקור יישומים שונים של AI בתחום אכיפת החוק, בהתבסס על הידע שרכשנו בקורס. נבחן את היכולות של טכניקות למידת מכונה שונות לזיהוי פעילות חשודה, ניתוח נתונים רבים ומורכבים וסיוע בקבלת החלטות מהירות ומדויקות יותר. המטרה היא להבין כיצד ועד כמה השימוש ב-AI יכול לשפר את היעילות והדיוק של מערכות אכיפת החוק בהתמודדות עם אתגרים אלו.
הנושא של ביטחון, אבטחה, פשע וטרור מעניין ומרתק מכמה סיבות: ראשית, הוא נוגע לשאלות עכשוויות ומרכזיות בחברה המודרנית על היחס בין הרצון למנוע טרור ופשיעה לבין גבולות הטכנולוגיה והאתיקה. שנית, מדובר בנושאים שלצערנו אנו חיים אותם וחווים אותם בעצימות גבוהה הרבה יותר במדינת ישראל, דבר שלישי, הוא מציע הזדמנות לראות כיצד חזון ה-AI מתממש בפועל בתחום זזה שהינו חיוני להמשך שגשוג הציוויליזציה האנושית. בסוף העבודה, ננסה להעמיק ולהבין את ההשלכות של שימוש ב-AI לאכיפת החוק, קיים היום הבדל משמעותי אם מדובר במניעת טרור או אם במניעת פשיעה, אנו יודעים שממשלות יעשו כמעט כל על מנת למנוע טרור אך מעט מאוד לטובת מניעת פשיעה מתוך הבחנה ברורה בין טרוריסט לפושע, שכן פושע עלול להיות נער שנקלע לעוני ויצא לגנוב ופעולת טרור עשויה להסתיים באלפי נפגעים, אך מה יקרה כאשר הטכנולוגיה תתפוס פיקוד בנושא? אותם מכשירים טכנולוגיים יבצעו עבודה לשמירת הסדר הציבורי, האם הגבולות בין פשיעה לטרור יטשטשו, האם פושע יהפוך לטרוריסט וטררוסיט לפושע בעיני הבינה המלאכותית? כאשר אנו חושבים על עתיד התחום הזה אנו שואפים לחברה בטוחה שעדיין תכלול את השמירה על זכויות הפרט והריבונות האנושית בתוך הציוויליזציה האנושית.
יישום ראשון – מודל חיזוי (Prediction Model Evaluation)
אנו מאמינים שמודלי הערכות וחיזוי מבוססי בינה מלאכותית משחקים תפקיד מרכזי בשיפור היעילות והדיוק של מערכות אכיפת החוק במאבק בטרור ובפשיעה כבר היום, מערכות כאלה כבר קיימות בארגוני ביון וביטחון פנים, בשדות תעופה, מתקנים חשובים ועוד. השימוש בטכנולוגיות אלו מאפשר לזהות ולחזות אירועים פליליים בזמן אמת, וכן לנתח נתונים רבים ומורכבים במהירות רבה ובדיוק גבוה. ניתוחי חיזוי עתידי יהיו מסוגלים לשמש לחיזוי מיקומים וזמנים של פשעים עתידיים, מה שמאפשר לגורמי האכיפה להפנות משאבים ולפעול באופן מקדים למניעת פשעים אלה.
מודלי חיזוי מאפשרים למערכות אכיפת החוק לזהות ולחזות פעילות פלילית עתידית באמצעות ניתוח נתונים היסטוריים וזיהוי דפוסים. לדוגמה, יש צורך בשימוש בנתונים רבים המתבססים על ניתוח של מקרי טרור, התקפות טרור ואירועים נוספים, שיכללו גם את כל ספור המקרה, התגלגלות האירועים, הניתוחים וההבחנות של החוקרים השונים, דרכי הפעולה של הרשויות שלבסוף לא הצליחו או כן הצליחו למנוע את המתקפה… כנ”ל כמובן לגבי פשיעה על אף שיש צורך לציין כי טרור לרוב (בעולם ולאו דווקא בישראל) הוא פעולה מוגדרת ומתוכננת הרבה יותר ולעומת זאת פשיעה יכולה להיות מאוד מזדמנת וקשה הרבה יותר לחיזוי. לצד הצורך בצבירה של מידע רב כדי לאמן את המודלים, צריך לתת להם יכולות וכלים לחיזוי, לרוב הכלים האלו הינם סטטיסטיים. אלו נדרשים על מנת להשתמש טכנולוגיות בינה מלאכותית מתקדמות כדי לזהות ולחזות פעילות טרוריסטית ולהתמודד עמה ביעילות רבה יותר.
דוגמאות לטכנולוגיות כאלו יכולות להיות בצורת מערכות בינה מלאכותית המחוברות לרשתות של מצלמות אבטחה המנטרות את פעילות בני האדם במרחב (יכול להיות שדה תעופה, רחוב, עסק וכו’), מערכות AI אלה יהיו לא רק בעלות הידע (הכוונה מאומנות מראש) הנדרש ויכולות חיזוי אלא גם מצוידות בתוכנות ל ניתוח דפוסי התנהגות של בני אדם שיאפשרו להם לנתח בזמן אמת את כלל הנתונים ולחזות אירועים בעיתיים על פי כך, לאחר מכן, במידה והמודל חוזה התנהגות מעל לסף הנורמה, המערכת תוכל לדווח לגורמים רלוונטיים, בעתיד הקרוב ייתכן כי מדובר בגורמים אנושיים ובעתיד יותר רחוק ייתכן ויהיה מדובר בתקשורת מול מערכות אחרות.
יישומים נוספים: Machine Vision ו- “A needle in a haystack”
יישום של טכנולוגיות Machine Vision – ראיית מכונה היא טכנולוגיה המאפשרת למערכות ממוחשבות לזהות ולעבד תמונות ווידאו באופן אוטומטי. בתחום אכיפת החוק, יישומים אלו יכולים לכלול:
- זיהוי רכבים על כבישים ברחבי המדינה באמצעות מצלמות מהירות, אגרה, מעקב ועוד.
- זיהוי פנים באמצעות מצלמות אבטחה, לטובת זיהוי במערכת של אנשים חשודים, בנוסף לכך כיום קיימים מאגרי מידע על בני אדם החשודים בקשרים לטרור ולפשיעה ומערכות אלה יהיה מסוגלות לנתח, לזהות ולפעול בזמן אמת, כמו כן לעקוב ולנטר כל הזמן חשודים במרחב הציבורי (כדי לעשות כך, הן ידרשו לעקוב גם אחרי שאר האוכלוסיה ולנטר את כל הפעילות של אנשים בציבור, על זה נדבר בפרק הבא).
- זיהוי מצב ומיקום של עצמים במרחב בזמן אמת – משמש בעיקר לזיהוי תנועות או חוסר תנועות חשודות, למשל חניית רכבים במקומות מאובטחים או חשודים, הזזה של ותנועה של עצמים שיכולים לשמש מטרות פשיעה וטרור כגון: סמים, חומ”ס, אמל”ח, רחפנים, ציוד קשר, דלקים ועוד.
- זיהוי תנועה והערכת מהירות של עצמים – בהקשר צבאי, טכנולוגיות אלו יכולות לשמש לעיבוד תמונות לווייניות, זיהוי חיילים או רכבים, טילים, רחפנים בתנועה כלים אוטונומיים של כלי רכב צבאיים ועוד.
יישום של טכנולוגיית “מחט בערמת השחת” (A needle in a haystack)
בעיה זו מתארת את האתגר שבזיהוי אירועים נדירים או חשודים מתוך נתונים רבים ורועשים. בתחום אכיפת חוק והמאבק בטרור פתרון הבעיה ויישומו הינם קריטיים, כי מראש מדובר בפעילויות אשר הינם בגדר “מחט בערימת שחת”, שכן פעילויות כאלו קשה מאוד לזהות מכיוון והאנשים שמבצעים אותן מתאמצים מאוד להסוות אותן ולא להיתפס. בהנחה שהטכנולוגיה משתפרת כל הזמן ומסוגלת יותר ויותר לזהות אירועים מסוג זה יהיה ניתן ליישם זאת המגוון דרכים, ניפוי והתעלמות מנתונים ש”הוכחו” על ידי המערכת כלא רלוונטיים לזיהוי, בידוד ואחסון מחדש של אירועים שמעלים חשד מסוים אך דורשים בדיקה ומעקב נוספים או הצלבה עם נתונים חדשים, לטובת כך אנו מציעים ליישם מערכות AI רב שלביות הבנויות ממודלים מדויקים לאבחונים מסוימים בסביבות נתונים מסוימות.
השלכת יישום בינה מלאכותית בביטחון על יחסי אזרח-ממשלה
שימוש בבינה מלאכותית בתחום הביטחון ואכיפת החוק יכול להביא לשינויים משמעותיים ביחסי אזרח-ממשלה. מצד אחד, ה-AI יכולה לסייע באיתור ומניעת פשיעה וטרור באופן יעיל יותר, מה שיכול להעניק לאזרחים תחושת ביטחון גבוהה יותר ולשפר את התפיסה הציבורית של הממשלה סוף סןף כארגון ניהולי שמסוגל לפעול האחריות ולהגן על האזרחים (תדמית שנשברה בעולם המערבי ובישראל ובארה”ב בפרט).
מצד שני, כפי שציינו, השימוש ב-AI באכיפת החוק יכול גם להעמיק את חוסר האמון בין האזרחים לממשלה. רבים חוששים מהתערבות יתר והפרת פרטיות, כאשר טכנולוגיות מתקדמות מאפשרות פיקוח וניטור רחבים יותר. כמו כן, קיים חשש מפני טעויות או הטיות המערכות AI שעלולות להוביל להפליות ולפגיעה בזכויות הפרט.
כמו שציינו בתחילת העבודה, קיים חשש אף גדול יותר לגבי שימוש במערכות בינה מלאכותית לאכיפת חוק וביטחון. ננסה להמחיש זאת בדוגמא פשוטה, כמעט כל אדם בוגר בעל רישיון נהיגה בישראל כנראה עבר לפחות פעם אחת באור צהוב או אדום בטעות לחלוטין על אף שעל פי החוק זה אסור לחלוטין, אז למה זה קורה? בני אדם הם יצורים אורגניים בעלי מוח מורכב, הנמצאים בסביבה אורגנית ונדרשים לקבל החלטות מורכבות בזמן אמת, ההחלטה ללחוץ על הגז דווקא כשצריך לעצור יכולה להיגרם מאינסוף סיבות שונות ביניהן שיקול כי עצירה פתאומית היא בעלת סבירות גבוהה יותר לגרימת תאונה ונפגעים למשל, כל אדם יכול להבין סיבה זו אך האם המכונה תוכל להבין? כמ וכן בני אדם עשויים לשגות, בניגול לקוד ותוכנה, הטבע אינו בורא שלמות אלא עובד לפי כללים שונים לחלוטין מתוכנות קוד, שמבוססים אבולוציה והתפתחות דינמית לצד שינויים דינמיים בסביבה של היצור.
אין ביכולתנו בעבודה זו להיכנס לעומקם של נושאים אלו אבל נסכם ונציין כי עד היום, כלל האספקטים של ניהול הציוויליזציה האנושית נוהלו ותופעלו על ידי בני אדם, שוטרים, שופטים, חוקרים ועוד.. וכעת אנו עדים לשינויי חדש שבו חלק מסמכויות הניהול וחלק מעבודות התפעול בהקשר זה מועברות על ידנו לידי המכונות והתוכנות שיצרנו, ועלינו לוודא שאנושיות תוכל להמשיך להתקיים, מבלי להגדיר מהי “אנושיות” נציין רק כי מדובר בבסיס ההוויה האנושית שעליה מושתתות החברות (Society) שיצרנו בכל רחבי העולם. על מנת למנוע התרחקות נוספת בין האזרחים לממשלה בטווח הקצר (אימוץ ראשוני של הטכנולוגיה) ובטווח הבינוני-ארוך (יישום), חשוב להטמיע כללים ברורים ושקופים לשימוש ב-AI בתחום הביטחון. יש להבטיח שהטכנולוגיה משומשת באופן אחראי, תוך שמירה על זכויות הפרט והגנה על פרטיות האזרחים. כמו כן, יש לקדם שקיפות ולאפשר פיקוח ציבורי על השימוש בטכנולוגיות אלו, על מנת לבנות ולשפר את האמון בין האזרחים לממשלה.
כותב העבודה: שי מזרחי
ביבליוגרפיה
- National Institute of Justice. (n.d.). Using Artificial Intelligence to Address Criminal Justice Needs. Retrieved March 25, 2024, from https://nij.ojp.gov/topics/articles/using-artificial-intelligence-address-criminal-justice-needs
- JSTOR Daily. (n.d.). What Happens When Police Use AI to Predict and Prevent Crime? Retrieved March 25, 2024, from https://daily.jstor.org/what-happens-when-police-use-ai-to-predict-and-prevent-crime/
- Combating Terrorism Center at West Point. (n.d.). Data, AI, and the Future of U.S. Counterterrorism: Building an Action Plan. Retrieved March 25, 2024, from https://ctc.westpoint.edu/commentary-data-ai-and-the-future-of-u-s-counterterrorism-building-an-action-plan/
