חברות ישראליות משולבות במחקר להגנת בינה מלאכותית

יום ד', 15 באפריל 2020
הפנטגון ממשיך להיות גורם מוביל בפיתוח ישומי הי-טק  לשירות המשק האמריקאי  בנוסף למכרז הענן הגדול בו זכתה מיקרוסופט.
 
עתה נמסר על  פרויקט חדש של סוכנות המחקר של הפנטגון (DARPA), המיועד למאבק בשימוש לא ראוי ואף מסוכן בבינה מלאכותית.
 
על פי הדיווח של אתר Protocol  DARPA פרסמה את המכרז להגשת מועמדויות בפברואר האחרון. ראשי התיבות של הפרויקט GARD מציינות שמדובר ביוזמה המיועדת בעיקר לפתח טכנולוגיות שיאפשרו למנוע שימוש בבינה מלאכותית בדרכים זדוניות.
 
התכנית תתפרש על פני 4 שנים וזוכה למימון  של עשרות מיליוני דולרים בשנה מהפנטגון. בין היתר היא תשמש לפיתוח של אמצעי הגנה לחיישנים, המיועדים לזהות כאשר בינה מלאכותית מנסה להונות אותם.
 
לדוגמה, בחיישנים של רכב אוטונומי. אלה עשויים לזהות עצמים מסוימים באופן שונה מהמציאות. כך למשל אם חיישן רכב אוטונומי לא ידע לזהות תמרור עצור או רמזור וימשיך לנסוע הוא יכול לגרום לתאונה ואף למוות. שיבוש הפעולה של החיישן מאפשר להפוך אותו לנשק וזה בדיוק מה שהתכנית מבקשת למנוע.
 
בין המשתתפים בתוכנית מוסדות יוקרתיים כגון ג'ורג'יה טק, אוניברסיטת ג'ונס הופקינס, MIT, אוניברסיטת קרנגי מלון ו-SRI. ובין החברות שהצטרפו אינטל מובילאיי ומרכז המחקר אלמדן של IBM. אינטל תשתף פעולה עם ג'ורג'יה טק ו-IBM עם SRI (מרכז מחקר ללא מטרות רווח שממוקם בעמק הסיליקון).
 
החוקרים ינסו למצוא את הדרכים לאבטח חיישנים, אמצעי זיהוי ומערכות מבוססות בינה מלאכותית. כך למשל כל תחום הראייה המלאכותית מבוססת מחשב סובלת מרגישות גבוהה להפרעות זדוניות. אלה מנצלות את אופן הפעולה שלהן שמבוססת על מערכות למידת מכונה וסטטיסטיקה כדי לשבש את הזיהוי שלהן.
 
שיבוש  מערכות בינה מסוכן מאוד במכוניות אוטונומיות למשל, אך לא פחות מכך במעברי גבול שכן הוא מאפשר לזייף את תווי הפנים וכך לאפשר כניסה של גורמים פליליים או טרוריסטים למדינות שונות.