גיא דגן
מבצע "שאגת הארי" מספק לנו הצצה לעולם חדש של קונפליקטים ומלחמות. זהו מגרש משחקים גלובלי בו משתתפים במשחק גופי סייבר, כלי AI, מדינות ושלל ישויות. אבל להפתעת רבים ובניגוד למחשבה הרווחת, זהו עולם בו חשיבות הגורם האנושי רק הולכת וגוברת והחשיבות של כל אחד מאיתנו כחולייה בשרשרת ההגנה עולה. כל זה קורה בעיקר עקב שדרוג משמעותי של יכולות ה-AI בכל האמור לעולם ההנדסה החברתית – התוקפים נהנים מיכולות שטרם נראו, כך שבאופן פרדוקסלי, האדם הפרטי שוב במרכז.
המערכה המתנהלת כיום במרחב הסייבר, אינה רק מלחמה טכנולוגית. היא גם מלחמה על התודעה. לצד מתקפות טכניות על מערכות מחשב, מתנהלים מבצעי השפעה והנדסה חברתית שמטרתם להשפיע על התנהגות אנשים: עובדים, מנהלים ואזרחים. במציאות הזו, הבינה המלאכותית הפכה לכלי מרכזי בארסנל של התוקפים, משום שהיא מאפשרת לבצע מניפולציות על הגורם האנושי בצורה מדויקת ומשכנעת יותר מאי פעם ומכיוון ששילוב ה- AI בטכנולוגיות ההגנה כיום, מקשה על התוקפים ברמה הטכנית.
אחת ההתפתחויות המשמעותיות היא היכולת של תוקפים להשתמש במודלים מתקדמים כדי לייצר תוכן מותאם אישית, בקנה מידה רחב. אם בעבר הודעות פישינג היו גנריות והיה קל יחסית לזהות אותן, היום ניתן לייצר, באמצעות AI, הודעות שנראות אמינות לחלוטין: בשפה טבעית, עם הקשר מקצועי או אישי ולעיתים, עם מידע שנאסף מראש על הקורבן, ממקורות פתוחים ברשת. התוצאה היא מתקפות הנדסה חברתית שמותאמות לכל אדם באופן כמעט אישי ומכאן, גם שיעורי ההצלחה הגבוהים יותר.
והיכולת הזו אינה מוגבלת לטקסט. התקדמות בתחום הבינה המלאכותית מאפשרת ליצור גם Deepfake ו- Voice Cloning – חיקוי של קול או של דמות. המשמעות היא שתוקף יכול להציג סרטון או שיחת טלפון שנראים כאילו הם מגיעים ממנהל בכיר, קולגה או גורם סמכות אחר, בחיקוי מדויק והקשר שנראה אמין, כך שקשה מאוד לזהות שמדובר במניפולציה. לצד זה אפשר לראות איך תוקפים עושים שימוש ב- AI ככלי אסטרטגי ולא רק ככלי טקטי. ה-AI נכנס לא רק לשם כתיבת מייל הפישינג או יצירת הדיפ-פייק. אפשר לראות איך תוקפים ממש מתייעצים עם הבינה המלאכותית לגבי אופן הפנייה לאנשים והדרכים לתמרן אותם פסיכולוגית ועוד.
במקביל למתקפות ממוקדות על עובדים או ארגונים, מדינות מפעילות מבצעי תודעה רחבים ברשת. איראן, למשל, מפעילה לאורך השנים מערכים של חשבונות פיקטיביים וקמפיינים ברשתות החברתיות שמטרתם להשפיע על השיח הציבורי, להפיץ נרטיבים מסוימים ולהעצים מתחים חברתיים ופוליטיים. כאשר טכנולוגיות AI נכנסות לתמונה, היכולת לייצר כמויות עצומות של תוכן: פוסטים, תגובות, מאמרים או פרופילים – גדלה משמעותית. כך ניתן להציף את המרחב הדיגיטלי במסרים שנראים אותנטיים, אך למעשה, נוצרו כחלק ממבצע השפעה מתוזמן.
לזה מתווספת שכבה נוספת של סיכון. כשחברה שלמה נמצאת תחת לחץ, עייפות ומתח מתמשך, היכולת שלנו לשמור על ערנות ולבחון מידע בצורה ביקורתית, נחלשת. עומס המידע, הדחיפות של אירועים בזמן אמת והצורך להגיב מהר, יוצרים סביבה בה קל יותר לבצע מניפולציה. אנשים עלולים לפעול באופן אוטומטי: ללחוץ על קישור, להעביר הודעה או לבצע פעולה, מבלי לעצור ולבדוק אם המידע אמין.
תוקפים מודעים היטב למצב הזה ומנצלים אותו. קמפיינים של הנדסה חברתית מנוסחים כך שהם יוצרים תחושת דחיפות, סמכות או לחץ רגשי. כשהודעות נראות אמינות ומגיעות לכאורה מאדם מוכר או נתמכות בקול או וידאו משכנעים, הסיכוי שהקורבן יפעל מבלי לבדוק, עולה משמעותית. במילים אחרות, AI אינו רק כלי טכנולוגי, הוא מכפיל כוח פסיכולוגי שמעצים את יכולתם של תוקפים להשפיע על התנהגות אנושית.
כך הופך הגורם האנושי לחשוב מאי פעם. מערכות הגנה מתקדמות אמנם יכולות לזהות נוזקות ולחסום מתקפות טכניות, אך הן אינן מסוגלות למנוע כל מניפולציה פסיכולוגית והן אינן עומדות בקצב השינויים הטכנולוגיים. הקו הראשון של ההגנה נותר האדם עצמו: היכולת לשאול שאלות, לזהות סימני אזהרה ולהמנע מפעולה אוטומטית, כשמשהו נראה חריג.
בעידן בו בינה מלאכותית מאפשרת לתוקפים ליצור מתקפות מתוחכמות ומשכנעות יותר, ההגנה אינה יכולה להישען רק על טכנולוגיה. דווקא עכשיו, כשהלחץ והעייפות גדלים והמידע זורם ללא הפסקה, עולה החשיבות של מודעות אנושית. בסופו של דבר, גם בעידן ה- AI, נותר האדם החוליה המרכזית ולעיתים, גם האחרונה בשרשרת ההגנה של עולם הסייבר.
