'זהות סינתטית' – איום מבוסס AI חדש

לן נו, אוונגליסט טכני בחברת סייברארק, מסביר כיצד מידע ציבורי ברשת, צ'טבוטים ו-predictive analytics מאפשרים ליצור פרופילים דיגיטליים “עמוקים” של בני אדם

Photo by Waldemar on Unsplash

"הזהות הסינתטית" היא הגרסה הדיגיטלית של כל אחד מאיתנו, אז מה קורה כאשר בינה מלאכותית ולמידת מכונה מעבדות נתונים (שלך) שנאספו ברשת?

ChatGPT יודע הרבה עלי (Len Noe), האקר "כובע לבן" וביו-האקר. הכינוי "ביו-האקר" מתייחס לכך שאני "טרנס-אדם" (אפשר בהחלט לקרוא לי "סייבורג" – חצי אדם-חצי מכונה). הוא גם יודע איך ילדיי מכנים אותי.

הסיבה לכך היא שהזנתי ל-ChatGPT את כל המידע הזמין לציבור באינטרנט שהצלחתי למצוא על עצמי, בעצמי ובאמצעות טכנולוגיית איסוף מודיעין ממקורות גלויים (OSINT), והכול למען מחקר אבטחת הסייבר. מידע זה כלל מקומות מגורים, רישומים אוטומטיים, חשבונות חשמל, פוסטים ברשתות חברתיות, תמלילי מצגות שהעברתי וראיונות שנתתי.

כל מה שנמצא בעולם הדיגיטלי הועבר ל-ChatGPT. מה שנוצר בסופו של דבר זו גרסה דיגיטלית של עצמי – שאותה אני מכנה "זהות סינתטית".

הזהות הסינתטית הזו – זהות שנולדה מטשטוש של מאפיינים פיזיים ודיגיטליים המשמשים לזיהוי בני אדם כפרטים – היא קבועה. ככל שאנו משתפים יותר חומרים באינטרנט, בכל מקום ובכל דרך אפשריים, כך אנו מותירים אחרינו שובל של "פירורי לחם" שאחריהם יכולים התוקפים להתחקות כדי לנצלם למטרותיהם הזדוניות.

זו הסיבה לכך שיצרתי את הזהות הסינתטית שלי – כהרחבה של מאמציי המתמשכים לחשוב כמו התוקפים – ובכך לשמור על היתרון היחסי מולם. למעשה, יצרתי דרך לתקשר עם גרסה דיגיטלית של עצמי, שיש לה מידע על הקיום הפיזי שלי ומבינה אותי.
הזנת נתונים שנאספו ברשת ל-ChatGPT לצורך יצירת זהות סינתטית – איך זה שונה ממתקפת Doxing?

במבט ראשון, הניסוי שערכתי עם ChatGPT נראה כמו Doxing – הפעולה הזדונית של איסוף ופרסום מידע מזהה על אדם או ארגון ללא הסכמתו. עם זאת, ישנם שני הבדלים גדולים בין השניים. ראשית, הזהות הסינתטית מבוססת על הנתונים האישיים שלי, ושנית, למנוע הבינה המלאכותית של ChatGPT יש כוח עיבוד על-אנושי המאפשר לו למזג שפע רב של נתונים שונים באופן מיידי.

כל פיסות המידע והנתונים הללו שמאפשרים זיהוי אישי מפוזרים בנתונים רבים ושונים, ולכן קשה למצוא נקודות שמחברות ביניהם בשביל לנצל את המידע. מנגד, כאשר מזינים את הכל ל-,ChatGPT שמטרתו למצוא נקודות מתאם בין הנתונים, ניתן ליצור כל מיני קשרי מידע על אנשים ספציפיים, ובכך לחשוף אותם לסיכונים משמעותיים.

כאשר מזינים את כל הנתונים הלא מוגנים הללו ל"בלנדר" של ChatGPT, התוצאה יכולה להחמיר את סכנת הדוקסינג במידה ניכרת. ההזדמנויות הנגישות לתוקפים נמצאות באוקיינוס דיגיטלי גואה של זהויות. היכולת שמקנה לנו הבינה המלאכותית לקבל מתאם בין נתונים מקלה מאוד על התוקפים בניחוש מושכל של סיסמאות ושאלות שחזור סיסמה המשמשות יעדים פוטנציאליים.

הבינה המלאכותית יכולה לברר או להסיק כהרף עין את שם הנעורים של אימו של היעד או את שם הרחוב שבו הוא גדל – כמעט כל שאלה/תשובה סטנדרטית טיפוסית המשמשת בפורטלים לשחזור סיסמה עצמי. ברגע שהתוקף מחזיק במידע הזה, אז מתחיל המשחק.

חילוץ נתונים פשוט הוא רק קצה הקרחון של יכולות הבינה המלאכותית. כמובן שהתוקפים לא יגבילו את עצמם (וגם כיום אינם מגבילים את עצמם) לנתונים הזמינים ברשת בלבד. החיים הדיגיטליים שלנו מקלים על מפרסמים ורשתות חברתיות לבנות קומפוזיציות של זהויות של אנשים על סמך ההתנהגויות וההעדפות המקוונות שלהם. תיקים דיגיטליים אלה נמכרים ומשותפים באופן שגרתי – וניתן גם ליירט אותם.

דפוסי דיבור מזויפים וטקסטים אנושיים מעצימים את ההיתכנות למתקפת סייבר פרסונלית

כך נוצר הפוטנציאל להזדמנויות יקרות מפז עבור התוקפים. די לחשוב על ההזדמנויות לחיקוי התנהגות כדי להיבהל. יצירת זהות סינתטית יכולה לשמש כמנוע לפעילויות זיוף, פישינג והתחזות, על ידי סיוע לתוקפים בהפקת דפוסי דיבור וכתיבה אנושיים ומציאותיים יותר, שיכולים לשכנע אדם לשתף פרטים או לעשות משהו בלתי-רצוי.

הצלחה בפעילויות אלה יכולה בתורה לפתוח פתח למתקפות כופר וסחיטה. ככל שתוקפים יכולים לקצור יותר נתונים, כך עולים סיכויי ההצלחה שלהם – והשלל הפוטנציאלי.

תחשבו על המידע שניתן לגשת אליו עם הנתונים שנאספו על ידי הכורים של חברות הטכנולוגיה הגדולות. כמובן שאנחנו, כמי שדוגלים בהנחת עבודה שלפיה הפריצה תמיד תתרחש (Assume Breach), מחויבים להביא בחשבון את האפשרות הזו. מדע הנתונים דורש חשיבה מחוץ לקופסה, פתרון בעיות וחשיבה אנליטית. התוקפים נוקטים בגישה דומה.

עם הזמן אנו מתבקשים לצרף יותר ויותר שירותים דיגיטליים לזהויות הדיגיטליות שלנו. בכל פעם שאנו מוסיפים אפליקציה חדשה למכשירים הניידים שלנו, תוכנה אחרת מבקשת הרשאות כדי להעמיק עוד יותר את חדירתה לחיינו הפרטיים. הזהות הדיגיטלית שלנו, שחושפת אותנו למתקפות, נמצאת כיום בכל מקום.

בסוף הכול קשור לעניין הזהות
הפוטנציאל לאיומים מסוג זה על הזהות הסינתטית טרם מומש במלואו. עם זאת, כמעט כולם כרוכים באופן בלתי-נמנע בנתונים ובזהות.

אנחנו שומעים על גניבת זהות, ניטור זהות, אימות זהות ואבטחת זהות. הכל קשור לזהות, ולא בכדי. הזהות שלנו היא הדבר היקר ביותר שיש לנו – היא הדמות הפיזית שלנו, הקול שלנו, דפוסי ההתנהגות שלנו. אלה החברים, המשפחה, התחביבים, הדברים שאנחנו אוהבים ולא אוהבים. זה מה שהופך אותנו למי שאנחנו.

הזהות האישית שלנו היא מיזוג של העצמי הפיזי והדיגיטלי שלנו. מכאן ניתן להסיק שהזהות שלנו עלולה להיות בסכנה לא רק בעת קיום אינטראקציות מקוונות, אלא גם באופן שבו אנו מתקשרים בעולם הפיזי.

תקשורת עם המקרר החכם או התחברות לרשת ה-Wi-Fi הביתית הן רק שתי דוגמאות מתוך אין-ספור פעולות מקושרות אחרות. אנחנו נמצאים בנקודה שבה לא ניתן להפריד בין שני הצדדים האלה של העצמי – הם מתמזגים בצורה קבועה ובלתי-הפיכה.

החפיפה בין הזהויות של חיי העבודה וחיי הבית
העבודה מתרחשת בכל מקום ומכל מקום. משמעות הדבר היא, בין היתר, שהגבולות המפרידים בין מכשירים ומזהים מקוונים המקושרים ל"עבודה" לבין אלה המקושרים לחיים ה"אישיים" טושטשו או נעלמו לחלוטין, והתוקפים יודעים זאת.

מדוע שתוקפים ינסו לפרוץ לנכס התאגידי שלך, כשהם יודעים שהוא מוגן מאחורי שכבות אבטחה מרובות, בעוד שאתה מנהל פעילות עסקית במכשיר אישי לא מוגן? הרבה יותר קל לתקוף את המחשב האישי שלך – ומשם אפשר פשוט לרכוב על היישומים במנהרות הפרטיות, והם לוקחים אותם הישר למערכות הארגון.

גם מכשירים בבעלות החברה מהווים סיכון. מה הדבר הראשון שקורה כשמחשב נייד בעבודה יוצא מהסביבה הארגונית? הוא מתחבר לרשת Wi-Fi ביתית.

ברגע שהמכשירים האלה עוזבים את הסביבה הארגונית, הם עוברים לסביבה חשופה, והתפקיד של אנשי אבטחת הסייבר הוא לדאוג להביא את נושא האבטחה לראש מעיניהם של המשתמשים, על מנת שישמרו על ערנות ויבינו שבחוץ ישנם גורמים עוינים שינסו לחדור דרכם לרשת הארגונית, ולהם יש תפקיד חשוב ביותר בשמירה עליה.

זהות סינתטית יכולה לבוא לידי ביטוי במגוון דרכים בהקשר זה. לדוגמה, ניתן להשתמש בזהות סינתטית כדי לתקוף רשת ארגונית דרך הרשת הביתית, תוך שימוש בקורלציה של נתונים שהושגה בעזרת בינה מלאכותית. לחלופין, הזהות הסינתטית יכולה לשמש לפעילויות זיוף והתחזות, על מנת לגרום לאנשים לחשוף את הסיסמאות של החשבונות האישיים שלהם, שעשויות להיות דומות (או זהות) לסיסמאות המשמשות אותם ביישומים הארגוניים.

נניח שבוצע פישינג מוצלח שגרם לכם לשתף את הסיסמה שלכם ל-Netflix, שבמקרה היא אותה סיסמה שבה אתם משתמשים עבור חשבון Office 365 הארגוני שלכם. כמובן, זה לא משחק.

מה אנשים וארגונים יכולים לעשות כדי לבלום את האיומים הנשקפים מהזהויות הסינתטיות הנרקמות בסיוע בינה מלאכותית ולמידת מכונה?

לרסן שיתוף מידע באינטרנט: האם מותג X באמת צריך את המידע שהם מבקשים? האם חידון המדיה החברתית מבקש ממך מידע מזהה שניתן להשתמש בו כדי לנחש סיסמה?

שימוש באימות רב-גורמי (MFA): האפשרות הטובה ביותר שיש לנו היא רב-גורמיות אדפטיבית אמיתית, שתוודא בפועל שאני מי שאני מתיימר להיות. רב-גורמיות איננה דו-גורמיות – שני גורמים זה המינימום. מנקודת מבט ארגונית, עלינו להתחיל לבחון לעומק את המעבר שבין האישי והעסקי.

הורידו יישומים בזהירות והגבילו את הגישה שלהם: שימו לב איזו הרשאה מבקש יישום לפני ההורדה, האם הוא באמת זקוק לגישה לדברים כמו המצלמה, המיקרופון ורשימת אנשי הקשר שלכם?

אבטחו את הרשת הביתית שלכם: השתמשו בסיסמה חזקה ומורכבת עבור הראוטר הביתי, ושנו אותה באופן קבוע. הקפידו תמיד לעדכן את תיקוני הקושחה והתוכנה שלכם.

לסיכום, היום כאשר זהויות של אנשים מורכבות מאינספור נתונים דיגיטליים המשויכים בסופו של דבר לישויות פיזיות, כל האלמנטים מקושרים זה לזה יותר מאי-פעם. כעת ישנה טכנולוגיה זמינה המאפשרת לתוקפים לחבר בין הנתונים הללו בקנה מידה גדול.

בתקופה הנחשבת ל"בהלה לזהב" של הבינה המלאכותית, כאשר הטכנולוגיה עצמה עדיין נמצאת בשלב מוקדם יחסית, אבטחת הזהויות שלנו, בעבודה ובבית – בכל מקום – היא בעלת חשיבות עליונה.

img
פרשנות | כוח צבאי משמעותי של נאט״ו יכול להקטין הסתברות למלחמה גרעינית באירופה
דעה | אופציה צבאית ישראלית תוכל לרסן את איראן 
קבוצת SQLink רוכשת את ZIGIT הישראלית
קבוצת SQLink רוכשת את ZIGIT הישראלית