סייברטק 2023: צ׳ק פוינט - פושעי סייבר עתידים לעשות שימוש בכלי ChatGPT
בסוף נובמבר 2022, OpenAI הוציאה את ChatGPT | צ׳ק פוינט זיהתה שימושים בכלי, בין היתר, כתיבת קוד ב-Java
עמי רוחקס דומבה
| 08/01/2023
תמונה: סייברטק
בסוף נובמבר 2022, OpenAI הוציאה את ChatGPT, הממשק החדש של מודל השפה הגדול שלה (LLM), שיצר מיידית שלל עניין ב-AI והשימושים האפשריים שלו. עם זאת, ChatGPT גם הוסיפה קצת תבלין לנוף איומי הסייבר המודרני, שכן מהר מאוד התברר שיצירת קוד יכולה לעזור לשחקני איומים פחות מיומנים להשיק התקפות סייבר ללא מאמץ.
בעבר, תיאר צוות המחקר של צ'ק פוינט (CPR), כיצד ChatGPT ניהל בהצלחה זרימת תקיפה מלאה. החל מיצירת דוא"ל דיוג משכנע ועד הפעלת מעטפת הפוכה (reverse shell), המסוגלת לקבל פקודות באנגלית. השאלה העומדת על הפרק היא האם זה רק איום היפותטי או אם כבר יש פושעים המשתמשים בטכנולוגיות OpenAI למטרות זדוניות.
הצוות של צ׳ק פוינט ניתח כמה קהילות פריצה גדולות ומצא שכבר יש מקרים ראשונים של פושעי סייבר המשתמשים ב-OpenAI כדי לפתח כלים זדוניים. חלק מהמקרים הראו בבירור שלפושעי סייבר רבים המשתמשים ב-OpenAI אין כישורי פיתוח כלל.
למרות שהכלים שאנו מציגים בדוח זה הם די בסיסיים, זה רק עניין של זמן עד ששחקני איומים מתוחכמים יותר ישפרו את האופן שבו הם משתמשים בכלים מבוססי בינה מלאכותית לרעה.
דוגמא. ב-29 בדצמבר 2022, שרשור בשם "ChatGPT - Benefits of Malware" הופיע בפורום פריצה מחתרתי פופולרי. המפרסם של השרשור חשף שהוא ערך ניסוי עם ChatGPT כדי ליצור מחדש זנים וטכניקות של תוכנות זדוניות המתוארות בפרסומי מחקר ובכתבות על תוכנות זדוניות נפוצות. הוא שיתף את הקוד של כלי מבוסס Python שמחפש סוגי קבצים נפוצים, מעתיק אותם לתיקיה אקראית בתוך תיקיית ה-Temp, מצמיד אותם ומעלה אותם לשרת FTP.
הדוגמה השנייה שהשחקן הזה יצר באמצעות ChatGPT היא קטע Java פשוט. הוא מוריד את PuTTY, קליינט SSH ו-telnet נפוץ מאוד, ומפעיל אותו באופן סמוי על המערכת באמצעות Powershell. ניתן כמובן לשנות את הסקריפט הזה כדי להוריד ולהפעיל כל תוכנית, כולל משפחות תוכנות זדוניות נפוצות.
גם צ׳ק פוינט משתתפות בכנס סייברטק 2023 שיערך בתל אביב ב31.1.2023. להרשמה לחצו כאן.
בסוף נובמבר 2022, OpenAI הוציאה את ChatGPT | צ׳ק פוינט זיהתה שימושים בכלי, בין היתר, כתיבת קוד ב-Java
תמונה: סייברטק
בסוף נובמבר 2022, OpenAI הוציאה את ChatGPT, הממשק החדש של מודל השפה הגדול שלה (LLM), שיצר מיידית שלל עניין ב-AI והשימושים האפשריים שלו. עם זאת, ChatGPT גם הוסיפה קצת תבלין לנוף איומי הסייבר המודרני, שכן מהר מאוד התברר שיצירת קוד יכולה לעזור לשחקני איומים פחות מיומנים להשיק התקפות סייבר ללא מאמץ.
בעבר, תיאר צוות המחקר של צ'ק פוינט (CPR), כיצד ChatGPT ניהל בהצלחה זרימת תקיפה מלאה. החל מיצירת דוא"ל דיוג משכנע ועד הפעלת מעטפת הפוכה (reverse shell), המסוגלת לקבל פקודות באנגלית. השאלה העומדת על הפרק היא האם זה רק איום היפותטי או אם כבר יש פושעים המשתמשים בטכנולוגיות OpenAI למטרות זדוניות.
הצוות של צ׳ק פוינט ניתח כמה קהילות פריצה גדולות ומצא שכבר יש מקרים ראשונים של פושעי סייבר המשתמשים ב-OpenAI כדי לפתח כלים זדוניים. חלק מהמקרים הראו בבירור שלפושעי סייבר רבים המשתמשים ב-OpenAI אין כישורי פיתוח כלל.
למרות שהכלים שאנו מציגים בדוח זה הם די בסיסיים, זה רק עניין של זמן עד ששחקני איומים מתוחכמים יותר ישפרו את האופן שבו הם משתמשים בכלים מבוססי בינה מלאכותית לרעה.
דוגמא. ב-29 בדצמבר 2022, שרשור בשם "ChatGPT - Benefits of Malware" הופיע בפורום פריצה מחתרתי פופולרי. המפרסם של השרשור חשף שהוא ערך ניסוי עם ChatGPT כדי ליצור מחדש זנים וטכניקות של תוכנות זדוניות המתוארות בפרסומי מחקר ובכתבות על תוכנות זדוניות נפוצות. הוא שיתף את הקוד של כלי מבוסס Python שמחפש סוגי קבצים נפוצים, מעתיק אותם לתיקיה אקראית בתוך תיקיית ה-Temp, מצמיד אותם ומעלה אותם לשרת FTP.
הדוגמה השנייה שהשחקן הזה יצר באמצעות ChatGPT היא קטע Java פשוט. הוא מוריד את PuTTY, קליינט SSH ו-telnet נפוץ מאוד, ומפעיל אותו באופן סמוי על המערכת באמצעות Powershell. ניתן כמובן לשנות את הסקריפט הזה כדי להוריד ולהפעיל כל תוכנית, כולל משפחות תוכנות זדוניות נפוצות.
גם צ׳ק פוינט משתתפות בכנס סייברטק 2023 שיערך בתל אביב ב31.1.2023. להרשמה לחצו כאן.
