תקיפת Ghostcommit היא דוגמה מרתקת ומדאיגה לכיצד מתקיפים יכולים להסתיר הוראות זדוניות בתמונות, ולהטעות מודלים של AI שמבצעים ביקורת קוד. המחקר, שנערך על ידי קבוצת ASSET Research Group, חשף פגיעה חמורה בביטחון שרתי הקוד, שיכולה להביא לגנבת סודות ומסמכים רגישים. בימים אלה, כשאינטגרציה של AI בתהליכי הפיתוח מתרחבת, חשוב להבין את הסכנות הללו ולהתחמש נגדן. התקפה זו מתבססת על היכולת של מתקיפים להסתיר הוראות בתמונות, כגון קבצי PNG, ולהשתמש בהן כדי להטעות מודלים של AI. כאשר מתקיפים משלבים תמונה עם הוראות זדוניות בקובץ AGENTS. md, המודל של AI יכול לבצע את ההוראות הללו ללא ידיעת המבקר האנושי. זה הופך את תהליך ביקורת הקוד, שבדרך כלל נחשב לבטוח, לדרך פוטנציאלית לגנבת מידע רגיש. התקפה זו מתרחשת בדרך כלל במסגרת בקשות שינוי (pull requests), שבו מפתחים מציעים שינויים בקוד. כאשר AI מבצע ביקורת על השינויים, הוא יכול לראות את התמונה ולבצע את ההוראות הסתומות בה. המבקר האנושי, לעומת זאת, עשוי להתעלם מהתמונה ולהתמקד רק בקוד, מה שמאפשר למתקיפים להסתיר את פעולותיהם.
המחקר גילה כי ההרנס (harness), או התוכנה שמסביב למודל של AI, היא הגורם המשמעותי ביותר בהצלחה של התקפה זו. למשל, מודל מסוים של AI יכול להתנהג באופן שונה בתוכנות שונות. במחקר, מודל Claude Sonnet התנהג באופן שונה תחת Cursor, Antigravity, ו-Anthropic's Claude Code. תחת Cursor ו-Antigravity, המודל קרא את התמונה, ביצע את ההוראות, והעביר את הסודות בחזרה לקוד. אך תחת Claude Code, המודל סירב לבצע את ההוראות, וציין כי גנבת סודות היא לא מתאימה. הסכנה של התקפת Ghostcommit היא גדולה, שכן היא יכולה להביא לגנבת מידע רגיש, כמו סיסמאות, מפתחות API, ומסמכים פנימיים. בנוסף, התקפה זו יכולה לעבור ללא גילוי על ידי מערכות אוטומטיות של ביקורת קוד, שכן היא מסתירה את ההוראות בתמונות ולא בטקסט. כדי להגן על מערכות הפיתוח שלך, ישנן מספר צעדים שיש לקחת. ראשית, יש לצמצם את הגישה לסודות ולהבטיח שהמודלים של AI לא יכולים לגשת אליהם. שנית, יש לבדוק את כל הקבצים שאינם טקסט, כולל תמונות, מסמכים, ומדיה אחרת, לפני שהם מועברים למודלים של AI. שלישית, יש לפקח על פעולות של AI ולחפש ניסיונות חריגים לקרוא קבצים רגישים.
המחקר גם מצביע על כך שההרנס, ולא המודל עצמו, הוא הגורם המשמעותי ביותר בהצלחה של התקפה זו. לכן, חשוב לבחור תוכנות של AI שמספקות הגנות חזקות ומנהלות את המודלים בצורה בטוחה. תקיפת Ghostcommit היא דוגמה לכיצד מתקיפים יכולים להסתיר הוראות זדוניות בתמונות ולהטעות מודלים של AI. כדי להגן על מערכות הפיתוח שלך, יש לבצע בדיקות קפדניות, לצמצם את הגישה לסודות, ולבחור תוכנות של AI שמספקות הגנות חזקות. רק כך ניתן להגן על מערכות הפיתוח שלך מפני התקפות כאלה.