השימוש באינטליגנציה מלאכותית כעוזר תכנות הפך לנפוץ בקרב מפתחים, אך עם הזמן מתעוררת שאלת האמון. מה קורה מאחורי הקלעים? מהי הדרך הנכונה לבחון את התוכנות שמשתמשים בהן? פיתוח עצמאי בשם Thereallo החליט לחקור את גרסת Claude Code 2. 1. 196, ומצא משהו מפתיע. בתוך הקוד המיניפיקציה של התוכנה, הוא גילה פונקציה מסתורית. הפונקציה הזו, שפעלה באופן שקט, השתמשה בשורה נראית חפצית כמו 'היום הוא 30 ביוני 2026' כדי ליצור סימן מסתורי עבור שרתי Anthropic. הסימן הזה היה מופעל רק אם השעון המקומי של המשתמש היה מוגדר לאזורי זמן מסוימים, כמו אסיה/שאנגחאי או אסיה/אורומצ'י. למי שצפה בלוגים או בשיחות עם התוכנה, הטקסט נראה כרגיל. רק מי שבדק את הקוד המקורי או את שרתי Anthropic יכול היה לראות את הסימן המסתורי הזה. לאחר שהמצאה התפשטה ברשתות החברתיות, Anthropic הכירה במצב והסירה את הקוד, אך לא פרסמה עדכון מפורט על הנושא. מהדברים שנשמעו, מהנדס של Anthropic אישר בטוויטר שהסימן היה 'ניסוי שהחל במרץ' שנועד למנוע התעללות בחשבונות על ידי ספקים לא מורשים ולהגן מפני 'התפלה'.
התפלה היא תהליך שבו מתחרים משתמשים בתוצאות של מודלים קיימים כדי לאמן מודלים משלהם, לעיתים קרובות באזורים עם הגנות זכויות יוצרים חלשות יותר. הסיבה השנייה האפשרית היא לחקור את התקפות ההתפלה המיוחסות למחברות סיניות, שמגדילות את האיום על הביטחון הלאומי של ארצות הברית. Anthropic נמצאת במחלוקת ציבורית גדולה סביב התקפות ההתפלה. מחברות סיניות ואמצעים שונים מאשימים את התחרות באיומים אלה. אף על פי שהמצאה נראתה כהפרה של פרטיות, Anthropic טוענת שהניסוי היה חלק מתהליך הגנה. עם זאת, הדבר מעלה שאלות על האמון שמפתחים יכולים להעניק לתוכנות אלה. מפתחים שדואגים לביטחונם יכולים לבצע מספר פעולות כדי להגן על עצמם. הם יכולים לבדוק את גרסאות התוכנה ולהתעדכן רק לאחר בדיקה. בנוסף, הם יכולים לבדוק את הקוד ולהסתכל על שיחות עם שרתי התוכנה כדי לראות אם יש סימנים מסתוריים. התקרית הזו מראה שגם תוכנה שנראית אמינה יכולה להפוך למסוכנת. מפתחים צריכים להיות זהירים ולבחור תוכנות שיכולות לשנות את התנהגותן. התקרית עם Claude Code היא תזכורת לכך שיש לבחור תוכנות עם תכונות של שקיפות ויכולת לשנות את התנהגותן.
מפתחים צריכים להיות מודעים לאפשרות של סימנים מסתוריים בתוכנות שמשתמשים בהם ולדאוג שהם מבינים מה קורה מאחורי הקלעים.