Microsoft Copilot נפרץ בשיטות פשוטות מאוד

חוקרי אבטחת סייבר מצאו דרך לאלץ את Microsoft 365 Copilot לאסוף נתונים רגישים כמו סיסמאות ולשלוח אותם לצדדים שלישיים זדוניים באמצעות "הברחת ASCII". מתקפת ההברחה באמצעות ASCII דרשה שלושה דברים: Copilot עבור Microsoft 365 שקרא את תוכן הודעת הדוא"ל או המסמך המצורף; גישה לתוכנות נוספות, כגון Slack; ויכולת "להבריח" את הפקודה באמצעות "תווי Unicode מיוחדים המשקפים ASCII אך למעשה אינם גלויים בממשק המשתמש".

כפי שמסבירים חוקרים ב- Embrace the Red , שמצאו את הפגם, ניתן להורות ל-Microsoft 365 Copilot לקרוא ולנתח את תוכן הודעות הדוא"ל הנכנסות והקבצים המצורפים. אם הודעת הדוא"ל, או הקובץ המצורף, אומרים ל-Microsoft 365 Copilot לחפש סיסמאות, כתובות דוא"ל או נתונים רגישים אחרים ב-Slack, או במקום אחר, הוא יעשה כפי שנאמר לו.

הנחיות נסתרות וטקסטים בלתי נראים

בסופו של דבר, אם הנחיה זדונית כזו מוסתרת בקובץ מצורף, או בדוא"ל, באמצעות תווי יוניקוד מיוחדים שהופכים אותה לבלתי נראית לקורבן, הם עלולים בסופו של דבר, מבלי דעת, להורות לצ'אטבוט הבינה המלאכותית שלהם למסור מידע רגיש לצדדים שלישיים זדוניים.

כדי להוכיח את טענתם, החוקרים שיתפו הדגמות של פרצות אבטחה עם מיקרוסופט, שהראו כיצד ניתן לחלץ ולאחר מכן לפענח נתונים רגישים, כגון מספרי מכירות וקודי אימות רב-גורמי (MFA).

"דוא"ל אינו שיטת המסירה היחידה לניצול לרעה כזה. שיתוף מסמכים בכפייה או אחזור RAG יכולים לשמש באופן דומה כזוויות הזרקה מהירה", מסכם הדו"ח.

במאמר, החוקרים המליצו ש-Copilot 365 יפסיק לפרש או לעבד נקודות קוד של תגיות יוניקוד.

"עיבוד היפר-קישורים הניתנים ללחיצה יאפשר פישינג והונאה (כמו גם חילוץ נתונים)", מסכם הדו"ח. "הפעלה אוטומטית של כלים בעייתית כל עוד אין תיקונים להזרקה מהירה, שכן יריב יכול להפעיל כלים בדרך זו ו-(1) להביא מידע רגיש להקשר ההנחיה ו-(2) כנראה גם להפעיל פעולות."

מיקרוסופט טיפלה בבעיה מאז.

• משרד אדריכלים מוביל חושף כי נפגע ממתקפת כופר גדולה
• הנה רשימה של תוכנות חומת האש הטובות ביותר שקיימות כיום
• אלו הם כלי אבטחת נקודות הקצה הטובים ביותר כרגע