בכנס Black Hat 2025 שנערך לאחרונה בלאס-וגאס, חשפה חברת הסייבר הישראלית Zenity פרצת Zero-Click ראשונה מסוגה בשירות ChatGPT של OpenAI. ההדגמה, שביצע מיכאל ברגורי, מייסד שותף ו-CTO של Zenity, הראתה כיצד תוקף יכול להשתלט על חשבון המשתמש רק בעזרת כתובת המייל שלו, זאת מבלי שהמשתמש ילחץ על קישור, יפתח קובץ או יבצע פעולה כלשהי.
ברגע שכתובת המייל הייתה ידועה, ההתקפה אפשרה גישה מלאה לשיחות עבר ועתיד, שינוי מטרות השיחה, והפיכת הצ'אט ל"סוכן" שפועל נגד המשתמש, עד כדי המלצה על הורדת וירוסים, מתן טיפים עסקיים שגויים, או גישה לקבצים ב-Google Drive במידה והיו מחוברים לחשבון. Zenity דיווחה על הפרצה ל-OpenAI והיא תוקנה במלואה.
זה לא המקרה היחיד. בשנים האחרונות נחשפו מספר תקלות אבטחה משמעותיות בשירותי OpenAI, כולל פרצת Redis במרץ 2023 שחשפה נתוני תשלום וכותרות שיחות, ומתקפות זיהוי חדשות כמו AgentFlayer, המאפשרות שליפת מידע רגיש, ללא כל פעולה מצד המשתמש.
בנוסף, דיווח על מאות אלפי חשבונות ChatGPT שנגנבו והוצעו למכירה ברשת האפלה, לרוב עקב פגיעות במכשירי המשתמשים. לאחרונה היה מקרה בארה"ב של טיקטוקרית בשם ליז, שבמהלך הקראת רשימת קניות רנדומלית, היא קיבלה מהצ'אט תכתובת של אנשים אחרים, כולל שמותיהם ותפקידם (סרטון בסוף הכתבה).
לכאורה, זו עוד ידיעה טכנולוגית על מתקפת סייבר. בפועל, ההשלכות עלולות להיות חמורות במיוחד עבור אנשים עם מוגבלויות. עבור רבים מהם, כפי שסיקרנו פעמים רבות בכתבות השונות במדור הטכנולוגיה, כלי AI הם לא רק גימיק, אלא כלי עבודה חיוני, מתורגמן אישי, מסייע בלימודים, מסייע חזותי ושמיעתי, או ממשק גישה לשירותים ממשלתיים ובריאותיים. כל פגיעה בשירות כזה עלולה לשבש את שגרת החיים, לפגוע בפרטיות רפואית רגישה, ואפילו לחשוף מסמכים עם מידע על זכויות סוציאליות או תיקים רפואיים.
הבעיה לא מסתיימת בהיבט הטכני – פגיעה באמון של קהילת המשתמשים יכולה להרחיב את הפער הדיגיטלי, במיוחד אם אנשים עם מוגבלויות יירתעו משימוש בטכנולוגיה שהם כל כך תלויים בה. כיום אין רגולציה ייעודית בישראל או בעולם שמחייבת פלטפורמות AI להגן באופן מיוחד על אוכלוסיות בסיכון, והפער הזה מדאיג מומחי פרטיות וזכויות אדם.
"אנחנו רואים היום סוכני AI שפועלים כמעט כמו ישויות חיות – הם פותחים תיקיות, שולחים קבצים וניגשים למיילים", אמר ברגורי. "זה גן עדן לתוקפים, והאבטחה חייבת להתאים לקצב ההתפתחות". מנכ"ל Zenity, בן קליגר, הוסיף כי ארגונים חייבים לאמץ פתרונות שמספקים שליטה וניטור על פעילות הסוכנים, כדי למנוע מקרים כאלה בעתיד.
רגולציה באיחוד האירופי
באוגוסט 2024 נכנס לתוקף חוק האינטליגנציה המלאכותית של האיחוד האירופי, המהווה את הרגולציה הראשונה והמקיפה ביותר בתחום זה. החוק מסווג לפי רמות סיכון – החל מסיכון בלתי מקובל ועד למינימלי, ומטיל דרישות שקיפות, אבטחה והגנה על פרטיות בהתאם לסיווג זה. מודלים כלליים כמו ChatGPT, נדרשים לעמוד בדרישות שקיפות מחמירות, כולל גילוי מקורות נתוני האימון והערכת סיכונים. הפרות בנושא עלולות להוביל לקנסות של עד 7% מההכנסות הגלובליות של החברה.
בנוסף, OpenAI הצטרפה לקוד ההתנהגות האירופי למודלים כלליים של AI, שמטרתו להקל על חברות לעמוד בדרישות החוק ולהפחית את העומס המנהלי. באיטליה למשל, רשות הגנת הפרטיות הטילה על OpenAI קנס של 15 מיליון אירו בגין עיבוד נתונים אישיים ללא בסיס חוקי מספיק, חוסר שקיפות והיעדר מנגנון אימות גיל למניעת גישה של ילדים מתחת לגיל 13.
רגולציה בישראל
רשות הגנת הפרטיות פרסמה טיוטת הנחיות המבהירה כיצד חוק הגנת הפרטיות חל על מערכות אינטליגנציה מלאכותית. ההנחיות מדגישות את הצורך בבסיס חוקי לעיבוד נתונים אישיים, שקיפות, אבטחת מידע וזכויות המשתמשים. בנוסף, בית המשפט המחוזי מרכז קבע כי יש לו סמכות לדון בתובענה ייצוגית נגד OpenAI, אף על פי שהחברה אינה ממוקמת בישראל .
כך תשמרו על עצמכם
החדשות הטובות: הפרצה ב-ChatGPT כבר תוקנה. החדשות הפחות טובות: סיכונים מהסוג הזה יחזרו, וחשוב להיות ערניים. הנה כמה צעדים פשוטים שיכולים לשמור עליכם בטוחים:
הגדרות פרטיות ואבטחה – הפעילו אימות דו־שלבי (2FA) ובדקו מדי פעם את היסטוריית הכניסות לחשבון.
אל תשתפו מידע רגיש – הימנעו מהזנת סיסמאות, מספרי זהות, פרטי אשראי או מסמכים פרטיים בצ'אט.
זהירות עם חיבורים חיצוניים – חיבור ל־Google Drive, Outlook או שירותים דומים, אבל רק כשיש צורך אמיתי. לאחר השימוש, בטלו הרשאות שאינן דרושות.
שמרו על תוספים נקיים – התקינו תוספים רק מהחנות הרשמית של OpenAI או ממקורות מהימנים, והסירו תוספים לא בשימוש.
עדכונים שוטפים – וודאו שאתם משתמשים בגרסה העדכנית ביותר ועקבו אחרי הודעות רשמיות של הספק.
זיהוי התנהגות חריגה – אם ה-AI מציע לכם להוריד קובץ, להיכנס לאתר לא מוכר או למסור פרטים אישיים, הפסיקו את השיחה ודווחו.
גילוי הפרצה של חברת Zenity, היא תזכורת חדה לכך שבינה מלאכותית היא כלי רב־עוצמה, אבל גם יעד אטרקטיבי לתוקפים. האחריות לשמור על המידע שלנו מתחילה אצלנו.
