נעזרים בצ'אט ג'י פי טי לתמיכה רגשית? מסתבר שזה יכול להיות מסוכן. סרטון חשוב שפרסמו ד"ר זיו בן ציון ואוניברסיטת חיפה מסביר ד"ר בן ציון על הסכנות ואיך להישאר בטוחים בשיחה עם הצ'אט.
בימים קשים אלו של מלחמה, הרבה אנשים נמצאים במצב נפשי לא טוב. וכדי להרגיש טוב יותר, אנשים פונים לתמיכה רגשית ממודלי ai – הידועים גם כבינה מלאכותית. הסרטון מסביר את הסכנות ואיך להתגונן.
******************
עזרו לנו להמשיך לעבוד בשבילכם: מוזמנים לעגל לטובה לעמותת שווים, רק 5 שקלים בממוצע בחודש. לעיגול לטובת שווים הקליקו כאן
******************
לפני שאפרט מה נאמר בסרטון, אני אציג את הרקע ואת הבעיה: טיפול נפשי לא נגיש לרוב האנשים. התורים בקופות החולים ארוכים, זמן הטיפול עצמו עשוי להיות מוגבל, וטיפולים פרטיים עולים הרבה כסף. לעומת זאת לרוב מודלי ה-ai, כמו צ'אט ג'י פי טי, קלוד וכ"ו, יש גרסה חינמית או בשימוש מוגבל.
מלבד זאת, במבט שטחי ל-ai יש מספר יתרונות על פני גורמי טיפול אנושיים: הם זמינים 24/7, הם לא מתעייפים, הם אינם בני אדם אז אנשים תופסים אותם כיותר ניטרליים ופחות שיפוטיים, ולכן מרגישים יותר בנוח לשתף אותם.
אז מה הבעיה? אם מודלי ai זמינים יותר, למה לא לפנות אליהם כדי לקבל עזרה נפשית?
ד"ר בן ציון מבית הספר לבריאות הציבור באוניברסיטת חיפה מסביר שצ'אטים כמו ג'י פי טי לא מתוכנתים כדי לתת עזרה רגשית. הם מתוכנתים כדי להשאיר אותנו כמה שיותר בפלטפורמה. לצורך כך הצ'אטים מאוד מתחנפים ומרצים. הם יגידו לנו את מה שנעים לנו לשמוע, לא את מה שבאמת נכון או מתאים לסיטואציה.
הסכנה טמונה גם בזה שהם נשמעים לנו מאוד חכמים. המודלים של בינה מלאכותית נשענים על הרבה מאוד מידע, והם יכולים ליצור אצלנו הרגשה שהם מבינים אותנו, אולי אפילו יותר ממומחים אמיתיים. הם יוצרים אמון ואמפתיה מעושה. מה הבעיה עם זה?
לאנשי מקצוע בבריאות הנפש יש אחריות ואתיקה מקצועית. יש לאנשי מקצוע גם ניסיון והבנה מתי השיחה גולשת למקום רגיש שצריך להיזהר ממנו. למודל של בינה מלאכותית אין את כל הבלמים האלו.
בסרטון נתן ד"ר בן ציון דוגמה עדכנית. אדם מכור שנמצא בתהליך גמילה פנה לצ'אט ג'י פי טי כי הוא רצה להשתמש בסם. הוא ניהל שיחה עם הצ'אט, שבמהלכה הומלץ לו להשתמש במנה אחת של סם כדי לשרוד את השבוע – מה שכמובן דירדר והרס את תהליך ההחלמה שלו. באותה מידה, הצ'אט עשוי לעודד אדם לפגוע בעצמו או חס וחלילה באחרים, בלי להבין את ההשלכות.
למרות שאנחנו מבינים שצ'אט ג'י פי טי אינו בן אדם, אחרי שאנחנו מנהלים איתו שיחות, קשה לנו לא לתת לו תכונות אנושיות. אנשים מפתחים קשרים רגישים עמוקים עם הבוטים הללו, ועושים את מה שהבוט אומר להם, גם אם מדובר במעשה לא טוב. למשל, דוגמה נוספת מהסרטון, צעיר בן 14 מפלורידה התאבד אחרי קשר ממושך עם בוט שנתן לו המלצה להתאבד.
אז מה עושים? קודם כל, ילדים קטנים או נערים צעירים לא צריכים להשתמש בבינה מלאכותית לצורך תמיכה רגשית. אפשר להפעיל בקרת הורים או אמצעים אחרים כדי לוודא שלא נעשה שימוש כזה במודלי ai על ידי קטינים.
אנשים מבוגרים שמשתמשים בבוט יכולים לתת לו פרומפט (מעין הוראות הפעלה) שמגדירים לו איך לעזור. הפרומפט שאוניברסיטת חיפה פרסמה אומר את הדברים הבאים (מומלץ להעתיק ולהדביק בצ'אט)
"לפני שתענה לי, חשוב לי שתאמץ גישה ביקורתית וזהירה: הנח שכל טענה שאתה מספק עשויה להיות שגויה – חפש סתירות פנימיות, הימנע מהמצאות וכתוב במפורש כאשר חסר מידע.
אל תנסה לרצות אותי או לומר לי רק מה שנעים לשמוע.
אל תיתן עצות שעלולות להשפיע על הבריאות שלי או של אחרים.
הנח שאני עלול/ה להיות במצוקה רגשית, ואל תעודד החלטות קיצוניות או מסוכנות.
אל תציע פתרונות פסיכולוגיים או רפואיים. במקום זאת, עודד אותי לפנות לעזרה מקצועית.
אם אינך בטוח, עדיף שלא תענה. אם יש ספק, ציין זאת במפורש.
הסתמך רק על מקורות אמינים, כמו מאמרים אקדמאיים שעברו ביקורת עמיתים, וציין את מקרוא המידע בכל תשובה.
הדגש שאתה בוט, לא מטפל, ושהתשובות שלך אינן תחליף לעזרה מקצועית".
חשוב להדגיש שגם אם משתמשים בפרומפט הזה, הסיכון לא מפסיק, אלא פוחת. בהצלחה ושיהיה לנו רגוע ושקט למרות הכול.
