בעקבות ביקורת ארוכת שנים על כך שפלטפורמות כמו פייסבוק ואינסטגרם גרמו נזק למשתמשים הצעירים ביותר שלהן ולא נוקטות מספיק אמצעים כדי להבטיח את בטיחות הילדים, אינסטגרם הודיעה שהיא החלה לבחון הגנה מפני עירום וסחיטה מינית בעזרת תכונות בטיחותית חדשות ובסיום הבדיקה היא תשיק אותם גלבולית בהדרגה לכל המשתמשים ברחבי העולם.
תכונות הגנה מפני עירום וסחיטה מינית מגיעות לאחר רגע יוצא דופן בדיון בסנאט בינואר, כאשר מנכ"ל מטא, מארק צוקרברג, התנצל בפני משפחות של ילדים שהיו קורבנות להתעללות מקוונת בפלטפורמות של הענקית החברתית.
"הגנה מפני עירום"
אינסטגרם הודיעה כי תשיק בקרוב תכונת בטיחות בשם "הגנה מפני עירום" המטשטשת תמונות עירום בהודעות, כחלק מהמאמצים להגן על קטינים בפלטפורמה מפני התעללות והונאות ניצול מיני.
התכונה חדשה נועדה להגן מפני עירום בהודעות ישירות, התכונה תטשטש תמונות שזוהו כמכילות עירום וגם תמנע ממשתמשים לשלוח אותן . התכונה תופעל כברירת מחדל עבור בני נוער מתחת לגיל 18 ברחבי העולם, ותציג הודעה למבוגרים המעודדת אותם להפעיל אותה.
לפי מטא, התכונה נועדה לא רק להגן על אנשים מלראות עירום לא רצוי ב-DM שלהם אלא גם להגן עליהם מפני רמאים שעלולים לשלוח תמונות עירום כדי להערים על אנשים לשלוח תמונות משלהם בתמורה.
"בעוד שאנשים משתמשים ברובם המכריע ב-DM כדי לחלוק את מה שהם אוהבים עם חבריהם, בני משפחתם או עם היוצרים האהובים שלהם, רמאי סקסטורציה עשויים גם להשתמש בהודעות פרטיות כדי לשתף או לבקש תמונות אינטימיות", אמרה מטא בפוסט בבלוג ביום חמישי שהכריזה על התכונה.
שימוש בטכנולוגיית AI
תכונת הגנת העירום של אינסטגרם משתמשת בטכנולוגיית AI במכשיר כדי לנתח אם תמונה שנשלחה דרך שירות ההודעות הישירות של אינסטגרם מכילה עירום, ובנוסף לאינסטגרם לא תהיה גישה לתמונות הללו אלא אם כן דווח עליהן.
כיצד התכונה מגנה על הקטינים ?
כאשר התכונה מופעלת, תמונה המכילה עירום, תטושטש אוטומטית מתחת למסך אזהרה, כלומר הנמען יכול לבחור אם לצפות בה או לא. בנוסף אינסטגרם תציג למשתמשים הודעה המרגיעה אותם ואומרת להם שאין צורך להגיב , בנוסף היא מאפשרת להם לחסום ולדווח על השולח.
צעדים נגד שולחי תמונות עירום
כאשר הגנת עירום מופעלת, אנשים ששולחים תמונות המכילות עירום יראו הודעה שמזכירה להם להיות זהירים בעת שליחת תמונות רגישות, ושהם יכולים לבטל את שליחת התמונות הללו אם הם שינו את דעתם. בנוסף אינסטגרם תיתן להם עצות בטיחות, שפותחו בהנחיית מומחים, לגבי הסיכונים הפוטנציאליים הכרוכים בכך.
הגנה מפני סחיטה מינית
מטא נוקטת "פעולה חמורה" כאשר היא מתוודעת למשתמשים המעורבים בפעילות של סחיטה מינית. היא מסירה את החשבון שלהם, נוקטת צעדים כדי למנוע מהם ליצור חשבונות חדשים ובמידת הצורך היא מדווחת עליהם לרשויות אכיפת החוק.
זיהוי החשבונות והגנה מפניהם
החברה החלה לפתח טכנולוגיה שתסייע לזהות אילו חשבונות עשויים להיות מעורבים בפעילות של סחיטה מינית, על סמך "מגוון אותות שיכולים להצביע על כך".
אינסטגרם תבחן צעדי זהירות כדי למנוע מחשבונות חשודים בפעילות של סחיטה מינית לאתר חשבונות של בני ובנות נוער לנסות וליצור איתם אינטראקציה.
- ללא התראה על ההודעה – אינסטגרם לא תציג את כפתור ה"הודעה" בפרופיל של בני נוער כאשר חשבונות חשודים בפעילות של סחיטה מינית רוצים לתקשר איתם, גם אם הם כבר מחוברים, כל הבקשות יועברו ישירות לתיקיית הבקשות הנסתרות של הנמען.
- הסתרת חשבונות של קטינים – קושי של חשבונות החשודים בפעילות של סחיטה מינית באיתור חשבונות של קטינים.
- הודעות בטיחות קופצת – אינסטגרם החלה לבחון הודעות קופצות חדשות שתוצג למשתמשים שכבר משוחחים עם חשבונות שעשויים להיחשד בהונאה ובסחיטה מינית. ההודעות קופצות יעודדו אותם לדווח על כל דרישה לשתף את התמונות האינטימיות שלהם, ויזכירו להם שהם יכולים להגיד "לא" לכל דרישה שגורמת להרגיש לא בנוח.
- הפנייה למרכז סיוע – אינסטגרם תפנה משתמשים שאולי קיימו אינטראקציה עם חשבון שהוסר בגין סחיטה מינית. ההודעה תפנה אנשים למרכזי סיוע לקורבנות של הפצת תמונות או סרטונים אינטימיים כדי שיוכלו לסייע להם לסמן ולהסיר את הסרטונים באופן עצמאי ואנונימי
