Loading AI tools
באתרי אינטרנט המאפשרים למשתמשים להגיב, הגבלת תוכן (content moderation) הוא תהליך של זיהוי תגובות שאינן רלוונטיות, דוחות, לא חוקיות, מזיקות או מעליבות ובשל כך אינן שימושיות או אינפורמטיביות. מטרת הגבלת התוכן היא להסיר או להחיל תווית אזהרה על תוכן בעייתי או לאפשר למשתמשים לחסום ולסנן תוכן בעצמם.[1]
סוגים שונים של אתרי אינטרנט מאפשרים למשתמשים ליצור תוכן מסוגים שונים כגון כתיבת הערות, השתתפות בפורומים באינטרנט, עריכת בלוגים. אתרי חדשות המאפשרים השתתפות משתמשים מופעלים באמצעות סביבות עבודה כגון phpBB, Wiki או PHP-Nuke
בהתאם לתוכן ולקהל היעד מנהלי האתר קובעים אילו תרומות משתמשים מתאימות והם מבצעים את סינון החומרים לפי קביעות אלה. לרוב הם שואפים למנוע טרולינג, ספאם או שילהוב, אם כי זה משתנה מאוד מאתר לאתר.
פלטפורמות מרכזיות משתמשות לשם כך בשילוב של כלים אלגוריתמיים, דיווח משתמשים וסריקות שנעשות בידי אנשים. אתרי מדיה חברתית מעסיקים מגבילי תוכן כדי לבדוק ידנית או להסיר תוכן שסומן כדברי שטנה או תוכן אחר מעורר התנגדות. בעיות תוכן אחרות כוללות פורנו נקמה, תמונות פוגעניות, פורנוגרפיית ילדים ותעמולה.
בדרך כלל, צורת ניטור התוכן מושפעת מהפלטפורמה בה מוצג התוכן. דוגמה בולטת לכך למשל היא ויקיפדיה - אתר שהתוכן בו מבוסס על חכמת ההמונים, ומכאן שמתן אמון במשתמש מאפשר לו לתרום לפלטפורמה. מנגד, מנגנוני האכיפה בוויקיפדיה מאפשרים זיהוי מהיר ויעיל של ניצול לרעה של האמון הניתן במשתמשי ויקיפדיה, כך שמשתמש בעל כוונה להשחתה יורחק מהאתר ובמקרים חמורים במיוחד אף יעברו פרטיו לרשויות מקומיות (מתוקף חוקי קניין כמו איסור השחתה וכיו״ב). דוגמה הפוכה עשויה להיות אינטרנט רימון, בו ניטור התוכן מתבצע טרם חיבור המשתמש לפלטפורמה, וקשה עד בלתי אפשרי לזהות פרצות במנגנון ניטור התוכן שלו, כל שכן לזהות פרצות תוך כוונה לנצלן.
מערכת הגבלה מסוג זה נראית לעיתים קרובות בפורומים באינטרנט. זו קבוצה של אנשים שנבחרת על ידי מנהלי האתר (בדרך כלל על בסיס ארוך טווח) לפעול כנציגיהם, בכדי לאכוף בשמם את חוקי הקהילה. חברים בקבוצה זו מנטרים המקבלים הרשאות מיוחדות למחוק או לערוך עריכות ואף לחסום אנשים, על סמך כתובות הדואר האלקטרוני או כתובות ה-IP שלהם, מתוך מטרה להסיר מתוך השיח תרומות שמבחינתם הן שליליות.
יותר מ-95% מפעילות הגבלת התוכן המדווחת כיום נעשית באמצעות בינה מלאכותית. בשנת 2022 היו יותר מ-15,000 עובדי הגבלת תוכן בפייסבוק[2], (רובם כלל לא היו עובדי החברה, אלא שכירים באמצעות חברות צד שלישי[3]), ביוטיוב היו 10,000 ובטוויטר כ-1,500.
הגבלת תוכן מסחרי (CCM)
מסוף שנות ה-80 ותחילת שנות ה-90, חברות טכנולוגיה החלו לבצע מיקור חוץ של מקומות עבודה למדינות זרות שיש להן כוח עבודה משכיל שנאלץ לעבוד בזול[4]. מקומות עבודה אלה לעיתים קרובות נמצאים באזורים עם שכר נמוך כמו הודו והפיליפינים. מיקור החוץ בתחום הגבלת תוכן גדל כתוצאה מהתעצמות המדיות החברתיות. עם הגידול המכריע של האתרים שמאפשרים תוכן גולשים, החברות היו זקוקות להרבה יותר עובדים בתחום הגבלת תוכן.
עובדים בתחום הגבלת תוכן קוראים, עורכים ומוחקים תוכן שלעיתים הוא מטריד עד כדי כך שחלקם סובלים בעקבות כך מנזקים נפשיים ומתסמינים דומים להפרעת דחק פוסט-טראומטית[5]. לצורך הימנעות ממצב זה יש עניין להרחיב את השימוש בבינה מלאכותית, כדי לסנן את התוכן הפוגעני והבלתי הולם ביותר.
הגבלת תוכן בידי המשתמשים מתרחשת בויקיפדיה, שבה כל המשתמשים מוזמנים לקחת חלק פעיל, לערוך, לעדכן ואף להסיר תוכן.
דוגמה אחרת היא טוויטר, שם מוזמנים המשתמשים לדווח על תוכן שאינו הולם ומפר את תקני הקהילה. כאשר משתמשים פוגשים תמונה או סרטון שלדעתם אינם מתאימים, הם יכולים ללחוץ על כפתור הדיווח. וכך להגיש תלונה לממונים בטוויטר על הגבלת התוכן.
מובילי דעה ונבחרי ציבור נוהגים לעיתים לחסום ברשתות החברתיות תגובות של אזרחים. כך הם למעשה מונעים מהאזרחים את האפשרות להתקשר, לפנות אליהם בשאלות או לבקר אותם. בגלל מרכזיות הדיונים בשיח הציבורי, פעולה זו עלולה להיחשב כפגיעה בחופש הביטוי[6].
אתר יוטיוב מאפשר למשתמשיו לייצר סינון תכנים, כדי לאפשר - למשל - להורים לפקח על התכנים שהילדים נחשפים להם[7].
Wikiwand in your browser!
Seamless Wikipedia browsing. On steroids.
Every time you click a link to Wikipedia, Wiktionary or Wikiquote in your browser's search results, it will show the modern Wikiwand interface.
Wikiwand extension is a five stars, simple, with minimum permission required to keep your browsing private, safe and transparent.
