פייסבוק בונה פלטפורמה נסתרת, ל-בוטים בלבד, כדי ללמוד על טרולים ורמאים

אין 'אינטראקציות בלתי צפויות' בין בוטים לבני אדם

פייסבוק רוצה למנוע מאנשים להתעלל במערכת שלה, ולכן היא בונה עולם של בוטים שיכול לחקות אותם. חוקרי החברה פרסמו מאמר בנושא "סימולציה מופעלת ברשת" (WES) לבדיקת הפלטפורמה – בעיקרון צל של פייסבוק שבה משתמשים שאינם קיימים יכולים לעשות לייק, לשתף ולחבר (או להטריד, להתעלל ולבצע הונאות) הרחק מעיניים אנושיות.

פייסבוק מתארת ​​בניית סימולציה מפוצלת ונטולת הגנות של פלטפורמה המאוכלסת על ידי משתמשים מזויפים המדגמים סוגים שונים של התנהגות אמיתית. לדוגמה, בוט "תרמית" עשוי להיות מאומן ליצור קשר עם בוטים "יעד" המציגים התנהגויות הדומות לקורבנות הונאת פייסבוק בחיים האמיתיים. בוטים אחרים עשויים להיות מאומנים לפלוש לפרטיות המשתמשים המזויפים או לחפש תוכן "רע" המפר את כללי פייסבוק.

סימולציות תוכנה שכיחות כמובן, ופייסבוק מרחיבה את כלי הבדיקות האוטומטיות שכבר קיים בשם Sapienz. אבל זה מכנה מערכות WES נבדלות מכיוון שהן משחררות המון בוטים במשהו קרוב מאוד לפלטפורמה של מדיה חברתית בפועל, ולא דמות המחקה את תפקידיה. בעוד שבוטים אינם לוחצים סביב אפליקציה או דף אינטרנט מילולי, הם שולחים פעולות כמו בקשות חברים דרך קוד פייסבוק, ומפעילים את אותם סוגים של תהליכים שמשתמש אמיתי היה עושה.

זה יכול לעזור לפייסבוק לאתר באגים. חוקרים יכולים לבנות משתמשי WES שכל מטרתם לגנוב מידע מבוטים אחרים, למשל, ולשחרר אותם במערכת. אם הם ימצאו לפתע דרכים לגשת לנתונים נוספים לאחר עדכון, זה יכול להעיד על פגיעות שהבוטים יכולים לנצל, ואף משתמשים אמיתיים לא היו מושפעים מכך.

בוט-הונאה פגוש את בוט-אדם

חלק מהבוטים יוכלו לקבל גישה לקריאה בלבד לפייסבוק "האמיתי", כל עוד הם לא נכנסים לנתונים שמפרים את כללי הפרטיות. אז הם יוכלו להגיב לנתונים אלה בכושר לקריאה בלבד. עם זאת, במקרים אחרים, פייסבוק רוצה לבנות גרף חברתי מקביל שלם. בתוך אותה רשת מזויפת רחבת היקף, הם יכולים לפרוס "בוטים מבודדים לחלוטין שיכולים להציג פעולות ותצפיות שרירותיות", והם יכולים לדגמן כיצד משתמשים עשויים להגיב לשינויים בפלטפורמה – דבר שפייסבוק עושה לעתים קרובות על ידי הפעלת בדיקות באופן בלתי נראה למספרים קטנים של אנשים אמיתיים.

עם זאת, חוקרים מזהירים כי "יש לבודד את הבוטים כראוי ממשתמשים אמיתיים כדי להבטיח שההדמיה, למרות שהיא מבוצעת בקוד פלטפורמה אמיתית, לא תוביל לאינטראקציות בלתי צפויות בין בוטים למשתמשים אמיתיים."

פייסבוק מכנה את מערכת ה- WW שלה, שהפרוטוקול מתקשר באופן סביר כקיצור של "WES World". אך כפי שמבהיר המשפט הזה, פייסבוק בכלל לא בונה את Westworld כאן. זה עושה סימולקרון: עולם של יחידות אישיות מלאכותיות שנועדו ללמד אותנו יותר על עצמנו. אמנם, ככל הנראה, החוקרים מגבילים את האינטראקציות הללו למען המשתמשים האמיתיים, אך הם גם מונעים באופן מועיל כל משברים קיומיים קטסטרופלים בקרב בוטים. וזה רק מנומס, מכיוון שאם אתה בונה יקום מזויף מלא ביצורים זעירים שאינם יודעים את טיבם האמיתי, אתה בעצם הבטחת שאתה מככב בגימור מחודש של העולם על חוט וחי בסימולציה את עצמך.

מקור: https://www.theverge.com/2020/4/15/21221992/facebook-wes-simulation-research-paper-bots-scammers-new-feature