האם אלגוריתמים דיגיטליים יכולים לעזור בהגנה על ילדים כמו גבריאל פרננדז מפני התעללות?

בכל שנה מדווחים על רשויות רווחת ילדים כ- 7 מיליון ילדים בגין התעללות אפשרית, אך כיצד קובעות הרשויות אם ילדים אוהבים גבריאל פרננדז נמצאים בסכנה חמורה וזקוקים להתערבות?

רשויות רווחת ילדים רבות מסתמכות על הערכות הסיכון שניתנו על ידי עובדים שהוכשרו לאייש קווי טלפון שבהם מדווחים על התעללות, אך יש הסבורים כי ייתכן שיש דרך טובה יותר.



'ישנו מגוון רחב של ספרות שראינו שמצביע על כך שבני אדם אינם כדורי קריסטל טובים במיוחד', אמילי פוטנאם-הורנשטיין, מנהלת רשת נתונים לילדים ופרופסור חבר ב- USC, אמר בסדרת הדוקו החדשה של נפליקס 'הניסיונות של גבריאל פרננדז.' 'במקום זאת, מה שאנו אומרים הוא בואו נכשיר אלגוריתם לזהות איזה מאותם ילדים מתאימים לפרופיל שבו הסיכון הקשת הארוך מעיד על מעורבות עתידית במערכת.'

הפארק האולימפי בן המאה הפצצת אריק רודולף

פרננדז היה ילד בן 8 שהוכה ועונה למוות על ידי שלו אִמָא והיא הֶחָבֵר למרות קריאות חוזרות ונשנות של מורו ואחרים לרשויות המדווחות על חשד להתעללות. הסדרה החדשה בת שישה החלקים בוחנת את חייו של פרננדס ואת מותו הנורא, אך היא גם מתבוננת יותר בעיות מערכתיות בתוך מערכת רווחת הילד שיכול היה למלא תפקיד.

פוטנאם-הורנשטיין טוען כי אסטרטגיה אחת לזיהוי יעיל יותר של הילדים הנמצאים בסיכון הגדול ביותר יכולה להיות שימוש באלגוריתמים שנוצרו במיוחד המשתמשים ברשומות ניהוליות ובכריית נתונים כדי לקבוע ציוני סיכון לכל ילד.



'למעשה יש לנו כ -6 או 7 מיליון ילדים המדווחים על התעללות או הזנחה לכאורה מדי שנה בארה'ב. באופן היסטורי הדרך שקיבלנו כמה מהחלטות המיון שלנו מבוססות רק על סוג של הערכות מעיים,' אמרה. 'דוגמנות סיכונים ניבוי היא פשוט לומר, 'לא, לא, לא, בוא ניקח גישה שיטתית ואמפירית יותר לזה.''

פוטנם-הורנשטיין ו Rhema Vaithianathan, המנהל המשותף של מרכז לניתוח נתונים חברתיים , הצליחו להוציא לפועל את הרעיון במחוז אלגני, פנסילבניה. הצמד השתמש באלפי הפניות לטיפול בילדים בכדי לתכנן אלגוריתם שיקבע ציון סיכון לכל משפחה המדווחת לשירותי הגנת הילדים במחוז, על פי מרכז לעיתונות בריאות .

'יש מאה גורמים שונים שנבדקים', הסביר מארק צ'רנה, מנהל המחלקה לשירותי אנוש של מחוז אלגני, בסדרת הדוקו. 'כמה דוגמאות בסיסיות הן היסטוריה של רווחת הילד, היסטוריה של ההורים, בהחלט שימוש בסמים והתמכרות, מחלות נפש משפחתיות, כלא והרשעות, ובמיוחד אם יש תקיפות ודברים כאלה.'



עקב היקף השיחות הרב, רשויות רווחת הילד ברחבי הארץ מוטלות על המשימה לקבוע האם יש לבחון משפחה לחקירה על סמך התלונה, או להיבדק.

בשנת 2015 הוקרנו 42% מכלל 4 מיליון ההאשמות שהתקבלו ברחבי הארץ ובכלל 7.2 מיליון ילדים הניו יורק טיימס .

עם זאת, ילדים ממשיכים למות מהתעללות בילדים.

מה נאמר במכתב ההתאבדות של קייט ספייד

המערכת בה נעשה שימוש במחוז אלגני נועדה לחזות בצורה מדויקת יותר אילו משפחות צפויות להיות מעורבות עתידית במערכת באמצעות ניתוח נתונים.

'מה שיש למסננים זה הרבה נתונים', אמר ויית'יאנת'ן ל'טיימס '. 'אבל, די קשה לנווט ולדעת אילו גורמים הם החשובים ביותר. בתוך שיחה אחת ל- C.Y.F. , ייתכן שיהיו לך שני ילדים, עבריין לכאורה, תהיה לך אמא, ייתכן שיהיה לך מבוגר אחר בבית - לכל האנשים האלה יהיו היסטוריות במערכת שהאדם שמסקר את השיחה יכול ללכת לחקור. אבל המוח האנושי הוא לא כל כך מיומן לרתום ולהבין את כל הנתונים. '

כלי המיון המשפחתי של אלגני משתמש בטכניקה סטטיסטית הנקראת 'כריית נתונים' כדי לבחון דפוסים היסטוריים כדי 'לנסות לחזות מה עלול לקרות' בכל מקרה נתון, אמרה בסדרת הדוקו.

לכל מקרה ניתן ציון סיכון שנע בין אחד ל -20 - מסווג כל מקרה או סיכון גבוה, סיכון בינוני או נמוך.

רייצ'ל ברגר, רופאת ילדים בבית החולים לילדים בפיטסבורג, אמרה ל'טיימס 'בשנת 2018 שמה שהופך את הניתוח הניבוי לבעל ערך הוא שהוא מסלק חלק מהסובייקטיביות שבדרך כלל נכנסת לתהליך.

'כל הילדים האלה חיים בתוהו ובוהו,' אמרה. 'איך C.Y.F. בחר אילו מהם נמצאים בסכנה הגבוהה ביותר כאשר לכולם יש גורמי סיכון? אתה לא יכול להאמין למידת הסובייקטיביות שנכנסת להחלטות הגנה על ילדים. בגלל זה אני אוהב ניתוח ניבוי. סוף סוף זה מביא קצת אובייקטיביות ומדע להחלטות שיכולות לשנות את החיים בצורה כה מדהימה. '

אך היו גם מבקרים שטוענים כי שימוש בניתוח ניבוי מסתמך על נתונים שעשויים להיות מוטים כבר. מחקרים קודמים הראו כי מיעוטים ומשפחות בעלות הכנסה נמוכה מיוצגים לעתים קרובות מדי בנתונים שנאספים, מה שעלול ליצור הטיה כלפי משפחות אפרו-אמריקאיות או משפחות מיעוט אחרות, על פי סדרת הדוקו.

'ההטיות האנושיות והטיות הנתוניםהולכים יד ביד זה עם זה'כך אמר קלי קפטוסטו, מקורב מחקר בכיר במכון קירואן לחקר גזע ואתניות באוניברסיטת אוהיו, על פי המרכז לעיתונאות בריאות. 'עם ההחלטות הללו, אנו חושבים על מעקב ויצירת קשר עם המערכת - עם משטרה, גורמי רווחת ילדים, כל סוכנויות המשרתות רווחה חברתית. זה ייצג יתר בקהילות (בעלי הכנסה נמוכה ומיעוט). זה לא בהכרח מעיד על היכן המקרים הללו מתרחשים. '

ארין דלטון, סגנית מנהלת משרד הניתוח, הטכנולוגיה והתכנון במחוז אלגני, הודתה כי הטיה אפשרית.

'בוודאות, קיימת הטיה במערכות שלנו. התעללות בילדים נתפסת בעינינו והנתונים שלנו אינם פונקציה של התעללות בפועל בילדים, אלא פונקציה של מי מדווח ', אמרה בסדרה של נטפליקס.

אולם המחוז אמר גם למרכז לעיתונאות בריאות כי מצא כי קבלת הטבות ציבוריות מורידה את ציוני הסיכון בקרב כמעט ממשפחותיו.

טהמחוז הוא 'רגיש מאוד' לדאגה זו ועושה ניתוח שוטף על המערכת כדי לקבוע אם הקבוצות הופעלו באופן לא פרופורציונלי, אמר צ'רנה גם בסדרת הדוקו.

מערכת מחוז אלגני נמצאת בבעלות המחוז עצמו, אך הייתה גם ביקורת מסוימת על מערכות סינון אחרות בבעלות פרטית.

המחלקה לשירותי ילדים ומשפחות באילינוי הודיעה בשנת 2018 כי לא תשתמש עוד בחבילת אנליזה חזויה שפותחה על ידי חברת Eckerd Connects, עמותה, ושותפה למטרות רווח MindShare Technology, בין היתר משום שהחברה סירבה למסור פרטים על הגורמים. נעשה שימוש בנוסחה שלהם, על פי ה'טיימס '.

על פי הדיווחים המערכת החלה לייעד אלפי ילדים כזקוקים להגנה דחופה, מה שמקנה ליותר מ -4,100 ילדי אילינוי סיכוי של 90 אחוז ומעלה למוות או לפציעה, הטריביון בשיקגו דיווח בשנת 2017.

עם זאת, ילדים אחרים שלא זכו לציוני סיכון גבוהים עדיין מתו מהתעללות.

'ניתוח חיזוי (לא) מנבא אף אחד מהמקרים הרעים', מנהלת המחלקה לשירותי ילדים ומשפחה בוורלי 'ב.ג '.' ווקר אמר לטריביון. 'החלטתי לא להמשיך בחוזה ההוא.'

מיהו הרוצח הסדרתי של האי הארוך

דניאל האצ'ר, מחבר הספר ' תעשיית העוני: ניצול האזרחים הפגיעים ביותר באמריקה 'השווה חלק ממערכות הניתוח ל'קופסה שחורה', ואמר בסדרת הדוקו כי לא תמיד ברור כיצד הם מקבלים את החלטותיהם.

'אין להם שום דרך להבין איך הם מחליטים באמת על רמת טיפול שיש לה השפעה עצומה על אדם,' אמר.

פוטנאם-הורנשטיין הודתה שמערכות הניתוח המנבאות אינן מסוגלות לקבוע התנהגות עתידית, אך היא מאמינה שזה כלי יקר המאפשר לסינונים לקבל החלטות מושכלות יותר לגבי אילו ילדים עלולים להיות בסיכון הגדול ביותר.

'תקוותי היא שמודלים אלה יסייעו למערכת שלנו לשים לב יותר לתת-המין הקטנה יחסית של הפניות בהן הסיכון גבוה במיוחד ונוכל להקדיש יותר משאבים לאותם ילדים ומשפחות באופן מונע', אמרה, לדברי למרכז לעיתונות בריאות. 'אני לא רוצה שמישהו ימכור יתר על המידה את מידול הסיכון החיזוי. זה לא כדור בדולח. זה לא הולך לפתור את כל הבעיות שלנו. אך בשוליים, אם זה יאפשר לנו לקבל החלטות מעט טובות יותר ולזהות את המקרים בסיכון גבוה ולמיין את אלה ממקרי הסיכון הנמוך ולהתאים בהתאם, זו יכולה להיות התפתחות חשובה לתחום. '

רשום פופולרי