ในแต่ละปีมีรายงานเด็กประมาณ 7 ล้านคนไปยังหน่วยงานด้านสวัสดิภาพเด็กสำหรับการล่วงละเมิดที่อาจเกิดขึ้น แต่เจ้าหน้าที่จะพิจารณาได้อย่างไรว่าเด็ก ๆ ชอบหรือไม่ กาเบรียลเฟอร์นันเดซ ตกอยู่ในอันตรายร้ายแรงและต้องการการแทรกแซงหรือไม่?
หน่วยงานด้านสวัสดิภาพเด็กหลายแห่งอาศัยการประเมินความเสี่ยงที่ได้รับจากเจ้าหน้าที่ที่ได้รับการฝึกฝนให้ใช้สายโทรศัพท์ของมนุษย์ที่มีรายงานว่ามีการละเมิด แต่บางคนเชื่อว่าอาจมีวิธีที่ดีกว่า
“ มีวรรณกรรมกว้าง ๆ ที่เราเคยเห็นเพื่อบอกว่ามนุษย์ไม่ใช่ลูกแก้วที่ดีเป็นพิเศษ” เอมิลีพัทนาม - ฮอร์นสไตน์ผู้อำนวยการ Children’s Data Network และรองศาสตราจารย์ของ USC กล่าวในซีรีส์ Docu-series ใหม่ของ Neflix“ The Trials of Gabriel Fernandez” “ แต่สิ่งที่เรากำลังพูดคือให้ฝึกอัลกอริทึมเพื่อระบุว่าเด็กคนใดที่เหมาะสมกับโปรไฟล์ซึ่งความเสี่ยงในระยะยาวจะแนะนำการมีส่วนร่วมของระบบในอนาคต”
เฟอร์นันเดซถูกเด็กชายวัย 8 ขวบทุบตีและทรมานจนตาย แม่ และเธอ แฟน แม้ว่าครูของเขาและคนอื่น ๆ จะโทรหาเจ้าหน้าที่หลายครั้งเพื่อรายงานว่ามีการละเมิด ซีรีส์หกตอนใหม่จะตรวจสอบชีวิตของเฟอร์นันเดซและความตายที่น่าสยดสยอง แต่ก็ต้องดูให้มากขึ้นด้วย ปัญหาเชิงระบบ ภายในระบบสวัสดิการเด็กที่อาจเข้ามามีบทบาท
Putnam-Hornstein ระบุว่ากลยุทธ์หนึ่งในการระบุเด็กที่มีความเสี่ยงสูงสุดได้อย่างมีประสิทธิภาพมากขึ้นคือการใช้อัลกอริทึมที่สร้างขึ้นเป็นพิเศษซึ่งใช้บันทึกการบริหารและการขุดข้อมูลเพื่อกำหนดคะแนนความเสี่ยงสำหรับเด็กแต่ละคน
“ จริงๆแล้วเรามีเด็กประมาณ 6 หรือ 7 ล้านคนที่ถูกรายงานว่าถูกกล่าวหาว่าล่วงละเมิดหรือถูกทอดทิ้งทุก ๆ ปีในสหรัฐอเมริกาและในอดีตวิธีการตัดสินใจคัดกรองบางส่วนของเรานั้นขึ้นอยู่กับการประเมินลำไส้เท่านั้น” เธอกล่าว “ การสร้างแบบจำลองความเสี่ยงเชิงคาดการณ์เป็นเพียงการบอกว่า“ ไม่ไม่ไม่ลองใช้วิธีการเชิงประจักษ์ที่เป็นระบบและเป็นระบบมากกว่านี้””
เป็น Wolf Creek ที่สร้างจากเรื่องจริง
Putnam-Hornstein และ Rhema Vaithianathan ผู้อำนวยการร่วมของ ศูนย์สำหรับการวิเคราะห์ข้อมูลโซเชียล สามารถนำแนวคิดนี้ไปปฏิบัติได้ใน Allegheny County รัฐเพนซิลเวเนีย ทั้งคู่ใช้การอ้างอิงการปฏิบัติต่อเด็กหลายพันครั้งเพื่อออกแบบอัลกอริทึมที่จะกำหนดคะแนนความเสี่ยงสำหรับทุกครอบครัวที่รายงานไปยังบริการป้องกันเด็กของมณฑลตาม ศูนย์วารสารศาสตร์สุขภาพ .
คืนนี้คลับแบดเกิร์ลจะมากี่โมง
“ มีปัจจัยที่แตกต่างกันกว่าร้อยอย่างที่พิจารณา” Marc Cherna ผู้อำนวยการแผนกบริการมนุษย์ของ Allegheny County อธิบายในชุด docu “ ตัวอย่างพื้นฐานบางส่วน ได้แก่ ประวัติสวัสดิภาพเด็กประวัติของผู้ปกครองการใช้ยาและการติดยาความเจ็บป่วยทางจิตในครอบครัวการจำคุกและความเชื่อมั่นและโดยเฉพาะอย่างยิ่งหากมีการทำร้ายร่างกายและสิ่งต่างๆเช่นนั้น”
เนื่องจากมีการโทรติดต่อเป็นจำนวนมากหน่วยงานด้านสวัสดิภาพเด็กทั่วประเทศจึงได้รับมอบหมายให้พิจารณาว่าครอบครัวควรได้รับการตรวจสอบตามข้อร้องเรียนหรือไม่หรือได้รับการคัดกรอง
ในปี 2558 42% ของข้อกล่าวหา 4 ล้านข้อที่ได้รับทั่วประเทศซึ่งเกี่ยวข้องกับเด็ก 7.2 ล้านคนถูกคัดออก นิวยอร์กไทม์ส .
ถึงกระนั้นเด็ก ๆ ยังคงเสียชีวิตจากการทารุณกรรมเด็ก
ระบบที่ใช้ใน Allegheny County ได้รับการออกแบบมาเพื่อทำนายได้แม่นยำยิ่งขึ้นว่าครอบครัวใดมีแนวโน้มที่จะมีส่วนร่วมของระบบในอนาคตผ่านการวิเคราะห์ข้อมูล
“ สิ่งที่ผู้คัดกรองมีคือข้อมูลจำนวนมาก” ไวเธียนาธานกล่าวกับ The Times “ แต่มันค่อนข้างยากที่จะสำรวจและรู้ว่าปัจจัยใดสำคัญที่สุด ภายในการโทรหา C.Y.F. คุณอาจมีลูกสองคนผู้ที่ถูกกล่าวหาว่ากระทำความผิดคุณจะมีแม่คุณอาจมีผู้ใหญ่อีกคนในบ้านคนเหล่านี้ทั้งหมดจะมีประวัติในระบบที่บุคคลที่คัดกรองการโทรสามารถตรวจสอบได้ แต่สมองของมนุษย์ไม่ได้เชี่ยวชาญในการควบคุมและรับรู้ข้อมูลทั้งหมด”
เครื่องมือคัดกรองครอบครัว Allegheny ใช้เทคนิคทางสถิติที่เรียกว่า 'การขุดข้อมูล' เพื่อดูรูปแบบทางประวัติศาสตร์เพื่อ 'พยายามคาดเดาสิ่งที่อาจเกิดขึ้น' ในทุกกรณีเธอกล่าวในชุด docu
แต่ละกรณีจะได้รับคะแนนความเสี่ยงตั้งแต่หนึ่งถึง 20 โดยแบ่งประเภทของแต่ละกรณีว่ามีความเสี่ยงสูงความเสี่ยงปานกลางหรือความเสี่ยงต่ำ
Rachel Berger กุมารแพทย์ที่ Children’s Hospital of Pittsburgh กล่าวกับ The Times ในปี 2018 ว่าสิ่งที่ทำให้การวิเคราะห์เชิงคาดการณ์มีคุณค่าคือการกำจัดความเป็นส่วนตัวบางอย่างที่มักจะเข้าสู่กระบวนการ
แฮมินลีที่เกิดเหตุศพ
“ เด็ก ๆ เหล่านี้ทั้งหมดอยู่ในความสับสนวุ่นวาย” เธอกล่าว “ C.Y.F. เลือกคนที่ตกอยู่ในอันตรายมากที่สุดเมื่อพวกเขาทั้งหมดมีปัจจัยเสี่ยง? คุณไม่สามารถเชื่อได้ว่าจะมีการตัดสินใจเรื่องการคุ้มครองเด็กเป็นจำนวนมาก นั่นคือเหตุผลที่ฉันชอบการวิเคราะห์เชิงคาดการณ์ ในที่สุดก็นำความเที่ยงธรรมและวิทยาศาสตร์มาสู่การตัดสินใจซึ่งอาจเปลี่ยนแปลงชีวิตได้อย่างไม่น่าเชื่อ”
แต่ก็มีนักวิจารณ์เช่นกันที่โต้แย้งว่าการใช้การวิเคราะห์เชิงคาดการณ์นั้นอาศัยข้อมูลที่อาจมีความลำเอียงอยู่แล้ว การวิจัยที่ผ่านมาแสดงให้เห็นว่าชนกลุ่มน้อยและครอบครัวที่มีรายได้น้อยมักจะแสดงมากเกินไปในข้อมูลที่เก็บรวบรวมซึ่งอาจสร้างอคติต่อครอบครัวแอฟริกัน - อเมริกันหรือครอบครัวของชนกลุ่มน้อยอื่น ๆ ตามชุด docu-series
“ อคติของมนุษย์และความลำเอียงของข้อมูลจับมือกัน” Kelly Capatosto นักวิจัยอาวุโสจาก Kirwan Institute for the Study of Race and Ethnicity ที่มหาวิทยาลัยแห่งรัฐโอไฮโอกล่าวตามศูนย์วารสารศาสตร์สุขภาพ “ ด้วยการตัดสินใจเหล่านี้เราคิดถึงการเฝ้าระวังและการติดต่อกับระบบ - กับตำรวจหน่วยงานสวัสดิการเด็กหน่วยงานที่ให้บริการด้านสวัสดิการสังคม จะมีการนำเสนอมากเกินไปในชุมชน (ผู้มีรายได้น้อยและคนส่วนน้อย) ไม่จำเป็นต้องบ่งบอกว่ากรณีเหล่านี้เกิดขึ้นที่ใด '
Erin Dalton รองผู้อำนวยการสำนักงานวิเคราะห์เทคโนโลยีและการวางแผนของ Allegheny County ยอมรับว่าอคติเป็นไปได้
เกิดอะไรขึ้นกับผู้กล่าวหาธนาคาร brian
“ แน่นอนว่าระบบของเรามีอคติ เรามองว่าการล่วงละเมิดเด็กและข้อมูลของเราไม่ใช่หน้าที่ของการล่วงละเมิดเด็กที่แท้จริง แต่เป็นหน้าที่ของผู้ที่ได้รับรายงาน” เธอกล่าวในซีรีส์ Netflix
แต่เคาน์ตียังบอกกับศูนย์วารสารศาสตร์สุขภาพว่าพบว่าการได้รับผลประโยชน์สาธารณะช่วยลดคะแนนความเสี่ยงของครอบครัวเกือบทั้งหมด
ทีเขตเขา“ อ่อนไหวมาก” ต่อข้อกังวลนั้นและกำลังทำการวิเคราะห์อย่างต่อเนื่องเกี่ยวกับระบบเพื่อตรวจสอบว่ากลุ่มต่างๆถูกกำหนดเป้าหมายอย่างไม่ได้สัดส่วนหรือไม่ Cherna ยังกล่าวในชุด docu
ระบบ Allegheny County เป็นของเคาน์ตีเอง แต่ก็มีการวิพากษ์วิจารณ์ระบบคัดกรองของเอกชนอื่น ๆ
แผนกบริการเด็กและครอบครัวของรัฐอิลลินอยส์ประกาศในปี 2561 ว่าจะไม่ใช้แพ็คเกจการวิเคราะห์เชิงคาดการณ์ที่พัฒนาโดย Eckerd Connects ซึ่งเป็นองค์กรที่ไม่แสวงหาผลกำไรและ MindShare Technology ซึ่งเป็นพันธมิตรที่แสวงหาผลกำไรอีกต่อไปส่วนหนึ่งเป็นเพราะ บริษัท ปฏิเสธที่จะให้รายละเอียดว่ามีปัจจัยใดบ้าง ถูกนำมาใช้ในสูตรของพวกเขาตาม The Times
มีรายงานว่าระบบเริ่มกำหนดเด็กหลายพันคนว่าต้องการการปกป้องอย่างเร่งด่วนทำให้เด็ก ๆ ในอิลลินอยส์มากกว่า 4,100 คนมีโอกาสเสียชีวิตหรือบาดเจ็บ 90 เปอร์เซ็นต์หรือมากกว่า ชิคาโกทริบูน รายงานในปี 2560
กระนั้นเด็กคนอื่น ๆ ที่ไม่ได้รับคะแนนความเสี่ยงสูงก็ยังต้องเสียชีวิตจากการถูกล่วงละเมิด
r เคลลี่มีพี่ชายฝาแฝดหรือไม่
'การวิเคราะห์เชิงคาดการณ์ (ไม่ได้) คาดการณ์กรณีที่ไม่ดีใด ๆ ' ผู้อำนวยการแผนกเด็กและบริการครอบครัว Beverly“ B.J. ” วอล์คเกอร์บอกกับทริบูน 'ฉันตัดสินใจที่จะไม่ดำเนินการตามสัญญานั้น'
Daniel Hatcher ผู้เขียน“ อุตสาหกรรมความยากจน: การแสวงหาประโยชน์จากพลเมืองที่เปราะบางที่สุดในอเมริกา ” เปรียบเทียบระบบวิเคราะห์บางระบบกับ“ กล่องดำ” โดยกล่าวในชุด docu ว่าวิธีการตัดสินใจของพวกเขาไม่ชัดเจนเสมอไป
“ พวกเขาไม่มีทางรู้ได้ว่าพวกเขากำลังตัดสินใจระดับการดูแลที่มีผลกระทบอย่างมากต่อแต่ละบุคคลอย่างไร” เขากล่าว
พัทนาม - ฮอร์นสไตน์ยอมรับว่าระบบวิเคราะห์คาดการณ์ไม่สามารถระบุพฤติกรรมในอนาคตได้ แต่เธอเชื่อว่าเป็นเครื่องมือที่มีค่าที่ช่วยให้ผู้คัดกรองสามารถตัดสินใจได้อย่างมีข้อมูลมากขึ้นว่าเด็กคนใดที่อาจมีความเสี่ยงมากที่สุด
“ ความหวังของฉันคือแบบจำลองเหล่านี้จะช่วยให้ระบบของเราให้ความสำคัญกับกลุ่มผู้อ้างอิงที่ค่อนข้างเล็กซึ่งมีความเสี่ยงสูงเป็นพิเศษและเราจะสามารถทุ่มเททรัพยากรให้กับเด็กและครอบครัวเหล่านั้นได้มากขึ้นในเชิงป้องกัน” เธอกล่าว ไปที่ศูนย์วารสารศาสตร์สุขภาพ “ ฉันไม่ต้องการให้ใครขายแบบจำลองความเสี่ยงเชิงทำนายมากเกินไป ไม่ใช่ลูกแก้ว มันจะไม่สามารถแก้ปัญหาของเราได้ทั้งหมด แต่ในระยะขอบหากช่วยให้เราสามารถตัดสินใจได้ดีขึ้นเล็กน้อยและระบุกรณีที่มีความเสี่ยงสูงและแยกประเด็นเหล่านั้นออกจากกรณีที่มีความเสี่ยงต่ำและปรับเปลี่ยนตามความเหมาะสมนี่อาจเป็นการพัฒนาที่สำคัญในสนาม”
