Meta สนับสนุนแพลตฟอร์มใหม่เพื่อช่วยผู้เยาว์ในการลบภาพเปลือยและภาพทางเพศออกจากอินเทอร์เน็ต

Tเขา National Center for Missing & Exploited Children ได้เปิดตัวแพลตฟอร์มซึ่งได้รับทุนสนับสนุนจาก Meta เพื่อช่วยให้เด็กและวัยรุ่นลบรูปภาพและวิดีโอโป๊เปลือยหรือทางเพศของตนเองออกจากโซเชียลมีเดีย

บริการใหม่สำหรับผู้เยาว์ที่เรียกว่า เอามันลงได้รับการเปิดเผยหนึ่งปีหลังจากการเปิดตัวเครื่องมือที่คล้ายกันสำหรับผู้ใหญ่ที่รู้จักกันในชื่อ หยุดNCII (ย่อมาจากภาพที่ใกล้ชิดกันโดยไม่ได้รับความยินยอม) วันนี้ Take It Down จะใช้งานได้เฉพาะใน XNUMX แพลตฟอร์มที่ตกลงเข้าร่วม ได้แก่ Facebook และ Instagram ที่ Meta เป็นเจ้าของ รวมถึง Yubo, OnlyFans และ Pornhub

Michelle DeLaune ประธานและซีอีโอของ NCMEC กล่าวว่า "เราสร้างระบบนี้ขึ้นเพราะเด็กจำนวนมากกำลังเผชิญกับสถานการณ์ที่สิ้นหวังเหล่านี้ “ความหวังของเราคือให้เด็กๆ ตระหนักถึงบริการนี้ และพวกเขารู้สึกโล่งใจที่มีเครื่องมือที่จะช่วยลบภาพ”

วิธีที่บริษัทสื่อสังคมออนไลน์ปกป้องเด็กและวัยรุ่น—และจุดที่พวกเขาล้มเหลว—ได้กลายเป็นประเด็นสำคัญด้านนโยบายเทคโนโลยีของสองพรรคในสภาคองเกรสใหม่ และเป็นประเด็นที่ผู้ร่างกฎหมายมีโอกาสดีที่สุดในการผ่านร่างกฎหมาย ถึงกระนั้น ยังมีหนทางอีกยาวไกลข้างหน้าสำหรับข้อเสนอใดๆ ในการสร้างหรือเสริมสร้างการป้องกัน และเนื่องจากไม่มีกฎหมายใดใกล้เข้ามา NCMEC ยังคงทำหน้าที่เป็นสะพานเชื่อมระหว่างบริษัทออนไลน์และหน่วยงานบังคับใช้กฎหมายเกี่ยวกับประเด็นด้านความปลอดภัยของเด็ก ในปี 2021 องค์กรไม่แสวงหากำไรแห่งนี้ได้รับคำแนะนำเกือบ 30 ล้านรายการจากทั่วทั้งอุตสาหกรรมเกี่ยวกับการอนาจารทางเพศและการล่วงละเมิดทางเพศเด็กบนแพลตฟอร์มของพวกเขา รายงานส่วนใหญ่มาจากแพลตฟอร์มที่ Meta เป็นเจ้าของ

ผู้เยาว์และผู้ปกครองสามารถใช้ได้ เครื่องมือที่ไม่ระบุตัวตนของ NCMEC ฟรี เพื่อตั้งค่าสถานะเนื้อหาที่โจ่งแจ้งของบุคคลที่ยังไม่บรรลุนิติภาวะซึ่งได้รับการเผยแพร่ทางออนไลน์หรือที่พวกเขาคิดว่าจะเผยแพร่ทางออนไลน์ เมื่อพวกเขาเลือกรูปภาพหรือวิดีโอที่มีความละเอียดอ่อนบนอุปกรณ์แล้ว แพลตฟอร์มจะสร้างลายนิ้วมือดิจิทัลที่เทียบเท่ากับรูปภาพนั้น (เรียกว่า "แฮช") จากนั้น NCMEC จะแชร์กับไซต์โซเชียลมีเดียที่เข้าร่วมเพื่อให้พวกเขาสามารถลองค้นหาได้ จำกัดหรือลบออก และติดตามเนื้อหานั้นต่อไป

รูปภาพหรือวิดีโอที่เป็นปัญหาไม่ได้ออกจากอุปกรณ์และไม่มีใครดูตาม NCMEC (แฮชยังทำให้เหยื่อไม่สามารถระบุตัวตนได้ทั้งใน NCMEC และแอปโซเชียลมีเดีย เป็นการส่งสัญญาณว่าภาพนั้นเป็นอันตรายและควรถูกลบทิ้ง) NCMEC กล่าวว่าไม่มีการละเมิดฐานข้อมูลแฮชที่อาจเปิดเผยตัวตนของบุคคล .

แต่หนึ่งในอุปสรรคที่ใหญ่ที่สุดสำหรับความพยายามนี้คือการเพิ่มขึ้นของการเข้ารหัสจากต้นทางถึงปลายทาง “เมื่อบริษัทเทคโนโลยีใช้การเข้ารหัสแบบ end-to-end โดยไม่มีมาตรการป้องกันในตัวเพื่อตรวจจับเนื้อหาการล่วงละเมิดทางเพศเด็ก ผลกระทบต่อความปลอดภัยของเด็กนั้นร้ายแรงมาก” DeLaune ประธาน NCMEC กล่าวกับคณะกรรมการตุลาการวุฒิสภาในการพิจารณาคดีในเดือนนี้ . ช้างในห้องคือผู้สนับสนุนทางการเงินและ บริษัท ที่โดดเด่นที่สุดที่เกี่ยวข้องกับ Take It Down, Meta คือ ย้ายที่คลิปไปสู่การเข้ารหัสจากต้นทางถึงปลายทาง ทั้งบน Instagram และ Messenger

Gavin Portnoy รองประธาน NCMEC กล่าว ฟอร์บโดยสังเกตว่า NCMEC ยังไม่ทราบแน่ชัดว่าแผนของ Meta สำหรับการเข้ารหัสคืออะไร และอาจมีมาตรการป้องกันอะไรบ้าง (Meta กล่าวว่าพวกเขากำลังดำเนินการอยู่และกำลังทดสอบคุณสมบัติการเข้ารหัสต่างๆ บน Instagram และ Messenger)

“เรากำลังสร้าง Take It Down เพื่อให้อินเทอร์เน็ตและ [ผู้ให้บริการอิเล็กทรอนิกส์] ตั้งอยู่ในปัจจุบัน” Portnoy กล่าว “นั่นคือสะพานที่เราจะต้องข้ามเมื่อเรามีความเข้าใจที่ดีขึ้นว่าสภาพแวดล้อมการเข้ารหัสแบบ end-to-end ของ [Meta] เป็นอย่างไร และถ้ามีโลกที่ Take It Down สามารถทำงานได้”

Antigone Davis หัวหน้าฝ่ายความปลอดภัยระดับโลกของ Meta กล่าว ฟอร์บ ว่า "การเข้ารหัสจะส่งผลให้เราไม่ระบุรูปภาพบางรูป" แต่กลายเป็นมาตรฐานอุตสาหกรรมในการส่งข้อความที่มีความสำคัญต่อความเป็นส่วนตัวและความปลอดภัยของผู้ใช้ การใช้เทคโนโลยีแฮชและการสนับสนุน NCMEC ในโครงการเช่นนี้เป็นหนึ่งในหลาย ๆ วิธีที่ Meta พยายาม "เพื่อแก้ไขปัญหา" เธอกล่าว (ทั้งสองฝ่ายปฏิเสธที่จะบอกว่า Meta ให้เงินกับ NCMEC เป็นจำนวนเท่าใดเพื่อสร้าง Take It Down)

“ไม่มียาครอบจักรวาลสำหรับจัดการกับปัญหาเหล่านี้” เดวิสกล่าวในการให้สัมภาษณ์ โดยอธิบายแนวทางของ Meta ว่า “มีหลายแง่มุม” นอกเหนือจากการทำงานร่วมกันในระบบใหม่นี้ที่มุ่งขัดขวางการกีดกันทางเพศและการแพร่กระจายรูปภาพที่ใกล้ชิดโดยไม่ได้รับความยินยอมแล้ว Meta ยังไม่อนุญาตให้คนแปลกหน้าที่เป็นผู้ใหญ่ติดต่อกับผู้เยาว์ผ่านคุณสมบัติการส่งข้อความ เธอกล่าว นอกจากนี้ยังใช้ตัวแยกประเภทเพื่อป้องกันไม่ให้บัญชีและเนื้อหาของผู้เยาว์ถูกส่งไปยังผู้ใช้ Meta ที่เป็นผู้ใหญ่ซึ่งแสดงพฤติกรรมที่น่าสงสัยทางออนไลน์ เธอกล่าวเสริม

“ฉันหวังว่าคนที่เคยแชร์ภาพแบบนี้ตอนเด็กๆ โดยใครก็ตาม ไม่ว่าจะเป็นพ่อแม่ที่เอาเปรียบพวกเขา ผู้ใหญ่คนอื่นที่เอาเปรียบพวกเขา แฟนเก่าหรือแฟน พวกเขาจะรู้สึกว่าสนใจ ใช้เครื่องมือนี้” เดวิสกล่าว

NCMEC กล่าวว่าได้แหลมบางส่วน ผู้ให้บริการอิเล็กทรอนิกส์อื่น ๆ อีก 200 ราย ที่ได้ส่งข้อมูลไปยัง “CyberTipline” ในการเข้าร่วมโปรแกรม Take It Down คงต้องดูกันต่อไปว่ามีใครอีกบ้างที่นอกเหนือจากผู้เล่นโซเชียลมีเดียเพียงไม่กี่คนที่สนับสนุนมันในวันนี้ ในส่วนของ Yubo กล่าวว่าหวังว่าผู้ใช้รายแรกเหล่านี้จะผลักดันให้ผู้อื่นเข้าร่วม

“ต้องใช้เวลามากกว่าการแทรกแซงของรัฐบาลเพื่อลดความเสี่ยงและแก้ไขปัญหาออนไลน์” Sacha Lazimi ซีอีโอของ Yubo กล่าวทางอีเมล “นักแสดงทุกคนต้องแสดงบทบาทของตน … การทำงานร่วมกันเป็นกุญแจสำคัญในการระบุวิธีแก้ปัญหาสำหรับความท้าทายที่ยิ่งใหญ่ ดังนั้นเราจึงหวังว่าจะเห็นแพลตฟอร์มอื่นๆ เข้าร่วม Take It Down ริเริ่ม”

เพิ่มเติมจาก FORBESTikTok Live กลายเป็น 'คลับเปลื้องผ้าที่เต็มไปด้วยเด็กอายุ 15 ปี' ได้อย่างไรBy อเล็กซานดรา เอส. เลวีนเพิ่มเติมจาก FORBESบัญชี TikTok เหล่านี้ซ่อนเนื้อหาการล่วงละเมิดทางเพศเด็กไว้อย่างมิดชิดBy อเล็กซานดรา เอส. เลวีนเพิ่มเติมจาก FORBESโมเดอเรเตอร์ของ TikTok ถูกฝึกให้ใช้ภาพกราฟิกของการล่วงละเมิดทางเพศเด็กBy อเล็กซานดรา เอส. เลวีน