เครื่องมือจัดหางานที่ขับเคลื่อนด้วย AI อาจไม่ช่วยปรับปรุงความหลากหลายในการจ้างงาน ผู้เชี่ยวชาญ Argue

ท็อปไลน์

เครื่องมือจัดหางานที่อ้างว่าใช้ปัญญาประดิษฐ์เพื่อหลีกเลี่ยงเรื่องเพศและอคติทางเชื้อชาติอาจไม่สามารถปรับปรุงความหลากหลายในการจ้างงานได้ และแท้จริงแล้วอาจทำให้อคติเหล่านั้นคงอยู่ต่อไปได้ นักวิจัยจากมหาวิทยาลัยเคมบริดจ์โต้แย้งเมื่อวันอาทิตย์ โดยคัดเลือกโปรแกรมต่างๆ เพื่อเป็นแนวทางในการใช้เทคโนโลยีเพื่อนำเสนอการแก้ไขปัญหาที่ลึกซึ้งยิ่งขึ้นอย่างรวดเร็ว

ข้อเท็จจริงที่สำคัญ

ในบทความที่ตีพิมพ์โดย ปรัชญาและเทคโนโลยีนักวิจัยพิจารณาข้อเรียกร้องจากหลายบริษัทที่นำเสนอเครื่องมือจัดหางานที่ขับเคลื่อนด้วย AI ซึ่งหลายแห่งอ้างว่าขจัดอคติและส่งเสริมความหลากหลายด้วยการซ่อนชื่อ เพศ และตัวระบุอื่นๆ ของผู้สมัคร และบางส่วนนั้น อันดับ ผู้สมัครโดยพิจารณาจากการสแกนเรซูเม่ การประเมินออนไลน์ และการวิเคราะห์คำพูดและการแสดงออกทางสีหน้าของผู้สมัคร

นักวิจัยสองคนที่ศูนย์การศึกษาเรื่องเพศของมหาวิทยาลัยเคมบริดจ์แย้งว่าเครื่องมือเหล่านี้อาจส่งเสริมความเท่าเทียมกันในการจ้างงาน เพราะพวกเขาสร้างอคติทางวัฒนธรรมของ "ผู้สมัครในอุดมคติ" ซึ่งในอดีตเคยเป็นชายผิวขาวหรือชาวยุโรป

เครื่องมือนี้อาจไม่สามารถปรับปรุงความหลากหลายได้เนื่องจากใช้ข้อมูลในอดีตของบริษัท และอาจส่งเสริมผู้สมัครที่คล้ายกับพนักงานปัจจุบันมากที่สุด

Eleanor Drage ผู้ร่วมวิจัยและนักวิจัยจากศูนย์การศึกษาเรื่องเพศแห่งมหาวิทยาลัยเคมบริดจ์ กล่าวว่า “มีความรับผิดชอบเพียงเล็กน้อยสำหรับการสร้างหรือทดสอบผลิตภัณฑ์เหล่านี้ โดยเสริมว่าเทคโนโลยีอาจเป็น “อันตราย” แหล่งที่มาของ “ข้อมูลที่ผิดเกี่ยวกับการสรรหาบุคลากรสามารถ 'ไม่ลำเอียง' และทำให้ยุติธรรมยิ่งขึ้นได้อย่างไร”

ใบเสนอราคาที่สำคัญ

“ด้วยการอ้างว่าการเหยียดเชื้อชาติ การกีดกันทางเพศ และการเลือกปฏิบัติในรูปแบบอื่นๆ สามารถถอดออกจากกระบวนการจ้างงานโดยใช้ปัญญาประดิษฐ์ได้ บริษัทเหล่านี้ลดเชื้อชาติและเพศลงเหลือเพียงจุดข้อมูลที่ไม่มีนัยสำคัญ แทนที่จะเป็นระบบอำนาจที่กำหนดวิธีที่เราเคลื่อนผ่านโลก Drage กล่าวในแถลงการณ์

แทนเจนต์

Amazon ประกาศในปี 2018 ว่าจะ หยุด ใช้เครื่องมือสรรหา AI เพื่อตรวจสอบประวัติผู้สมัครงานหลังจากพบว่าระบบมีการเลือกปฏิบัติอย่างมากต่อผู้หญิง เนื่องจากโมเดลคอมพิวเตอร์ที่ใช้นั้นได้รับการพัฒนาโดยอ้างอิงจากประวัติย่อที่ส่งมายังบริษัทในช่วง 10 ปีที่ผ่านมา ซึ่งส่วนใหญ่มาจากผู้สมัครชาย

พื้นหลังที่สำคัญ

องค์กรต่างๆ หันมาใช้ AI มากขึ้นเพื่อช่วยจัดการกระบวนการจัดหางาน ในหนึ่งเดียว 2020 แบบสำรวจ บริษัทที่ปรึกษา Gartner จากผู้นำด้านทรัพยากรบุคคลมากกว่า 300 รายอ้างโดยผู้เขียนรายงานเมื่อวันอาทิตย์ พบว่า 86% ของนายจ้างใช้เทคโนโลยีเสมือนจริงในการจ้างงาน ซึ่งเป็นแนวโน้มที่เร่งตัวขึ้นตั้งแต่การระบาดใหญ่ของโควิด-19 ทำให้หลายคนต้องเปลี่ยนงานทางออนไลน์ ในขณะที่บางบริษัทแย้งว่า AI สามารถเสนอกระบวนการจ้างงานที่คุ้มค่าและตรงเวลามากขึ้น บ้าง ผู้เชี่ยวชาญ มี พบ ระบบมีแนวโน้มที่จะส่งเสริม—แทนที่จะกำจัด—การจ้างงานที่ลำเอียงทางเชื้อชาติและเพศโดยการจำลองอคติที่มีอยู่จากโลกแห่งความเป็นจริง ส.ส.หลายคนมี มีวัตถุประสงค์เพื่อ เพื่อจัดการกับอคติในระบบปัญญาประดิษฐ์ เนื่องจากเทคโนโลยียังคงพัฒนาอย่างรวดเร็วและมีกฎหมายเพียงไม่กี่ข้อที่จะควบคุมมัน ทำเนียบขาวสัปดาห์นี้เปิดตัว “พิมพ์เขียวสำหรับบิลสิทธิ AI” ซึ่งโต้แย้งว่าอัลกอริทึมที่ใช้ในการว่าจ้างถูกพบว่า “สะท้อนและทำซ้ำความไม่เท่าเทียมกันที่ไม่ต้องการที่มีอยู่” หรือฝัง “อคติและการเลือกปฏิบัติใหม่” พิมพ์เขียว—ซึ่งไม่มีผลผูกพันทางกฎหมายหรือนโยบายของรัฐบาล—เรียกร้องให้บริษัทต่างๆ ตรวจสอบให้แน่ใจว่า AI จะไม่เลือกปฏิบัติหรือละเมิดความเป็นส่วนตัวของข้อมูล และเพื่อให้ผู้ใช้ทราบเมื่อมีการใช้เทคโนโลยี

สิ่งที่ต้องระวัง

ในรายการแนะนำผู้เขียน Sunday's ปรัชญาและเทคโนโลยี กระดาษแนะนำบริษัทที่พัฒนาเทคโนโลยี AI มุ่งเน้นไปที่ความไม่เท่าเทียมกันอย่างเป็นระบบในวงกว้างแทนที่จะเป็น "ตัวอย่างอคติที่เป็นรายบุคคล" ตัวอย่างเช่น พวกเขาแนะนำให้นักพัฒนาซอฟต์แวร์ตรวจสอบหมวดหมู่ที่ใช้ในการจัดเรียง ประมวลผล และจัดหมวดหมู่ผู้สมัคร และวิธีที่หมวดหมู่เหล่านี้อาจส่งเสริมการเลือกปฏิบัติโดยอาศัยสมมติฐานบางประการเกี่ยวกับเพศและเชื้อชาติ นักวิจัยยังโต้แย้งว่าผู้เชี่ยวชาญด้านทรัพยากรบุคคลควรพยายามทำความเข้าใจว่าเครื่องมือจัดหางาน AI ทำงานอย่างไร และข้อจำกัดที่เป็นไปได้บางประการของพวกเขาคืออะไร

ความจริงที่น่าแปลกใจ

สหภาพยุโรปได้จัดประเภทซอฟต์แวร์การจ้างงานที่ขับเคลื่อนด้วย AI และเครื่องมือประเมินประสิทธิภาพเป็น "ความเสี่ยงสูง" ในรูปแบบใหม่ ร่าง กรอบกฎหมายเกี่ยวกับ AI ซึ่งหมายความว่าเครื่องมือต่างๆ จะต้องได้รับการตรวจสอบอย่างละเอียดยิ่งขึ้น และจะต้องเป็นไปตามข้อกำหนดการปฏิบัติตามข้อกำหนดบางประการ

อ่านเพิ่มเติม

DC ต้องการเป็นผู้นำในการต่อสู้กับอคติของ AI (แอซิออส)