จรรยาบรรณของ AI ประเมินอย่างรอบคอบว่าการเสนอ AI อคติตามล่าหาเงินรางวัลเพื่อจับและจับระบบปกครองตนเองที่ชั่วร้ายอย่างมีจริยธรรมหรือไม่นั้นรอบคอบหรือไร้ประโยชน์

ต้องการ: AI นักล่าอคติ.

นั่นอาจเป็นโฆษณาสมัยใหม่ที่คุณจะเริ่มเห็นปรากฏขึ้นบนช่องทางโซเชียลมีเดียและปรากฏตัวในประกาศรับสมัครงานออนไลน์ต่างๆ นี่เป็นแนวคิดหรือบทบาทที่ค่อนข้างใหม่ มันมาพร้อมกับความขัดแย้ง ผู้เชื่อที่กระตือรือร้นบางคนโต้เถียงกันอย่างแรงกล้าว่ามันสมเหตุสมผลและควรจะเกิดขึ้นตลอดมา ในขณะที่คนอื่นๆ ค่อนข้างประหม่ากำลังเกาหัวอย่างประหม่าและไม่แน่ใจว่านี่เป็นความคิดที่ดี

สาระสำคัญของบทบาทประกอบด้วยการหลุดพ้นจากอคติที่ซ่อนอยู่หรือการปฏิบัติที่เลือกปฏิบัติแบบฝังตัว เพื่อช่วยชีวิตนักล่าอคติ AI ที่กระตือรือร้นและพร้อมเพรียงกัน พวกเขาน่าจะเป็นนักล่าเงินรางวัลที่เชี่ยวชาญด้านคอมพิวเตอร์ ยิ่งไปกว่านั้น หวังว่าจะเจาะลึกความสามารถของ AI

มีปืน จะเดินทาง และสามารถผ่านนักแม่นปืนที่เก่งกาจของ AI เพื่อจัดการอคติของ AI ที่น่ารังเกียจและไม่ดีเหล่านั้น

สิ่งนี้ทำให้เกิดคำถามมากมายเกี่ยวกับความรู้สึกในการดำเนินกลยุทธ์ดังกล่าวเมื่อต้องค้นพบอคติของ AI อย่างที่ฉันจะพูดถึงในเร็วๆ นี้ โปรดทราบว่าการถือกำเนิดของ AI ได้นำมาซึ่งการเกิดขึ้นของอคติ AI ด้วย ทอร์เรนต์ของอคติ AI สำหรับการครอบคลุมอย่างต่อเนื่องและกว้างขวางของฉันเกี่ยวกับจริยธรรม AI และ AI เชิงจริยธรรม โปรดดูที่ ลิงค์ที่นี่ และ ลิงค์ที่นี่เพียงเพื่อชื่อไม่กี่

เราจะค้นพบได้อย่างไรว่าระบบ AI บางระบบมีความลำเอียง?

คุณอาจมอบหมายให้นักพัฒนา AI ที่คิดค้น AI ให้ทำเช่นนั้น ประเด็นก็คือ พวกเขาอาจติดหล่มอยู่ในอคติจนพวกเขาเองไม่รู้จักอคติภายใน AI ที่ปรุงขึ้น ทุกอย่างดูดีสำหรับพวกเขา หรือพวกเขาอาจจะตื่นเต้นมากเกี่ยวกับ AI และมีความรู้สึกภาคภูมิใจในตนเองว่าจะต้องใช้สายตาวิพากษ์วิจารณ์เพื่อตรวจสอบความลำเอียงนั้นเป็นเรื่องยากและเป็นการตกต่ำอย่างแท้จริง เหตุผลอื่นๆ มากมายอาจดูเหมือนตัดราคาให้นักพัฒนา AI รับงานนี้ ซึ่งรวมถึงการขาดทักษะในการค้นหาอคติที่ฝังอยู่ การไม่มีเวลาในโครงการที่จะทำ ฯลฯ

โอเค งั้นไปจ้างที่ปรึกษาภายนอกมาทำงานสกปรกแทนคุณได้เลย ปรากฎว่าที่ปรึกษาจะกลั่นกรอง AI ของคุณอย่างมีความสุขเพื่อหาอคติ โดยเรียกเก็บเงินจากคุณเป็นจำนวนมาก (หลายเพนนี) ตระหนักว่าคุณต้องจ่ายเงินเพื่อให้ระบบ AI ของคุณทำงานได้เร็วขึ้น จากนั้นคุณต้องให้พวกมันคุ้ยหา ซึ่งอาจต้องใช้เวลาหลายชั่วโมงที่ลำบาก การใช้ที่ปรึกษาเป็นตัวเลือกหากคุณมีงบประมาณ

เข้าสู่ "ช่องว่าง" ที่อาจเกิดขึ้นในการค้นหาอคติ AI ที่ร้ายกาจเหล่านี้มาที่นักล่าอคติ AI ที่กล้าหาญและห้าวหาญ

คุณมักจะไม่จ่ายเงินล่วงหน้า พวกเขาพยายามค้นหาอคติของ AI ตามเวลาของตนเองและต้องรับผิดชอบค่าใช้จ่ายของตนเองเมื่อทำเช่นนั้น เฉพาะในกรณีที่พบอคติได้สำเร็จเท่านั้น พวกเขาจะได้รับเงิน ฉันคิดว่าคุณสามารถยืนยันได้อย่างง่ายดายว่าด้วยวิธีการคิดที่เหมาะสม นั่นคือคำจำกัดความทั่วไปของนักล่าเงินรางวัล รับเงินหากคุณประสบความสำเร็จ ไม่ได้รับเงินถ้าคุณไม่ประสบความสำเร็จ ช่วงท้ายเรื่อง.

โครงการค่าหัวมีมาตั้งแต่สมัยของชาวโรมันเป็นอย่างน้อย และด้วยเหตุนี้เราจึงอาจสรุปได้ว่าโครงการเหล่านี้ทำงาน หลังจากประสบความสำเร็จในการฝึกฝนมาตลอดหลายปีที่ผ่านมา

นี่เป็นเกร็ดความรู้ทางประวัติศาสตร์ที่น่าสนใจสำหรับคุณ ตามรายงานข่าว ข้อความที่โพสต์ระหว่างจักรวรรดิโรมันในเมืองปอมเปอีประกาศว่านักล่าเงินรางวัลจำเป็นต้องหาหม้อทองแดงที่หายไปจากร้านเล็กๆ รางวัลสำหรับการกู้คืนหม้อทองแดงเป็นรางวัลที่น่าประทับใจจำนวน XNUMX เหรียญทองแดง ขออภัยที่ต้องบอกว่าเราไม่ทราบว่านักล่าเงินรางวัลคนใดพบหม้อทองแดงและอ้างสิทธิ์ในเหรียญทองแดง แต่เรารู้ว่าการล่าเงินรางวัลได้ดำเนินต่อไปอย่างแน่นอนตั้งแต่สมัยโบราณ

ในยุคปัจจุบัน คุณอาจทราบดีว่าในช่วงทศวรรษ 1980 มีรางวัลเด่นบางอย่างที่เสนอให้ค้นหาจุดบกพร่องของคอมพิวเตอร์หรือข้อผิดพลาดในแพ็คเกจซอฟต์แวร์ที่หาซื้อได้ทั่วไป และในปี 1990 Netscape เสนอเงินรางวัลสำหรับการค้นหาจุดบกพร่องในเว็บเบราว์เซอร์อย่างชัดเจน (กลายเป็นหนึ่งในบริษัทที่โดดเด่นที่สุดในวันนั้นที่ทำเช่นนั้น) Google และ Facebook ต่างเลือกใช้การไล่ล่าหาข้อผิดพลาดเริ่มต้นในปี 2010 และ 2013 ตามลำดับ ไม่กี่ปีต่อมา ในปี 2016 แม้แต่กระทรวงกลาโหมสหรัฐ (DoD) ก็ได้ลงมือโดยมีการพยายามให้เงินรางวัล “แฮ็กเพนตากอน” (โปรดทราบว่าเงินรางวัลที่เน้นต่อสาธารณะนั้นมีไว้สำหรับจุดบกพร่องที่พบในเว็บไซต์ที่เกี่ยวข้องกับ DoD ต่างๆ และไม่ใช่ใน ระบบป้องกันภารกิจสำคัญ)

มาเจาะลึกกันมากขึ้นในหัวข้อค่าหัวข้อผิดพลาด ฉันรู้ว่าฉันตั้งใจที่จะพูดคุยเกี่ยวกับความเอนเอียงของ AI ในการล่าเงินรางวัลเป็นหลักในการสนทนานี้ แต่มีบางแนวที่เกี่ยวข้องค่อนข้างมากกับเวทีรางวัลบั๊ก

บางบริษัทก็งงอย่างเห็นได้ชัดว่าบริษัทใดต้องการเสนอเงินรางวัลเพื่อค้นหาจุดบกพร่อง (หรือในกรณีนี้คืออคติของ AI) ในระบบของตน

บนพื้นผิวนี้ดูเหมือนว่าเป็นกลยุทธ์ประเภท "คุณกำลังขอ" หากคุณให้โลกรู้ว่าคุณยินดีต้อนรับผู้ที่พยายามค้นหาช่องโหว่ในซอฟต์แวร์ของคุณ ดูเหมือนว่าจะเท่ากับการบอกให้โจรบุกเข้าไปและพยายามบุกเข้าไปในบ้านของคุณ แม้ว่าคุณจะเชื่ออยู่แล้วว่าคุณมีระบบสัญญาณกันขโมยที่ดีและไม่มีใครสามารถเข้าไปในบ้านที่ปลอดภัยของคุณได้ ลองนึกภาพการถามและขอร้องให้พวกโจรทุกคนลงมาที่บ้านของคุณและดูว่าพวกเขาสามารถ แตกเป็นมัน โอ้ปัญหาที่เราทอเพื่อตัวเอง

เช่นเดียวกันอาจกล่าวได้เกี่ยวกับการขอให้นักล่าเงินรางวัลค้นหาอคติใน AI ของคุณ

ประการแรก อาจบ่งบอกว่าคุณเชื่อแล้วหรือรู้ทันทีว่า AI ของคุณมีอคติ นั่นเป็นการยอมรับโดยนัยอย่างตรงไปตรงมาที่น่าตกใจซึ่งมีเพียงไม่กี่คนที่ดูเหมือนจะเต็มใจที่จะทำและอาจย้อนกลับมา

ประการที่สอง คุณไม่รู้แน่ชัดว่านักล่าเงินรางวัลเหล่านั้นจะทำอะไรได้บ้าง พวกเขาสามารถเลือกที่จะบอกคนทั้งโลกว่าพวกเขาพบอคติใน AI ของคุณ สมมุติว่าสิ่งนี้อาจทำให้เสียการได้รับเงินรางวัล แม้ว่าบางคนอาจชอบความสนใจหรือตั้งเป้าที่จะสนับสนุนสถานะของพวกเขาในการรับงานที่ปรึกษาและความเป็นไปได้ในการสร้างรายได้อื่นๆ มันอาจจะเป็นการเห็นแก่ผู้อื่นโดยสิ้นเชิง อาจเป็นรูปแบบหนึ่งของการเคลื่อนไหวของ AI ฉันสามารถไปต่อได้

ประการที่สาม อาจมีการบิดเบือนเรื่องทั้งหมด นักล่าเงินรางวัลที่อ้างตัวว่ากำลังค้นหาอคติของ AI อาจใช้เล่ห์เพทุบายเพื่อหาวิธีโจมตีระบบ AI ของคุณ ทั้งหมดนี้เป็นปริศนาที่ในที่สุดจะทำการโจมตีทางไซเบอร์อย่างรุนแรง คุณอาจคิดว่าพวกเขากำลังพยายามช่วยในขณะที่พวกเขาทำผิดอยู่ในใจ เศร้า แต่เป็นไปได้

ประการที่สี่ เราสามารถบิดเบือนเรื่องนี้ได้ นักล่าเงินรางวัลพบอคติ AI ที่น่าอับอายและอาจถูกฟ้องร้อง ค่าหัวคือเงินจำนวนหนึ่งที่เราจะเรียกว่า X แทนที่จะอ้างสิทธิ์ในเงินรางวัล นักล่าเงินรางวัลจะทำการยั่วยุแรนซัมแวร์ที่แปลกประหลาด หากคุณจ่ายเงินให้กับนักล่าเงินรางวัลเป็นจำนวนสิบเท่าของ X หรืออาจจะเกินขีดจำกัดของท้องฟ้า พวกเขาจะบอกคุณเกี่ยวกับอคติของ AI คุณมีเวลาตอบถึงคืนวันอาทิตย์ตอนเที่ยงคืน หลังจากช่วงเวลานั้น อคติ AI จะถูกเปิดเผยให้ทุกคนได้เห็น Yikes สถานการณ์ขี้ขลาดที่จะเข้ามา

ประการที่ห้า ล่าสุดคือสิ่งที่เรียกว่า "แฮ็คเพื่อส่งคืน" อาชญากรไซเบอร์ที่หลังจากขโมยแป้งออนไลน์จำนวนมาก พวกเขาตัดสินใจที่จะกลับใจและส่งคืนโจรที่ชั่วร้ายที่พวกเขาคว้ามาได้ บริษัทที่ได้รับเงินคืนบางส่วนยินดีที่จะพิจารณาจำนวนเงินที่เหลือที่ถูกขโมยไปเป็นค่าหัวที่มอบให้กับโจร ดูเหมือนว่าทุกคนจะ "ชนะ" ในการที่เงินจำนวนมากได้รับคืน และในขณะเดียวกันอาชญากรไซเบอร์ก็ไม่ได้ถูกไล่ล่าอย่างถูกกฎหมาย แถมยังได้รับเงินรางวัลจากโจรสลัดอีกด้วย เป็นการกระทำผิดที่รอบคอบหรือร้ายกาจอย่างร้ายกาจหรือไม่?

ฉันตระหนักดีว่าพวกคุณบางคนอาจกำลังบอกว่าไม่มีใครควรปล่อย AI ที่มีอคติใดๆ ออกมา ดูเหมือนว่าจะแก้ปัญหากระอักกระอ่วนทั้งหมดนี้ว่าจะใช้นักล่าเงินรางวัลอคติ AI หรือไม่ อย่าพาตัวเองไปอยู่ในสถานการณ์ที่มีเงินรางวัล ตรวจสอบให้แน่ใจว่านักพัฒนา AI ของคุณทำสิ่งที่ถูกต้องและไม่อนุญาตให้มีอคติของ AI ในระบบ AI ของพวกเขา อาจใช้ที่ปรึกษาเพื่อตรวจสอบซ้ำ โดยพื้นฐานแล้วทำสิ่งที่คุณต้องทำเพื่อหลีกเลี่ยงการคิดหรือขอให้นักล่าเงินรางวัลที่มีอคติ AI มาที่โต๊ะ

ใช่ นั่นจะดูสมเหตุสมผลทีเดียว ปัญหาก็คือว่ามันยังเป็นบิตเพ้อฝัน ความซับซ้อนของระบบ AI จำนวนมากนั้นยิ่งใหญ่มากจนการพยายามทำให้แน่ใจว่าจะไม่มีอคติของ AI เกิดขึ้นแม้แต่นิดเดียวจะทำได้ยาก ยิ่งไปกว่านั้น ระบบ AI บางระบบมีจุดประสงค์เพื่อปรับและ "เรียนรู้" ไปพร้อมๆ กัน ซึ่งหมายความว่าในอนาคตข้างหน้า AI ที่คุณประดิษฐ์ขึ้น ซึ่งลองแสร้งทำเป็นว่าในตอนแรกนั้นสะอาดหมดจดและปราศจากอคติ อาจดึงดูดไปสู่การรวมอคติ (ฉันไม่ได้หมายความว่าในทางมานุษยวิทยาดังที่ฉันจะอธิบายเพิ่มเติมในขณะที่เรา ตามหัวข้อเลยครับ)

ผู้ที่ชอบล่าเงินรางวัลเพื่อหาจุดบกพร่องของซอฟต์แวร์มักจะโต้แย้งว่าสมควรที่จะเสนอเงินรางวัลดังกล่าว เราสามารถพิจารณาเหตุผลของพวกเขาและดูว่าใช้ได้กับขอบเขตอคติ AI ด้วยหรือไม่

ผู้เสนอค่าหัวข้อผิดพลาดเน้นว่าแทนที่จะพยายามแสร้งทำเป็นว่าไม่มีช่องโหว่ในระบบของคุณ ทำไมไม่สนับสนุนให้พบหลุมโดยทำในลักษณะ "ควบคุม"? ในทางตรงกันข้าม หากไม่มีความพยายามในการล่าเงิน คุณเพียงแค่หวังและอธิษฐานว่าโดยบังเอิญจะไม่มีใครพบหลุม แต่ถ้าคุณเสนอเงินรางวัลและบอกผู้ที่พบหลุมว่าพวกเขาจะได้รับรางวัลแทน โอกาสที่จะขึ้นหลุมด้วยตัวเองและป้องกันไม่ให้ผู้อื่นแอบค้นพบมันในเวลาต่อมา

เช่นเดียวกันอาจกล่าวได้ในกรณีการใช้งานของอคติ AI หากคุณเสนอเงินรางวัลเพียงพอ หวังว่านักล่าเงินรางวัลจะนำการค้นพบอคติ AI มาสู่ความสนใจของคุณ จากนั้นคุณสามารถรับมือกับอคติของ AI ด้วยวิธีที่ค่อนข้างเงียบและวัดผลได้ สิ่งนี้อาจขัดขวางปัญหาที่ใหญ่กว่าและน่ากลัวกว่ามากในภายหลัง กล่าวคือมีคนอื่นพบอคติของ AI ใน AI ของคุณและกรีดร้องเกี่ยวกับมันไปยังสวรรค์ชั้นสูง

โดยทั่วไป บริษัทที่ต้องการเปิดใช้งานความพยายามในการล่าค่าหัวบั๊กจะวางนโยบายการเปิดเผยช่องโหว่ (VDP) VDP ระบุว่าจะพบจุดบกพร่องได้อย่างไรและรายงานไปยังบริษัทพร้อมกับวิธีการให้รางวัลหรือเงินรางวัลแก่นักล่า โดยปกติ VDP จะกำหนดให้นักล่าต้องลงนามในข้อตกลงไม่เปิดเผยข้อมูล (NDA) เพื่อที่พวกเขาจะไม่เปิดเผยสิ่งที่พวกเขาพบให้ผู้อื่นทราบ

แนวคิดในการใช้ NDA กับนักล่าเงินรางวัลมีข้อโต้แย้งบางประการ แม้ว่าบริษัทจะเสนอเงินรางวัลให้เพื่อให้แม่ได้รับข้อมูลที่พบ แต่อาจกล่าวได้ว่าเป็นการยับยั้งการรับรู้โดยรวมเกี่ยวกับข้อบกพร่องดังกล่าว สมมุติว่าหากอนุญาตให้พูดถึงจุดบกพร่องของซอฟต์แวร์ได้ มันอาจช่วยรักษาความปลอดภัยให้กับระบบอื่นๆ ในบริษัทอื่นๆ ซึ่งจะทำให้ความเสี่ยงเพิ่มขึ้น นักล่าเงินรางวัลบางคนจะไม่ลงนามใน NDA ส่วนหนึ่งเป็นเพราะความต้องการของสาธารณะ และส่วนหนึ่งเกิดจากการพยายามปกปิดตัวตนของพวกเขาเอง พึงระลึกไว้เสมอว่าลักษณะของ NDA มักจะไม่เกิดขึ้นจนกว่านักล่าจะอ้างว่าพบจุดบกพร่อง แทนที่จะต้องระบุล่วงหน้า

VDP บางฉบับระบุว่า NDA มีระยะเวลาจำกัดเท่านั้น ทำให้บริษัทสามารถค้นหาวิธีแก้ปัญหาสำหรับรูที่มองเห็นได้ก่อน จากนั้นจึงค่อยเปิดเผยข้อมูลในวงกว้างขึ้น เมื่อเจาะรูแล้ว บริษัทจะยอมให้ NDA คลายตัวเพื่อให้คนอื่นๆ ในโลกทราบเกี่ยวกับจุดบกพร่อง โดยทั่วไป เวลาที่ใช้ในการแก้ปัญหาสำหรับแมลงที่ถูกล่าเงินรางวัลจะอยู่ที่ประมาณ 15-20 วันเมื่อบริษัทต้องการเสียบปลั๊กทันที ในขณะที่ในกรณีอื่นๆ อาจใช้เวลานานถึง 60-80 วัน ในแง่ของการจ่ายเงินรางวัลแก่นักล่าเงินรางวัลที่เรียกว่า time-to-pay หลังจากที่หลุมนั้นได้รับการยืนยันแล้วว่ามีอยู่จริงแล้ว การจ่ายเงินรางวัลที่รายงานมักจะใช้เวลาประมาณ 15-20 วันสำหรับกรณีที่เล็กกว่าและประมาณ 50-60 วันสำหรับกรณีที่ใหญ่กว่า (สิ่งเหล่านี้เป็นตัวบ่งชี้อุตสาหกรรมที่เปลี่ยนแปลงตลอดเวลาและกล่าวถึงเป็นเพียงตัวอย่างเท่านั้น)

ควรขอให้นักล่าเงินรางวัลอคติ AI เข้าร่วมใน VDP และจัดการกับ NDA หรือไม่

คุณสามารถได้รับใช่และไม่ใช่สำหรับคำถามนั้น ใช่ บางบริษัทควรไปทางนั้น ไม่ คุณไม่จำเป็นต้องเลือกเส้นทางนั้นเสมอไป ปัจจัยต่างๆ ได้แก่ ขนาดและธรรมชาติของ AI ศักยภาพของการเปิดเผยอคติของ AI ที่เกี่ยวข้อง และข้อพิจารณาด้านจริยธรรม กฎหมาย และธุรกิจอื่นๆ ที่ต้องแบกรับ

ฉันอาจเสริมว่าการสร้างความพยายามในการล่าเงินรางวัลสำหรับอคติ AI ของ AI ของคุณนั้นสูงกว่าที่คุณคิดได้อย่างรวดเร็วในตอนแรก

เราจะเริ่มต้นด้วยความเป็นไปได้ที่น่าเกรงขามว่าคุณจะเต็มไปด้วยนักล่าเงินรางวัลอคติ AI

ตอนนี้คงยากที่จะหาหลายๆ ที่มีบัตรโทรศัพท์แบบนี้ มีไม่มากนัก มันเป็นวันของ Wild West ในเรื่องนั้น แต่ถ้าความคิดของ AI ลำเอียงในการล่าเงินรางวัลยังคงดำเนินต่อไป โดยเฉพาะอย่างยิ่งเมื่อเงินรางวัลมีมากมายและให้รางวัลอย่างมากมาย คุณสามารถเดิมพันได้ว่าทุกคนจะดำดิ่งลงไปในสระว่ายน้ำที่มีอคติตามล่าหา

คุณต้องการ riffraff ทุกประเภทที่ติดตามอคติ AI ในระบบ AI ของคุณหรือไม่? คุณจะได้ผู้รับที่เชี่ยวชาญในเรื่องนี้จริงๆ คุณจะได้รับผู้รับคนอื่นที่เป็นมือสมัครเล่นและอาจทำให้หมาป่าเลอะเทอะหรือร้องไห้ สิ่งต่อไปที่คุณทราบ ใครก็ตามที่สามารถสะกดคำว่า “ปัญญาประดิษฐ์” ได้จะมาขุดเหมืองทองคำของคุณในระบบ AI สำหรับนักเก็ตทองคำที่มีอคติ AI อันล้ำค่าเหล่านั้น ตื่นทองอยู่. มันอาจจะไม่ดีสำหรับคุณ

คุณจะต้องตรวจสอบการส่งนักล่าเงินรางวัลอย่างละเอียดถี่ถ้วน จะมี "เสียงรบกวน" มากมายในการอ้างสิทธิ์ที่รายงาน ในแง่ที่ว่าอคติ AI ที่อ้างว่าไม่มีอยู่จริง แม้ว่านักล่าเงินรางวัลจะยืนยันว่าพบบางอย่าง ลองนึกภาพว่าทีม AI ของคุณต้องใช้แรงงานมากเพียงใดในการตรวจสอบการเรียกร้องค่าหัว สำรวจความถูกต้องของแต่ละรายการ จากนั้นอาจกลับไปกลับมากับนักล่าเงินรางวัลว่าทองคำถูกค้นพบหรือไม่

บางคนอาจโต้แย้งว่าเป็นอีกเหตุผลหนึ่งที่ต้องทำสิ่งทั้งหมดด้วยตัวเอง คุณอาจค้นพบอย่างหลีกเลี่ยงไม่ได้ว่าของรางวัลนั้นมีปัญหามากกว่าที่มันควรจะเป็น

นี่เป็นอีกคำถามหนึ่งที่ต้องไตร่ตรอง นักล่าเงินรางวัลจะรู้ได้อย่างไรว่าอคติของ AI เป็นอย่างไร? โดยพื้นฐานแล้ว หากไม่มีรูปร่างหน้าตาของสิ่งที่ต้องมองหา หินแวววาวใดๆ ก็สามารถอ้างได้ว่าเป็นการจัดแสดงอคติของ AI ในการขุดเหมืองทองคำ AI ที่รับรู้ได้

ในสมัยของ Old West สมมติว่าคุณเสนอรางวัลสำหรับการจับกุม Billy the Kid (คนนอกกฎหมายที่มีชื่อเสียง) หากคุณทำเช่นนั้นโดยไม่ได้ใส่รูปภาพของสิ่งที่บิลลี่ดูเหมือน ให้ลองนึกภาพจำนวนนักล่าเงินรางวัลที่อาจลากคนที่พวกเขาหวังหรือคิดว่าเป็นบิลลี่เดอะคิดเข้ามาในสำนักงานของนายอำเภอ คุณอาจถูกน้ำท่วมด้วย Billy's ปลอม สิ่งนี้ไม่ดีเพราะคุณจะต้องดูแต่ละอย่าง ถามคำถามที่ละเอียดถี่ถ้วน และพยายามตรวจสอบว่าคนๆ นั้นคือ Billy จริงๆ หรือไม่

ประเด็นคือการตั้งค่าความพยายามให้รางวัลอคติของ AI คุณควรพยายามและชี้แจงสิ่งที่คุณพิจารณาว่าอคติของ AI ประกอบด้วย สิ่งนี้ต้องการการสอบเทียบแบบ Goldilocks คุณคงไม่อยากจำกัดขอบเขตให้นักล่าเงินรางวัลมองข้ามความลำเอียงของ AI เพียงเพราะพวกเขาไม่เข้ากับคำจำกัดความที่คุณกำหนด และไม่ต้องการให้พวกเขาตะโกนว่า "ยูเรก้า!" ในทุกอคติของ AI ที่พวกเขาพบ

คุณจะต้องมีดุลยภาพ Goldilocks ที่เหมาะสมกับความเอนเอียงของ AI และให้แนวทางที่ชัดเจนโดยเฉพาะอย่างยิ่ง

การไล่ล่าหาเงินรางวัลอคติของ AI จำนวนมากนี้จะมุ่งเน้นไปที่ระบบการเรียนรู้ของเครื่อง (ML) ที่ใช้ AI และระบบการเรียนรู้เชิงลึก (DL) สิ่งนี้สมเหตุสมผลเนื่องจากการแพร่หลายของ ML/DL เพิ่มมากขึ้น และดูเหมือนว่าจะมีความท้าทายที่น่าจะเป็นไปได้มากที่สุดในการรวมอคติที่ไม่เหมาะสมของ AI

นักวิจัยเหล่านี้ระบุว่าความพยายามในการล่าเงินรางวัลอคติของ AI นั้นมีความสำคัญเพียงใด โดยเฉพาะอย่างยิ่งในบริบท ML/DL: “เมื่อเวลาผ่านไป ชุมชนซอฟต์แวร์และความปลอดภัยได้พัฒนา 'ค่าหัวบั๊ก' เพื่อพยายามเปลี่ยนการเปลี่ยนแปลงที่คล้ายคลึงกันระหว่างนักพัฒนาระบบและนักวิจารณ์ของพวกเขา (หรือแฮกเกอร์) ไปสู่จุดสิ้นสุดเชิงโต้ตอบและประสิทธิผลที่มากขึ้น ความหวังก็คือการจงใจเชิญบุคคลภายนอกให้ค้นหาข้อบกพร่องของซอฟต์แวร์หรือฮาร์ดแวร์ในระบบของตน และมักจะให้สิ่งจูงใจทางการเงินสำหรับการทำเช่นนั้น ระบบนิเวศที่ตอบสนองได้ดีขึ้นและรวดเร็วยิ่งขึ้นจะมีวิวัฒนาการ เป็นเรื่องปกติที่ชุมชน ML จะพิจารณาแนวทาง 'การให้ค่าหัวแบบอคติ' ที่คล้ายคลึงกันในการค้นพบและซ่อมแซมแบบจำลองและระบบที่มีอคติหรือพฤติกรรมที่ไม่พึงประสงค์อื่นๆ ในเวลาที่เหมาะสม แทนที่จะค้นหาข้อบกพร่องในซอฟต์แวร์ บุคคลภายนอกจะได้รับเชิญให้ค้นหาอคติ เช่น กลุ่มย่อย (ข้อมูลประชากรหรืออื่น ๆ ) ของอินพุตที่โมเดลที่ผ่านการฝึกอบรมมีประสิทธิภาพต่ำกว่า - และได้รับรางวัลสำหรับการทำเช่นนั้น” (ในบทความ “กรอบอัลกอริทึมสำหรับอคติ” Bounties” โดย Ira Globus-Harris, Michael Kearns และ Aaron Roth)

ในรายงานการวิจัย ผู้เขียนได้ร่างแนวทางที่แนะนำว่านักล่าเงินรางวัลสามารถแสวงหาอคติ AI แบบใดได้บ้าง นอกจากนี้ยังมีข้อบ่งชี้เกี่ยวกับวิธีการประเมินการเรียกร้องของนักล่าเงินรางวัลที่เกี่ยวข้องกับอคติ AI ที่ถูกกล่าวหาซึ่งค้นพบ ตามคำกล่าวก่อนหน้าของฉันในที่นี้ เป็นไปได้ว่าคุณจะได้รับการอ้างสิทธิ์ที่กว้างขวาง และต้องแยกข้าวสาลีอคติ AI ออกจากแกลบ

ก่อนที่จะพูดถึงเนื้อสัตว์และมันฝรั่งเพิ่มเติมเกี่ยวกับการพิจารณาป่าและขนสัตว์ที่อยู่ภายใต้การล่าอคติของ AI เรามาสร้างพื้นฐานเพิ่มเติมในหัวข้อที่ครบถ้วนสมบูรณ์ เราจำเป็นต้องเจาะลึกสั้นๆ เกี่ยวกับจริยธรรมของ AI โดยเฉพาะอย่างยิ่งการถือกำเนิดของ Machine Learning (ML) และ Deep Learning (DL)

คุณอาจทราบอย่างคลุมเครือว่าเสียงที่ดังที่สุดในยุคนี้ในด้าน AI และแม้แต่นอกสาขา AI นั้นประกอบด้วยการโห่ร้องเพื่อให้ดูเหมือน AI ที่มีจริยธรรมมากขึ้น เรามาดูกันว่าการอ้างถึง AI Ethics และ Ethical AI หมายความว่าอย่างไร ยิ่งไปกว่านั้น เราจะสำรวจสิ่งที่ฉันหมายถึงเมื่อฉันพูดถึงแมชชีนเลิร์นนิงและการเรียนรู้เชิงลึก

ส่วนใดส่วนหนึ่งหรือส่วนหนึ่งของจริยธรรม AI ที่ได้รับความสนใจจากสื่อเป็นจำนวนมากประกอบด้วย AI ที่แสดงอคติและความไม่เท่าเทียมกัน คุณอาจทราบดีว่าเมื่อยุคล่าสุดของ AI เริ่มต้นขึ้น มีความกระตือรือร้นอย่างมากในสิ่งที่บางคนเรียกว่าตอนนี้ AI เพื่อความดี. น่าเสียดายที่ความตื่นเต้นที่พุ่งพล่านนั้น เราเริ่มเห็น AI สำหรับไม่ดี. ตัวอย่างเช่น ระบบจดจำใบหน้าที่ใช้ AI หลายระบบได้รับการเปิดเผยว่ามีอคติทางเชื้อชาติและอคติทางเพศ ซึ่งฉันได้กล่าวถึง ลิงค์ที่นี่.

ความพยายามที่จะต่อต้าน AI สำหรับไม่ดี กำลังดำเนินการอย่างแข็งขัน แถมยังโวยวาย ถูกกฎหมาย การแสวงหาการควบคุมในการกระทำผิด ยังมีแรงผลักดันที่สำคัญต่อการน้อมรับจริยธรรม AI เพื่อปรับความชั่วช้าของ AI แนวความคิดคือเราควรนำมาใช้และรับรองหลักการ AI เชิงจริยธรรมที่สำคัญสำหรับการพัฒนาและการลงพื้นที่ของ AI เพื่อตัดราคา AI สำหรับไม่ดี และประกาศและส่งเสริมผู้ทรงชอบไปพร้อม ๆ กัน AI เพื่อความดี.

ตามแนวคิดที่เกี่ยวข้อง ฉันเป็นผู้สนับสนุนที่พยายามใช้ AI เป็นส่วนหนึ่งของการแก้ปัญหา AI ที่ต่อสู้กับไฟด้วยไฟในลักษณะที่คิดแบบนั้น เราอาจยกตัวอย่างการฝังองค์ประกอบ AI ที่มีจริยธรรมลงในระบบ AI ที่จะตรวจสอบว่า AI ที่เหลือทำสิ่งต่าง ๆ อย่างไรและอาจตรวจจับความพยายามในการเลือกปฏิบัติในแบบเรียลไทม์ ดูการสนทนาของฉันที่ ลิงค์ที่นี่. นอกจากนี้เรายังสามารถมีระบบ AI แยกต่างหากที่ทำหน้าที่เป็นตัวตรวจสอบจริยธรรม AI ระบบ AI ทำหน้าที่เป็นผู้ดูแลในการติดตามและตรวจจับเมื่อ AI อื่นกำลังเข้าสู่ขุมนรกที่ผิดจรรยาบรรณ (ดูการวิเคราะห์ความสามารถดังกล่าวของฉันได้ที่ ลิงค์ที่นี่).

ในอีกสักครู่ ฉันจะแบ่งปันหลักการที่ครอบคลุมเกี่ยวกับจริยธรรม AI กับคุณ มีรายการประเภทนี้มากมายที่ลอยอยู่ที่นี่และที่นั่น คุณสามารถพูดได้ว่ายังไม่มีรายการเดียวของการอุทธรณ์และการเห็นพ้องต้องกันที่เป็นสากล นั่นเป็นข่าวที่โชคร้าย ข่าวดีก็คืออย่างน้อยก็มีรายการจริยธรรม AI ที่พร้อมใช้งานและมีแนวโน้มว่าจะค่อนข้างคล้ายกัน ทั้งหมดนี้แสดงให้เห็นว่าด้วยรูปแบบของการบรรจบกันของเหตุผลต่างๆ ที่เรากำลังหาทางไปสู่ความธรรมดาทั่วไปของสิ่งที่ AI Ethics ประกอบด้วย

อันดับแรก เรามาพูดถึงหลักจริยธรรมของ AI โดยรวมโดยสังเขปเพื่อแสดงให้เห็นข้อควรพิจารณาที่สำคัญสำหรับผู้ที่ประดิษฐ์ งานภาคสนาม หรือใช้ AI

ตัวอย่างเช่น ตามที่วาติกันระบุไว้ใน กรุงโรมเรียกร้องจรรยาบรรณ AI และอย่างที่ฉันได้กล่าวถึงในเชิงลึกที่ ลิงค์ที่นี่นี่คือหลักจริยธรรม AI หลัก XNUMX ประการที่ระบุไว้:

• โปร่งใส: โดยหลักการแล้วระบบ AI จะต้องอธิบายได้
• รวม: ต้องคำนึงถึงความต้องการของมนุษย์ทุกคนเพื่อให้ทุกคนได้รับประโยชน์และทุกคนสามารถเสนอเงื่อนไขที่ดีที่สุดในการแสดงออกและพัฒนา
• ความรับผิดชอบ: ผู้ที่ออกแบบและปรับใช้การใช้ AI จะต้องดำเนินการด้วยความรับผิดชอบและความโปร่งใส
• ความเป็นกลาง: ไม่สร้างหรือกระทำการตามอคติ อันเป็นการรักษาความเป็นธรรมและศักดิ์ศรีความเป็นมนุษย์
• ความน่าเชื่อถือ: ระบบ AI ต้องสามารถทำงานได้อย่างน่าเชื่อถือ
• ความปลอดภัยและความเป็นส่วนตัว: ระบบ AI ต้องทำงานอย่างปลอดภัยและเคารพความเป็นส่วนตัวของผู้ใช้

ตามที่ระบุไว้โดยกระทรวงกลาโหมสหรัฐ (DoD) ในของพวกเขา หลักจริยธรรมสำหรับการใช้ปัญญาประดิษฐ์ และอย่างที่ฉันได้กล่าวถึงในเชิงลึกที่ ลิงค์ที่นี่นี่คือหลักจริยธรรม AI หลักหกประการ:

• รับผิดชอบ: บุคลากรของ DoD จะใช้ดุลยพินิจและการดูแลที่เหมาะสมในขณะที่ยังคงรับผิดชอบในการพัฒนา การปรับใช้ และการใช้ความสามารถของ AI
• เท่าเทียมกัน: แผนกจะดำเนินการอย่างรอบคอบเพื่อลดอคติที่ไม่ได้ตั้งใจในความสามารถของ AI
• ติดตามได้: ความสามารถของ AI ของแผนกจะได้รับการพัฒนาและปรับใช้เพื่อให้บุคลากรที่เกี่ยวข้องมีความเข้าใจที่เหมาะสมเกี่ยวกับเทคโนโลยี กระบวนการพัฒนา และวิธีการปฏิบัติงานที่ใช้กับความสามารถของ AI รวมถึงวิธีการที่โปร่งใสและตรวจสอบได้ แหล่งข้อมูล ขั้นตอนการออกแบบและเอกสารประกอบ
• ความน่าเชื่อถือ: ความสามารถด้าน AI ของแผนกจะมีการใช้งานที่ชัดเจนและชัดเจน และความปลอดภัย การรักษาความปลอดภัย และประสิทธิภาพของความสามารถดังกล่าวจะต้องได้รับการทดสอบและรับรองภายในการใช้งานที่กำหนดไว้ตลอดวงจรชีวิตทั้งหมด
• ควบคุมได้: แผนกจะออกแบบและออกแบบความสามารถของ AI เพื่อให้เป็นไปตามหน้าที่ที่ตั้งใจไว้ ในขณะที่มีความสามารถในการตรวจจับและหลีกเลี่ยงผลที่ไม่ได้ตั้งใจ และความสามารถในการปลดหรือปิดใช้งานระบบที่ปรับใช้ซึ่งแสดงพฤติกรรมที่ไม่ได้ตั้งใจ

ฉันยังได้พูดคุยถึงการวิเคราะห์กลุ่มต่างๆ เกี่ยวกับหลักจริยธรรมของ AI รวมถึงการกล่าวถึงชุดที่คิดค้นโดยนักวิจัยที่ตรวจสอบและสรุปสาระสำคัญของหลักจริยธรรม AI ระดับชาติและระดับนานาชาติในบทความเรื่อง “แนวปฏิบัติด้านจริยธรรม AI ทั่วโลก” (เผยแพร่ ใน ธรรมชาติ) และความครอบคลุมของฉันสำรวจที่ ลิงค์ที่นี่ซึ่งนำไปสู่รายการคีย์สโตนนี้:

• ความโปร่งใส
• ความยุติธรรมและความเป็นธรรม
• การไม่อาฆาตพยาบาท
• ความรับผิดชอบ
• ความเป็นส่วนตัว
• ประโยชน์
• เสรีภาพและเอกราช
• วางใจ
• การพัฒนาอย่างยั่งยืน
• เกียรติ
• ความเป็นน้ำหนึ่งใจเดียวกัน

อย่างที่คุณอาจเดาได้โดยตรง การพยายามระบุรายละเอียดเฉพาะที่เป็นพื้นฐานของหลักการเหล่านี้อาจทำได้ยากมาก ยิ่งไปกว่านั้น ความพยายามที่จะเปลี่ยนหลักการกว้างๆ เหล่านั้นให้เป็นสิ่งที่จับต้องได้ทั้งหมดและมีรายละเอียดมากพอที่จะนำไปใช้ในการสร้างระบบ AI ก็ยังเป็นสิ่งที่ยากต่อการถอดรหัส โดยรวมแล้วเป็นการง่ายที่จะโบกมือว่าหลักจรรยาบรรณของ AI คืออะไรและควรปฏิบัติตามอย่างไร ในขณะที่มันเป็นสถานการณ์ที่ซับซ้อนกว่ามากในการเข้ารหัส AI ที่จะต้องเป็นยางจริงที่ตรงตามท้องถนน

นักพัฒนา AI จะใช้หลักจริยธรรม AI ร่วมกับผู้ที่จัดการความพยายามในการพัฒนา AI และแม้แต่ผู้ที่ลงมือปฏิบัติงานและบำรุงรักษาระบบ AI ในท้ายที่สุด ผู้มีส่วนได้ส่วนเสียทั้งหมดตลอดวงจรชีวิตของการพัฒนาและการใช้งาน AI ทั้งหมดจะได้รับการพิจารณาให้อยู่ในขอบเขตของการปฏิบัติตามบรรทัดฐานที่กำหนดไว้ของ AI เชิงจริยธรรม นี่เป็นจุดเด่นที่สำคัญเนื่องจากข้อสันนิษฐานตามปกติคือ "เฉพาะผู้เขียนโค้ด" หรือผู้ที่ตั้งโปรแกรม AI จะต้องปฏิบัติตามแนวคิด AI Ethics ตามที่ระบุไว้ก่อนหน้านี้ ต้องใช้หมู่บ้านในการประดิษฐ์และใส่ AI และทั้งหมู่บ้านจะต้องมีความรอบรู้และปฏิบัติตามหลักจริยธรรม AI

ตรวจสอบให้แน่ใจว่าเราอยู่ในหน้าเดียวกันเกี่ยวกับธรรมชาติของ AI ในปัจจุบัน

วันนี้ไม่มี AI ใดที่มีความรู้สึก เราไม่มีสิ่งนี้ เราไม่ทราบว่า AI ที่มีความรู้สึกจะเป็นไปได้หรือไม่ ไม่มีใครสามารถคาดเดาได้อย่างเหมาะเจาะว่าเราจะได้รับ AI ที่มีความรู้สึกหรือไม่ และ AI ที่มีความรู้สึกจะเกิดขึ้นอย่างอัศจรรย์อย่างปาฏิหาริย์ในรูปแบบของซุปเปอร์โนวาทางปัญญาเชิงคำนวณหรือไม่ ลิงค์ที่นี่).

ประเภทของ AI ที่ฉันมุ่งเน้นประกอบด้วย AI ที่ไม่มีความรู้สึกที่เรามีในปัจจุบัน หากเราต้องการคาดเดาอย่างดุเดือดเกี่ยวกับ ความรู้สึก AI การอภิปรายนี้อาจไปในทิศทางที่ต่างไปจากเดิมอย่างสิ้นเชิง AI ที่มีความรู้สึกควรจะมีคุณภาพของมนุษย์ คุณจะต้องพิจารณาว่า AI ที่มีความรู้สึกนั้นเทียบเท่ากับความรู้ความเข้าใจของมนุษย์ ยิ่งไปกว่านั้น เนื่องจากบางคนคาดเดาว่าเราอาจมี AI ที่ฉลาดล้ำ จึงเป็นไปได้ว่า AI ดังกล่าวจะฉลาดกว่ามนุษย์ (สำหรับการสำรวจของฉันเกี่ยวกับ AI ที่ฉลาดสุดๆ เป็นไปได้ ดู ความคุ้มครองที่นี่).

เรามาพูดถึงเรื่องต่างๆ กันมากขึ้น และพิจารณา AI ที่ไม่มีความรู้สึกเชิงคำนวณในปัจจุบัน

ตระหนักว่า AI ในปัจจุบันไม่สามารถ "คิด" ในรูปแบบใดๆ ที่เท่าเทียมกับความคิดของมนุษย์ได้ เมื่อคุณโต้ตอบกับ Alexa หรือ Siri ความสามารถในการสนทนาอาจดูคล้ายกับความสามารถของมนุษย์ แต่ความจริงก็คือมันเป็นการคำนวณและขาดความรู้ความเข้าใจของมนุษย์ ยุคใหม่ของ AI ได้ใช้ประโยชน์จาก Machine Learning (ML) และ Deep Learning (DL) อย่างกว้างขวาง ซึ่งใช้ประโยชน์จากการจับคู่รูปแบบการคำนวณ สิ่งนี้นำไปสู่ระบบ AI ที่มีลักษณะเหมือนมนุษย์ ในขณะเดียวกัน ทุกวันนี้ไม่มี AI ใดที่มีลักษณะคล้ายสามัญสำนึก และไม่มีความมหัศจรรย์ทางปัญญาใดๆ เกี่ยวกับการคิดที่แข็งแกร่งของมนุษย์

ML/DL คือรูปแบบหนึ่งของการจับคู่รูปแบบการคำนวณ วิธีปกติคือคุณรวบรวมข้อมูลเกี่ยวกับงานการตัดสินใจ คุณป้อนข้อมูลลงในคอมพิวเตอร์รุ่น ML/DL โมเดลเหล่านั้นพยายามค้นหารูปแบบทางคณิตศาสตร์ หลังจากพบรูปแบบดังกล่าวแล้ว หากพบ ระบบ AI จะใช้รูปแบบดังกล่าวเมื่อพบข้อมูลใหม่ เมื่อนำเสนอข้อมูลใหม่ รูปแบบที่อิงตาม "ข้อมูลเก่า" หรือข้อมูลในอดีตจะถูกนำไปใช้เพื่อแสดงการตัดสินใจในปัจจุบัน

ฉันคิดว่าคุณสามารถเดาได้ว่าสิ่งนี้กำลังมุ่งหน้าไปที่ใด หากมนุษย์ที่ทำตามแบบแผนในการตัดสินใจได้รวมเอาอคติที่ไม่ดีเข้าไว้ โอกาสที่ข้อมูลจะสะท้อนสิ่งนี้ในรูปแบบที่ละเอียดอ่อนแต่มีความสำคัญ การจับคู่รูปแบบการคำนวณของ Machine Learning หรือ Deep Learning จะพยายามเลียนแบบข้อมูลตามหลักคณิตศาสตร์ ไม่มีความคล้ายคลึงของสามัญสำนึกหรือแง่มุมอื่น ๆ ของการสร้างแบบจำลองที่ประดิษฐ์โดย AI ต่อตัว

นอกจากนี้ นักพัฒนา AI อาจไม่ทราบว่าเกิดอะไรขึ้นเช่นกัน คณิตศาสตร์ลี้ลับใน ML/DL อาจทำให้ยากต่อการค้นหาอคติที่ซ่อนอยู่ในขณะนี้ คุณจะหวังและคาดหวังอย่างถูกต้องว่านักพัฒนา AI จะทดสอบอคติที่ซ่อนอยู่ แม้ว่าจะยากกว่าที่คิดก็ตาม มีโอกาสสูงที่แม้จะมีการทดสอบที่ค่อนข้างกว้างขวางว่าจะมีความลำเอียงที่ยังคงฝังอยู่ในโมเดลการจับคู่รูปแบบของ ML/DL

คุณสามารถใช้สุภาษิตที่มีชื่อเสียงหรือน่าอับอายของขยะในถังขยะออก เรื่องนี้คล้ายกับอคติมากกว่าที่จะแทรกซึมอย่างร้ายกาจเมื่ออคติที่จมอยู่ใน AI การตัดสินใจของอัลกอริทึม (ADM) ของ AI จะเต็มไปด้วยความไม่เท่าเทียมกันตามความเป็นจริง

ไม่ดี.

กลับมาที่หัวข้อการล่าอคติของ AI กัน

สำหรับบรรดาของคุณที่กำลังพิจารณาความพยายามในการล่าเงินรางวัลอคติของ AI ต่อไปนี้คือขั้นตอนสำคัญเจ็ดขั้นตอนที่ฉันแนะนำเกี่ยวกับวิธีดำเนินการให้ดีที่สุด:

1) ประเมินผล. ประเมินความเหมาะสมของความพยายามในการล่าเงินรางวัลอคติของ AI สำหรับสถานการณ์ของคุณและตามระบบ AI ของคุณ

2) ออกแบบ. ออกแบบวิธีการล่าเงินรางวัลอคติ AI ที่เหมาะสม

3) Implement. ดำเนินการและเผยแพร่ความพยายามในการล่าเงินรางวัลอคติ AI ของคุณ

4) สนาม. ฟิลด์การเรียกร้องค่าหัวอคติ AI และดำเนินการตามนั้น

5) แก้ไขปัญหา. แก้ไขหรือปรับ AI ของคุณให้สัมพันธ์กับการเปิดรับอคติของ AI ที่ค้นพบเหล่านี้

6) ปรับ. ปรับ AI ล่าค่าหัวอคติตามต้องการ

7) ยกเลิก. ยุติการล่าเงินรางวัลอคติ AI เมื่อไม่จำเป็นอีกต่อไป

ในชุดขั้นตอนข้างต้นของฉัน โปรดทราบว่าฉันพูดถึงว่าคุณอาจต้องการแก้ไขหรือปรับ AI ของคุณโดยพิจารณาจากการตรวจสอบว่ามีอคติ AI ที่อ้างว่ามีอยู่จริงในระบบ AI ของคุณ นี้มีเหตุผลมากมาย คุณเกือบจะต้องการสนับสนุนอคติ AI ที่พบ คิดถึงการแตกสาขาทางกฎหมาย (และจริยธรรม) ถ้าคุณไม่ทำเช่นนั้น เป็นสิ่งหนึ่งที่ต้องยืนยันว่าคุณไม่ทราบว่ามีอคติของ AI อยู่และดังนั้นจึงปล่อยให้มีอยู่จริง ในขณะที่การบันทึกว่าคุณทราบถึงความลำเอียงของ AI แล้วและไม่ได้ทำอะไรกับมันเลย

ธรรมชาติและระดับของการแก้ไขหรือปรับแต่ง AI นั้นแน่นอนขึ้นอยู่กับว่าความเอนเอียงของ AI มีความสำคัญเพียงใดและปัญหาที่ฝังลึกมากเพียงใด หากคุณโชคดี บางทีการเปลี่ยนแปลงเล็กน้อยใน AI อาจช่วยแก้ไขปัญหาได้ ศักยภาพอีกประการหนึ่งคือคุณอาจต้องเขียน AI ใหม่ทั้งหมด สำหรับ AI ประเภท ML/DL การดำเนินการนี้อาจต้องกลับไปที่กระดานวาดภาพและเริ่มต้นใหม่ด้วยชุดข้อมูลใหม่และโมเดล ML/DL ที่ล้างข้อมูล ฉันได้กล่าวถึงการกำเนิดของ AI disgorgement หรือการทำลาย AI เพื่อเป็นการเยียวยาทางกฎหมายที่อาจเกิดขึ้นกับ AI ที่น่ารังเกียจ ดู ลิงค์ที่นี่.

คำถามหนึ่งที่ควรพิจารณาคือคุณต้องการให้นักล่าเงินรางวัลทำมากกว่าแค่ระบุการมีอยู่ของอคติของ AI หรือไม่ ตัวอย่างเช่น คุณอาจเติมความหวานให้กับเงินรางวัลโดยระบุว่ายินดีรับการแก้ไขที่เสนอเช่นกัน AI ความลำเอียง พบ โดยนักล่าเงินรางวัลอาจได้รับเงินรางวัลหรือรางวัลที่ระบุ หากนักล่าเงินรางวัลสามารถให้การดำรงอยู่ได้ แก้ไขปัญหา สำหรับความเอนเอียงของ AI พวกเขาอาจได้รับรางวัลเพิ่มเติม

บางคนโต้แย้งว่าสะพานนี้อยู่ไกลเกินไป พวกเขาบอกว่าคุณควรให้นักล่าเงินรางวัลอคติ AI มุ่งเน้นไปที่การค้นหาอคติของ AI เท่านั้น คุณกำลังจะสร้างผลลัพธ์ที่ไม่พึงประสงค์จำนวนมากโดยการเชิญพวกเขาให้แนะนำการแก้ไขด้วย ทำสิ่งต่างๆ ให้เรียบง่าย เป้าหมายคือการค้นหาเพิ่มเติมในการค้นหาความเอนเอียงของ AI เพื่อให้คุณสามารถตัดสินใจว่าจะทำอย่างไรต่อไป อย่าทำให้น้ำขุ่น

แง่มุมที่ยุ่งยากซึ่งจำเป็นต้องหาให้ได้คือขนาดของรางวัลหรือรางวัลสำหรับนักล่าเงินรางวัลที่ค้นพบความลำเอียงของ AI อย่างแท้จริง คุณต้องการให้ผลตอบแทนเป็นที่ประจักษ์ หากไม่มีรางวัลที่สูงพอ คุณจะไม่ได้รับนักล่าเงินรางวัลจำนวนมากหรือพวกเขาจะไม่กระตือรือร้นที่จะค้นหาอคติของ AI ในระบบ AI ของคุณเป็นพิเศษ พวกเขาอาจมุ่งความสนใจไปที่ความเอนเอียงด้าน AI อื่นๆ แทน

นอกจากนี้ ดังที่กล่าวไว้ คุณต้องการพยายามระงับแรงกระตุ้นจากนักล่าเงินรางวัลให้เปลี่ยนการค้นพบอคติของ AI ให้กลายเป็นทองคำรูปแบบอื่น หากรางวัลดูเหมือนเลวทราม อาจทำให้นักล่าเงินรางวัลไม่พอใจในการแสวงหาผลตอบแทนที่สูงขึ้น พวกเขาสามารถใช้ ransomware เข้าหาคุณได้ พวกเขาอาจประกาศว่าพวกเขามีอคติของ AI ที่คู่แข่งต้องการรู้และสามารถใช้กับบริษัทของคุณได้ด้วยการโน้มน้าวว่า AI นั้นมีอคติอยู่ใน AI ของคุณ ดังนั้นพวกเขาจึงขายอคติ AI ที่ค้นพบให้กับผู้เสนอราคาสูงสุด และอื่นๆ.

มีคนคิดว่าถ้าคุณตั้งรางวัลไว้สูงมาก คุณกำลังถามถึงปัญหาที่อาจเกิดขึ้นด้วย สิ่งนี้สามารถดึงดูดนักล่าเงินรางวัลบ้าๆบอ ๆ ได้ทุกประเภท ในทางกลับกัน พวกเขาอาจหลั่งไหลเข้าสู่โซเชียลมีเดียด้วยการอ้างอย่างคลุมเครือว่าพวกเขาพบอคติของ AI มากมาย การทำเช่นนี้เพื่อการโปรโมตตนเองของพวกเขาเองและโดยที่ไม่ได้มีอคติใดๆ เกี่ยวกับ AI เลย ในแง่หนึ่ง รางวัลที่เพิ่มสูงขึ้นของคุณส่องแสงสว่างให้กับ AI ของคุณโดยไม่ได้ตั้งใจ และกระตุ้นแมลงเม่าที่ไม่สมควรจำนวนหนึ่งเพื่อดึงดูดลำแสงที่เรืองแสงออกมาอย่างเป็นอันตราย

การพิจารณาอีกประการหนึ่งเกี่ยวข้องกับการเข้าถึง AI ของคุณ

เพื่อให้มีความเป็นไปได้ในการล่าเงินรางวัล AI นักล่าเงินรางวัลจะต้องเข้าถึง AI ของคุณอย่างเพียงพอ พวกเขาจะไม่มีโชคมากในการค้นหาอคติของ AI หากพวกเขาถูกล็อคอย่างสมบูรณ์ แต่คุณไม่ต้องการที่จะละทิ้งการป้องกันความปลอดภัยทางไซเบอร์ของคุณเนื่องจากการทำเช่นนั้นอาจทำให้ระบบ AI ของคุณประนีประนอมได้อย่างสมบูรณ์

คุณอาจพยายามให้นักล่าเงินรางวัลลงนามในคำประกาศที่มีผลผูกพันทางกฎหมายต่างๆ จากนั้นให้สิทธิ์การเข้าถึงที่จำเป็นแก่พวกเขา นักล่าเงินรางวัลบางคนไม่ชอบวิธีการแบบนั้น มุมมองของพวกเขาคือพวกเขาจะทำทุกอย่างที่เปิดเผยต่อสาธารณะและเส้นทางปลายเปิดที่อนุญาต พวกเขาเป็นคนไม่ฝักใฝ่ฝ่ายใดเหมือนอย่างที่เป็นอยู่และไม่ชอบถูกผูกอานเหมือนที่เคยเป็น การให้พวกเขาลงลายมือชื่อในเอกสารทางกฎหมายที่เป็นการข่มขู่จะทำให้พวกเขาจำนวนมากหลีกเลี่ยงการค้นหาอคติของ AI ใน AI ของคุณ หรือพวกเขาอาจรู้สึกขุ่นเคืองกับถุงมือทางกฎหมายของคุณและตัดสินใจว่าพวกเขาจะเห็นสิ่งที่พวกเขาสามารถหาได้ผ่านวิธีการสาธารณะ ทำเช่นนั้นด้วยความปรารถนาอันแรงกล้าที่จะแสดงให้คุณเห็นว่าคุณอ่อนแอเพียงใด

ฉันมีอีกมุมที่อาจทำให้คุณเวียนหัว

นักล่าเงินรางวัลที่เชี่ยวชาญด้าน AI อาจตัดสินใจสร้างระบบ AI ที่สามารถตรวจสอบ AI ของคุณและอาจค้นพบความเอนเอียงของ AI ใน AI ของคุณ นี่คือผู้ผลิตเครื่องมือที่เลือกที่จะสร้างเครื่องมือเพื่อทำงานแทนการลงแรงด้วยตนเอง แทนที่จะตรวจสอบ AI ของคุณอย่างขยันขันแข็ง นักล่าเงินรางวัลที่เชี่ยวชาญด้าน AI จะใช้เวลาในการเตรียมเครื่องมือ AI ที่ทำสิ่งเดียวกัน จากนั้นพวกเขาใช้เครื่องมือ AI กับ AI ของคุณ ความงามเช่นกันคือพวกเขาสามารถนำเครื่องมือ AI กลับมาใช้กับใครก็ตามที่เสนอโอกาสในการล่าเงินรางวัลใน AI ของตนเช่นกัน

ฉันรู้ว่าคุณกำลังคิดอะไรอยู่ หากเครื่องมือ AI สามารถคิดค้นเพื่อตรวจสอบ AI เพื่อหาอคติ ผู้ผลิต AI ที่กำลังถูกตรวจสอบความเอนเอียงของ AI ควรจะสร้างเครื่องมือ AI ดังกล่าวหรือซื้อเพื่อใช้เอง ตามทฤษฎีแล้ว พวกเขาไม่จำเป็นต้องต่อสู้กับงานคาร์นิวัลนักล่าเงินรางวัลทั้งหมดตั้งแต่แรก เพียงใช้ AI เพื่อค้นหาอคติ AI ของพวกเขา

ใช่ นี่คือสิ่งที่คุณสามารถคาดหวังได้ว่าจะค่อยๆ เกิดขึ้น ในขณะเดียวกัน แกนนำของความพยายามเหล่านี้น่าจะประกอบด้วยนักพัฒนา AI ที่ทำการค้นหาเงินรางวัล พวกเขาอาจใช้เครื่องมือต่างๆ เพื่อช่วยในความพยายาม แต่ในระยะใกล้ พวกเขาไม่น่าจะตั้งค่าเครื่องมือ AI ให้เป็นแบบอัตโนมัติโดยไม่สนใจ และงีบหลับ เพื่อให้เครื่องมือดังกล่าวทำการค้นหาอคติ AI ทั้งหมดสำหรับพวกเขา

เรายังไม่ได้อยู่ที่นั่น

ในช่วงหัวเลี้ยวหัวต่อของการอภิปรายที่หนักหน่วงนี้ ฉันพนันได้เลยว่าคุณต้องการตัวอย่างตัวอย่างที่อาจแสดงหัวข้อนี้ มีชุดตัวอย่างพิเศษและเป็นที่นิยมอย่างแน่นอนที่ใกล้เคียงกับใจของฉัน คุณเห็นไหม ในฐานะของฉันในฐานะผู้เชี่ยวชาญด้าน AI รวมถึงการแตกสาขาตามหลักจริยธรรมและกฎหมาย ฉันมักถูกขอให้ระบุตัวอย่างที่เป็นจริงซึ่งแสดงให้เห็นประเด็นขัดแย้งด้านจริยธรรมของ AI เพื่อให้เข้าใจธรรมชาติที่ค่อนข้างเป็นทฤษฎีของหัวข้อนี้ได้ง่ายขึ้น หนึ่งในประเด็นที่ชวนให้นึกถึงมากที่สุดซึ่งแสดงให้เห็นอย่างชัดเจนถึงปัญหาด้าน AI ที่มีจริยธรรมนี้ คือการถือกำเนิดของรถยนต์ที่ขับเคลื่อนด้วยตนเองอย่างแท้จริงที่ใช้ AI สิ่งนี้จะทำหน้าที่เป็นกรณีใช้งานที่สะดวกหรือเป็นแบบอย่างสำหรับการสนทนาอย่างกว้างขวางในหัวข้อ

ต่อไปนี้คือคำถามสำคัญที่ควรค่าแก่การไตร่ตรอง: การถือกำเนิดของรถยนต์ที่ขับเคลื่อนด้วยตนเองอย่างแท้จริงที่ใช้ AI นั้นให้แสงสว่างแก่สิ่งใดเกี่ยวกับการใช้ AI ล่าเงินรางวัลอคติ และถ้าเป็นเช่นนั้น สิ่งนี้จะแสดงให้เห็นอย่างไร

ให้เวลาฉันสักครู่เพื่อแกะคำถาม

ประการแรก โปรดทราบว่าไม่มีคนขับที่เป็นมนุษย์ที่เกี่ยวข้องกับรถยนต์ที่ขับด้วยตนเองอย่างแท้จริง โปรดทราบว่ารถยนต์ที่ขับเคลื่อนด้วยตนเองอย่างแท้จริงนั้นขับเคลื่อนผ่านระบบขับเคลื่อน AI ไม่จำเป็นต้องมีคนขับเป็นมนุษย์ที่พวงมาลัย และไม่มีข้อกำหนดสำหรับมนุษย์ในการขับยานพาหนะ สำหรับการครอบคลุมยานยนต์อัตโนมัติ (AV) ที่กว้างขวางและต่อเนื่องของฉัน และโดยเฉพาะอย่างยิ่งรถยนต์ที่ขับด้วยตนเอง โปรดดูที่ ลิงค์ที่นี่.

ฉันต้องการชี้แจงเพิ่มเติมว่ามีความหมายอย่างไรเมื่อกล่าวถึงรถยนต์ที่ขับเคลื่อนด้วยตนเองอย่างแท้จริง

การทำความเข้าใจระดับของรถยนต์ที่ขับเคลื่อนด้วยตัวเอง

เพื่อความกระจ่าง รถยนต์ที่ขับเคลื่อนด้วยตัวเองที่แท้จริงคือรถที่ AI ขับเคลื่อนรถด้วยตัวเองทั้งหมด และไม่มีความช่วยเหลือจากมนุษย์ในระหว่างงานขับขี่

ยานพาหนะไร้คนขับเหล่านี้ถือเป็นระดับ 4 และระดับ 5 (ดูคำอธิบายของฉันที่ ลิงค์นี้) ในขณะที่รถที่ต้องใช้มนุษย์ในการร่วมแรงร่วมใจในการขับขี่นั้นมักจะถูกพิจารณาที่ระดับ 2 หรือระดับ 3 รถยนต์ที่ร่วมปฏิบัติงานในการขับขี่นั้นถูกอธิบายว่าเป็นแบบกึ่งอิสระและโดยทั่วไปประกอบด้วยหลากหลาย ส่วนเสริมอัตโนมัติที่เรียกว่า ADAADA
S (ระบบช่วยเหลือผู้ขับขี่ขั้นสูง)

ยังไม่มีรถที่ขับด้วยตัวเองที่แท้จริงในระดับ 5 และเรายังไม่รู้ด้วยซ้ำว่าจะสำเร็จหรือไม่ และต้องใช้เวลานานแค่ไหนกว่าจะไปถึงที่นั่น

ในขณะเดียวกัน ความพยายามระดับ 4 ค่อยๆ พยายามดึงแรงฉุดโดยทำการทดลองบนถนนสาธารณะที่แคบและคัดเลือกมา แม้ว่าจะมีการโต้เถียงกันว่าการทดสอบนี้ควรได้รับอนุญาตตามลำพังหรือไม่ (เราทุกคนเป็นหนูตะเภาที่มีชีวิตหรือตายในการทดลอง เกิดขึ้นบนทางหลวงและทางด่วนของเรา ทะเลาะกันบ้าง ดูการรายงานข่าวของฉันที่ ลิงค์นี้).

เนื่องจากรถยนต์กึ่งอิสระจำเป็นต้องมีคนขับรถการใช้รถยนต์ประเภทนั้นจึงไม่แตกต่างจากการขับขี่ยานพาหนะทั่วไปดังนั้นจึงไม่มีอะไรใหม่ที่จะครอบคลุมเกี่ยวกับพวกเขาในหัวข้อนี้ (แต่อย่างที่คุณเห็น ในไม่ช้าคะแนนโดยทั่วไปจะถูกนำมาใช้)

สำหรับรถยนต์กึ่งอิสระมันเป็นสิ่งสำคัญที่ประชาชนจำเป็นต้องได้รับการเตือนล่วงหน้าเกี่ยวกับสิ่งรบกวนที่เกิดขึ้นเมื่อไม่นานมานี้แม้จะมีคนขับรถของมนุษย์ที่คอยโพสต์วิดีโอของตัวเองที่กำลังหลับอยู่บนพวงมาลัยรถยนต์ระดับ 2 หรือระดับ 3 เราทุกคนต้องหลีกเลี่ยงการหลงผิดโดยเชื่อว่าผู้ขับขี่สามารถดึงความสนใจของพวกเขาออกจากงานขับรถขณะขับรถกึ่งอิสระ

คุณเป็นบุคคลที่รับผิดชอบต่อการขับขี่ของยานพาหนะโดยไม่คำนึงว่าระบบอัตโนมัติอาจถูกโยนเข้าไปในระดับ 2 หรือระดับ 3

รถยนต์ที่ขับด้วยตนเองและ AI Bias Bounty Hunting

สำหรับยานพาหนะที่ขับเคลื่อนด้วยตนเองอย่างแท้จริงระดับ 4 และระดับ 5 จะไม่มีคนขับที่เกี่ยวข้องกับงานขับรถ

ผู้โดยสารทุกคนจะเป็นผู้โดยสาร

AI กำลังขับรถอยู่

แง่มุมหนึ่งที่จะพูดถึงในทันทีคือความจริงที่ว่า AI ที่เกี่ยวข้องกับระบบขับเคลื่อน AI ในปัจจุบันไม่ได้มีความรู้สึก กล่าวอีกนัยหนึ่ง AI เป็นกลุ่มของการเขียนโปรแกรมและอัลกอริทึมที่ใช้คอมพิวเตอร์โดยสิ้นเชิงและส่วนใหญ่ไม่สามารถให้เหตุผลในลักษณะเดียวกับที่มนุษย์สามารถทำได้

เหตุใดจึงเน้นย้ำว่า AI ไม่มีความรู้สึก?

เพราะฉันต้องการเน้นย้ำว่าเมื่อพูดถึงบทบาทของระบบขับเคลื่อน AI ฉันไม่ได้อ้างถึงคุณสมบัติของมนุษย์ต่อ AI โปรดทราบว่าทุกวันนี้มีแนวโน้มที่เป็นอันตรายและต่อเนื่องในการทำให้มนุษย์กลายเป็นมนุษย์ด้วย AI โดยพื้นฐานแล้วผู้คนกำลังกำหนดความรู้สึกเหมือนมนุษย์ให้กับ AI ในปัจจุบันแม้ว่าจะมีความจริงที่ปฏิเสธไม่ได้และไม่สามารถเข้าใจได้ว่ายังไม่มี AI เช่นนี้

ด้วยคำชี้แจงดังกล่าวคุณสามารถจินตนาการได้ว่าระบบขับเคลื่อน AI จะไม่ "รู้" เกี่ยวกับแง่มุมของการขับขี่ การขับขี่และสิ่งที่เกี่ยวข้องจะต้องได้รับการตั้งโปรแกรมให้เป็นส่วนหนึ่งของฮาร์ดแวร์และซอฟต์แวร์ของรถยนต์ที่ขับเคลื่อนด้วยตนเอง

มาดำน้ำในแง่มุมมากมายที่มาเล่นในหัวข้อนี้

ประการแรก สิ่งสำคัญคือต้องตระหนักว่ารถยนต์ที่ขับเคลื่อนด้วยตนเองของ AI นั้นไม่เหมือนกันทุกคัน ผู้ผลิตรถยนต์และบริษัทเทคโนโลยีที่ขับเคลื่อนด้วยตนเองแต่ละรายต่างใช้แนวทางในการพัฒนารถยนต์ที่ขับเคลื่อนด้วยตนเอง ดังนั้นจึงเป็นเรื่องยากที่จะกล่าวอย่างถี่ถ้วนว่าระบบขับเคลื่อน AI จะทำอะไรหรือไม่ทำ

นอกจากนี้ เมื่อใดก็ตามที่ระบุว่าระบบขับเคลื่อน AI ไม่ได้ทำสิ่งใดสิ่งหนึ่ง นักพัฒนาสามารถแซงหน้าสิ่งนี้ได้ในภายหลัง ซึ่งจริงๆ แล้วโปรแกรมคอมพิวเตอร์ให้ทำสิ่งนั้น ระบบขับเคลื่อน AI ค่อยๆ ปรับปรุงและขยายออกไปทีละขั้น ข้อจำกัดที่มีอยู่ในปัจจุบันอาจไม่มีอยู่อีกต่อไปในการทำซ้ำหรือเวอร์ชันของระบบในอนาคต

ฉันหวังว่าจะเป็นบทสวดที่เพียงพอเพื่อรองรับสิ่งที่ฉันกำลังจะเล่า

ในคอลัมน์ของฉัน ฉันได้พูดถึงเรื่องการใช้นักล่าเงินรางวัลที่เน้นแมลงเป็นหลักแล้วในยานยนต์ไร้คนขับและรถยนต์ไร้คนขับ แนวทางนี้เกิดขึ้นจริงในช่องนี้ มีการโต้เถียงกันตามปกติว่ามันเป็นแนวคิดที่ดีหรือไม่ ความพยายามมักจะมีลักษณะจำกัด และมักจะค่อนข้างเงียบ

วาทกรรมเช่นเดียวกันอาจเกิดขึ้นได้เมื่อโฟกัสเปลี่ยนไปสู่การไล่ล่าหาอคติของ AI แทนที่จะมองหาข้อบกพร่องของระบบเอง บางคนแนะนำว่ามันเป็นสาปถ้าคุณทำ สาปถ้าคุณไม่ปริศนา

นี่คือเหตุผล

อย่างแรก เพื่อความชัดเจน มีหลายวิธีที่รถยนต์ที่ขับเคลื่อนด้วยตนเองและรถยนต์ที่ขับด้วยตนเองจะต้องอยู่ภายใต้อคติของ AI ดูรายงานของฉันที่ ลิงค์ที่นี่ และ ลิงค์ที่นี่เพียงเพื่อชื่อไม่กี่ ผู้ผลิตรถยนต์และบริษัทรถยนต์ที่ขับเคลื่อนด้วยตนเองน่าจะพยายามป้องกันไม่ให้อคติของ AI ปรากฏในระบบ AI ของพวกเขา พายุไฟทางกฎหมายและจริยธรรมต่อบริษัทดังกล่าวจะรุนแรงอย่างไม่ต้องสงสัย

การใช้ AI ล่าเงินรางวัลอคติเป็นแนวทางที่เหมาะสมในบริบทเฉพาะนี้หรือไม่?

คำตอบหนึ่งคือใช่ สิ่งนี้จะมีประโยชน์และให้ดวงตาใหม่ "ฟรี" มากมายเพื่อพยายามจับอคติของ AI ที่ฝังอยู่ในรถยนต์ที่ขับเคลื่อนด้วยตนเองของ AI หรือสิ่งที่คล้ายกัน นักพัฒนา AI ส่วนใหญ่ที่สร้างรถยนต์ที่ขับเคลื่อนด้วยตัวเองกำลังยุ่งอยู่กับการสร้าง AI ที่สามารถขับรถจากจุด A ไปยังจุด B ได้อย่างปลอดภัย พวกเขาหมกมุ่นอยู่กับความสามารถหลักนั้นและไม่มีเวลาหรือไม่สนใจอคติของ AI ที่อาจอยู่ที่ไหนสักแห่งใน AI ของพวกเขา

คำตอบอื่น ๆ ก็คือไม่ ไม่ควรปล่อยให้การล่าเงินรางวัลสำหรับยานพาหนะที่เป็นอิสระและรถยนต์ที่ขับด้วยตนเองไม่ว่าจะด้วยข้อบกพร่องหรืออคติของ AI ก็ตามควรหลีกเลี่ยงอย่างดุเดือด อาร์กิวเมนต์คือยานพาหนะเหล่านี้และ AI ของพวกเขามีความสามารถเป็นหรือตาย การยุ่งกับ AI ในทุกรูปแบบอาจเป็นอันตรายต่อ AI และส่งผลกระทบต่อสิ่งที่ระบบขับเคลื่อน AI ทำ

ข้อโต้แย้งในประเด็นสุดท้ายคือนักล่าเงินรางวัลควรจะไม่สามารถเปลี่ยนแปลง AI ที่พวกเขากำลังตรวจสอบได้ ดังนั้นจึงไม่มีอันตรายใด ๆ ที่พวกเขาจะไปยุ่งกับ AI และทำให้ AI ในบริบทนี้กลายเป็นระบบขับเคลื่อน AI ที่บ้าคลั่งในทันใด นักล่าเงินรางวัลมีการเข้าถึงแบบอ่านอย่างเดียวเท่านั้น ปล่อยให้พวกเขาไปต่อก็คงจะโง่พอตัวและเป็นความผิดพลาดครั้งใหญ่

ข้อโต้แย้งของข้อโต้แย้งนั้นคือการอนุญาตและสนับสนุนให้นักล่าเงินรางวัลตรวจสอบ AI ของคุณ เรื่องทั้งหมดจะกลายเป็นเรื่องเหลวไหล นักล่าเงินรางวัลเหล่านั้นอาจคิดหาวิธีใช้ประโยชน์จากข้อบกพร่องหรืออคติที่พบ การหาประโยชน์เหล่านั้นอาจเป็นไปเพื่อจุดประสงค์ที่หลอกลวง จะดีกว่าถ้าไม่เชิญ "หัวขโมย" เข้ามาในบ้านของคุณ เมื่อพวกเขาแยกส่วนข้อต่อออกแล้ว ในที่สุดคุณก็จะมีปัญหามากมาย

สำหรับผู้ที่มีระบบ AI ที่มีขนาดน้อยกว่าชีวิตหรือความตาย ความเชื่อก็คือผลกระทบของการจู่โจมล่าเงินรางวัลที่ผิดพลาดนั้นมีความเสี่ยงน้อยกว่ามาก อาจจะเป็นเช่นนั้น ในทางกลับกัน หากบริษัทเทเงินลงในระบบ AI ที่นักล่าเงินรางวัลสามารถแย่งชิงได้ คุณสามารถสันนิษฐานได้ว่าความเสียหายต่อชื่อเสียงและความเสียหายอื่นๆ ที่อาจเกิดขึ้นจะยังคงได้รับผลกระทบ

ไม่มีอาหารกลางวันฟรีเมื่อพูดถึงการล่าเงินรางวัลอคติของ AI

คำพูดปิดอย่างรวดเร็วสำหรับตอนนี้

เมื่อเจสซี เจมส์ อาชญากรผู้โด่งดังถูกตามหาในยุคตะวันตกเก่า มีการพิมพ์โปสเตอร์ “ต้องการ” ซึ่งเสนอเงินรางวัล 5,000 ดอลลาร์สำหรับการจับกุมของเขา (ระบุว่า “ตายแล้วหรือยังมีชีวิตอยู่”) เป็นเงินจำนวนมหาศาลในขณะนั้น หนึ่งในสมาชิกแก๊งค์ของเขาเองเลือกที่จะยิงเจสซี่เสียชีวิตและรับรางวัล ฉันคิดว่ามันแสดงให้เห็นว่าเงินรางวัลนั้นมีประสิทธิภาพเพียงใด

การใช้ AI นักล่าเงินรางวัลอคติจะดีหรือไม่ดี?

หากคุณเลือกที่จะก่อตั้ง AI นักล่าเงินรางวัลอคติ เราขอแนะนำให้คุณเปิดตาให้กว้างและมองข้ามไหล่ของคุณตลอดเวลา นี่เป็นความรอบคอบสำหรับคุณและ AI ของคุณ คุณไม่มีทางรู้หรอกว่าจะเกิดอะไรขึ้น รวมทั้งนักล่าเงินรางวัลจอมป่วนสอดแทรกอคติของ AI เข้าไปใน AI ของคุณและตะโกนบอกโลกว่าพวกเขาพบอคติ AI ที่ไร้ยางอายใน AI ของคุณ บางทีการทำเช่นนั้นด้วยความพยายามที่เกินจริงและเกินจริงในการแสวงหารางวัลมากมาย รวมถึงการประกาศตัวเองว่าเป็นวีรบุรุษที่ได้รับเจสซี เจมส์ผู้ถูกโอ้อวด

ลองคิดดูสิ AI ที่มีความรู้สึกอาจไม่ชอบความคิดที่ว่าการจัดเตรียมที่ไม่ตายหรือมีชีวิตที่น่าอึดอัดใจ อาจมีคนคาดเดาอยู่เรื่อยไป