จริยธรรม AI และการแสวงหาความตระหนักในตนเองใน AI

รู้ตัวหรือเปล่า?

ฉันพนันได้เลยว่าคุณเชื่อว่าคุณเป็น

ประเด็นคือ มีพวกเราเพียงไม่กี่คนที่ตระหนักในตนเองเป็นพิเศษ มีความตระหนักในตนเองในระดับหนึ่งหรือระดับหนึ่ง และเราทุกคนล้วนอ้างว่าตนมีความตระหนักในตนเองอย่างชาญฉลาดแตกต่างกันอย่างไร คุณอาจคิดว่าคุณมีความตระหนักในตนเองอย่างเต็มที่และเป็นเพียงส่วนเล็กน้อยเท่านั้น คุณอาจมีสติสัมปชัญญะและตระหนักว่านั่นคือสภาพจิตใจของคุณ

ในขณะเดียวกัน ที่จุดสูงสุดของสเปกตรัม คุณอาจเชื่อว่าคุณมีความตระหนักในตนเองอย่างเต็มที่และแท้จริงแล้วมีความตระหนักในตนเองอย่างตรงไปตรงมา ดีสำหรับคุณ.

พูดถึงเรื่องนี้แล้ว การมีสติสัมปชัญญะมากจะมีประโยชน์อะไร?

ตามการวิจัยที่ตีพิมพ์ใน จาก Harvard Business (HBR) โดย Tasha Eurich มีรายงานว่าคุณสามารถตัดสินใจได้ดีขึ้น คุณมั่นใจในการตัดสินใจของคุณมากขึ้น คุณมีความสามารถในการสื่อสารมากขึ้น และมีประสิทธิภาพมากขึ้นโดยรวม (ต่อบทความเรื่อง “การตระหนักรู้ในตนเองคืออะไร (และอย่างไร) เพื่อปลูกฝังมัน)” ปัจจัยโบนัสคือผู้ที่มีการตระหนักรู้ในตนเองอย่างเฉียบขาดนั้นถูกกล่าวว่ามีแนวโน้มที่จะโกง ขโมย หรือโกหกน้อยกว่า ในแง่นั้น มีสองวิธีในการหลีกเลี่ยงการเป็นวายร้ายหรือคดพร้อมกับ มุ่งมั่นที่จะเป็นมนุษย์ที่ดีขึ้นและตกแต่งเพื่อนมนุษย์ของคุณ

การพูดคุยเกี่ยวกับความตระหนักในตนเองทั้งหมดนี้ทำให้เกิดคำถามที่ค่อนข้างชัดเจน กล่าวคือ แท้จริงแล้ววลีการตระหนักรู้ในตนเองหมายถึงอะไร คุณสามารถหาคำจำกัดความและการตีความต่างๆ มากมายเกี่ยวกับความซับซ้อนนี้ และเราจะพูดได้ว่าโครงสร้างที่อ่อนช้อยซึ่งหมายถึงการตระหนักรู้ในตนเอง บางคนอาจทำให้เรื่องง่ายขึ้นโดยบอกว่าการตระหนักรู้ในตนเองประกอบด้วยการตรวจสอบตนเอง รู้ว่าตัวเองกำลังทำอะไรอยู่ คุณตระหนักดีถึงความคิดและการกระทำของคุณเอง

สมมุติว่าเมื่อไม่ตระหนักในตนเอง คนๆ หนึ่งจะไม่ทราบว่ากำลังทำอะไรอยู่ หรือเพราะเหตุใด และไม่รู้ว่าคนอื่นพูดถึงพวกเขาอย่างไร ฉันแน่ใจว่าคุณเคยเจอคนแบบนี้

บางคนดูเหมือนเดินอยู่บนโลกนี้โดยไม่รู้ว่าตัวเองกำลังทำอะไรอยู่ และพวกเขาก็ไม่มีความคล้ายคลึงกับสิ่งที่คนอื่นพูดถึงพวกเขาเลย ฉันเดาว่าคุณสามารถโต้แย้งได้ว่าพวกเขาเป็นเหมือนวัวกระทิงที่กำลังชาร์จอยู่ในร้านบูติกที่บอบบาง โดยปกติเรามักจะเชื่อว่าวัวตัวผู้ไม่รู้ว่ากำลังทำอะไรอยู่และยังคงหลงลืมมุมมองของผู้อื่น เว้นแต่ว่าคนอื่นจะพยายามเคลื่อนย้ายร่างกายหรือกักขังสิ่งมีชีวิตที่ไม่รู้

ว่ากันว่าการตระหนักรู้ในตนเองสามารถเรียกซ้ำได้บ้าง

ให้ฉันร่างตัวอย่างเพื่อแสดงการเรียกซ้ำนี้ คุณกำลังรับชมวิดีโอแมวที่น่าสนใจบนสมาร์ทโฟนของคุณ (ดูเหมือนทุกคนจะทำเช่นนี้) บางคนจะไม่มีความคิดที่ชัดเจนอื่นใดนอกจากการแสดงตลกอันน่าพิศวงอันน่าพิศวงของแมวที่รักเหล่านั้น ในขณะเดียวกัน ใครก็ตามที่มีความตระหนักในตนเองเพียงเล็กน้อย พวกเขารู้ว่าพวกเขากำลังดูวิดีโอเกี่ยวกับแมว พวกเขาอาจทราบด้วยว่าคนอื่นๆ รอบตัวพวกเขาสังเกตเห็นว่าพวกเขากำลังดูวิดีโอเกี่ยวกับแมว

ขอให้สังเกตว่าคุณสามารถมีสติสัมปชัญญะและยังคงหมกมุ่นอยู่กับกิจกรรมหลักโดยเฉพาะ กิจกรรมหลักในกรณีนี้คือการดูวิดีโอแมว ประการที่สอง และในเวลาเดียวกัน คุณสามารถถือเอาความคิดที่ว่าคุณกำลังดูวิดีโอแมวอยู่จริงๆ คุณยังสามารถนำความคิดที่ว่าคนอื่น ๆ กำลังสังเกตคุณขณะที่คุณกำลังดูวิดีโอแมวที่ให้ความบันเทิงโดยสิ้นเชิง คุณไม่จำเป็นต้องหยุดกิจกรรมใดกิจกรรมหนึ่ง เช่น เลิกดูวิดีโอเกี่ยวกับแมว เพื่อที่จะพิจารณาแยกกันว่าคุณ (หรือเพิ่งเคย) ดูวิดีโอเกี่ยวกับแมว ความคิดเหล่านั้นดูเหมือนจะเกิดขึ้นควบคู่กันไป

บางครั้งการตระหนักรู้ในตนเองอาจทำให้เราหลุดจากหรืออย่างน้อยก็ขัดจังหวะกิจกรรมทางจิตขั้นต้น บางที ในขณะที่คุณคิดถึงการดูวิดีโอแมว จิตใจของคุณก็แยกส่วนออกมาในขณะที่มันยืดเยื้อไปเพื่อจดจ่อกับวิดีโอเพียงอย่างเดียว คุณเลือกที่จะย้อนกลับวิดีโอเพื่อทบทวนส่วนที่คุณเห็นแต่คุณเสียสมาธิจากการทำความเข้าใจอย่างถ่องแท้ การตระหนักรู้ในตนเองรบกวนกิจกรรมทางจิตหลักของคุณ

ตกลง ตอนนี้เราพร้อมแล้วสำหรับลักษณะแบบเรียกซ้ำที่จะเกิดขึ้น

คุณพร้อม?

คุณกำลังดูวิดีโอแมว ความตระหนักในตนเองของคุณกำลังแจ้งให้คุณทราบว่าคุณกำลังดูวิดีโอเกี่ยวกับแมวและคนอื่น ๆ กำลังดูคุณขณะที่คุณกำลังดูวิดีโอ นั่นคือสภาพที่เป็นอยู่

ต่อไปคุณจะก้าวกระโดดทางจิตเพิ่มเติม คุณเริ่มคิดถึงการตระหนักรู้ในตนเองของคุณ คุณตระหนักในตนเองว่าคุณกำลังมีส่วนร่วมกับการตระหนักรู้ในตนเอง นี่คือวิธีการ: ฉันคิดมากเกินไปเกี่ยวกับการคิดเกี่ยวกับการดูวิดีโอแมวหรือไม่ คุณถามตัวเองอย่างสิ้นหวังหรือไม่? นี่เป็นอีกชั้นหนึ่งของการรับรู้ตนเอง อันดับความตระหนักในตนเองเหนือความตระหนักในตนเองอื่น ๆ

มีคำโบราณว่าเต่าอยู่ตลอดทาง สำหรับปรากฏการณ์การตระหนักรู้ในตนเอง คุณสามารถ:

• ไม่รู้จักตัวเอง
• รู้จักตัวเอง
• ตระหนักรู้ในตนเอง ตระหนักรู้ในตนเอง
• ตระหนักรู้ในตนเอง ตระหนักรู้ในตนเอง ตระหนักรู้ในตนเอง
• Ad Infinitum (เช่น และอื่นๆ)

คุณอาจจะรู้ว่าก่อนหน้านี้ฉันได้ชี้ให้เห็นอย่างละเอียดว่าการตระหนักรู้ในตนเองมีอยู่สองประเภทหลัก ทฤษฎีหนึ่งระบุว่าเรามีความตระหนักในตนเองภายในชนิดหนึ่งซึ่งเน้นที่สภาวะภายในของเรา และเรายังมีการรับรู้ตนเองภายนอกที่ช่วยในการวัดการรับรู้เกี่ยวกับเราของผู้คนรอบข้างที่กำลังมองเราอยู่

ตามบทความของ HBR ต่อไปนี้เป็นการพรรณนาโดยสังเขปของการตระหนักรู้ในตนเองสองประเภทตามทฤษฎี: “อย่างแรก ซึ่งเราขนานนามว่า การตระหนักรู้ภายในตนเองแสดงถึงความชัดเจนที่เราเห็นค่านิยม ความปรารถนา ความทะเยอทะยาน เหมาะสมกับสภาพแวดล้อม ปฏิกิริยา (รวมถึงความคิด ความรู้สึก พฤติกรรม จุดแข็ง และจุดอ่อน) และผลกระทบต่อผู้อื่น” และในขณะเดียวกัน อีกประเภทหนึ่งคือ “ประเภทที่สอง การรับรู้ตนเองภายนอกหมายถึงการทำความเข้าใจว่าคนอื่นมองเราอย่างไรในแง่ของปัจจัยเดียวกันกับที่กล่าวข้างต้น การวิจัยของเราแสดงให้เห็นว่าคนที่รู้ว่าคนอื่นมองพวกเขาอย่างไรมีความชำนาญมากขึ้นในการแสดงความเห็นอกเห็นใจและรับฟังมุมมองของผู้อื่น”

เมทริกซ์ขนาด XNUMX คูณ XNUMX หรือ XNUMX สี่เหลี่ยมจัตุรัสที่มีประโยชน์สามารถได้มาโดยอ้างว่าการตระหนักรู้ในตนเองทั้งภายในและภายนอกมีตั้งแต่สูงไปต่ำ และคุณสามารถจับคู่ทั้งสองหมวดหมู่เข้าด้วยกันได้ การวิจัย HBR ระบุว่าคุณเป็นหนึ่งในสี่ต้นแบบการตระหนักรู้ในตนเองเหล่านี้:

• ผู้วิปัสสนา: ความตระหนักในตนเองภายนอกต่ำ + การตระหนักรู้ในตนเองภายในสูง
• ผู้แสวงหา: ความตระหนักในตนเองภายนอกต่ำ + ความตระหนักในตนเองภายในต่ำ
• Pleaser: ความตระหนักในตนเองภายนอกสูง + ความตระหนักในตนเองภายในต่ำ
• ตระหนัก: มีความตระหนักในตนเองภายนอกสูง + มีความตระหนักในตนเองภายในสูง

จุดสุดยอดจะเป็นต้นแบบของ "ความตระหนัก" ที่ประกอบด้วยการอยู่ในระดับสูงสุดของการตระหนักรู้ในตนเองจากภายนอกและในทำนองเดียวกันที่ด้านบนสุดของการตระหนักรู้ในตนเองภายใน เพื่อความกระจ่าง คุณไม่ได้บรรลุอิริยาบถที่ถูกโอ้อวดในลักษณะที่ถาวรอย่างจำเป็น คุณสามารถเลื่อนไปมาระหว่างการอยู่สูงและต่ำ ท่ามกลางขอบเขตการรับรู้ตนเองทั้งภายในและภายนอก ขึ้นอยู่กับช่วงเวลาของวัน สถานการณ์ที่คุณพบ และปัจจัยสำคัญอื่นๆ

ตอนนี้เราได้ครอบคลุมองค์ประกอบพื้นฐานบางอย่างเกี่ยวกับการตระหนักรู้ในตนเองแล้ว เราสามารถพยายามเชื่อมโยงสิ่งนี้กับหัวข้อของพฤติกรรมทางจริยธรรม

การกล่าวอ้างตามปกติเกี่ยวกับการตระหนักรู้ในตนเองคือคุณมักจะอยู่เหนือบอร์ดเมื่อคุณตระหนักรู้ในตนเอง ซึ่งหมายความว่า ตามที่ระบุไว้แล้ว คุณมีแนวโน้มที่จะประพฤติผิดศีลธรรมน้อยลง เช่น การขโมย การโกง และการโกหก เหตุผลสำหรับแนวโน้มนี้คือความกระฉับกระเฉงของการตระหนักรู้ในตนเองของคุณจะทำให้คุณตระหนักว่าพฤติกรรมของคุณเองนั้นน่ารังเกียจหรือผิดจรรยาบรรณ ไม่เพียงแต่จับตัวเองขณะที่คุณเลี้ยวเข้าไปในน่านน้ำที่เต็มไปด้วยโคลนที่ผิดจรรยาบรรณเท่านั้น แต่คุณยังมีแนวโน้มที่จะบังคับตัวเองให้กลับออกไปและเข้าสู่ดินแดนที่แห้งแล้ง (ความศักดิ์สิทธิ์ของดินแดนทางจริยธรรม) อย่างที่เคยเป็นมา

ความตระหนักในตนเองของคุณช่วยคุณในการออกกำลังกายการควบคุมตนเอง

ความแตกต่างน่าจะเกิดขึ้นเมื่อมีความตระหนักในตนเองเพียงเล็กน้อยหรือไม่มีเลย ซึ่งบ่งชี้ว่าอาจมีบางคนหลงลืมการโน้มเอียงไปสู่พฤติกรรมที่ผิดจรรยาบรรณ คุณสามารถโต้แย้งว่าคนที่ไม่รู้ตัวเช่นนั้นอาจไม่ทราบว่าพวกเขากำลังประพฤติตัวไม่ดี คล้ายกับกระทิงในร้านขายของที่แตกหัก จนกระทั่งมีบางสิ่งดึงดูดความสนใจของพวกเขาอย่างเปิดเผย พวกเขาไม่น่าจะควบคุมตนเองได้

ไม่ใช่ทุกคนที่ซื้อสิ่งนี้ บางคนอาจโต้แย้งว่าการตระหนักรู้ในตนเองสามารถนำมาประยุกต์ใช้กับการผิดจรรยาบรรณได้เช่นเดียวกับการมีจริยธรรม ตัวอย่างเช่น ผู้กระทำความผิดอาจตระหนักรู้ในตนเองอย่างเต็มที่และยินดีว่าตนกำลังกระทำความผิด ความตระหนักรู้ในตนเองของพวกเขายิ่งผลักดันพวกเขาไปสู่การกระทำผิดที่ชั่วร้ายมากขึ้นเรื่อยๆ

มีเมฆมากในเรื่องนี้มากกว่าที่จะมองเห็นได้โดยตรง สมมติว่ามีใครบางคนตระหนักรู้ในตนเองอย่างดีที่สุด แต่พวกเขาไม่ได้ตระหนักถึงประเพณีทางจริยธรรมของสังคมหรือวัฒนธรรมที่กำหนด ในลักษณะนั้น พวกเขาไม่มีคำแนะนำด้านจริยธรรมใดๆ แม้ว่าจะมีการระบุไว้ว่ามีความตระหนักในตนเอง หรือถ้าคุณชอบ บางทีคนๆ นั้นอาจรู้เกี่ยวกับหลักจริยธรรมและไม่เชื่อว่ามันนำไปใช้กับพวกเขา พวกเขาคิดว่าตัวเองมีเอกลักษณ์หรืออยู่นอกขอบเขตของความคิดทางจริยธรรมแบบเดิมๆ

วนไปวนมา.

การตระหนักรู้ในตนเองสามารถตีความได้ว่าเป็นดาบสองคมที่เน้นด้านจริยธรรม ซึ่งบางคนก็เน้นอย่างแรงกล้า

คราวนี้มาดูแบบหน้ามีความสุขที่ประกอบด้วยการตระหนักรู้ในตนเองและชี้นำหรือผลักดันเราไปสู่พฤติกรรมที่มีจริยธรรม ทุกสิ่งทุกอย่างเท่าเทียมกัน เราจะตั้งสมมติฐานว่ายิ่งมีความตระหนักในตนเองมากเท่าใด คุณก็จะยิ่งเอนเอียงไปทางจริยธรรมมากขึ้นเท่านั้น มันดูน่ายินดีและเป็นแรงบันดาลใจที่จะปรารถนาเช่นนั้น

มาเปลี่ยนเกียร์และนำปัญญาประดิษฐ์ (AI) มาสู่ภาพกันเถอะ

เราอยู่ในจุดหัวเลี้ยวหัวต่อในการอภิปรายครั้งนี้เพื่อเชื่อมโยงสิ่งพัวพันที่ดำเนินการทั้งหมดกับขอบเขตที่กำลังเติบโตของ AI ด้านจริยธรรม หรือที่รู้จักกันทั่วไปว่าเป็นจริยธรรมของ AI สำหรับการรายงานจรรยาบรรณ AI ที่ต่อเนื่องและกว้างขวางของฉัน โปรดดูที่ ลิงค์ที่นี่ และ ลิงค์ที่นี่เพียงเพื่อชื่อไม่กี่

แนวคิดของ AI อย่างมีจริยธรรมนั้นเชื่อมโยงด้านจริยธรรมและพฤติกรรมทางจริยธรรมเข้ากับการถือกำเนิดของ AI คุณคงเคยเห็นพาดหัวข่าวที่ส่งเสียงเตือนเกี่ยวกับ AI ที่เต็มไปด้วยความไม่เท่าเทียมและอคติต่างๆ ตัวอย่างเช่น มีความกังวลว่าระบบการจดจำใบหน้าที่ใช้ AI ในบางครั้งอาจแสดงการเลือกปฏิบัติทางเชื้อชาติและเพศ ซึ่งโดยทั่วไปเป็นผลมาจากวิธีการฝึกอบรมและดำเนินการด้านการเรียนรู้ของเครื่อง (ML) และการเรียนรู้เชิงลึก (DL) (ดูการวิเคราะห์ของฉัน) ที่ ลิงค์นี้).

เพื่อพยายามหยุดหรืออย่างน้อยก็บรรเทาความเร่งรีบของมนต์สะกดเข้าหา AI สำหรับไม่ดีซึ่งประกอบด้วยระบบ AI ที่ไม่ได้ตั้งใจหรือบางครั้งมีเจตนาที่จะประพฤติตัวไม่ดี มีความเร่งด่วนล่าสุดที่จะนำหลักจรรยาบรรณมาใช้กับการพัฒนาและการใช้ AI เป้าหมายที่จริงจังคือการให้คำแนะนำด้านจริยธรรมแก่นักพัฒนา AI รวมถึงบริษัทที่สร้างหรือดำเนินการด้าน AI และบริษัทที่พึ่งพาแอปพลิเคชัน AI ตัวอย่างของหลักจริยธรรม AI ที่สร้างขึ้นและนำมาใช้ ดูการรายงานข่าวของฉันที่ ลิงค์ที่นี่.

ให้เวลาไตร่ตรองเพื่อพิจารณาคำถามสำคัญสามข้อนี้:

• เราจะให้นักพัฒนา AI ยอมรับหลักการ AI ที่มีจริยธรรมและนำแนวทางเหล่านั้นไปใช้งานจริงได้หรือไม่?
• เราสามารถให้บริษัทที่ประดิษฐ์หรือสาขา AI ทำเช่นเดียวกันได้หรือไม่?
• เราจะทำให้ผู้ที่ใช้ AI รับรู้ด้านจริยธรรมของ AI ในทำนองเดียวกันได้หรือไม่

ฉันจะพูดอย่างไม่สะทกสะท้าน มันเป็นคำสั่งที่สูงส่ง

ความตื่นเต้นในการสร้าง AI สามารถเอาชนะความสนใจใดๆ ที่มีต่อจริยธรรมของ AI ได้ ไม่ใช่แค่ความตื่นเต้น แต่การทำเงินก็เป็นส่วนสำคัญของสมการนั้นด้วย คุณอาจจะแปลกใจที่รู้ว่าบางคนในอาณาจักร AI มักจะพูดว่าพวกเขาจะจัดการกับ "สิ่งของ" ที่มีจริยธรรมของ AI เมื่อพวกเขานำระบบ AI ของพวกเขาออกไปแล้ว นี่เป็นมนต์เทคนิคทั่วไปของการทำให้แน่ใจว่าจะล้มเหลวอย่างรวดเร็วและล้มเหลวบ่อยๆ จนกว่าคุณจะทำให้ถูกต้อง (หวังว่าจะทำให้ถูกต้อง)

แน่นอนว่าผู้ที่ผลัก AI ที่น่าสงสัยทางจริยธรรมออกไปสู่สาธารณะโดยย่อกำลังปล่อยให้ม้าออกจากโรงนา ความคิดที่ประกาศออกไปของพวกเขาคือ AI สำหรับไม่ดี จะได้รับการแก้ไขหลังจากใช้งานทุกวันซึ่งส่งผลเสียต่อความล่าช้าเนื่องจากม้าจะควบม้าไปรอบ ๆ อย่างป่าเถื่อน สามารถทำอันตรายได้ นอกจากนี้ยังมีโอกาสสูงที่จะไม่มีการแก้ไขหรือปรับเปลี่ยนในขณะที่ใช้ AI ข้อแก้ตัวที่พบบ่อยคือการเล่นซอกับ AI ในช่วงหัวเลี้ยวหัวต่อนั้นอาจทำให้แย่ลงไปอีกในแง่ของการตัดสินใจอัลกอริธึมที่ผิดจรรยาบรรณ (ADM) ที่หลุดพ้นจากการลื่นไถลโดยสิ้นเชิง

สิ่งที่สามารถทำได้เพื่อให้ได้ประโยชน์และความมีชีวิตชีวาของการมี Ethical AI เป็นแสงสว่างส่องนำทางในใจของผู้ที่สร้าง AI, Fielding AI และใช้ AI?

คำตอบ: ความตระหนักในตนเอง

ใช่ แนวคิดก็คือถ้าผู้คนมีความตระหนักในตนเองมากขึ้นเกี่ยวกับวิธีที่พวกเขาใช้หรือโต้ตอบกับ AI ก็อาจเพิ่มความกระตือรือร้นในการต้องการให้ AI จริยธรรมเป็นบรรทัดฐาน เช่นเดียวกันอาจกล่าวได้เกี่ยวกับนักพัฒนา AI และบริษัทที่เกี่ยวข้องกับระบบ AI หากพวกเขาตระหนักในสิ่งที่พวกเขาทำมากขึ้น บางทีพวกเขาอาจจะยอมรับจริยธรรมของ AI มากกว่านี้

ส่วนหนึ่งของตรรกะตามที่กำหนดไว้แล้วก็คือการมีสติสัมปชัญญะมีแนวโน้มที่จะเป็นคนที่ดีขึ้นตามหลักจริยธรรมและหลีกเลี่ยงจากการเป็นคนมีศีลธรรมจรรยา หากเราสามารถรักษาสมมติฐานนั้นไว้ได้ แสดงว่านักพัฒนา AI ที่โน้มเอียงไปสู่ความตระหนักในตนเองมากขึ้นจะมีแนวโน้มที่จะมีพฤติกรรมที่มีจริยธรรมและดังนั้นจึงมีแนวโน้มที่จะผลิต AI ที่มีจริยธรรม

สะพานนั้นอยู่ไกลเกินไปสำหรับคุณหรือเปล่า?

บ้างก็ว่าอ้อมน้อยไปหน่อย สายโซ่เชื่อมโยงที่สูงเกินจริงระหว่างการตระหนักรู้ในตนเอง การมีคุณธรรมจริยธรรม และการใช้หลักจริยธรรมกับ AI นั้นอาจเป็นเรื่องยากที่จะกลืนกิน ข้อโต้แย้งคือไม่สามารถทำร้ายได้

ผู้คลางแคลงกล่าวว่านักพัฒนา AI อาจมีความตระหนักในตนเองและอาจมีจิตใจที่มีจริยธรรมมากขึ้น แต่พวกเขาไม่จำเป็นต้องก้าวกระโดดไปสู่การใช้ค่ายกักกันทางจิตกับประเพณีของ Ethical AI คำตอบสำหรับปัญหาดังกล่าวก็คือ หากเราสามารถเผยแพร่และเผยแพร่เรื่อง AI ที่มีจริยธรรมได้ ความเชื่อมโยงที่ดูเหมือนเล็กน้อยจะชัดเจนขึ้น เป็นที่คาดหวัง และอาจกลายเป็นวิธีมาตรฐานในการทำสิ่งต่างๆ เมื่อพูดถึงการประดิษฐ์ AI

ตอนนี้ฉันกำลังจะเพิ่มการบิดให้กับเทพนิยายนี้ การบิดอาจทำให้หัวของคุณหมุนได้ โปรดตรวจสอบให้แน่ใจว่าคุณได้นั่งอย่างดีและเตรียมพร้อมสำหรับสิ่งที่ฉันกำลังจะนำเสนอ

บางคนชี้ให้เห็นว่าเราควรสร้าง AI ที่มีจริยธรรมลงในตัว AI โดยตรง

คุณอาจจะไม่ติดใจกับคำพูดนั้น แกะกล่องกันเลย

โปรแกรมเมอร์อาจสร้างระบบ AI และทำเช่นนั้นด้วยความตระหนักในตนเองในการเขียนโปรแกรมของตนเองในการพยายามป้องกันไม่ให้ AI รวบรวมอคติและความไม่เท่าเทียมกัน แทนที่จะเพียงแค่ไถนาไปที่การเขียนโปรแกรม นักพัฒนาซอฟต์แวร์กำลังเฝ้าดูไหล่ของตนเองเพื่อถามว่าแนวทางที่พวกเขาดำเนินการจะส่งผลให้ไม่มีองค์ประกอบที่ไม่พึงประสงค์ใน AI หรือไม่

เยี่ยมมาก เรามีนักพัฒนา AI ที่ดูเหมือนจะมีความตระหนักในตนเองเพียงพอ พยายามที่จะยอมรับพฤติกรรมที่มีจริยธรรม และได้เห็นแสงสว่างที่จะรวมหลักจริยธรรมไว้ในขณะที่พวกเขาสร้างระบบ AI ของพวกเขา

คว้าชัยชนะสำหรับ AI อย่างมีจริยธรรม!

ดีและดี แม้ว่านี่จะเป็นสิ่งที่อาจเกิดขึ้นในภายหลัง AI ถูกสอดแทรกและนำไปใช้ในชีวิตประจำวัน ส่วนหนึ่งของ AI รวมถึงองค์ประกอบเพื่อให้สามารถ "เรียนรู้" ได้ทันที ซึ่งหมายความว่า AI สามารถปรับตัวเองตามข้อมูลใหม่และแง่มุมอื่น ๆ ของการเขียนโปรแกรมดั้งเดิม ในแง่นี้ไม่ได้หมายความว่า AI มีความรู้สึก เราไม่มีปัญญาประดิษฐ์ ละเว้นพาดหัวข่าวที่น่าเบื่อที่บอกว่าเราทำ ไม่มีใครสามารถบอกได้ว่าเราจะมีปัญญาประดิษฐ์หรือไม่ และไม่มีใครสามารถคาดเดาได้อย่างเพียงพอว่าจะเกิดขึ้นเมื่อใด

กลับมาที่เรื่องราวของเรา AI ได้รับการออกแบบมาเพื่อพัฒนาตัวเองในขณะที่กำลังดำเนินการอยู่ ค่อนข้างเป็นความคิดที่มีประโยชน์ แทนที่จะให้โปรแกรมเมอร์ต้องปรับปรุงอย่างต่อเนื่อง พวกเขายอมให้โปรแกรม AI ทำได้ด้วยตัวเอง (โอ้ นั่นทำงานให้ตัวเองตกงานหรือเปล่า)

ในช่วงเวลาที่ AI ค่อยๆ ปรับตัวเอง กลายเป็นว่าความไม่เท่าเทียมและอคติแย่ๆ ต่างๆ กำลังคืบคลานเข้าสู่ระบบ AI ด้วยการกระทำที่เปลี่ยนแปลงไปเอง ในขณะที่โปรแกรมเมอร์เดิมเก็บแง่มุมที่ดูแย่ๆ ออกไป ตอนนี้พวกเขากำลังกำหนดสูตรเนื่องจาก AI ที่ปรับเปลี่ยนได้ทันที น่าเศร้าที่สิ่งนี้สามารถเกิดขึ้นได้ในเบื้องหลังที่ละเอียดอ่อนซึ่งไม่มีใครฉลาดกว่า ผู้ที่ก่อนหน้านี้อาจให้ไฟเขียวแก่ AI หลังจากการทดสอบอย่างละเอียดถี่ถ้วนในขั้นต้น ในขณะนี้ โดยไม่รู้เลยว่า AI ได้ตกลงไปในเส้นทางที่เน่าเปื่อยของ AI สำหรับไม่ดี.

วิธีหนึ่งที่จะป้องกันหรืออย่างน้อยก็จับการเกิดขึ้นที่ไม่พึงประสงค์นี้คือการสร้าง AI ให้เป็นตัวตรวจสอบคู่จริยธรรมของ AI องค์ประกอบภายใน AI ได้รับการตั้งโปรแกรมให้เฝ้าดูพฤติกรรมของ AI และตรวจสอบว่า ADM ที่ผิดจรรยาบรรณเริ่มปรากฏขึ้นหรือไม่ หากเป็นเช่นนั้น ส่วนประกอบอาจส่งการแจ้งเตือนไปยังนักพัฒนา AI หรือส่งไปยังบริษัทที่ใช้ระบบ AI

เวอร์ชันขั้นสูงของคอมโพเนนต์นี้อาจพยายามซ่อมแซม AI นี่จะเป็นการปรับการปรับเปลี่ยนโดยเปลี่ยนด้านที่เกิดขึ้นผิดจรรยาบรรณกลับเป็นพารามิเตอร์ทางจริยธรรมที่เหมาะสม คุณสามารถจินตนาการได้ว่าการเขียนโปรแกรมประเภทนี้เป็นเรื่องยุ่งยาก มีโอกาสที่มันอาจจะผิดจรรยาบรรณ นอกจากนี้ยังมีความเป็นไปได้ที่จะเกิดผลบวกที่ผิดพลาดซึ่งกระตุ้นส่วนประกอบให้ทำงานและอาจทำให้สิ่งต่าง ๆ ยุ่งเหยิงตามไปด้วย

อย่างไรก็ตาม โดยไม่ยึดติดกับวิธีการทำงานของตัวตรวจสอบซ้ำ เราจะประกาศอย่างกล้าหาญเกี่ยวกับเรื่องนี้ คุณสามารถแนะนำว่า AI นั้นมีความตระหนักในตัวเองในบางวิธี

Yikes สิ่งเหล่านี้กำลังต่อสู้คำสำหรับหลาย ๆ คน

ความเชื่อที่แพร่หลายของเกือบทุกคนคือว่า AI ในปัจจุบันไม่ได้ตระหนักถึงตนเอง หยุดเต็มระยะเวลา จนกว่าเราจะไปถึง AI ที่มีความรู้สึกซึ่งเราไม่รู้ว่าจะเกิดขึ้นหรือไม่หรือเมื่อไหร่ก็ไม่มี AI ชนิดใดที่รู้ตัวได้ ไม่น้อยในความหมายของการตระหนักรู้ในตนเองของมนุษย์ อย่าแม้แต่จะแนะนำว่ามันสามารถเกิดขึ้นได้

ฉันเห็นด้วยอย่างยิ่งว่าเราจะต้องระมัดระวังเกี่ยวกับการทำให้ AI เป็นมนุษย์ ฉันจะพูดเพิ่มเติมเกี่ยวกับความกังวลนั้นในอีกสักครู่

ในระหว่างนี้ หากคุณจะยินดีที่จะใช้คำว่า "ตระหนักรู้ในตนเอง" แบบค่อยเป็นค่อยไปเพื่อการอภิปราย ฉันเชื่อว่าคุณคงเข้าใจได้ง่ายว่าทำไม AI จึงถูกกล่าวว่าปฏิบัติตามแนวคิดโดยรวมเกี่ยวกับตนเอง การรับรู้. เรามีส่วนของ AI ที่คอยติดตามส่วนที่เหลือของ AI โดยคอยดูว่า AI ที่เหลือนั้นทำอะไรอยู่ เมื่อ AI ที่เหลือเริ่มลงน้ำ ส่วนการตรวจสอบจะพยายามตรวจจับสิ่งนี้ นอกจากนี้ ส่วนการตรวจสอบ AI หรือตัวตรวจสอบซ้ำอาจนำ AI ที่เหลือกลับเข้าไปในเลนที่เหมาะสม

นั่นดูไม่เหมือนกับการดูวิดีโอแมวเหล่านั้นและมีความตระหนักในตนเองว่าคุณกำลังทำเช่นนั้นใช่ไหม

มีแหวนที่คุ้นเคย

เราสามารถขยายสิ่งนี้ได้อีกมาก คอมโพเนนต์ตัวตรวจสอบซ้ำของ AI ไม่ได้ถูกตั้งโปรแกรมให้สังเกตพฤติกรรมของ AI ที่เหลือเท่านั้น แต่ยังบันทึกพฤติกรรมของผู้ที่ใช้ AI อีกด้วย ผู้ใช้จะทำอย่างไรเมื่อใช้ AI? สมมติว่าผู้ใช้บางคนแสดงความขุ่นเคืองว่า AI ดูเหมือนจะเลือกปฏิบัติต่อพวกเขา ตัวตรวจสอบซ้ำของ AI อาจสามารถรับรู้สิ่งนี้ได้ โดยใช้เป็นธงสีแดงอีกอันเกี่ยวกับส่วนที่เหลือของ AI ที่หลงทาง

สิ่งนี้นำมาซึ่งการตระหนักรู้ในตนเองภายในและการแบ่งประเภทการตระหนักรู้ในตนเองภายนอก

AI double-checker กำลังสแกนทั้งภายในและภายนอกเพื่อดูว่า AI ที่เหลือกำลังมุ่งหน้าสู่ท้องทะเลที่หนักใจหรือไม่ การตรวจจับจะยกธงหรือทำให้เกิดการแก้ไขด้วยตนเอง

มาเพิ่มอีกส่วนขยายที่ค่อนข้างเหลือเชื่อ เราสร้างตัวตรวจสอบซ้ำ AI อีกตัวหนึ่งซึ่งมีไว้เพื่อตรวจสอบตัวตรวจสอบ AI หลักซ้ำอีกครั้ง ทำไมถึงเป็นเช่นนั้น? สมมติว่า AI double-checker ดูเหมือนจะสะดุดหรือไม่สามารถทำงานได้ AI double-checker ของ double-checker จะพยายามตรวจจับความผิดปกตินี้และดำเนินการที่จำเป็นตามนั้น ยินดีต้อนรับสู่ธรรมชาติของการตระหนักรู้ในตนเองแบบเรียกซ้ำ บางคนอาจประกาศอย่างภาคภูมิใจ ดังที่แสดงไว้ในระบบ AI ที่คำนวณได้

สำหรับบรรดาของคุณที่อยู่ขอบที่นั่งของคุณเกี่ยวกับเรื่องนี้ ความคิดเห็นสุดท้ายสำหรับตอนนี้คือ เราอาจพยายามแนะนำว่าหากคุณทำให้ระบบ AI "ตระหนักรู้ในตนเอง" พวกเขาจะมุ่งไปสู่พฤติกรรมที่มีจริยธรรม พวกเขาทำสิ่งนี้บนพื้นฐานความรู้สึกหรือไม่? ตัดสินใจไม่ถูก พวกเขาทำสิ่งนี้บนพื้นฐานการคำนวณหรือไม่? ใช่ แม้ว่าเราจะต้องชัดเจนว่ามันไม่มีความสามารถเท่ากับพฤติกรรมของมนุษย์

หากคุณรู้สึกไม่สบายใจที่แนวคิดเรื่องการตระหนักรู้ในตนเองกำลังถูกบิดเบือนอย่างไม่ถูกต้องเพื่อให้เข้ากับรูปแบบการคำนวณ ความวิตกของคุณเกี่ยวกับเรื่องนี้ก็จะได้รับการบันทึกไว้เป็นอย่างดี เราควรจะยุติความพยายามอย่างต่อเนื่องของ AI ที่ใช้ประโยชน์จากแนวคิดนี้หรือไม่เป็นอีกคำถามหนึ่งที่เปิดกว้าง คุณสามารถโต้แย้งอย่างโน้มน้าวใจได้ว่าอย่างน้อยก็ดูเหมือนว่าจะนำเราไปสู่ผลลัพธ์ที่ดีขึ้นในสิ่งที่ AI น่าจะทำ เราจำเป็นต้องเบิกตากว้างด้วยเหตุนี้

เดาว่าเราจะต้องดูว่าทั้งหมดนี้เล่นออกมาได้อย่างไร กลับมาที่สิ่งนี้ในอีกห้าปี สิบปี และห้าสิบปี และดูว่าความคิดของคุณเปลี่ยนแปลงไปในเรื่องที่เป็นข้อโต้แย้งหรือไม่

ฉันตระหนักดีว่านี่เป็นการตรวจสอบหัวข้อที่ค่อนข้างปวดหัว และคุณอาจอยากได้ตัวอย่างแบบวันต่อวัน มีชุดตัวอย่างพิเศษและเป็นที่นิยมอย่างแน่นอนที่ใกล้เคียงกับใจของฉัน คุณเห็นไหม ในฐานะของฉันในฐานะผู้เชี่ยวชาญด้าน AI รวมถึงการแตกสาขาตามหลักจริยธรรมและกฎหมาย ฉันมักถูกขอให้ระบุตัวอย่างที่เป็นจริงซึ่งแสดงให้เห็นประเด็นขัดแย้งด้านจริยธรรมของ AI เพื่อให้เข้าใจธรรมชาติที่ค่อนข้างเป็นทฤษฎีของหัวข้อนี้ได้ง่ายขึ้น หนึ่งในประเด็นที่ชวนให้นึกถึงมากที่สุดซึ่งแสดงให้เห็นอย่างชัดเจนถึงปัญหาด้าน AI ที่มีจริยธรรมนี้ คือการถือกำเนิดของรถยนต์ที่ขับเคลื่อนด้วยตนเองอย่างแท้จริงที่ใช้ AI สิ่งนี้จะทำหน้าที่เป็นกรณีใช้งานที่สะดวกหรือเป็นแบบอย่างสำหรับการสนทนาอย่างกว้างขวางในหัวข้อ

ต่อไปนี้คือคำถามสำคัญที่ควรค่าแก่การไตร่ตรอง: การถือกำเนิดของรถยนต์ที่ขับเคลื่อนด้วยตนเองอย่างแท้จริงโดยใช้ AI นั้นให้ความสว่างแก่สิ่งใดเกี่ยวกับ AI ที่มีลักษณะเป็น "ความตระหนักในตนเอง" และหากเป็นเช่นนั้น สิ่งนี้จะแสดงให้เห็นอย่างไร

ให้เวลาฉันสักครู่เพื่อแกะคำถาม

ประการแรก โปรดทราบว่าไม่มีคนขับที่เป็นมนุษย์ที่เกี่ยวข้องกับรถยนต์ที่ขับด้วยตนเองอย่างแท้จริง โปรดทราบว่ารถยนต์ที่ขับเคลื่อนด้วยตนเองอย่างแท้จริงนั้นขับเคลื่อนผ่านระบบขับเคลื่อน AI ไม่จำเป็นต้องมีคนขับเป็นมนุษย์ที่พวงมาลัย และไม่มีข้อกำหนดสำหรับมนุษย์ในการขับยานพาหนะ สำหรับการครอบคลุมยานยนต์อัตโนมัติ (AV) ที่กว้างขวางและต่อเนื่องของฉัน และโดยเฉพาะอย่างยิ่งรถยนต์ที่ขับด้วยตนเอง โปรดดูที่ ลิงค์ที่นี่.

ฉันต้องการชี้แจงเพิ่มเติมว่ามีความหมายอย่างไรเมื่อกล่าวถึงรถยนต์ที่ขับเคลื่อนด้วยตนเองอย่างแท้จริง

การทำความเข้าใจระดับของรถยนต์ที่ขับเคลื่อนด้วยตัวเอง

เพื่อเป็นการชี้แจงว่ารถยนต์ที่ขับเคลื่อนด้วยตัวเองที่แท้จริงคือรถยนต์ที่ AI ขับเคลื่อนรถด้วยตัวเองทั้งหมดและไม่มีความช่วยเหลือจากมนุษย์ในระหว่างการขับขี่

ยานพาหนะไร้คนขับเหล่านี้ถือเป็นระดับ 4 และระดับ 5 (ดูคำอธิบายของฉันที่ ลิงค์นี้) ในขณะที่รถที่ต้องใช้มนุษย์ในการร่วมแรงร่วมใจในการขับขี่นั้นมักจะถูกพิจารณาที่ระดับ 2 หรือระดับ 3 รถยนต์ที่ร่วมปฏิบัติงานในการขับขี่นั้นถูกอธิบายว่าเป็นแบบกึ่งอิสระและโดยทั่วไปประกอบด้วยหลากหลาย ส่วนเสริมอัตโนมัติที่เรียกว่า ADAS (ระบบช่วยเหลือผู้ขับขี่ขั้นสูง)

ยังไม่มีรถยนต์ที่ขับเคลื่อนด้วยตนเองอย่างแท้จริงในระดับ 5 ซึ่งเรายังไม่รู้ด้วยซ้ำว่าสิ่งนี้จะเป็นไปได้หรือไม่และจะใช้เวลานานแค่ไหนในการเดินทาง

ในขณะเดียวกัน ความพยายามระดับ 4 ค่อยๆ พยายามดึงแรงฉุดโดยทำการทดลองบนถนนสาธารณะที่แคบและคัดเลือกมา แม้ว่าจะมีการโต้เถียงกันว่าการทดสอบนี้ควรได้รับอนุญาตตามลำพังหรือไม่ (เราทุกคนเป็นหนูตะเภาที่มีชีวิตหรือตายในการทดลอง เกิดขึ้นบนทางหลวงและทางด่วนของเรา ทะเลาะกันบ้าง ดูการรายงานข่าวของฉันที่ ลิงค์นี้).

เนื่องจากรถยนต์กึ่งอิสระจำเป็นต้องมีคนขับรถการใช้รถยนต์ประเภทนั้นจึงไม่แตกต่างจากการขับขี่ยานพาหนะทั่วไปดังนั้นจึงไม่มีอะไรใหม่ที่จะครอบคลุมเกี่ยวกับพวกเขาในหัวข้อนี้ (แต่อย่างที่คุณเห็น ในไม่ช้าคะแนนโดยทั่วไปจะถูกนำมาใช้)

สำหรับรถยนต์กึ่งอิสระมันเป็นสิ่งสำคัญที่ประชาชนจำเป็นต้องได้รับการเตือนล่วงหน้าเกี่ยวกับสิ่งรบกวนที่เกิดขึ้นเมื่อไม่นานมานี้แม้จะมีคนขับรถของมนุษย์ที่คอยโพสต์วิดีโอของตัวเองที่กำลังหลับอยู่บนพวงมาลัยรถยนต์ระดับ 2 หรือระดับ 3 เราทุกคนต้องหลีกเลี่ยงการหลงผิดโดยเชื่อว่าผู้ขับขี่สามารถดึงความสนใจของพวกเขาออกจากงานขับรถขณะขับรถกึ่งอิสระ

คุณเป็นบุคคลที่รับผิดชอบต่อการขับขี่ของยานพาหนะโดยไม่คำนึงว่าระบบอัตโนมัติอาจถูกโยนเข้าไปในระดับ 2 หรือระดับ 3

รถยนต์ไร้คนขับและ AI ที่เรียกว่าการตระหนักรู้ในตนเอง

สำหรับยานพาหนะที่ขับเคลื่อนด้วยตนเองอย่างแท้จริงระดับ 4 และระดับ 5 จะไม่มีคนขับที่เกี่ยวข้องกับงานขับรถ

ผู้โดยสารทุกคนจะเป็นผู้โดยสาร

AI กำลังขับรถอยู่

แง่มุมหนึ่งที่จะพูดถึงในทันทีคือความจริงที่ว่า AI ที่เกี่ยวข้องกับระบบขับเคลื่อน AI ในปัจจุบันไม่ได้มีความรู้สึก กล่าวอีกนัยหนึ่ง AI เป็นกลุ่มของการเขียนโปรแกรมและอัลกอริทึมที่ใช้คอมพิวเตอร์โดยสิ้นเชิงและส่วนใหญ่ไม่สามารถให้เหตุผลในลักษณะเดียวกับที่มนุษย์สามารถทำได้

เหตุใดจึงเน้นย้ำว่า AI ไม่มีความรู้สึก?

เพราะฉันต้องการเน้นย้ำว่าเมื่อพูดถึงบทบาทของระบบขับเคลื่อน AI ฉันไม่ได้อ้างถึงคุณสมบัติของมนุษย์ต่อ AI โปรดทราบว่าทุกวันนี้มีแนวโน้มที่เป็นอันตรายและต่อเนื่องในการทำให้มนุษย์กลายเป็นมนุษย์ด้วย AI โดยพื้นฐานแล้วผู้คนกำลังกำหนดความรู้สึกเหมือนมนุษย์ให้กับ AI ในปัจจุบันแม้ว่าจะมีความจริงที่ปฏิเสธไม่ได้และไม่สามารถเข้าใจได้ว่ายังไม่มี AI เช่นนี้

ด้วยคำชี้แจงดังกล่าวคุณสามารถจินตนาการได้ว่าระบบขับเคลื่อน AI จะไม่ "รู้" เกี่ยวกับแง่มุมของการขับขี่ การขับขี่และสิ่งที่เกี่ยวข้องจะต้องได้รับการตั้งโปรแกรมให้เป็นส่วนหนึ่งของฮาร์ดแวร์และซอฟต์แวร์ของรถยนต์ที่ขับเคลื่อนด้วยตนเอง

มาดำน้ำในแง่มุมมากมายที่มาเล่นในหัวข้อนี้

ประการแรก สิ่งสำคัญคือต้องตระหนักว่ารถยนต์ที่ขับเคลื่อนด้วยตนเองของ AI นั้นไม่เหมือนกันทุกคัน ผู้ผลิตรถยนต์และบริษัทเทคโนโลยีที่ขับเคลื่อนด้วยตนเองแต่ละรายต่างใช้แนวทางในการพัฒนารถยนต์ที่ขับเคลื่อนด้วยตนเอง ดังนั้นจึงเป็นเรื่องยากที่จะกล่าวอย่างถี่ถ้วนว่าระบบขับเคลื่อน AI จะทำอะไรหรือไม่ทำ

นอกจากนี้ เมื่อใดก็ตามที่ระบุว่าระบบขับเคลื่อน AI ไม่ได้ทำสิ่งใดสิ่งหนึ่ง นักพัฒนาสามารถแซงหน้าสิ่งนี้ได้ในภายหลัง ซึ่งจริงๆ แล้วโปรแกรมคอมพิวเตอร์ให้ทำสิ่งนั้น ระบบขับเคลื่อน AI ค่อยๆ ปรับปรุงและขยายออกไปทีละขั้น ข้อจำกัดที่มีอยู่ในปัจจุบันอาจไม่มีอยู่อีกต่อไปในการทำซ้ำหรือเวอร์ชันของระบบในอนาคต

ฉันเชื่อว่ามีบทสวดที่เพียงพอเพื่อรองรับสิ่งที่ฉันกำลังจะพูดถึง

ตอนนี้เราพร้อมแล้วที่จะเจาะลึกลงไปในรถยนต์ที่ขับด้วยตนเองและคำถามเกี่ยวกับ AI ที่มีจริยธรรมซึ่งก่อให้เกิดแนวคิดที่ทำให้คิ้วขมวดของ AI มีความตระหนักในตนเองหากคุณต้องการ

ลองใช้ตัวอย่างที่ตรงไปตรงมา รถยนต์ไร้คนขับแบบ AI กำลังดำเนินการอยู่บนถนนในละแวกของคุณ และดูเหมือนว่าจะขับขี่ได้อย่างปลอดภัย ในตอนแรก คุณให้ความสนใจเป็นพิเศษกับทุกครั้งที่คุณมีโอกาสได้เห็นรถที่ขับด้วยตัวเอง รถยนต์ไร้คนขับโดดเด่นด้วยชั้นวางเซ็นเซอร์อิเล็กทรอนิกส์ที่มีกล้องวิดีโอ หน่วยเรดาร์ อุปกรณ์ LIDAR และอื่นๆ หลังจากใช้เวลาหลายสัปดาห์ของรถยนต์ไร้คนขับที่แล่นไปรอบๆ ชุมชนของคุณ ตอนนี้คุณแทบจะไม่สังเกตเห็นเลย เท่าที่คุณทราบ มันเป็นเพียงรถอีกคันบนถนนสาธารณะที่พลุกพล่านอยู่แล้ว

เพื่อไม่ให้คุณคิดว่าเป็นไปไม่ได้หรือเป็นไปไม่ได้ที่จะทำความคุ้นเคยกับการเห็นรถที่ขับด้วยตนเอง ฉันได้เขียนบ่อยครั้งเกี่ยวกับสถานที่ที่อยู่ภายในขอบเขตของการทดลองใช้รถยนต์ไร้คนขับค่อย ๆ ชินกับการได้เห็นรถที่ตกแต่งแล้ว ดูการวิเคราะห์ของฉันที่ ลิงค์นี้. ในที่สุด ชาวบ้านหลายคนก็เปลี่ยนจากการเฆี่ยนตีอ้าปากค้าง มาเป็นการเปล่งเสียงหาวอย่างเบื่อหน่ายเมื่อได้เห็นรถที่ขับเองที่คดเคี้ยว

อาจเป็นสาเหตุหลักในตอนนี้ที่พวกเขาอาจสังเกตเห็นรถยนต์ไร้คนขับเพราะความระคายเคืองและปัจจัยที่ทำให้โกรธเคือง ระบบการขับขี่แบบ AI ที่จัดทำโดยหนังสือช่วยให้แน่ใจว่ารถยนต์ปฏิบัติตามการจำกัดความเร็วและกฎจราจรทั้งหมด สำหรับผู้ขับขี่ที่เป็นมนุษย์ที่วุ่นวายในรถยนต์ที่ขับเคลื่อนโดยมนุษย์แบบดั้งเดิม คุณอาจรู้สึกหงุดหงิดเมื่อต้องติดอยู่กับรถยนต์ที่ขับเคลื่อนด้วยตนเองด้วย AI ที่ปฏิบัติตามกฎหมายอย่างเคร่งครัด

นั่นคือสิ่งที่เราทุกคนอาจต้องคุ้นเคย ไม่ว่าจะถูกหรือผิด

กลับมาที่เรื่องของเรา อยู่มาวันหนึ่ง สมมติว่ารถยนต์ที่ขับด้วยตนเองในเมืองของคุณเข้าใกล้ป้ายหยุดและดูเหมือนจะไม่ชะลอตัวลง สวรรค์ดูเหมือนว่าระบบขับเคลื่อน AI จะมีคันไถรถขับเองผ่านป้ายหยุด ลองนึกภาพว่าคนเดินถนนหรือคนขี่จักรยานอยู่ที่ไหนสักแห่งในบริเวณใกล้เคียงและถูกจับโดยไม่ทันตั้งตัวว่ารถที่ขับเองจะไม่หยุดนิ่ง น่าละอาย อันตราย!

และผิดกฎหมาย

ทีนี้ลองพิจารณาองค์ประกอบ AI ในระบบขับเคลื่อน AI ที่ทำหน้าที่เป็นตัวตรวจสอบซ้ำแบบตระหนักในตนเอง

เราจะใช้เวลาสักครู่เพื่อเจาะลึกรายละเอียดของสิ่งที่เกิดขึ้นภายในระบบขับเคลื่อน AI ปรากฎว่ากล้องวิดีโอที่ติดตั้งบนรถยนต์ขับเคลื่อนอัตโนมัติตรวจพบสัญญาณที่อาจดูเหมือนเป็นป้ายหยุด แม้ว่าในกรณีนี้จะมีต้นไม้รกทึบบดบังป้ายหยุด ระบบการเรียนรู้ของเครื่องและการเรียนรู้เชิงลึกซึ่งเดิมได้รับการฝึกฝนเกี่ยวกับป้ายหยุดถูกคิดค้นขึ้นโดยใช้รูปแบบของป้ายหยุดแบบเต็มรูปแบบเป็นหลัก โดยทั่วไปจะไม่ถูกผูกมัด เมื่อตรวจสอบภาพวิดีโอด้วยคอมพิวเตอร์แล้ว มีความน่าจะเป็นต่ำว่ามีป้ายหยุดอยู่ในจุดนั้น (เนื่องจากเป็นความยุ่งยากเพิ่มเติม และคำอธิบายเพิ่มเติม นี่เป็นป้ายหยุดที่โพสต์ใหม่ซึ่งไม่ปรากฏบนแผนที่ดิจิทัลที่เตรียมไว้ก่อนหน้านี้ซึ่ง ระบบขับเคลื่อน AI พึ่งพาได้)

โดยรวมแล้ว ระบบขับเคลื่อนของ AI ได้พิจารณาแล้วว่าจะดำเนินการไปข้างหน้าราวกับว่าป้ายหยุดไม่มีอยู่จริงหรืออาจเป็นสัญญาณของประเภทอื่นที่คล้ายกับป้ายหยุด (สิ่งนี้สามารถเกิดขึ้นได้และเกิดขึ้นได้ในบางความถี่)

แต่โชคดีที่ AI self-aware double-checker กำลังเฝ้าติดตามกิจกรรมของระบบขับเคลื่อน AI เมื่อตรวจสอบข้อมูลด้วยการคำนวณและการประเมินโดยส่วนที่เหลือของ AI ส่วนประกอบนี้เลือกที่จะแทนที่การดำเนินการตามปกติและสั่งให้ระบบขับเคลื่อน AI หยุดที่เหมาะสมแทน

ไม่มีใครได้รับบาดเจ็บและไม่มีการกระทำที่ผิดกฎหมายเกิดขึ้น

คุณสามารถพูดได้ว่า AI self-aware double-checker ทำหน้าที่เสมือนตัวแทนทางกฎหมายที่ฝังตัว โดยพยายามทำให้แน่ใจว่าระบบขับเคลื่อน AI นั้นเป็นไปตามกฎหมาย (ในกรณีนี้คือป้ายหยุด) แน่นอนว่าความปลอดภัยก็เป็นสิ่งสำคัญเช่นกัน

ตัวอย่างนั้นหวังว่าจะแสดงให้เห็นว่าตัวตรวจสอบซ้ำแบบ AI ที่รับรู้ด้วยตนเองอาจทำงานอย่างไร

ต่อไป เราสามารถพิจารณาตัวอย่าง AI อย่างมีจริยธรรมที่เด่นชัดมากขึ้นโดยสังเขปซึ่งแสดงให้เห็นว่าการตรวจสอบซ้ำโดย AI ที่รับรู้ด้วยตนเองอาจให้ฟังก์ชันการทำงานที่ฝังตัวตามหลักจริยธรรมของ AI ได้อย่างไร

ประการแรก ตามภูมิหลัง ข้อกังวลประการหนึ่งที่แสดงออกมาเกี่ยวกับการถือกำเนิดของรถยนต์ไร้คนขับที่ใช้ AI ก็คือ รถยนต์เหล่านี้อาจถูกนำไปใช้ในทางที่เลือกปฏิบัติโดยไม่ได้ตั้งใจ นี่คือวิธีการ สมมติว่ารถยนต์ที่ขับด้วยตนเองเหล่านี้ได้รับการจัดตั้งขึ้นเพื่อพยายามและเพิ่มศักยภาพในการสร้างรายได้ให้สูงสุด ซึ่งเหมาะสมอย่างยิ่งสำหรับผู้ที่ใช้งานรถยนต์ที่ขับเคลื่อนด้วยตนเองซึ่งมีการแชร์รถอยู่ เจ้าของกองเรือต้องการมีกำไรจากการดำเนินงาน

อาจเป็นไปได้ว่าในเมืองหรือเมืองหนึ่งๆ รถยนต์ที่ขับด้วยตนเองที่สัญจรไปมาจะค่อยๆ เริ่มให้บริการบางส่วนของชุมชน ไม่ใช่พื้นที่อื่น พวกเขาทำเพื่อเป้าหมายการทำเงิน ในพื้นที่ยากจนนั้นอาจไม่สร้างรายได้เท่าส่วนที่มั่งคั่งของท้องถิ่น นี่ไม่ใช่ความทะเยอทะยานที่ชัดเจนในการรับใช้บางพื้นที่และไม่รับใช้ผู้อื่น แต่มันเกิดขึ้นเองตามธรรมชาติโดย AI ของรถยนต์ที่ขับด้วยตนเอง "คิดออก" โดยคำนวณว่ามีเงินมากขึ้นที่จะทำโดยมุ่งความสนใจไปที่พื้นที่ที่จ่ายสูงตามภูมิศาสตร์ ฉันได้กล่าวถึงข้อกังวลด้านจริยธรรมทางสังคมนี้ในคอลัมน์ของฉัน เช่น at ลิงค์ที่นี่.

สมมติว่าเราได้เพิ่ม AI self-aware double-checker ลงในระบบขับเคลื่อน AI หลังจากนั้นไม่นาน ส่วนประกอบ AI จะสังเกตเห็นรูปแบบการสัญจรของรถยนต์ที่ขับเคลื่อนด้วยตนเอง โดยเฉพาะในบางพื้นที่แต่ไม่ใช่ในบางพื้นที่ จากการที่ได้เข้ารหัสด้วยหลักจริยธรรมของ AI บางอย่างแล้ว ตัวตรวจสอบซ้ำแบบ AI ที่รับรู้ด้วยตนเองของ AI จะเริ่มนำทางรถยนต์ที่ขับด้วยตนเองไปยังส่วนอื่น ๆ ของเมืองที่ถูกละเลย

สิ่งนี้แสดงให้เห็นแนวคิดเรื่องการตระหนักรู้ในตนเองของ AI และทำงานร่วมกับองค์ประกอบ AI อย่างมีจริยธรรม

อีกตัวอย่างหนึ่งดังกล่าวอาจให้ข้อมูลเชิงลึกว่าการพิจารณา AI อย่างมีจริยธรรมนี้อาจเป็นการแตกแขนงเกี่ยวกับชีวิตหรือความตายที่ค่อนข้างจริงจังและจริงจังได้เช่นกัน

พิจารณารายงานข่าวเกี่ยวกับอุบัติเหตุทางรถยนต์ครั้งล่าสุด ตามข่าว คนขับเป็นมนุษย์กำลังมาถึงทางแยกที่พลุกพล่านและมีไฟเขียวให้ขับตรงไป คนขับอีกคนหนึ่งแล่นผ่านไฟแดงและเข้าไปในทางแยกโดยที่ไม่ควรทำ คนขับที่ไฟเขียวตระหนักได้ในวินาทีสุดท้ายว่ารถคันนี้กำลังจะชนรถของเขาอย่างรุนแรง

ตามคำบอกกล่าวของคนขับที่พิการ เขาคำนวณอย่างมีสติว่าอาจจะโดนรถคันอื่นชน หรือเขาอาจหักเลี้ยวเพื่อพยายามหลีกเลี่ยงผู้บุกรุก ปัญหาของการหักเลี้ยวคือมีคนเดินถนนในบริเวณใกล้เคียงที่อาจใกล้สูญพันธุ์

คุณจะเลือกแบบไหน?

คุณสามารถเตรียมตัวรับการโจมตีและหวังว่าความเสียหายจะไม่ทำให้บาดเจ็บหรือเสียชีวิตได้ ในทางกลับกัน คุณสามารถเบี่ยงออกนอกลู่นอกทางได้ แต่อันตรายร้ายแรงและอาจเป็นอันตรายต่อหรือฆ่าคนเดินถนนในบริเวณใกล้เคียง นี่เป็นปัญหาที่ยาก ครอบคลุมการตัดสินทางศีลธรรม และมีความหมายทางจริยธรรม (และทางกฎหมาย) อย่างเต็มเปี่ยม

มีปัญหาทางจริยธรรมวัตถุประสงค์ทั่วไปที่ครอบคลุมภาวะที่กลืนไม่เข้าคายไม่ออกนี้ที่มีชื่อเสียงหรืออาจเรียกว่าปัญหารถเข็น ดูการรายงานที่ครอบคลุมของฉันที่ ลิงค์นี้. ปรากฎว่าเป็นการทดลองทางความคิดที่กระตุ้นจริยธรรมซึ่งสืบย้อนไปถึงช่วงต้นทศวรรษ 1900 ด้วยเหตุนี้ หัวข้อนี้มีมาระยะหนึ่งแล้ว และเมื่อเร็วๆ นี้ มักเกี่ยวข้องกับการถือกำเนิดของ AI และรถยนต์ที่ขับเคลื่อนด้วยตนเอง

แทนที่คนขับมนุษย์ด้วยระบบขับเคลื่อน AI ที่ฝังอยู่ในรถยนต์ที่ขับด้วยตนเอง

ลองนึกภาพว่ารถยนต์ที่ขับเคลื่อนด้วยตนเองของ AI กำลังเข้าสู่ทางแยก และเซ็นเซอร์ของรถยนต์อิสระก็ตรวจพบรถยนต์ที่ขับเคลื่อนโดยมนุษย์ซึ่งเข้ามาทางไฟแดงโดยตรงและเล็งไปที่รถที่ไม่มีคนขับ สมมติว่ารถที่ขับเองมีผู้โดยสารบางส่วนอยู่ภายในรถ

อยากให้ AI ทำอย่างไร?

หากระบบขับเคลื่อน AI เลือกที่จะเดินหน้าและถูกไถ (มีแนวโน้มว่าจะทำร้ายหรืออาจฆ่าผู้โดยสารในรถ) หรือคุณต้องการให้ระบบขับเคลื่อน AI ฉวยโอกาสและเบี่ยงออกแม้ว่าการเลี้ยวเบนจะทำให้รถขับเคลื่อนอัตโนมัติ อันตรายต่อคนเดินถนนที่อยู่ใกล้เคียงและอาจเป็นอันตรายหรือฆ่าพวกเขา

ผู้ผลิต AI หลายคนของรถยนต์ที่ขับด้วยตนเองกำลังใช้แนวทางที่ตรงไปตรงมาเพื่อรับมือกับสถานการณ์ AI ที่มีจริยธรรมเหล่านี้ โดยทั่วไปแล้ว AI ตามที่ตั้งโปรแกรมไว้ในปัจจุบันจะเพียงแค่ไถไปข้างหน้าและถูกรถคันอื่นชนอย่างรุนแรง AI ไม่ได้ถูกตั้งโปรแกรมให้มองหาวิธีหลบเลี่ยงอื่นๆ

ฉันเคยทำนายไว้หลายครั้งแล้วว่า ท่าทีที่มองไม่เห็น-ไม่-ได้ยิน-ไม่-ชั่วของผู้ผลิตรถยนต์ที่ขับเคลื่อนด้วยตนเองของ AI ในที่สุดก็จะเข้ามากัดกินพวกเขาในที่สุด (การวิเคราะห์ของฉันอยู่ที่ ลิงค์ที่นี่). คุณสามารถคาดหวังได้ว่าคดีที่เกี่ยวข้องกับรถชนดังกล่าวเพื่อค้นหาว่า AI ถูกตั้งโปรแกรมให้ทำอะไร บริษัท หรือนักพัฒนา AI หรือผู้ให้บริการกองเรือที่พัฒนาและลงพื้นที่ให้ AI ประมาทหรือต้องรับผิดในสิ่งที่ AI ทำหรือไม่ทำ? คุณยังสามารถคาดการณ์ได้ว่าไฟป่าที่เผยแพร่สู่สาธารณะโดย AI อย่างมีจริยธรรมจะเกิดขึ้นได้เมื่อเกิดกรณีเหล่านี้ขึ้น

ในสถานการณ์ที่กลืนไม่เข้าคายไม่ออกของ AI นี้ ได้นำระบบตรวจสอบซ้ำ AI ที่ตระหนักรู้ในตนเองซึ่งถูกอวดอ้างซึ่งเน้นไปที่จริยธรรม บางทีองค์ประกอบ AI พิเศษนี้อาจเกี่ยวข้องกับสถานการณ์ประเภทนี้ ส่วนหนึ่งกำลังตรวจสอบส่วนที่เหลือของระบบขับเคลื่อน AI และสถานะของรถยนต์ที่ขับด้วยตนเอง เมื่อเกิดเหตุการณ์เลวร้ายเช่นนี้ ส่วนประกอบ AI จะทำหน้าที่เป็นตัวแก้ปัญหารถเข็นและเสนอสิ่งที่ระบบขับเคลื่อน AI ควรทำ

ไม่ใช่เรื่องง่ายที่จะเขียนโค้ดฉันรับรองกับคุณ

สรุป

ฉันจะแบ่งปันความคิดสุดท้ายเกี่ยวกับหัวข้อนี้กับคุณ

คุณมักจะพบว่ามันน่าสนใจ

คุณรู้เกี่ยวกับ ทดสอบกระจก?

เป็นที่ทราบกันดีทีเดียวในการศึกษาการตระหนักรู้ในตนเอง ชื่ออื่นๆ ของเรื่องนี้ ได้แก่ การทดสอบการรู้จำตัวเองในกระจก การทดสอบจุดแดง การทดสอบสีแดง และการใช้ถ้อยคำที่เกี่ยวข้อง เทคนิคและวิธีการถูกสร้างขึ้นในช่วงต้นทศวรรษ 1970 เพื่อประเมินความตระหนักในตนเองของสัตว์ มีรายงานว่าสัตว์ที่ผ่านการทดสอบได้สำเร็จ ได้แก่ ลิง ช้างบางประเภท โลมา นกกางเขน และอื่นๆ บางประเภท สัตว์ที่ได้รับการทดสอบและรายงานว่าไม่ผ่านการทดสอบ ได้แก่ แพนด้ายักษ์ สิงโตทะเล เป็นต้น

นี่คือข้อตกลง

เมื่อสัตว์เห็นตัวเองในกระจกเงา สัตว์นั้นตระหนักหรือไม่ว่าภาพที่แสดงนั้นเป็นของตัวเอง หรือสัตว์คิดว่าเป็นสัตว์อื่น?

สันนิษฐานได้ว่าสัตว์มองเห็นชนิดพันธุ์ของมันเองด้วยสายตา เห็นชนิดอื่น ๆ ของมันเอง และอาจคิดว่าสัตว์ที่แสดงในกระจกเป็นลูกพี่ลูกน้องหรืออาจเป็นคู่ต่อสู้คู่ต่อสู้ (โดยเฉพาะถ้าสัตว์คำรามที่ภาพสะท้อนในกระจกซึ่งใน ดูเหมือนเทิร์นจะตะคอกใส่พวกเขา) บางทีคุณอาจเคยเห็นแมวบ้านหรือสุนัขเลี้ยงที่คุณรักทำแบบเดียวกันเมื่อเห็นตัวเองในกระจกบ้านเป็นครั้งแรก

ไม่ว่าในกรณีใดเราจะถือว่าสัตว์ป่าไม่เคยเห็นตัวเองมาก่อน ไม่จำเป็นต้องเป็นความจริงเสมอไป เพราะบางทีสัตว์อาจมองเห็นตัวเองในแอ่งน้ำที่สงบนิ่งหรือผ่านชั้นหินที่วาววับ แต่สิ่งเหล่านี้ถือว่ามีโอกาสน้อย

โอเค เราต้องการประเมินว่าสัตว์สามารถรู้ได้ว่าจริงๆ แล้วเป็นสัตว์ที่แสดงในกระจกหรือไม่ ไตร่ตรองการกระทำที่ดูเหมือนง่าย มนุษย์คิดออกตั้งแต่อายุยังน้อยว่าพวกเขามีอยู่จริงและการดำรงอยู่ของพวกเขานั้นแสดงให้เห็นโดยการเห็นตัวเองในกระจกเงา พวกเขาตระหนักรู้ในตนเอง ในทางทฤษฎี คุณอาจไม่รู้ว่าตัวเองเป็นตัวเอง จนกระทั่งเห็นตัวเองในกระจกเงา

บางทีสัตว์ก็ไม่สามารถรับรู้ด้วยตนเองในลักษณะเดียวกันได้ เป็นไปได้ว่าสัตว์จะเห็นตัวเองในกระจกและเชื่ออยู่เสมอว่าเป็นสัตว์อื่น ไม่ว่าจะเห็นตัวเองกี่ครั้งก็ยังคิดว่านี่คือสัตว์ที่แตกต่างจากตัวมันเอง

เคล็ดลับส่วนนี้มาเพื่อเล่น เราทำเครื่องหมายบนสัตว์ เครื่องหมายนี้จะต้องมองเห็นได้ก็ต่อเมื่อสัตว์เห็นตัวเองในกระจกเท่านั้น หากสัตว์สามารถบิดหรือหมุนและเห็นเครื่องหมายบนตัวมันเอง (โดยตรง) แสดงว่าการทดลองนั้นเสียหาย นอกจากนี้ สัตว์ไม่สามารถสัมผัส ดมกลิ่น หรือตรวจจับเครื่องหมายในลักษณะอื่นใดได้ เป็นอีกครั้งหนึ่ง หากพวกเขาทำเช่นนั้น มันจะทำลายการทดลอง สัตว์ไม่สามารถรู้ได้ว่าเราทำเครื่องหมายไว้เพราะนั่นจะทำให้สัตว์ร้ายรู้ว่ามีบางอย่างอยู่ที่นั่น

เราต้องการจำกัดสิ่งต่าง ๆ ให้แคบลง เหตุผลเดียวที่เป็นไปได้ที่เครื่องหมายนั้นถูกค้นพบได้คือการมองตัวเองในกระจก

อ่า ตอนนี้การทดสอบพร้อมแล้ว สัตว์ถูกวางไว้หน้ากระจกหรือเดินไปหามัน หากสัตว์พยายามแตะหรือขุดที่เครื่องหมายในภายหลัง เราจะสรุปอย่างมีเหตุผลว่าวิธีเดียวที่สิ่งนี้จะเกิดขึ้นคือถ้าสัตว์รู้ว่าเครื่องหมายนั้นอยู่ที่ตัวมันเอง มีสัตว์เพียงไม่กี่ชนิดที่สามารถผ่านการทดสอบนี้ได้สำเร็จ

มีการวิพากษ์วิจารณ์มากมายเกี่ยวกับการทดสอบ หากมีมนุษย์ทดลองอยู่ใกล้ๆ พวกเขาอาจแจกสิ่งของโดยการจ้องที่เครื่องหมาย ซึ่งอาจทำให้สัตว์แปรงหรือสัมผัสได้ ความเป็นไปได้อีกประการหนึ่งคือสัตว์ยังคงเชื่อว่ามีสัตว์อีกตัวปรากฏในกระจก แต่มันเป็นประเภทเดียวกัน ดังนั้นสัตว์จึงสงสัยว่ามันมีเครื่องหมายเหมือนตัวที่อยู่บนสัตว์อีกตัวด้วยหรือไม่

บนและบนมันไป

ฉันแน่ใจว่าคุณดีใจที่รู้เรื่องนี้และต่อจากนี้ไปจะเข้าใจว่าทำไมถึงมีจุดหรือเครื่องหมายแปลก ๆ บนสัตว์ที่ไม่เช่นนั้นจะไม่มีเครื่องหมายดังกล่าว ใครจะรู้ มันอาจจะเพิ่งเสร็จสิ้นการทดลองทดสอบมิเรอร์ ขอแสดงความยินดีกับสัตว์อย่างปลอดภัยสำหรับการเป็นผู้เข้าร่วมที่ใจดี

สิ่งใดที่เกี่ยวข้องกับรถยนต์ที่ขับเคลื่อนด้วยตนเองที่ใช้ AI

คุณจะชอบส่วนนี้

รถขับเองแล่นไปตามทางหลวงสายยาว ระบบขับเคลื่อน AI ใช้เซ็นเซอร์ตรวจจับการจราจรอื่นๆ นี่คือทางหลวงสองเลนที่มีการจราจรไปทางเหนือในช่องทางหนึ่งและทางใต้ในอีกช่องทางหนึ่ง ในบางครั้ง รถยนต์และรถบรรทุกจะพยายามแซงหน้ากัน โดยเข้าไปในเลนตรงข้ามแล้วกระโดดกลับเข้าไปในช่องทางการเดินทางที่เหมาะสม

คุณเคยเห็นสิ่งนี้แล้ว คุณทำสิ่งนี้อย่างไม่ต้องสงสัย

ฉันจะเดิมพันด้านต่อไปนี้เกิดขึ้นกับคุณเช่นกัน ข้างหน้าของรถยนต์ที่ขับเคลื่อนด้วยตนเองเป็นหนึ่งในรถบรรทุกขนาดใหญ่เหล่านั้น มันทำจากโลหะมันวาว ขัดและสะอาดเหมือนนกหวีด เมื่อขึ้นหลังรถบรรทุกดังกล่าว คุณจะเห็นภาพสะท้อนในกระจกรถของคุณผ่านทางส่วนหลังของรถบรรทุกน้ำมัน ถ้าคุณได้เห็นสิ่งนี้ คุณจะรู้ว่ามันน่าดึงดูดขนาดไหน คุณและรถของคุณอยู่ตรงนั้น สะท้อนอยู่ในเงาสะท้อนที่เหมือนกระจกที่ด้านหลังของรถบรรทุกน้ำมัน

นั่งลงเพื่อบิดบ้า

มีรถที่ขับเองอยู่ด้านหลังรถบรรทุกน้ำมัน กล้องจะตรวจจับภาพรถยนต์ที่แสดงในลักษณะสะท้อนแสงคล้ายกระจก เอ๊ะ AI ประเมินว่านั่นเป็นรถหรือไม่? มันมาที่รถขับเองหรือเปล่า? เมื่อรถที่ขับด้วยตัวเองเข้าใกล้รถบรรทุกน้ำมันมากขึ้นเรื่อยๆ ดูเหมือนรถจะยิ่งเข้าใกล้มากขึ้นเรื่อยๆ

อ๊ะ AI อาจคำนวณได้ว่านี่เป็นสถานการณ์ที่อันตรายและ AI ควรหลีกเลี่ยงจากยานพาหนะอันธพาลที่บ้าคลั่งนี้ คุณเห็นไหมว่า AI ไม่รู้จักตัวเองในกระจก มันล้มเหลวในการทดสอบกระจก

จะทำอย่างไร? บางทีตัวตรวจสอบซ้ำซ้อนของ AI ที่รู้ตัวเองอาจกระโดดเข้าไปในเรื่องนี้และสร้างความมั่นใจให้กับระบบขับเคลื่อน AI ที่เหลือว่าเป็นเพียงภาพสะท้อนที่ไม่เป็นอันตราย อันตรายหลีกเลี่ยง โลกได้รับการบันทึก ประสบความสำเร็จในการทดสอบกระจกเงา AI!

เราอาจแนะนำด้วยซ้ำว่าบางครั้ง AI ฉลาดกว่าหรืออย่างน้อยก็มีสติสัมปชัญญะมากกว่าหมีทั่วไป (แต่สำหรับหมี พวกมันมักจะทำได้ดีในการทดสอบในกระจก แต่บ่อยครั้งที่มันได้รับ ใช้ในการสะท้อนในแอ่งน้ำ)

การแก้ไข บางที AI อาจมีความตระหนักในตนเองมากกว่าแพนด้ายักษ์และสิงโตทะเล แต่อย่าบอกสัตว์เหล่านั้นว่า พวกมันอาจถูกล่อลวงให้ทุบหรือทุบระบบ AI เราไม่ต้องการอย่างนั้นเหรอ?