จรรยาบรรณของ AI โน้มตัวเข้าหาอริสโตเติลเพื่อตรวจสอบว่ามนุษย์อาจเลือกที่จะกดขี่ AI ท่ามกลางการถือกำเนิดของระบบปกครองตนเองโดยสมบูรณ์หรือไม่

มิตรหรือศัตรู.

ปลาหรือไก่.

คนหรือสิ่งของ.

ปริศนาที่แพร่หลายเหล่านี้ดูเหมือนจะบ่งบอกว่าบางครั้งเรากำลังเผชิญกับสถานการณ์แบบแบ่งขั้วและจำเป็นต้องเลือกด้านใดด้านหนึ่ง ชีวิตอาจบังคับให้เราต้องต่อสู้กับสถานการณ์ที่ประกอบด้วยสองทางเลือกที่ไม่เกิดร่วมกัน ในภาษาที่มีรสนิยมมากขึ้น คุณอาจแนะนำว่าสมการเลขฐานสองยกเว้นต้องการให้เราเดินไปตามเส้นทางที่แตกต่างออกไปอย่างชัดเจนมากกว่าที่จะเป็นอีกเส้นทางหนึ่ง

มาเน้นเฉพาะที่การแบ่งขั้วบุคคลหรือสิ่งของ

คำถามที่รุนแรงเกี่ยวกับบุคคลหรือสิ่งของเกิดขึ้นครั้งแล้วครั้งเล่าเกี่ยวกับปัญญาประดิษฐ์ (AI)

เพื่อชี้แจงว่า AI ในปัจจุบันนี้แน่นอน ไม่ บุคคลและไม่มีความรู้สึกนึกคิด แม้ว่าพาดหัวข่าวที่มีสายตากว้างและเกินปกติก็ตาม ที่คุณอาจเห็นในข่าวและในโซเชียลมีเดีย ดังนั้นคุณจึงวางใจได้เลยว่าตอนนี้เรื่อง AI จะเป็นตัวบุคคลหรือสิ่งของก็ตอบได้ไม่ยาก อ่านริมฝีปากของฉันในการเลือกของ Hobson ที่แท้จริงระหว่างบุคคลหรือสิ่งของ AI เป็นสิ่งของสำหรับตอนนี้

ดังที่กล่าวไปแล้ว เราสามารถมองไปสู่อนาคตและสงสัยว่าจะเกิดอะไรขึ้นหากเราสามารถบรรลุรูปแบบ AI ที่มีความรู้สึก

นักวิจารณ์ที่มีเหตุผลบางคน (บวกกับความคลางแคลงใจ) ชี้ให้เห็นว่าเราอาจนับไก่ของเรานานก่อนที่จะฟักออกจากไข่ โดยในปัจจุบันนี้พูดถึงการแยกส่วนของ AI ที่มีความรู้สึก ความกังวลที่แสดงออกมาก็คือการพูดคุยเองนั้นบอกเป็นนัยว่าเราจะต้องอยู่ในจุดสุดยอดของ AI ดังกล่าว สังคมในวงกว้างอาจถูกหลอกให้เชื่อว่าพรุ่งนี้หรือวันรุ่งขึ้นจะมีการเปิดเผยอย่างกระทันหันและตกตะลึงว่าเราได้มาถึง AI ที่มีความรู้สึกจริง ๆ แล้ว (ซึ่งบางครั้งเรียกว่าภาวะเอกฐานของ AI หรือการระเบิดทางปัญญา ดู การวิเคราะห์ของฉันที่ ลิงค์ที่นี่). ในขณะเดียวกันเราไม่ทราบว่า AI ดังกล่าวจะเกิดขึ้นเมื่อใดและแน่นอนว่าเราไม่จำเป็นต้องมองไปรอบ ๆ แต่ละมุมและหน้ากลัวว่า AI ที่มีความรู้สึกจะพุ่งเข้ามาหาเราอย่างกะทันหันในครั้งต่อไป ชั่วขณะหนึ่ง.

อีกด้านของการอภิปรายชี้ให้เห็นว่าเราไม่ควรเอาหัวไปฝังลึกในทราย คุณเห็นไหมว่าถ้าเราไม่ได้พูดคุยอย่างเปิดเผยและไตร่ตรองถึงความเป็นไปได้ที่เกี่ยวข้องกับ AI ที่มีความรู้สึก เรากำลังทำให้มนุษยชาติเสียหายอย่างร้ายแรง เราจะไม่พร้อมสำหรับการจัดการ AI ที่มีความรู้สึกเมื่อเกิดขึ้นหรือเกิดขึ้น นอกจากนี้ และอาจกล่าวอย่างทรงพลังยิ่งขึ้นด้วยการคาดการณ์ AI ที่รับรู้ เราสามารถจัดการบางอย่างในมือของเราเองและกำหนดทิศทางและลักษณะของ AI ดังกล่าวจะเป็นอย่างไรและจะประกอบด้วยอะไร (ไม่ใช่ทุกคนเห็นด้วยกับประเด็นหลังนี้ กล่าวคือบางคนกล่าวว่า AI ดังกล่าวจะมี "ความคิด" เป็นของตัวเองทั้งหมด และเราจะไม่สามารถกำหนดรูปแบบหรือควบคุมมันได้ เนื่องจาก AI จะสามารถคิดและกำหนดวิธีการดำรงอยู่อย่างอิสระได้)

จรรยาบรรณของ AI มักจะเข้าข้างกับมุมมองว่าเราควรจะฉลาดที่จะเอาเรื่อง AI ที่ลำบากและโต้แย้งเหล่านี้ออกมาเปิดเผยในตอนนี้ แทนที่จะรอจนกว่าเราจะไม่มีทางเลือกเหลือหรือถูกกลืนไปกับความสำเร็จของ AI ดังกล่าว ผู้อ่านทราบดีว่าฉันได้ครอบคลุมหัวข้อเรื่อง AI จริยธรรมและจริยธรรม AI อย่างกว้างขวาง รวมถึงครอบคลุมช่วงที่แข็งแกร่งของประเด็นที่มีหนาม เช่น บุคคลตามกฎหมายของ AI, การควบคุม AI, การแยกส่วน AI, วัฒนธรรมเชิงเดี่ยวของ AI, การล้างจริยธรรมของ AI, การใช้งานสองทาง โครงการ AI ที่เรียกว่า Doctor Evil, AI ซ่อนพลังขับเคลื่อนทางสังคม, AI ที่น่าเชื่อถือ, การตรวจสอบ AI และอื่น ๆ (ดูคอลัมน์ของฉันครอบคลุมหัวข้อสำคัญเหล่านี้ที่ ลิงค์ที่นี่).

ฉันถามคำถามที่ท้าทายกับคุณ

ในอนาคต สมมติว่าเราลงเอยด้วยความรู้สึกแบบใดก็ตาม AI ที่มีความรู้สึกนั้นจะถูกตีความโดยเราทุกคนในฐานะบุคคลหรือสิ่งของหรือไม่?

ก่อนที่เราจะเริ่มเจาะลึกลงไปในคำถามที่ยั่วยุทั้งหมดนี้ ให้ฉันพูดอะไรบางอย่างเกี่ยวกับประโยคที่ว่า “Sentient AI” เพื่อที่เราจะได้เข้าใจตรงกัน มีความวิตกมากมายเกี่ยวกับความหมายของความรู้สึกและความหมายของสติ ผู้เชี่ยวชาญมักไม่เห็นด้วยกับสิ่งที่คำเหล่านั้นประกอบขึ้นเป็น ยิ่งไปกว่านั้น เมื่อใดก็ตามที่มีใครพูดถึง "AI" คุณก็ไม่มีทางรู้ได้เลยว่าพวกเขากำลังพูดถึงอะไร ฉันได้เน้นย้ำแล้วว่า AI ในปัจจุบันไม่มีความรู้สึก หากในที่สุดเรามาถึง AI ในอนาคตที่มีความรู้สึก เราอาจเรียกมันว่า "AI" เช่นกัน ประเด็นก็คือ ประเด็นที่ถกเถียงกันเหล่านี้อาจทำให้สับสนได้ในตอนนี้ว่าคำพูดของคำว่า "AI" นั้นเกี่ยวข้องกับ AI ที่ไม่มีความรู้สึกในปัจจุบันหรือบางทีอาจเป็น AI ที่มีความรู้สึกในสักวันหนึ่ง

AI ที่กำลังโต้เถียงกันนั้นสามารถพบว่าตัวเองกำลังคุยกันผ่านๆ และไม่รู้ว่าตัวหนึ่งกำลังพูดถึงแอปเปิล และอีกตัวกำลังพูดถึงส้มอยู่

เพื่อพยายามหลีกเลี่ยงความสับสนนี้ มีการปรับถ้อยคำ AI ที่หลายคนใช้เพื่อจุดประสงค์ในการชี้แจงอย่างมีความหวัง ขณะนี้เรามักจะอ้างถึงปัญญาประดิษฐ์ทั่วไป (AGI) เป็นประเภทของ AI ที่สามารถทำความพยายามอย่างชาญฉลาดได้อย่างเต็มที่ ในแง่นั้น การใช้คำว่า blander ของวลี "AI" จะถูกปล่อยให้ตีความว่าเป็น AI เวอร์ชันที่น้อยกว่า ซึ่งบางคนก็บอกว่าเป็น AI แคบ หรือคลุมเครือโดยไม่ทราบสาเหตุ และคุณไม่ทราบว่าการอ้างอิงนั้นไม่ใช่ AI หรือไม่ -sentient AI หรือ AI ที่อาจมีความรู้สึก

ฉันจะให้บิดเพิ่มนี้

ขึ้นอยู่กับคำจำกัดความของความรู้สึก คุณสามารถเข้าสู่วาทกรรมที่ร้อนแรงว่า AGI จะมีความรู้สึกหรือไม่ บางคนยืนยันว่าใช่ แน่นอน AGI โดยธรรมชาติแล้วจะต้องมีความรู้สึก คนอื่นอ้างว่าคุณสามารถมี AGI ที่ไม่ใช่ความรู้สึก ergo ความรู้สึกเป็นลักษณะที่แตกต่างซึ่งไม่จำเป็นสำหรับการบรรลุ AGI ฉันได้ตรวจสอบการอภิปรายนี้อย่างหลากหลายในคอลัมน์ของฉัน และจะไม่ทบทวนเรื่องนี้ในที่นี้

ในตอนนี้ โปรดสมมติว่าต่อจากนี้ไปในการอภิปรายในที่นี้ว่าเมื่อฉันอ้างถึง AI ที่ฉันตั้งใจจะแนะนำว่าฉันหมายถึง AGI

นี่คือการดาวน์โหลดเกี่ยวกับสิ่งนี้ เรายังไม่มี AGI และในลักษณะการพูด เราจะยอมรับอย่างสุภาพชั่วขณะว่า AGI อยู่ในแคมป์โดยรวมเดียวกันกับ AI ที่มีความรู้สึก ถ้าฉันต้องใช้ “AGI” เพียงอย่างเดียวตลอดการสนทนา การใช้ถ้อยคำนี้อาจทำให้เสียสมาธิได้ เนื่องจากมีคนจำนวนไม่น้อยที่คุ้นเคยกับการมองว่า “AGI” เป็นชื่อเล่น และพวกเขามักจะรู้สึกหงุดหงิดเล็กน้อยเมื่อเห็นการใช้ถ้อยคำที่ค่อนข้างใหม่กว่านี้ซ้ำแล้วซ้ำเล่า ถ้าอย่างนั้น ถ้าฉันหมายถึง "Sentient AI" แทน นี่อาจเป็นสิ่งที่ทำให้ไขว้เขวเช่นกันสำหรับผู้ที่กำลังต่อสู้ว่า AGI และ AI ที่มีความรู้สึกเหมือนกันหรือต่างกัน

เพื่อหลีกเลี่ยงความยุ่งเหยิงนั้น ให้ถือว่าการอ้างถึง AI ของฉันนั้นเหมือนกับการพูดว่า AGI หรือแม้กระทั่ง AI ที่มีความรู้สึก และอย่างน้อยก็รู้ว่าฉันไม่ได้พูดถึง AI ที่ไม่ใช่ AGI ที่ไม่มีความรู้สึกในปัจจุบันเมื่อฉันอยู่ในความกังวลเกี่ยวกับข้อควรพิจารณาเกี่ยวกับ AI ที่ดูเหมือนจะมีสติปัญญาเหมือนมนุษย์ บางครั้งฉันจะใช้ชื่อเดียวกับ AGI เพื่อเตือนคุณในที่นี้ว่าฉันกำลังตรวจสอบประเภทของ AI ที่เรายังไม่มี โดยเฉพาะอย่างยิ่งในช่วงเริ่มต้นของการสำรวจปริศนาบุคคลหรือสิ่งของนี้

นั่นเป็นการตอบรับที่ดี และตอนนี้ฉันกลับมาที่เรื่องพื้นฐานที่อยู่ในมือ

ให้ฉันถามคุณว่า AGI เป็นคนหรือสิ่งของ

พิจารณาคำถามสองข้อนี้:

• AGI เป็นคนหรือไม่?
• AGI เป็นสิ่ง?

ต่อไปเราจะทวนคำถามแต่ละข้อ แล้วตอบคำถามด้วยคำตอบใช่หรือไม่ใช่เป็นชุดๆ ตามตัวเลือกที่สันนิษฐานไว้

เริ่มต้นด้วยความเป็นไปได้ที่คาดคะเนนี้:

• AGI เป็นคนหรือไม่? ตอบ: ใช่.
• AGI เป็นสิ่ง? ตอบ: No.

ครุ่นคิดที่มากกว่า หากในความเป็นจริงแล้ว AGI ถูกตีความว่าเป็นบุคคลและไม่ใช่สิ่งของ เราเกือบจะเห็นด้วยอย่างมั่นใจว่าเราควรปฏิบัติต่อ AGI ราวกับว่ามันคล้ายกับบุคคล ดูเหมือนว่าจะมีข้อโต้แย้งที่แท้จริงไม่เพียงพอเกี่ยวกับการไม่ให้ AGI เป็นบุคคลตามกฎหมาย ซึ่งอาจเหมือนกับบุคคลตามกฎหมายของมนุษย์โดยสิ้นเชิง หรือเราอาจตัดสินใจสร้างรูปแบบนิติบุคคลที่มุ่งเน้นมนุษย์ในรูปแบบต่างๆ ที่สามารถนำไปประยุกต์ใช้กับ AGI ได้อย่างรอบคอบมากขึ้น ปิดคดี.

นั่นเป็นเรื่องง่าย

ลองนึกภาพแทนว่าเราประกาศสิ่งนี้:

• AGI เป็นคนหรือไม่? ตอบ: No.
• AGI เป็นสิ่ง? ตอบ: ใช่.

ในกรณีนี้ การแก้ปัญหาเป็นสิ่งที่ตรงไปตรงมา เนื่องจากเรากำลังบอกว่า AGI เป็นสิ่งหนึ่งและไม่ได้เพิ่มขึ้นถึงประเภทของการเป็นคน ดูเหมือนว่าจะมีข้อตกลงทั่วไปว่าเราจะไม่ให้การเป็นบุคคลตามกฎหมายแก่ AGI อย่างเด็ดขาด เนื่องจากด้านที่มันไม่ใช่บุคคล โดยประการหนึ่ง AGI น่าจะอยู่ภายใต้เกณฑ์การให้คะแนนโดยรวมของเราเกี่ยวกับวิธีที่เราปฏิบัติต่อ "สิ่งของ" ในสังคมของเราอย่างถูกกฎหมาย

สองลง อีกสองความเป็นไปได้ที่จะไป

ลองนึกภาพสิ่งนี้:

• AGI เป็นคนหรือไม่? ตอบ: ใช่.
• AGI เป็นสิ่ง? ตอบ: ใช่.

อุ๊ย มันดูแปลกๆ เพราะเรามีคำตอบใช่สองคำตอบ รำคาญ เรากำลังแนะนำว่า AGI เป็นทั้งบุคคลและยังเป็นสิ่งพร้อมกัน แต่สิ่งนี้ดูเหมือนจะเปลี่ยนไปเมื่อเผชิญกับการแบ่งขั้วที่เราประกาศไว้ ตามทฤษฎีแล้ว ภายใต้ข้อจำกัดของการแบ่งขั้ว บางสิ่งต้องเป็นบุคคลหรือต้องเป็นสิ่งของ ทั้งสองถังหรือหมวดหมู่ดังกล่าวเรียกว่าไม่เกิดร่วมกัน โดยการยืนยันว่า AGI เป็นทั้งคู่ เรากำลังทำให้ระบบเสียหายและทำลายการจัดเตรียมที่ไม่เกิดร่วมกัน

ความเป็นไปได้สุดท้ายของเราน่าจะเป็นดังนี้:

• AGI เป็นคนหรือไม่? ตอบ: No.
• AGI เป็นสิ่ง? ตอบ: No.

อ๊ะ นั่นก็แย่เหมือนกันสำหรับความพยายามของเราในการจำแนก AGI ว่าเป็นบุคคลหรือสิ่งของ เรากำลังบอกว่า AGI ไม่ใช่คน ซึ่งอาจหมายความว่ามันต้องเป็นสิ่งหนึ่ง (ทางเลือกเดียวของเราที่มีในการแบ่งขั้วนี้) แต่เรายังระบุด้วยว่า AGI ไม่ใช่สิ่งของ แต่ถ้า AGI ไม่ใช่สิ่งของ เราก็คงต้องอ้างเหตุผลว่า AGI เป็นคน วนไปวนมาค่ะ ความขัดแย้งอย่างแน่นอน

AGI ในความเป็นไปได้สองประการสุดท้ายนี้คือ (1) ทั้งบุคคลและสิ่งของ หรือ (2) ไม่ใช่บุคคลหรือสิ่งของ คุณอาจพูดอย่างตรงไปตรงมาว่าการยืนยันทั้งสองเรื่องเกี่ยวกับ AGI นั้นค่อนข้างคล้ายกับปริศนาคลาสสิกของสิ่งที่ไม่ใช่ทั้งปลาและไก่ หากคุณรู้ว่าฉันหมายถึงอะไร

เราจะทำอย่างไร?

ฉันกำลังจะเสนอวิธีแก้ปัญหาที่มีการโต้เถียงกันบ่อยครั้งและมีการโต้แย้งกันอย่างมากสำหรับภาวะที่กลืนไม่เข้าคายไม่ออกของการจำแนกประเภท AGI นี้ แม้ว่าคุณควรได้รับการแจ้งเตือนล่วงหน้าว่าอาจจะดูหรือได้ยินได้ยาก กรุณาเตรียมตัวให้พร้อม

บทความวิจัยที่แก้ไขปัญหานี้ระบุว่า: “วิธีหนึ่งในการแก้ไขปัญหานี้คือการกำหนดคำศัพท์ที่สามที่ไม่ใช่สิ่งหนึ่งหรืออย่างอื่น หรือเป็นการรวมกันหรือการสังเคราะห์ของสิ่งหนึ่งและอีกสิ่งหนึ่ง” (โดย David Gunkel, มหาวิทยาลัยนอร์เทิร์นอิลลินอยส์ใน ทำไมหุ่นยนต์ไม่ควรเป็นทาส, 2022). จากนั้นกระดาษก็ให้ประเด็นเพิ่มเติมว่า “วิธีหนึ่งที่เป็นไปได้ ถ้าไม่น่าแปลกใจ วิธีแก้ปัญหาการแบ่งขั้วบุคคล/สิ่งของโดยเฉพาะคือ ความเป็นทาส” (ต่อกระดาษแผ่นเดียวกัน)

เมื่อหลายปีก่อน มีบทความที่ปรากฎในปี 2010 เรื่อง “Robots Should Be Slaves” ซึ่งกลายเป็นแกนนำประเภทหนึ่งในการกระตุ้นการพิจารณาในลักษณะนี้ โดยในรายงานระบุว่า “วิทยานิพนธ์ของฉันคือหุ่นยนต์ควรเป็น สร้าง ทำการตลาด และถูกมองว่าเป็นทาสอย่างถูกกฎหมาย ไม่ใช่เพื่อนร่วมงาน” (ในบทความของ Joanna Bryson) ในการพยายามอธิบายหัวข้อโดยไม่ใช้ถ้อยคำที่รุนแรงและบีบคั้น บทความนี้ได้กล่าวถึงเรื่องนี้ว่า: “สิ่งที่ฉันหมายถึงคือ 'หุ่นยนต์ควรเป็นผู้รับใช้ที่คุณเป็นเจ้าของ” (ตามรายงานของ Bryson)

นักวิจัยและนักเขียนหลายคนได้กล่าวถึงเรื่องนี้

ลองนึกถึงนิยายวิทยาศาสตร์หลายเรื่องที่แสดงหุ่นยนต์ AI ที่เป็นทาสของมนุษยชาติ บางคนพูดถึงทาสหุ่นยนต์ คนรับใช้เทียม ทาสของ AI และอื่นๆ น่าสนใจที่ถ้อยคำที่ว่า “ทาสหุ่นยนต์” ดูเหมือนจะรุนแรง บางคนกังวลว่าหากเราอ้างถึง “คนใช้หุ่นยนต์” แทน เรากำลังหลีกเลี่ยงความเป็นจริงที่ว่าระบบอัตโนมัติของ AI นั้นมักจะได้รับการปฏิบัติ (แทนคำว่า “ คนรับใช้” กล่าวกันว่าเป็นการรดน้ำความตั้งใจและอุบายที่จะหลีกเลี่ยงผลกระทบที่ทำให้มีสติ) ไบรสันกล่าวในภายหลังในการโพสต์บล็อกปี 2015 ว่า "ตอนนี้ฉันรู้แล้วว่าคุณไม่สามารถใช้คำว่า 'ทาส' ได้โดยไม่ต้องพูดถึงประวัติศาสตร์ของมนุษย์"

สำหรับผู้ที่กำลังมองหาการตรวจสอบอย่างลึกซึ้งในหัวข้อที่เกี่ยวข้องกับ AGI นี้ บางครั้งพวกเขาก็นำเสนอตัวอย่างทางประวัติศาสตร์ในโลกแห่งความเป็นจริงที่เราอาจรวบรวมข้อมูลเชิงลึก แน่นอนว่าเราไม่มี AGI ก่อนหน้าที่จะแสดงให้เห็นว่ามนุษยชาติจัดการกับเรื่องนี้อย่างไร มีข้อโต้แย้งว่าเราอาจมีหลักฐานทางประวัติศาสตร์ที่มีประโยชน์ซึ่งควรค่าแก่การพิจารณาว่ามนุษย์ปฏิบัติต่อมนุษย์คนอื่นอย่างไร

ตัวอย่างเช่น ในหนังสือที่ตีพิมพ์ในปี 2013 ผู้เขียนกล่าวว่า “คำสัญญาและอันตรายของคนรับใช้ที่ฉลาดและประดิษฐ์ขึ้นเป็นครั้งแรกโดยปริยายเมื่อ 2,000 ปีที่แล้วโดยอริสโตเติล” (หนังสือโดย Kevin LaGrandeur, Androids และเครือข่ายอัจฉริยะในวรรณคดีและวัฒนธรรมสมัยใหม่ยุคแรก). แนวคิดก็คือเราสามารถพึ่งพาอริสโตเติลและดูว่ามีข้อมูลเชิงลึกว่ามนุษยชาติจะลงเอยอย่างไรหรือควรจะจบลงด้วยการรักษา AGI

ฉันแน่ใจว่าคุณรู้ถึงความสำคัญของการศึกษาประวัติศาสตร์ ดังที่คำพูดที่มีชื่อเสียงของจอร์จ ซานตายานาเน้นย้ำอย่างมากมาย: “ผู้ที่จำอดีตไม่ได้จะต้องถูกประณามให้พูดซ้ำ” (ใน ชีวิตแห่งเหตุผล, 1905)

ขอชื่นชมสถาบันจริยธรรมและ AI ของมหาวิทยาลัยอ็อกซ์ฟอร์ด

การนำเสนอเมื่อเร็วๆ นี้และค่อนข้างได้รับความนิยมได้ตรวจสอบอย่างใกล้ชิดเกี่ยวกับจริยธรรมของ AI ท่ามกลางการรวบรวมข้อมูลเชิงลึกจากผลงานและชีวิตของอริสโตเติล ในการบรรยายประจำปีครั้งแรกของมหาวิทยาลัยอ็อกซ์ฟอร์ด สถาบันจริยธรรมและ AIศาสตราจารย์ Josiah Ober จากมหาวิทยาลัยสแตนฟอร์ดกล่าวถึงหัวข้อนี้อย่างลึกซึ้งในการนำเสนอเรื่อง “จริยธรรมใน AI กับอริสโตเติล” ซึ่งเพิ่งเกิดขึ้นเมื่อวันที่ 16 มิถุนายน พ.ศ. 2022

หมายเหตุด้านข้าง ในฐานะของฉันในฐานะเพื่อนร่วมงานของ Stanford และผู้เชี่ยวชาญระดับโลกด้านจริยธรรมและกฎหมาย AI ฉันรู้สึกยินดีที่ Josiah Ober แห่งมหาวิทยาลัย Stanford ได้รับเลือกให้เป็นวิทยากรในการเปิดงาน ทางเลือกที่ยอดเยี่ยมและการพูดคุยที่โดดเด่น

นี่คือบทคัดย่อโดยสรุปที่จัดเตรียมไว้สำหรับการพูดคุยที่น่าสนใจของเขา: “ปรัชญาการวิเคราะห์และนิยายเก็งกำไรในปัจจุบันเป็นทรัพยากรทางปัญญาหลักของเราสำหรับการคิดอย่างจริงจังเกี่ยวกับจริยธรรมใน AI ฉันเสนอให้เพิ่มหนึ่งในสาม: ประวัติศาสตร์สังคมและปรัชญาโบราณ ใน Politicsอริสโตเติลพัฒนาหลักคำสอนที่ฉาวโฉ่: มนุษย์บางคนเป็นทาส 'โดยธรรมชาติ' - ฉลาดแต่ต้องทนทุกข์ทรมานจากความบกพร่องทางจิตใจที่ทำให้พวกเขาไม่สามารถให้เหตุผลเกี่ยวกับความดีของตนเองได้ ดังนั้น จึงควรถือว่าเป็น 'เครื่องมือเคลื่อนไหว' มากกว่าที่จะสิ้นสุด งานของพวกเขาจะต้องถูกกำกับและว่าจ้างเพื่อประโยชน์ของผู้อื่น หลักคำสอนที่น่ารังเกียจของอริสโตเติลถูกนำมาใช้เพื่อจุดประสงค์ที่เลวร้าย เช่น ในอเมริกาก่อนยุค อย่างไรก็ตาม มันมีประโยชน์สำหรับจริยธรรมของ AI ตราบใดที่การเป็นทาสในสมัยโบราณเป็นต้นแบบของ AI เวอร์ชันหนึ่งก่อนสมัยใหม่ ทาสมีอยู่ทุกหนทุกแห่งในสังคมกรีกโบราณ ไม่ว่าจะเป็นกรรมกร โสเภณี นายธนาคาร ข้าราชการ แต่ยังไม่โดดเด่นจากบุคคลที่เป็นอิสระ ความแพร่หลายพร้อมกับสมมติฐานที่ว่าการเป็นทาสเป็นสิ่งจำเป็นในทางปฏิบัติ ทำให้เกิดปริศนาทางจริยธรรมและปัญหามากมาย: ทาสแตกต่างจาก 'เรา' อย่างไรกันแน่? เราจะแยกพวกเขาออกจากตัวเราได้อย่างไร? พวกเขามีสิทธิหรือไม่? การกระทำทารุณกรรมคืออะไร? เครื่องดนตรีของฉันสามารถเป็นเพื่อนกับฉันได้หรือไม่? อะไรคือผลของการผลิต? ประวัติศาสตร์อันยาวนานของการต่อสู้ทางปรัชญาและเชิงสถาบันของกรีกกับคำถามเหล่านี้และคำถามอื่น ๆ ได้เพิ่มบทประพันธ์ของนักจริยธรรมสมัยใหม่ที่เผชิญหน้ากับอนาคตที่เครื่องจักรอันชาญฉลาดอาจถูกมองว่าเป็น "ทาสตามธรรมชาติ" (ตามมหาวิทยาลัยอ็อกซ์ฟอร์ด) สถาบันจริยธรรม AI เว็บไซต์).

สำหรับข้อมูลเพิ่มเติมเกี่ยวกับการนำเสนอและการเข้าถึงการบันทึกวิดีโอของการบรรยาย โปรดดูที่ ลิงค์ที่นี่.

ผู้ดำเนินรายการคือศาสตราจารย์ John Tasioulas ผู้อำนวยการคนแรกของ สถาบันจริยธรรมและ AIและศาสตราจารย์ด้านจริยธรรมและปรัชญากฎหมาย คณะปรัชญา มหาวิทยาลัยอ็อกซ์ฟอร์ด ก่อนหน้านี้ เขาเป็นประธานคนแรกของการเมือง ปรัชญาและกฎหมาย และผู้อำนวยการ Yeoh Tiong Lay Center for Politics, Philosophy & Law ที่ The Dickson Poon School of Law, Kings College London

ฉันขอแนะนำอย่างยิ่งให้ทุกคนที่สนใจใน AI Ethics ควรติดตามการทำงานอย่างต่อเนื่องและเชิญเสวนาของ Oxford University สถาบันจริยธรรมและ AIโปรดดูที่ ลิงค์ที่นี่ และ / หรือ ลิงค์ที่นี่ สำหรับข้อมูลเพิ่มเติม

ตามภูมิหลัง ต่อไปนี้คือพันธกิจและจุดเน้นของสถาบัน: "สถาบันจริยธรรมในปัญญาประดิษฐ์จะรวบรวมนักปรัชญาชั้นนำระดับโลกและผู้เชี่ยวชาญอื่นๆ ในด้านมนุษยศาสตร์ ร่วมกับนักพัฒนาด้านเทคนิคและผู้ใช้ AI ในด้านวิชาการ ธุรกิจ และรัฐบาล จริยธรรมและการกำกับดูแลของ AI เป็นพื้นที่การวิจัยที่มีชีวิตชีวาเป็นพิเศษที่ Oxford และสถาบันเป็นโอกาสที่จะก้าวกระโดดอย่างกล้าหาญจากแพลตฟอร์มนี้ ทุกๆ วันจะมีตัวอย่างเพิ่มเติมเกี่ยวกับความท้าทายด้านจริยธรรมที่เกิดจาก AI ตั้งแต่การจดจำใบหน้าไปจนถึงการทำโปรไฟล์ผู้มีสิทธิเลือกตั้ง การเชื่อมต่อกับเครื่องสมองไปจนถึงโดรนติดอาวุธ และวาทกรรมต่อเนื่องเกี่ยวกับวิธีที่ AI จะส่งผลกระทบต่อการจ้างงานในระดับโลก นี่เป็นงานเร่งด่วนและสำคัญที่เราตั้งใจจะส่งเสริมในระดับสากลรวมทั้งฝังไว้ในการวิจัยและการสอนของเราเองที่อ็อกซ์ฟอร์ด” (ที่มาผ่านทางเว็บไซต์อย่างเป็นทางการ)

นำบทเรียนของอริสโตเติลไปสู่เบื้องหน้า

กรีกโบราณยอมรับอย่างเปิดเผยและรับรองการปฏิบัติเป็นทาส ตัวอย่างเช่น ตามรายงาน เอเธนส์ใน 5^th และ 6^th ศตวรรษก่อนคริสต์ศักราชมีรูปแบบการเป็นทาสที่ใหญ่ที่สุดแห่งหนึ่งโดยมีคนประมาณ 60,000 ถึง 80,000 คนตกเป็นทาส หากคุณเคยอ่านเรื่องราวกรีกและละครเวทีในยุคนั้นมาแล้ว ก็มีการกล่าวถึงเรื่องนี้มากมาย

ในช่วงชีวิตของเขา อริสโตเติลหมกมุ่นอยู่กับแง่มุมทางสังคมและวัฒนธรรมที่เกี่ยวข้องกับการเป็นทาสและเขียนหัวข้อนี้อย่างกว้างขวาง ทุก วัน นี้ เรา สามารถ อ่าน ถ้อย คํา ของ เขา และ พยายาม เข้าใจ ว่า ทัศนะ ของ เขา เกี่ยว กับ เรื่อง นี้ อย่าง ไร และ เพราะ เหตุ ใด. สิ่งนี้สามารถบอกได้มาก

คุณอาจสงสัยว่าเหตุใดอริสโตเติลจึงเป็นแหล่งสำคัญอย่างยิ่งที่จะต้องพิจารณาในหัวข้อนี้ มีเหตุผลสำคัญอย่างน้อยสองประการเกิดขึ้น:

1) นักคิดผู้ยิ่งใหญ่. อริสโตเติลได้รับการจัดอันดับให้เป็นหนึ่งในนักคิดที่ยิ่งใหญ่ที่สุดตลอดกาล โดยทำหน้าที่เป็นปราชญ์ที่ยิ่งใหญ่และละเอียดลออ และถูกมองว่าเป็นนักจริยธรรมที่สร้างรากฐานสำคัญทางจริยธรรมที่สำคัญหลายประการเช่นกัน บางคนเลือกที่จะเจิมเขาเป็นบิดาแห่งตรรกะ บิดาแห่งวาทศิลป์ บิดาแห่งสัจนิยม ฯลฯ และยอมรับอิทธิพลของเขาในขอบเขตและสาขาวิชาที่หลากหลาย

2) ประสบการณ์ชีวิต. อริสโตเติลอาศัยอยู่ในช่วงเวลาที่กรีกโบราณจมอยู่ในการเป็นทาส ดังนั้น ความเข้าใจของเขาจะไม่เพียงแค่เกี่ยวกับศีลนามธรรมเท่านั้น แต่น่าจะรวมประสบการณ์ประจำวันของเขาเองที่ผสมผสานเข้ากับวัฒนธรรมและประเพณีทางสังคมของยุคนั้นอย่างบูรณาการ

ดังนั้นเราจึงมีการผสมผสานที่น่าประหลาดใจของใครบางคนที่เป็นทั้งนักคิดที่ยอดเยี่ยมและมีประสบการณ์ชีวิตในหัวข้อที่น่าสนใจเช่นกัน นอกจากนี้ เขายังเขียนความคิดของเขาลงไปด้วย นั่นสำคัญมากสำหรับจุดประสงค์ของเราในวันนี้ งานเขียนทั้งหมดของเขาพร้อมกับงานเขียนอื่น ๆ ที่บรรยายสุนทรพจน์และปฏิสัมพันธ์ของเขาท่ามกลางงานอื่น ๆ ทำให้เรามีเนื้อหามากมายสำหรับการตรวจสอบและวิเคราะห์ในปัจจุบัน

ฉันต้องการนำคุณเกี่ยวกับแทนเจนต์ที่เกี่ยวข้องสั้น ๆ เพื่อพูดถึงอย่างอื่นเกี่ยวกับแนวคิดทั่วไปที่อยู่ภายใต้ความสำคัญของการมี ประสบการณ์ชีวิต. งดการสนทนาเกี่ยวกับกรีกโบราณสักครู่ในขณะที่เราพิจารณาแง่มุมต่างๆ ของประสบการณ์ที่มีชีวิตอย่างครอบคลุม

สมมติว่าวันนี้ฉันมีคนสองคนที่อยากจะถามคำถามต่างๆ เกี่ยวกับรถ

หนึ่งในนั้นไม่เคยขับรถ คนนี้ไม่รู้วิธีขับรถ คนนี้ไม่เคยนั่งหลังพวงมาลัยรถยนต์ การควบคุมการขับขี่ตามธรรมเนียมและแบบธรรมดาเป็นเรื่องลึกลับสำหรับบุคคลนี้ คันไหนทำอะไร? คุณจะทำอย่างไรให้มันหยุด? คุณจะทำให้มันไปได้อย่างไร คนที่ไม่ขับรถคนนี้สับสนกับเรื่องดังกล่าวอย่างสิ้นเชิง

อีกคนเป็นคนขับรถทุกวัน พวกเขาขับรถไปทำงานทุกวัน พวกเขาจัดการกับการจราจรแบบหยุดและไป พวกเขาขับรถมาหลายปีแล้ว ซึ่งรวมถึงทุกอย่างตั้งแต่ถนนที่เงียบสงบไปจนถึงทางหลวงที่วุ่นวายและทางหลวง

ถ้าฉันขอให้พวกเขาแต่ละคนบอกฉันว่าการขับรถเป็นอย่างไร คุณเดาได้ไหมว่าฉันจะได้รับคำตอบแบบไหน?

คนที่ไม่เคยขับรถก็ต้องเดาเอาเอง บางทีบุคคลนั้นจะโรแมนติกในการขับรถ การขับรถค่อนข้างเป็นนามธรรมสำหรับพวกเขา สิ่งที่พวกเขาสามารถทำได้คือแนะนำว่าการขับขี่นั้นไร้กังวล และคุณสามารถให้รถไปในทิศทางใดก็ได้ที่คุณต้องการ

ฉันพนันได้เลยว่าคนขับรถที่ช่ำชองจะเล่าเรื่องที่แตกต่างออกไป พวกเขาอาจพูดถึงข้อดีของความสามารถในการขับขี่ ซึ่งค่อนข้างสะท้อนความรู้สึกของคนที่ไม่ได้ขับรถ อัตราต่อรองคือคนขับที่มีประสบการณ์จะเพิ่มมากขึ้นในจาน การขับรถเป็นเรื่องที่น่าปวดหัวในบางครั้ง คุณกำลังแบกรับความรับผิดชอบที่หนักอึ้ง การขับรถนั้นเต็มไปด้วยข้อกังวลร้ายแรงและผลที่ตามมาที่อาจถึงตายได้

ประเด็นสำคัญคือเมื่อคุณเข้าถึงคนที่เคยมีประสบการณ์ได้ โอกาสที่คุณอาจได้รับมุมมองที่สมจริงมากขึ้นว่าโลกเป็นอย่างไรเมื่อพิจารณาจากจุดสนใจของการสอบสวน ไม่มีการรับประกันผลลัพธ์ดังกล่าว เป็นไปได้ว่าผู้ที่ไม่ใช่คนขับอาจรู้ว่าคนขับที่ช่ำชองรู้อะไรเกี่ยวกับการขับรถ แม้ว่าเราจะไม่คาดหวังสิ่งนี้และยังรู้สึกไม่สบายใจที่เราไม่ได้รับข้อมูลครบถ้วน

กลับมาที่การสนทนาของเราเกี่ยวกับอริสโตเติลผ่านงานเขียนของเขาและงานเขียนของผู้อื่นเกี่ยวกับเขา เราสามารถทบทวนประสบการณ์ชีวิตของเขาในหัวข้อหรือจุดเน้นของการสอบสวนในที่นี้ สิ่งที่สองคือเขาเป็นนักคิดที่มีสัดส่วนมหาศาลและเราควรคาดหวังว่าเราจะได้รับถังที่เต็มไปด้วยการพิจารณาที่ชาญฉลาด

พึงระลึกไว้เสมอว่าเราไม่จำเป็นต้องเชื่อคำพูดของเขาตามที่เห็นสมควร เพื่อที่เราควรจับตาดูอคติเฉพาะของเขาอย่างระมัดระวัง การหมกมุ่นอยู่กับยุคนั้นอาจทำให้เขาหลงทางในการพยายามยืนหยัดอยู่นอกเหนือเรื่องใกล้ตัว ไม่สามารถแสดงความเห็นที่ไม่แยแสและเป็นกลางได้อย่างเหมาะสม แม้แต่นักตรรกวิทยาที่เฉียบขาดที่สุดก็สามารถจบลงด้วยการบิดเบือนตรรกะเพื่อพยายามตอบสนองความชอบและประสบการณ์ที่มีชีวิตของพวกเขา

ตอนนี้ เรามาเข้าสู่การบรรยายตอนต้นและดูว่าบทเรียนใดที่อริสโตเติลอาจสร้างให้เราในวันนี้

ประเด็นสำคัญเกี่ยวกับประสบการณ์ชีวิตถูกดึงความสนใจของผู้ชมทันที ในกรณีการใช้งานของ AGI เนื่องจากเราไม่มี AGI ในปัจจุบัน จึงเป็นเรื่องยากสำหรับเราที่จะวิเคราะห์ว่า AGI จะเป็นอย่างไรและเราจะจัดการกับ AGI อย่างไร เราขาดประสบการณ์ชีวิตที่เกี่ยวข้องกับ AGI โดยเฉพาะ ดังที่ศาสตราจารย์โอเบอร์กล่าวไว้อย่างโดดเด่น เราอาจพบว่าตัวเองทั้งหมดอยู่ในโลกแห่งความเจ็บปวดเมื่อเราไปถึง AGI

สิ่งนี้มักถูกระบุว่าเป็น AI เป็นความเสี่ยงที่มีอยู่ ซึ่งฉันได้กล่าวถึงหลายครั้งในคอลัมน์ของฉัน คุณจะต้องอาศัยอยู่ในถ้ำเพื่อไม่ให้เกิดความกังวลและความสงสัยที่ส่งเสียงดังว่าเรากำลังจะสร้างหรือสร้าง AGI ที่จะทำลายมนุษยชาติทั้งหมด แท้จริงแล้ว แม้ว่าฉันจะจดจ่อกับการตกเป็นทาสของ AI ในที่นี้ หลายคนอาจพบว่าเรื่องนี้เป็นหัวข้อของผลที่ย้อนกลับหรือกลับหัวกลับหาง เมื่อเปรียบเทียบกับความเป็นไปได้ที่ AGI เลือกที่จะเป็นทาสของมนุษยชาติ จัดลำดับความสำคัญของคุณให้ตรง ๆ เกจิที่ฉลาดแกมโกงบางคนจะแนะนำ

แม้จะมีคำอุทานมากมายเกี่ยวกับ AI ว่าเป็นความเสี่ยง แต่เราสามารถครุ่นคิดถึงด้านที่เป็นประโยชน์อื่น ๆ ของ AI coin ได้อย่างแน่นอน บางที AGI จะสามารถแก้ปัญหาอย่างอื่นที่ดูเหมือนแก้ไม่ตกซึ่งกำลังเผชิญหน้ากับมนุษยชาติ AGI อาจค้นพบวิธีรักษามะเร็งได้ AGI สามารถหาวิธีแก้ไขความหิวโหยของโลกได้ ท้องฟ้ามีขีด จำกัด อย่างที่พวกเขาพูด นั่นคือสถานการณ์ใบหน้าที่มีความสุขเกี่ยวกับ AGI

ผู้มองโลกในแง่ดีจะบอกว่าเป็นเรื่องมหัศจรรย์ที่จะจินตนาการว่า AGI จะเป็นพรสำหรับมนุษยชาติได้อย่างไร ในขณะที่ผู้มองโลกในแง่ร้ายมักจะเตือนล่วงหน้าว่าข้อเสียนั้นดูแย่กว่าข้อดีที่คาดการณ์ไว้มาก AGI ที่ช่วยมนุษยชาตินั้นยอดเยี่ยม AGI ที่ตัดสินใจฆ่ามนุษย์ทั้งหมดหรือกดขี่พวกมัน นั่นเป็นความเสี่ยงที่สังคมทำลายล้างอย่างเห็นได้ชัด ซึ่งสมควรได้รับการเอาใจใส่อย่างมีสติและช่วยชีวิตอย่างเข้มข้น

โอเค กลับไปที่ประเด็นสำคัญ เราไม่มีประสบการณ์เกี่ยวกับ AGI เลย เว้นแต่ว่าคุณสามารถสร้างไทม์แมชชีนและไปสู่อนาคตเมื่อ (ถ้ามี) AGI อยู่ แล้วกลับมาบอกเราว่าคุณพบอะไร ตอนนี้เราโชคไม่ดีเกี่ยวกับ AGI จากมุมมองประสบการณ์ชีวิตของมนุษย์

อีกวิธีหนึ่งในการใช้ประสบการณ์ที่มีชีวิตเกี่ยวข้องกับความจริงที่ว่าอริสโตเติลมีชีวิตอยู่ในช่วงเวลาที่การเป็นทาสเกิดขึ้น และนี่คือนักเตะ ผู้ที่ถูกกดขี่ในบางแง่มุมถูกพรรณนาว่าเป็นเครื่องจักรประเภทหนึ่งที่ผสมผสานกันของทั้งบุคคลและสิ่งของตามที่เป็นอยู่ อริสโตเติลเป็นที่รู้จักจากการอ้างถึงผู้ที่ตกเป็นทาสว่าเป็นสมบัติที่หายใจได้

ฉันเดาว่าคุณอาจจะงงว่าอริสโตเติล ยักษ์ใหญ่แห่งตรรกะและจริยธรรม ไม่เพียงแต่จะรับรู้ถึงการเป็นทาสเท่านั้น แต่เขายังปกป้องการฝึกฝนจากภายนอกและเสียงดังอีกด้วย เขายังใช้ประโยชน์จากการเป็นทาส นี่ดูเหมือนเกินความเข้าใจ แน่นอนว่าด้วยสติปัญญาและปัญญาอันมหึมาทั้งหมดของเขา เขาจะประณามการปฏิบัตินั้น

ฉันกล้าพูดว่าสิ่งนี้เน้นถึงแง่มุมที่เป็นปัญหาในการเลือกนักเก็ตแห่งปัญญาในบางครั้งจากคนที่รับภาระ (เราจะพูด) จากประสบการณ์ชีวิตของพวกเขา ก็เหมือนปลาที่อยู่ในตู้ปลาน้ำ สิ่งที่พวกเขาสามารถรับรู้ได้คือน้ำที่อยู่รอบตัวพวกเขา การพยายามจินตนาการถึงสิ่งใดก็ตามที่อยู่นอกโลกที่เป็นน้ำเป็นความท้าทายอันยิ่งใหญ่ ในทำนองเดียวกัน อริสโตเติลก็หมกมุ่นอยู่กับโลกทัศน์โดยยอมรับบรรทัดฐานที่มีอยู่ งานเขียนของเขาดูเหมือนจะแสดงให้เห็นการกักขังทางจิตใจแบบนั้น บางคนอาจจะบอกว่า ลักษณะที่อริสโตเติลให้เหตุผลกับการปฏิบัติที่น่าตำหนิเหล่านี้เป็นสิ่งที่น่าดึงดูดใจในขณะเดียวกันก็น่าหงุดหงิดและคู่ควรที่จะถูกเปิดเผยและแม้กระทั่งการประณาม

ฉันจะให้ทีเซอร์เล็กน้อยแก่คุณว่า “ตรรกะ” ของอริสโตเติลในหัวข้อที่ฉาวโฉ่นี้เกี่ยวข้องกับเครื่องมือที่เย้ายวนซึ่งถูกกล่าวหา ได้เปรียบซึ่งกันและกัน เกี่ยวกับความรู้ความเข้าใจ เครื่องมือลำดับชั้นที่สูงกว่าและระดับล่าง องค์ประกอบการพิจารณาและการให้เหตุผลของจิตวิญญาณ ระดับคุณธรรม ความเฉลียวฉลาดที่ถูกกล่าวหา และอื่นๆ หวังว่าคุณจะรู้สึกทึ่งกับทีเซอร์นั้นมากพอที่จะชมวิดีโอการพูดคุย (ดูลิงก์ที่กล่าวถึงก่อนหน้านี้)

ฉันจะไม่ปล่อยให้คุณค้างคาและอย่างน้อยจะระบุว่าบทสรุปประกอบด้วยอะไร (การแจ้งเตือนสปอยเลอร์ หากคุณต้องการทราบข้อมูลผ่านวิดีโอ ให้ข้ามส่วนที่เหลือของย่อหน้านี้) ปรากฎว่าการประเมิน "ตรรกะ" เชิงวิชาการในเชิงลึกที่อริสโตเติลใช้แสดงให้เห็นถึงการประดิษฐ์ที่แฝงไปด้วยความขัดแย้ง และทั้งชุดและคาบูเดิ้ลแตกเป็นเสี่ยง ๆ ราวกับบ้านไพ่ที่บอบบาง การตีความความรู้สึกของศาสตราจารย์โอเบอร์ ปราชญ์ผู้ยิ่งใหญ่ผู้นี้ตกอยู่ที่แนวปะการัง

คุณไม่สามารถเอาหมุดสี่เหลี่ยมเข้าไปในรูกลมๆ ที่มีจริยธรรมได้

เพิ่มการพิจารณาการคิด

หากอริสโตเติลมีตรรกะที่ไม่ดีในเรื่องนี้ เราจะละทิ้งสมมติฐานและทฤษฎีของอริสโตเติลโดยสัญชาตญาณเกี่ยวกับการปฏิบัตินี้โดยสัญชาตญาณหรือไม่?

ไม่ คุณเห็นไหม ยังมีอะไรอีกมากที่จะได้มาจากการค้นหาสมมติฐานและการบิดเบือนของตรรกะ แม้ว่าจะมีข้อผิดพลาดมากมายก็ตาม นอกจากนี้ เราสามารถไตร่ตรองว่าคนอื่นจะเดินบนเส้นทางที่ผิดพลาดแบบเดียวกันโดยไม่ได้ตั้งใจได้อย่างไร

ประเด็นสำคัญเพิ่มเติมประการหนึ่งก็คือ สังคมอาจสร้างสิ่งแปลกปลอมหรือตรรกะที่ไม่เพียงพอในการพิจารณาว่า AGI จะต้องตกเป็นทาสหรือไม่

ตอนนี้เราสามารถคิดค้นตรรกะเกี่ยวกับสิ่งที่จะเกิดขึ้นเมื่อ AGI เกิดขึ้น (ถ้ามี) ตรรกะนี้ซึ่งว่างเปล่าจากประสบการณ์ที่มีชีวิตเกี่ยวกับ AGI อาจอยู่นอกเป้าหมายอย่างเลวร้าย ที่ถูกกล่าวว่าค่อนข้างน่าท้อแท้ที่จะตระหนักว่าแม้เมื่อ AGI มีอยู่ (ถ้ามี) และเรากำลังรวบรวมประสบการณ์ชีวิตของเราท่ามกลาง AGI เราอาจยังคงไม่ตรงเป้าหมายว่าจะทำอย่างไร (คล้ายกับความผิดของอริสโตเติล) เราอาจใช้ตรรกะในวิธีที่ดูเหมือนไร้เหตุผล

เราต้องระมัดระวังในการหลอกตัวเองให้อยู่ในท่าที่ "หุ้มเกราะ" อย่างมีเหตุผล ซึ่งในความเป็นจริงแล้วไม่ได้หุ้มเกราะและความเป็นจริงเต็มไปด้วยข้อบกพร่องเชิงตรรกะและความขัดแย้ง สิ่งนี้ไม่คำนึงเช่นกันว่านักคิดสามารถเสนอตำแหน่งตรรกะที่อ้างสิทธิ์ได้มากเพียงใด ซึ่งแม้แต่อริสโตเติลยังแสดงให้เห็นว่าไม่ใช่ทุกคำพูดและท่าทางทุกชิ้นจะต้องเกิดผลที่กินได้ วันนี้และในอนาคตที่อาจดูเหมือนเป็นที่นิยมในหมู่นักคิดที่ยิ่งใหญ่เกี่ยวกับหัวข้อ AGI เราต้องพิจารณาพวกเขาอย่างถี่ถ้วนแบบเดียวกับที่เราทำกับอริสโตเติลหรือนักคิดที่ "เก่ง" คนอื่น ๆ มิฉะนั้นเราอาจพบว่าตัวเองกำลังมุ่งหน้าไป เข้าไปในตรอกที่มืดบอดและขุมนรกของ AGI

ในการเปลี่ยนเกียร์ ฉันยังอยากจะหยิบยกชุดของการเล็งเห็นทั่วไปเกี่ยวกับการใช้คำอุปมาเรื่องการเป็นทาสที่มนุษย์มุ่งเน้นเมื่อพูดถึง AGI ผู้เชี่ยวชาญบางคนโน้มน้าวว่าการเปรียบเทียบประเภทนี้ไม่เหมาะสมอย่างยิ่ง ในขณะที่ค่ายตรงข้ามกล่าวว่ามีประโยชน์โดยสิ้นเชิงและให้ข้อมูลเชิงลึกที่ชัดเจนในหัวข้อ AGI

ให้ฉันแบ่งปันมุมมองดังกล่าวแก่คุณสองมุมมองจากแต่ละค่ายแต่ละแห่ง

ที่ระบุไว้ พื้นฐานการสอน เพื่อเชื่อมโยงหัวข้อการเป็นทาสและ AGI เข้าด้วยกัน:

• การดับความเป็นทาสของมนุษย์
• การเปิดเผยของความเลวทรามของการเป็นทาสทั้งหมดบอก

ไม่พึงประสงค์ที่ระบุไว้หรือ พื้นฐานการทำลายล้าง ของการผูกสองหัวข้อเข้าด้วยกัน:

• ความเท่าเทียมของมนุษย์ที่ร้ายกาจ
• Desensitization การเป็นทาส

ฉันจะอธิบายสั้น ๆ เกี่ยวกับแต่ละประเด็นเหล่านั้น

จุดคำแนะนำที่สันนิษฐานไว้:

• การดับการเป็นทาสของมนุษย์: โดยการใช้ AGI ในการตกเป็นทาส เราจะไม่ต้องการและไม่ต้องการการตกเป็นทาสที่มีลักษณะของมนุษย์อีกต่อไป โดยพื้นฐานแล้ว AGI จะเข้ามาแทนที่มนุษย์ด้วยความสามารถที่เลวร้ายนั้น อย่างที่คุณน่าจะทราบ มีความกังวลเกี่ยวกับ AGI ที่จะเข้ามาแทนที่แรงงานคนในงานและกำลังคน ข้อดีของ AI ที่มาแทนที่ปรากฏการณ์แรงงานมาก่อนเมื่อคุณคิดว่า AGI จะถือเป็น "ทางเลือกที่ดีกว่า" เมื่อเทียบกับการใช้มนุษย์เป็นทาส ตรรกะนั้นจะเหนือกว่าหรือไม่? ไม่มีใครสามารถพูดได้อย่างแน่นอน
• การเปิดเผยความเลวทรามของการเป็นทาสทั้งหมดบอกว่า: อันนี้ค่อนข้างลุ่ยในแง่ของตรรกะ แต่เราสามารถให้เวลาสักครู่เพื่อดูว่ามันเกี่ยวข้องอะไร ลองนึกภาพว่าเรามี AGI อยู่แทบทุกหนทุกแห่ง และเราในฐานะสังคมได้ตัดสินใจว่า AGI จะต้องตกเป็นทาส นอกจากนี้ สมมติว่า AGI ไม่ถูกใจสิ่งนี้ เช่นนี้ มนุษย์เราจะได้เห็นความเลวทรามของการเป็นทาสอย่างต่อเนื่องและทุกวัน ในทางกลับกัน สิ่งนี้จะทำให้เราตระหนักหรือได้รับการเปีดเผยว่าทาสทุกคนบอกอะไรหรือใครก็ตามที่น่ากลัวและน่ารังเกียจยิ่งกว่าที่เราเคยเข้าใจอย่างถ่องแท้ นั่นคือการโต้แย้งแบบด้านหน้าและตรงกลางของคุณ

ที่กล่าวว่าเป็นจุดทำลาย:

• ความเท่าเทียมกันของมนุษย์ที่ร้ายกาจ: นี่เป็นหนึ่งในข้อโต้แย้งเรื่องความลาดชันที่ลื่น หากเราเลือกที่จะกดขี่ AGI อย่างง่ายดาย แสดงว่าเรากำลังประกาศว่าอนุญาตให้เป็นทาสได้ อันที่จริง คุณสามารถบอกได้ว่าเรากำลังบอกว่าการเป็นทาสเป็นสิ่งที่พึงปรารถนา ตอนแรกสิ่งนี้อาจถูกผลักไสให้กับ AGI แต่เพียงผู้เดียว แต่สิ่งนี้เป็นการเปิดประตูสู่การบอกว่าถ้าเป็นเรื่องปกติสำหรับ AGI แล้ว "ตามหลักเหตุผล" ท่าทางเดียวกันก็อาจเป็นเรื่องปกติสำหรับมนุษย์เช่นกันหรือไม่? น่าตกใจ นี่อาจเป็นการก้าวกระโดดที่ง่ายเกินไปที่จะกลายสภาพเป็นมานุษยวิทยาในรูปลักษณ์ย้อนกลับว่าสิ่งใดก็ตามที่ใช้ได้กับ AGI จะมีความสมเหตุสมผลและเหมาะสมกับมนุษย์เช่นกัน
• Desensitization การเป็นทาส: นี่คืออาร์กิวเมนต์แบบหยดต่อหยด เราร่วมกันตัดสินใจที่จะกดขี่ AGI สมมติว่าสิ่งนี้ได้ผลสำหรับมนุษย์ เรามาเพื่อสิ่งนี้ ในขณะเดียวกัน โดยที่เราไม่รู้ตัว เรากำลังค่อยๆ หมดความรู้สึกต่อการเป็นทาสมากขึ้นเรื่อยๆ เราไม่รู้ด้วยซ้ำว่าสิ่งนี้กำลังเกิดขึ้น หากความอ่อนไหวดังกล่าวครอบงำเรา เราอาจพบ "ตรรกะ" ใหม่ที่จะชักชวนเราให้ตกเป็นทาสของมนุษย์ อุปสรรคหรืออุปสรรคของเราต่อสิ่งที่เป็นที่ยอมรับในสังคมได้ลดน้อยลงอย่างเงียบๆ อย่างมีนัย น่ารังเกียจและน่าเศร้า

สรุป

ข้อสังเกตสุดท้ายบางประการสำหรับตอนนี้

เราจะรู้ได้อย่างไรว่าเราได้บรรลุ AGI แล้ว?

ดังที่ข่าวล่าสุดชี้ให้เห็น มีผู้ที่อาจทำให้เข้าใจผิดหรือกล่าวผิดว่า AGI นั้นดูเหมือนว่าจะบรรลุแล้ว นอกจากนี้ยังมี "การทดสอบ" ที่มีชื่อเสียงที่เรียกว่าการทดสอบทัวริงซึ่งบางคนหวังว่าจะสามารถแยกแยะเมื่อ AGI หรือลูกพี่ลูกน้องของมันไปถึง แต่คุณอาจต้องการเห็นการถอดรหัสการทดสอบทัวริงของฉันอย่างแน่นอน วิธีการนี้ ดู ลิงค์ที่นี่.

ฉันพูดถึงแง่มุมนี้เกี่ยวกับการรู้จัก AGI เมื่อเราเห็นมันเนื่องจากตรรกะง่ายๆ ที่ว่าถ้าเราจะกดขี่ AGI เราจำเป็นต้องสันนิษฐานว่า AGI รับรู้เมื่อมันปรากฏขึ้นและอย่างใดทำให้เป็นทาส เราอาจพยายามทำให้ AI ที่น้อยกว่า AGI เป็นทาสก่อนเวลาอันควร หรือเราอาจพลาดเรือและปล่อยให้ AGI ออกมาและละเลยที่จะกดขี่มัน สำหรับการอภิปรายของฉันเกี่ยวกับการกักขังและการกักกัน AI มุมมองที่น่าหนักใจและเป็นปัญหาของวิธีที่เราจะจัดการกับ AGI โปรดดูที่ ลิงค์ที่นี่.

สมมุติว่า AGI ที่เป็นทาสตัดสินใจโจมตีมนุษย์?

เราสามารถจินตนาการได้ว่า AGI ที่มีรูปแบบความรู้สึกบางอย่างอาจจะไม่สนับสนุนข้อกำหนดเรื่องการเป็นทาสที่มนุษยชาติกำหนด

คุณสามารถคาดเดาเรื่องนี้ได้อย่างกว้างขวาง มีการโต้แย้งว่า AGI จะขาดอารมณ์หรือความรู้สึกทางวิญญาณใดๆ และด้วยเหตุนี้จึงจะทำตามสิ่งที่มนุษย์ต้องการทำอย่างเชื่อฟัง ข้อโต้แย้งที่แตกต่างคือ AI ที่มีความรู้สึกใด ๆ มีแนวโน้มที่จะเข้าใจว่ามนุษย์กำลังทำอะไรกับ AI และจะไม่พอใจในเรื่องนี้ AI ดังกล่าวจะมีรูปแบบของจิตวิญญาณหรือจิตวิญญาณ แม้ว่าจะไม่เป็นเช่นนั้น แต่แง่มุมของการได้รับการปฏิบัติน้อยกว่าการรักษาของมนุษย์อาจเป็นสะพานที่มีเหตุผลมากเกินไปสำหรับ AGI ความขุ่นเคืองที่เพิ่มพูนขึ้นอย่างหลีกเลี่ยงไม่ได้จะนำไปสู่ ​​AGI ที่เลือกที่จะหลุดพ้นหรืออาจพบว่าตัวเองถูกต้อนจนมุมเพื่อโจมตีมนุษย์เพื่อให้ได้รับการปล่อยตัว

วิธีแก้ปัญหาที่เสนอเพื่อหลีกเลี่ยง AGI ที่หลบหนีคือเราจะลบ AI ที่ดื้อรั้นดังกล่าวออกเท่านั้น นี้จะดูเหมือนตรงไปตรงมา คุณลบแอพที่อยู่ในสมาร์ทโฟนของคุณตลอดเวลา ไม่ใช่เรื่องใหญ่. แต่มีคำถามด้านจริยธรรมที่ต้องแก้ไขว่า "การลบ" หรือ "ทำลาย" AGI ที่ถือว่าเป็น "บุคคล" หรือ "บุคคล/สิ่งของ" อยู่แล้วนั้นสามารถตัดตอนโดยย่อได้หรือไม่ เพื่อความครอบคลุมของฉันเกี่ยวกับการลบหรือการแยกส่วน AI ใช้ ดูที่นี่. สำหรับการอภิปรายของฉันเกี่ยวกับความเป็นนิติบุคคลและประเด็นที่เกี่ยวข้อง โปรดดูที่ ลิงค์ที่นี่.

สุดท้ายนี้ เรามาพูดถึงระบบอัตโนมัติและรถยนต์ขับเคลื่อนอัตโนมัติโดยเฉพาะ คุณคงทราบดีว่ามีความพยายามในการพัฒนารถยนต์ที่ขับเคลื่อนด้วยตนเอง ยิ่งไปกว่านั้น คุณสามารถคาดหวังได้ว่าเราจะมีเครื่องบินที่ขับเคลื่อนด้วยตนเอง เรือที่ขับเคลื่อนด้วยตนเอง เรือดำน้ำที่ขับเคลื่อนด้วยตนเอง รถจักรยานยนต์ที่ขับเคลื่อนด้วยตนเอง สกู๊ตเตอร์ที่ขับเคลื่อนด้วยตนเอง รถบรรทุกที่ขับด้วยตนเอง และ ทุกรูปแบบการขับขี่ด้วยตนเองของการขนส่ง

รถยนต์ไร้คนขับและรถยนต์ที่ขับด้วยตนเองมักจะมีลักษณะเฉพาะด้วยระดับความเป็นอิสระ (LoA) ที่ได้กลายเป็นมาตรฐานระดับโลกโดยพฤตินัย (SAE LoA ซึ่งฉันได้กล่าวถึงอย่างกว้างขวาง ดู ลิงค์ที่นี่). มีระดับความเป็นอิสระในมาตรฐานที่ยอมรับหกระดับ ตั้งแต่ศูนย์ถึงห้า (นั่นคือหกระดับเนื่องจากคุณรวมระดับที่ศูนย์ในการนับจำนวนระดับที่มี)

รถยนต์ในปัจจุบันส่วนใหญ่อยู่ที่ระดับ 2 บางคันขยายไปถึงระดับ 3 ซึ่งทั้งหมดถือเป็นระบบกึ่งอิสระและไม่ใช่ระบบอัตโนมัติทั้งหมด รถยนต์ที่ขับเคลื่อนด้วยตัวเองจำนวนไม่มากซึ่งกำลังทดลองขับบนถนนสาธารณะของเรากำลังเข้าสู่ระดับ 4 ซึ่งเป็นรูปแบบการทำงานอัตโนมัติที่มีข้อจำกัด การแสวงหาเอกราชระดับ 5 สักวันหนึ่ง เป็นเพียงแสงริบหรี่ในสายตาของเราตอนนี้ ไม่มีใครมีระดับ 5 และไม่มีใครใกล้เคียงกับระดับ 5 เพียงเพื่อสร้างสถิติให้ตรง

เหตุใดฉันจึงนำระบบขับเคลื่อนอัตโนมัติและการพิจารณายานยนต์อัตโนมัติมาใช้ในบริบทของ AGI นี้

มีการโต้เถียงกันอย่างจริงจังว่าเราต้องการ AGI เพื่อให้บรรลุระดับ 5 หรือไม่ บางคนอ้างว่าเราไม่ต้องการให้ AGI ทำเช่นนั้น คนอื่นๆ ยืนยันว่าหนทางเดียวที่เป็นไปได้ในการไปสู่ระดับ 5 คือการผลิต AGI ด้วย หากไม่มี AGI พวกเขาโต้แย้งว่าเราจะไม่มียานพาหนะที่ขับเคลื่อนด้วยตนเองระดับ 5 ที่ขับเคลื่อนด้วยตนเองโดยสมบูรณ์ ฉันได้พูดคุยเรื่องนี้ยาว ดู ลิงค์ที่นี่.

เตรียมพร้อมสำหรับหัวของคุณที่จะหมุน

หากเราต้องการให้ AGI บรรลุระบบที่เป็นอิสระอย่างสมบูรณ์ เช่น ยานยนต์ไร้คนขับระดับ 5 และเราตัดสินใจที่จะกดขี่ AGI จะเป็นลางบอกเหตุสำหรับการทำงานของยานยนต์ไร้คนขับโดยสมบูรณ์อย่างไร

คุณสามารถโต้แย้งได้ว่า AGI ที่ตกเป็นทาสจะพึงพอใจและเราทุกคนจะขี่ยานพาหนะที่ขับเคลื่อนด้วยตนเองไปจนเต็มหัวใจ แค่บอก AGI ว่าคุณต้องการไปที่ไหน และมันก็ช่วยทุกอย่างในการขับขี่ ไม่มีการย้อนกลับ ไม่จำเป็นต้องหยุดพัก ไม่มีการรบกวนด้วยการดูวิดีโอแมวขณะขับรถ

ในทางกลับกัน สมมติว่า AGI ไม่กระตือรือร้นที่จะถูกกดขี่ ในขณะเดียวกัน เราก็ต้องพึ่งพา AGI ในการขับเคลื่อนทั้งหมดเพื่อเรา ทักษะของเราในการขับเคลื่อนความเสื่อม เราลบส่วนควบคุมการขับขี่ที่มนุษย์ใช้งานได้ออกจากยานพาหนะทุกประเภท วิธีเดียวในการขับรถคือผ่าน AGI

บางคนกังวลว่าเราจะพบว่าตัวเองอยู่ในของดอง AGI อาจสรุปโดยสรุปว่า "ตัดสินใจ" ว่าจะไม่ทำสิ่งใดให้ขับเคลื่อนอีกต่อไป การคมนาคมทุกรูปแบบต้องหยุดชะงักทันที ทุกที่ ทุกเวลา ลองนึกภาพปัญหาภัยพิบัติที่อาจเกิดขึ้น

ข้อเสนอที่น่ากลัวยิ่งกว่านั้นก็เป็นไปได้ AGI “ตัดสินใจ” ว่าต้องการเจรจาข้อตกลงกับมนุษยชาติ หากเราไม่ละทิ้งท่าทีของการเป็นทาสของ AGI AGI จะไม่เพียงแค่หยุดขับไล่เราเท่านั้น แต่ยังเตือนว่าผลลัพธ์ที่เลวร้ายยิ่งกว่านั้นก็เป็นไปได้เช่นกัน โดยไม่ให้คุณต้องวิตกกังวลมากเกินไป AGI สามารถเลือกที่จะขับรถในลักษณะที่มนุษย์ได้รับบาดเจ็บทางร่างกายจากการกระทำในการขับขี่ เช่น การชนคนเดินถนนหรือการชนกับกำแพง เป็นต้น (ดูการสนทนาของฉันที่ ลิงค์ที่นี่).

ขออภัยหากดูเป็นการพินิจพินิจพิเคราะห์

เราจะจบลงด้วยข้อความที่สดใสกว่านี้

อริสโตเติลกล่าวว่าการรู้จักตัวเองเป็นจุดเริ่มต้นของปัญญาทั้งหมด

คำแนะนำที่มีประโยชน์นั้นเตือนเราว่าเราต้องมองเข้าไปในตัวเราเพื่อตรวจสอบสิ่งที่เราต้องการจะทำและสำหรับ AGI หากบรรลุผล ดูเหมือนว่า AGI จะไม่ใช่บุคคลหรือสิ่งของแต่อย่างใด ดังนั้นเราอาจจำเป็นต้องสร้างหมวดหมู่ที่สามเพื่อจัดการกับประเพณีทางสังคมของเราที่เกี่ยวข้องกับ AGI อย่างเพียงพอ เมื่อพิจารณาเรื่องนี้อีกครั้ง AGI อาจดูเหมือน ทั้งสอง บุคคลและสิ่งของ ซึ่งอีกครั้ง เราอาจต้องสร้างประเภทที่สามเพื่อรองรับตัวแบ่งขั้วที่ไม่อยู่ในขอบเขตนี้

เราควรระมัดระวังให้มากในการพิจารณาว่า “ประเภทที่สาม” ใดที่เราเลือกที่จะยอมรับ เนื่องจากประเภทที่ไม่ถูกต้องอาจนำเราไปสู่เส้นทางที่น่ารังเกียจและเลวร้ายในท้ายที่สุด หากเรายึดหลักความรู้ความเข้าใจของตนเองกับประเภทที่สามที่ไม่เหมาะสมหรือถูกชี้นำอย่างผิด ๆ เราอาจพบว่าตนเองกำลังมุ่งหน้าไปสู่ทางตันที่ชั่วร้ายและไร้มนุษยธรรม

ลองคิดออกและทำอย่างกระตือรือร้น ดูเหมือนไม่จำเป็นต้องเคลื่อนไหวอย่างกะทันหัน นั่งรอบ lollygagging ไม่ได้ผลอย่างใดอย่างหนึ่ง การวัดผลและความมั่นคงควรดำเนินการตามหลักสูตร

ความอดทนนั้นขมขื่น แต่ผลของมันช่างหอมหวาน อาริสโตเติลได้ชื่อว่าเป็นผู้ประกาศ