เหตุผลในการควบคุมอัลกอริทึม AI นั้นง่ายกว่าที่คุณคิด

คุณกังวลว่าปัญญาประดิษฐ์จะครองโลกหรือไม่? หลายคนทำ จากอีลอน มัสก์ กังวลเรื่อง DeepMind เอาชนะมนุษย์ในเกมขั้นสูงของ Go ในปี 2017 ถึงสมาชิกรัฐสภา ผู้กำหนดนโยบายของยุโรป (ดู แนวทางของยุโรปในด้านปัญญาประดิษฐ์) และนักวิชาการ มีความรู้สึกว่านี่คือทศวรรษที่ AI จริงจังและกำลังเกิดขึ้น แม้ว่าจะไม่ใช่เหตุผลที่คุณอาจคิดและไม่ได้เกิดจากการคุกคามใด ๆ ในปัจจุบัน

นี่คือที่มาของอัลกอริธึม คุณอาจถามถึงอัลกอริธึมอะไร? วิธีคิดที่ง่ายที่สุดคือชุดคำสั่งที่เครื่องสามารถเข้าใจและเรียนรู้ได้ เราสามารถสั่งให้เครื่องคำนวณ ประมวลผลข้อมูล และให้เหตุผลในรูปแบบอัตโนมัติที่มีโครงสร้าง อย่างไรก็ตาม ปัญหาคือ เมื่อได้รับคำแนะนำดังกล่าวแล้ว เครื่องจะปฏิบัติตามคำแนะนำเหล่านั้น สำหรับตอนนี้ นั่นคือประเด็น เครื่องจักรต่างจากมนุษย์ เครื่องจักรปฏิบัติตามคำแนะนำ พวกเขาไม่ได้เรียนรู้ที่ดี แต่เมื่อพวกเขาทำแล้ว ก็อาจทำให้เกิดปัญหาได้

ฉันไม่ต้องการที่จะโต้แย้งเกี่ยวกับแนวคิดเรื่องคอมพิวเตอร์ในวันหนึ่งที่เกินสติปัญญาของมนุษย์ซึ่งรู้จักกันดีว่าเป็นข้อโต้แย้งเกี่ยวกับภาวะเอกฐาน (ดู นักปรัชญา NYU ของ David Chalmers รำพึงในหัวข้อ.) ในทางกลับกัน การผลิตอาจเป็นตัวอย่างที่ดีที่สุดว่าทำไมอัลกอริธึม AI จึงเริ่มมีความสำคัญต่อสาธารณชนทั่วไปมากขึ้น หนึ่งกลัวว่าเครื่องจักรจะเร่งความสามารถของพวกเขาอย่างมากมายด้วยค่าใช้จ่ายของเรา ไม่ใช่ด้วยการใช้เหตุผลขั้นสูง แต่เป็นเพราะการเพิ่มประสิทธิภาพภายในขอบเขตของสิ่งที่อัลกอริธึมพูด

การผลิตคือการประดิษฐ์สิ่งของ แต่เมื่อเครื่องจักรสร้างสิ่งต่าง ๆ เราต้องให้ความสนใจ แม้ว่าสิ่งที่เครื่องจักรทำขึ้นจะง่าย ฉันจะอธิบายว่าทำไม

จากรองเท้าบูทกันฝนไปจนถึงโทรศัพท์มือถือและด้านหลัง

สมมุติว่าโรงงานแห่งหนึ่งทำรองเท้ากันฝน ฉันชอบรองเท้าบูทกันฝนเพราะฉันโตมาในประเทศนอร์เวย์ที่มีฝนตกชุก ฉันชอบที่จะอยู่ข้างนอกภายใต้องค์ประกอบหลายอย่างของธรรมชาติ Nokia ทำรองเท้ากันฝนที่ฉันโตมาด้วย ใช่ Nokia ที่เรารู้จักในปัจจุบันในฐานะบริษัทอิเล็กทรอนิกส์เคยทำรองเท้าบูทยาง ทำไมถึงเป็นกุญแจดอกนี้? เพราะเมื่อคุณทำอะไรบางอย่าง คุณถูกกำหนดให้ต้องการปรับปรุง นั่นทำให้รู้สึก คุณสามารถพูดได้ว่าเป็นธรรมชาติของมนุษย์

สิ่งที่เกิดขึ้นกับ Nokia นั้นเป็นที่รู้จักกันดีและมีลักษณะดังนี้: ในขั้นต้น โรงงานผลิตกระดาษ ตอนที่ฉันยังเป็นเด็ก การผลิตรองเท้าบูทยาง (และยางรถยนต์) ประสบความสำเร็จเป็นพิเศษสำหรับบริษัท อย่างไรก็ตาม พวกเขาเห็นโอกาสเพิ่มเติม ดังนั้นในช่วงทศวรรษ 1980 พวกเขาจึงเปลี่ยนไปใช้อุปกรณ์อิเล็กทรอนิกส์และเปลี่ยนโรงงานอย่างรวดเร็ว โดยสร้างโครงสร้างขนาดใหญ่ของซัพพลายเออร์ในท้องถิ่นเมื่อพวกเขาเริ่มผลิตโทรศัพท์มือถือ สิ่งนี้นำไปสู่การปฏิวัติการสื่อสารเคลื่อนที่ ซึ่งเริ่มต้นในสแกนดิเนเวียและแพร่กระจายไปทั่วโลก เป็นที่เข้าใจได้ว่าหลายคนเขียนเรื่องราวของ Nokia ในปี 1990 (ดู ความลับเบื้องหลังปาฏิหาริย์ของฟินแลนด์: การเกิดขึ้นของ Nokia).

ตัวอย่างของฉันตรงไปตรงมา บางทีง่ายเกินไป แต่คิดว่ามันเป็นอย่างนี้. หากบริษัทขนาดใหญ่สามารถเปลี่ยนจากการทำกระดาษเป็นการเขียนได้อย่างรวดเร็ว มาเป็นรองเท้าที่ช่วยให้อยู่กลางสายฝนได้ง่ายขึ้น ในที่สุด เปลี่ยนเป็นโทรศัพท์มือถือที่เปลี่ยนวิธีการสื่อสารของมนุษย์ ขั้นตอนต่อไปจะง่ายเพียงใด สมมุติว่าบริษัทที่ผลิตโทรศัพท์มือถือตัดสินใจที่จะผลิตนาโนบ็อตและอาจจะเริ่มผลิตในทศวรรษนี้ โดยเปลี่ยนมนุษยชาติด้วยเครื่องจักรขนาดเล็กที่ทำงานอัตโนมัติทุกที่ สามารถประกอบและเปลี่ยนแปลงประสบการณ์ของมนุษย์ได้ จะเกิดอะไรขึ้นหากสิ่งนั้นเกิดขึ้นโดยไม่พิจารณาว่าเราต้องการให้เกิดขึ้นอย่างไร ใครที่เราต้องการรับผิดชอบ และเป้าหมายสูงสุด

การแนะนำว่าหุ่นยนต์ช่วยให้ Nokia ตัดสินใจสร้างโทรศัพท์มือถืออย่างมีสตินั้นเป็นเรื่องที่ต้องใช้เวลานาน แต่ยอมรับว่าเทคโนโลยีมีบทบาทในการทำให้พื้นที่ชนบทของฟินแลนด์บนชายฝั่งทางเหนือคิดว่าพวกเขาสามารถครอบครองโลกในอุตสาหกรรมใหม่ได้นั้นก็มีส่วนสำคัญ

เรื่องราวของ Nokia ไม่ได้สดใสนักในช่วงทศวรรษที่ผ่านมา เนื่องจากพวกเขาไม่ได้คำนึงถึงการเกิดขึ้นของระบบปฏิบัติการ iOS และ Android ที่ใช้ซอฟต์แวร์เป็นหลัก ส่งผลให้ Nokia ไม่ได้ผลิตโทรศัพท์อีกต่อไป ในเรื่องราวย้อนกลับเล็กน้อย ตอนนี้พวกเขาสร้างโครงสร้างพื้นฐานด้านเครือข่ายและโทรคมนาคม โซลูชันความปลอดภัยเครือข่าย เราเตอร์ Wi-Fi ไฟอัจฉริยะ และสมาร์ททีวี (ดู เรื่องราวการกลับมาของ Nokia). โนเกียยังคงทำสิ่งต่าง ๆ นั่นเป็นความจริง ข้อสังเกตเดียวที่ต้องทำคือ Nokia มักจะสนุกกับการผสมผสานสิ่งที่พวกเขาทำ แม้แต่การตัดสินใจในการผลิตของมนุษย์ก็ยากที่จะเข้าใจในบางครั้ง

การผลิตหมายถึงการทำให้สิ่งต่าง ๆ มีวิวัฒนาการ โดยรวมแล้ว สิ่งที่เราทำในวันนี้ได้เปลี่ยนไปจากเมื่อสิบปีที่แล้ว เครื่องพิมพ์ 3 มิติได้กระจายการผลิตผลิตภัณฑ์ขั้นสูงมากมาย ทั้งในอุตสาหกรรมและที่บ้าน ผลกระทบที่เปลี่ยนแปลงชีวิตจากการพิมพ์ 3 มิติยังไม่เกิดขึ้น เราไม่รู้ว่าสิ่งนี้จะยั่งยืนหรือไม่ แต่เรารู้ว่า FDA ให้ความสำคัญกับการควบคุมการผลิตผลิตภัณฑ์ (ดู โปรดคลิกที่นี่เพื่ออ่านรายละเอียดเพิ่มเติม) เช่น ยาเม็ดที่พิมพ์ออกมาหรืออุปกรณ์ทางการแพทย์ที่ตามมา ปัญหาทรัพย์สินทางปัญญาและความรับผิดที่ชัดเจน หรือประเด็นเกี่ยวกับความสามารถในการพิมพ์อาวุธปืน ในท้ายที่สุด การอภิปรายเชิงนโยบายเกี่ยวกับผลกระทบด้านลบที่ตามมาของการพิมพ์ 3 มิติที่อาจมีนอกเหนือจากนี้นั้นไม่มีอยู่จริง และพวกเราบางคนก็กังวลที่จะคิดถึงเรื่องนี้

ฉันไม่ได้แนะนำว่าการพิมพ์ 3 มิติเป็นอันตรายในตัวของมันเอง บางทีนี่อาจเป็นตัวอย่างที่ไม่ดี อย่างไรก็ตาม สิ่งต่าง ๆ ที่ดูธรรมดาในตอนแรกสามารถเปลี่ยนแปลงโลกได้ มีตัวอย่างมากมาย: หัวลูกศรของนักล่า/คนรวบรวมซึ่งทำจากโลหะที่เริ่มสงคราม, หน้ากากสำหรับพิธีกรรมที่ปกป้องเราจากโควิด-19, ตะปูที่สร้างตึกระฟ้า, แท่นพิมพ์แบบเคลื่อนย้ายได้ซึ่ง (ยังคง) เติมโรงงานของเราด้วยกระดาษที่พิมพ์แล้วและเพิ่มพลังให้กับโรงงาน ธุรกิจสิ่งพิมพ์ หลอดไฟ ที่ให้คุณมองเห็นและทำงานภายในตอนกลางคืนได้ ไม่มีใครที่ฉันรู้จักเกี่ยวกับการนั่งลงในช่วงปลายปี 1800 และคาดการณ์ว่า Nokia จะย้ายการผลิตจากกระดาษเป็นยางไปยังอุปกรณ์อิเล็กทรอนิกส์ แล้วจึงเลิกใช้โทรศัพท์มือถือ บางทีพวกเขาควรจะมี

มนุษย์เป็นตัวทำนายการเปลี่ยนแปลงขั้นตอนที่ไม่ดี กระบวนการที่การเปลี่ยนแปลงหนึ่งครั้งนำไปสู่การเปลี่ยนแปลงที่มากขึ้น และทันใดนั้น สิ่งต่าง ๆ ก็แตกต่างอย่างสิ้นเชิง เรายังไม่เข้าใจกระบวนการนี้เนื่องจากเรามีความรู้ในทางปฏิบัติเพียงเล็กน้อยเกี่ยวกับการเปลี่ยนแปลงแบบทวีคูณ เราไม่สามารถนึกภาพ คำนวณ หรือหยั่งรู้ได้ อย่างไรก็ตามครั้งแล้วครั้งเล่าที่มันกระทบเรา โรคระบาด การเติบโตของจำนวนประชากร นวัตกรรมทางเทคโนโลยีตั้งแต่การพิมพ์หนังสือไปจนถึงวิทยาการหุ่นยนต์ มักเกิดขึ้นกับเราโดยไม่มีการเตือนล่วงหน้า

เคล็ดลับเกี่ยวกับอนาคตไม่ใช่ถ้า แต่เมื่อใด เราอาจคาดการณ์การเปลี่ยนแปลงได้โดยการเลือกวิธีการผลิตใหม่และระบุว่าจะแพร่หลายมากขึ้นในอนาคต ที่ง่ายพอ ส่วนที่ยากคือต้องคิดให้แน่ชัดว่าเมื่อใดและโดยเฉพาะอย่างยิ่งอย่างไร

คลิปหนีบกระดาษไม่ใช่ปัญหา

พิจารณาตัวอย่างโรงงานของฉันอีกครั้ง แต่คราวนี้ ลองนึกภาพว่าเครื่องจักรมีหน้าที่ในการตัดสินใจหลายอย่าง ไม่ใช่การตัดสินใจทั้งหมด แต่เป็นการตัดสินการผลิตเช่นการเพิ่มประสิทธิภาพ ในหนังสือของเขา ซุปเปอร์อินเทลลิเจนซ์Nick Bostrom นักมนุษยศาสตร์ dystopian แห่งมหาวิทยาลัยอ็อกซ์ฟอร์ด จินตนาการถึงอัลกอริธึมการเพิ่มประสิทธิภาพ AI ที่ทำงานในโรงงานคลิปหนีบกระดาษ เมื่อถึงจุดหนึ่ง เขากล่าว ให้ลองนึกภาพว่ากลไกที่ทำให้การเรียนรู้ที่จะหันเหทรัพยากรที่เพิ่มขึ้นเรื่อยๆ มาที่งานนั้นมีเหตุผล ท้ายที่สุดแล้วค่อยๆ เปลี่ยนโลกของเราให้กลายเป็นคลิปหนีบกระดาษ และต่อต้านความพยายามของเราที่จะปิดมัน

แม้จะเป็นคนฉลาด แต่ตัวอย่างของ Bostrom ก็ค่อนข้างโง่และทำให้เข้าใจผิด (แต่น่าจดจำ) ประการหนึ่ง เขาไม่คำนึงถึงความจริงที่ว่ามนุษย์และหุ่นยนต์ไม่ได้แยกจากกันอีกต่อไป เราโต้ตอบ หุ่นยนต์ที่ฉลาดส่วนใหญ่กำลังพัฒนาเป็นโคบอทหรือหุ่นยนต์ร่วมปฏิบัติงาน มนุษย์จะมีโอกาสมากมายที่จะแก้ไขเครื่อง ถึงกระนั้น ประเด็นพื้นฐานของเขายังคงอยู่ อาจมีการเปลี่ยนแปลงขั้นตอนในบางจุด และหากการเปลี่ยนแปลงนั้นเกิดขึ้นเร็วพอและไม่มีการกำกับดูแลที่เพียงพอ การควบคุมอาจสูญเสียไป แต่ผลลัพธ์สุดขั้วนั้นดูค่อนข้างจะไกลตัว ไม่ว่าจะด้วยวิธีใด ฉันเห็นด้วย เราจำเป็นต้องควบคุมมนุษย์ที่ใช้งานเครื่องจักรเหล่านี้และสั่งให้คนงานอยู่ในวงเสมอโดยการฝึกอบรมอย่างเหมาะสม การฝึกอบรมประเภทนั้นไม่เป็นไปด้วยดี ขณะนี้ใช้เวลานานเกินไปและต้องใช้ทักษะพิเศษทั้งในการฝึกฝนและฝึกฝน ฉันรู้สิ่งหนึ่ง ในอนาคตคนทุกประเภทจะเป็นหุ่นยนต์ ใครไม่ทำจะไร้เรี่ยวแรง

การเพิ่มพูนมนุษย์นั้นดีกว่าระบบอัตโนมัติที่ไม่สนใจ แม้ว่าเราจะไม่เคยรวมเข้ากับเครื่องจักรเลยก็ตาม แนวคิดทั้งสองมีความแตกต่างกันอย่างมีเหตุผล เป็นไปได้ที่ทั้งคนและหุ่นยนต์จะติดอยู่กับการทำงานอัตโนมัติเพื่อประโยชน์ของระบบอัตโนมัติ นั่นจะสร้างความเสียหายอย่างมากต่อการผลิตในอนาคต แม้ว่าจะไม่ได้ผลิตหุ่นยนต์นักฆ่าก็ตาม ฉันเชื่อว่าการควบรวมกิจการอยู่ห่างออกไปหลายร้อยปี แต่นั่นไม่ใช่ประเด็น แม้ว่าจะอยู่ห่างออกไปเพียงสามสิบปี แต่เครื่องจักรที่ขับเคลื่อนด้วยตัวเองซึ่งทำงานบนอัลกอริธึมแบบง่าย ๆ ที่สูญเสียการควบคุม สถานการณ์นั้นก็เกิดขึ้นที่หน้าร้านแล้ว เครื่องบางเครื่องมีอายุสามสิบปีและทำงานบนระบบควบคุมแบบเก่าที่เป็นกรรมสิทธิ์ ความท้าทายหลักของพวกเขาไม่ใช่ว่าพวกเขาก้าวหน้า แต่ตรงกันข้าม ง่ายเกินไปที่จะสื่อสารได้ นี่ไม่ใช่ปัญหาสำหรับวันพรุ่งนี้ เป็นปัญหาที่มีอยู่ก่อนแล้ว เราต้องลืมตาดูมัน ลองนึกถึงสิ่งนี้ในครั้งต่อไปที่คุณสวมรองเท้าบูทยาง

ฉันยังมีรองเท้าบู๊ต Nokia ของฉันตั้งแต่ช่วงปี 1980 พวกมันมีรูในตัว แต่ฉันเก็บไว้เพื่อเตือนตัวเองว่าฉันมาจากไหนและเดินมาไกลแค่ไหนแล้ว ฝนยังคงตกอยู่เรื่อยๆ เช่นกัน และตราบใดที่มันสะอาดเพียงพอ ฉันก็ไม่ต้องการวิธีแก้ไขที่ดีกว่ารองเท้าคู่นั้น อีกอย่าง ฉันเป็นมนุษย์ หุ่นยนต์น่าจะได้ย้ายไปแล้ว ฉันสงสัยว่ารองเท้ากันฝนรุ่น AI คืออะไร มันไม่ใช่โทรศัพท์มือถือ ไม่ใช่เซ็นเซอร์วัดปริมาณน้ำฝน มันกวนประสาท

รองเท้าบูทดิจิทัลในปัจจุบันหมายความว่าคุณสามารถปรับแต่งรองเท้าให้เป็นแบบส่วนตัวได้เนื่องจากมีการออกแบบที่พิมพ์ 3 มิติ มีรองเท้าเสมือนที่มีอยู่เฉพาะใน NFT (โทเค็นที่ไม่สามารถเปลี่ยนได้) ที่สามารถขายและแลกเปลี่ยนได้ รองเท้าผ้าใบเสมือนจริงชั้นนำมีมูลค่า 10,000 ดอลลาร์ในปัจจุบัน (ดู รองเท้าผ้าใบ NFT คืออะไร และเหตุใดจึงมีมูลค่า 10,000 ดอลลาร์). ฉันไม่กลัวสิ่งเหล่านั้น แต่ฉันควรจะเป็น? ถ้าโลกเสมือนจริงมีค่ามากกว่าโลกทางกายภาพ บางทีฉันอาจจะทำได้ หรือฉันควรรอให้เป็นกังวลจนกว่าอวาตาร์ของ AI จะซื้อบูต NFT ของตัวเองเพื่อรับมือกับ "ฝน" หากเราสร้างอัลกอริธึมในภาพของเราเอง มีแนวโน้มว่า AI จะเก่งในสิ่งที่เราหวังว่าเราจะทำได้ดีแต่โดยทั่วไปแล้วจะไม่เป็นเช่นนั้น เช่น การซื้อหุ้น การสร้างมิตรภาพที่ภักดี (อาจด้วยเครื่องจักรและมนุษย์) และการจดจำ สิ่งของ. metaverse ทางอุตสาหกรรมอาจมีความซับซ้อนอย่างน่าประหลาดใจ เต็มไปด้วยฝาแฝดดิจิทัลที่เลียนแบบโลกของเราและก้าวข้ามไปในทางที่เกิดผล หรือมันอาจจะง่ายจนน่าตกใจ อาจจะทั้งสอง เราแค่ยังไม่รู้

เราจำเป็นต้องควบคุมอัลกอริธึม AI เพราะเราไม่รู้ว่ามีอะไรอยู่ใกล้ๆ บ้าง นั่นเป็นเหตุผลเพียงพอ แต่สำหรับวิธีที่เราทำ นั่นเป็นเรื่องที่ยาวกว่า ให้ฉันสังเกตอีกอย่างรวดเร็วบางทีอัลกอริธึมพื้นฐานทั้งหมดควรเปิดเผยต่อสาธารณะ เหตุผลก็คือ หากไม่เป็นเช่นนั้น ก็จะไม่มีทางรู้ว่าอะไรจะเกิดขึ้น ตัวท็อปเป็นที่รู้จักกันดี (ดู อัลกอริธึมการเรียนรู้ของเครื่อง 10 อันดับแรก) แต่ไม่มีภาพรวมทั่วโลกว่าจะใช้ที่ไหนและอย่างไร โดยเฉพาะอย่างยิ่งอัลกอริธึมที่ไม่มีการควบคุมซึ่งควรดูอย่างระมัดระวัง (ดู กรณีการใช้งานอันทรงพลังหกกรณีสำหรับการเรียนรู้ของเครื่องในการผลิต) ไม่ว่าจะใช้เพื่อคาดการณ์การบำรุงรักษาหรือคุณภาพ เพื่อจำลองสภาพแวดล้อมการผลิต (เช่น ฝาแฝดดิจิทัล) หรือเพื่อสร้างการออกแบบใหม่ที่มนุษย์ไม่เคยนึกถึง ในภูมิประเทศปัจจุบัน อัลกอริธึมที่ไม่มีการควบคุมเหล่านี้มักเรียกว่าโครงข่ายประสาทเทียม ซึ่งพยายามเลียนแบบสมองของมนุษย์

ฉันเริ่มกังวลเกี่ยวกับโครงข่ายประสาท เพียงเพราะฉันพบว่าตรรกะของพวกมันเข้าใจยาก ปัญหาคือผู้เชี่ยวชาญส่วนใหญ่ แม้แต่ผู้ที่ปรับใช้พวกเขา ไม่เข้าใจว่าอัลกอริทึมเหล่านี้ย้ายจากขั้นตอนหนึ่งไปอีกขั้นหรือหนึ่งไปยังอีกชั้นหนึ่ง ฉันไม่คิดว่าคำอุปมาของ "ชั้นที่ซ่อนอยู่" ซึ่งมักใช้นั้น เหมาะเจาะหรือตลกมาก ไม่ควรมีเลเยอร์ที่ซ่อนอยู่ในการผลิต ในการจัดเก็บภาษีอัตโนมัติ ในการตัดสินใจจ้างงาน หรือในการรับเข้าเรียนในวิทยาลัย สำหรับผู้เริ่มต้น บางทีคุณควรพิจารณากังวลด้วย? สิ่งหนึ่งที่แน่นอนคือ มนุษย์และเครื่องจักรที่ทำสิ่งต่างๆ ร่วมกันจะเปลี่ยนโลก มันมีอยู่แล้วหลายครั้งมากกว่า ตั้งแต่กระดาษไปจนถึงรองเท้าบูทกันฝน และชั้นของสมองเทียมในปัจจุบัน ไม่ควรทิ้งสิ่งใดไว้โดยไม่ได้สำรวจ เราไม่ควรปิดบังความจริงง่ายๆ ว่าจากการเปลี่ยนแปลงเล็กๆ น้อยๆ มากมาย การเปลี่ยนแปลงที่ใหญ่กว่าอาจเกิดขึ้นได้ในทันที