จรรยาบรรณของ AI ถูกรบกวนโดยจีนล่าสุดที่ประดิษฐ์ AI Party-Loyalty Mind-Reading การจดจำใบหน้าการรับรองการจดจำใบหน้าที่อาจบ่งบอกถึงระบบปกครองตนเองที่กดขี่

คุณภักดีหรือไม่?

ตามทฤษฎีแล้ว อาจเป็นไปได้ที่จะตรวจสอบการกระทำที่เปิดเผยของคุณ และตรวจสอบว่าการกระทำของคุณแสดงความภักดีหรือไม่

สมมุติว่ามีการพยายามอ่านความคิดของคุณ และในขณะเดียวกันก็สแกนใบหน้าของคุณเพื่อกำหนดความฉลาดทางความภักดีของคุณ นี่เป็นการล่วงล้ำอย่างน่าขนลุก คุณอาจประณาม ฟังดูเหมือนหนังไซไฟเรื่องหนึ่งที่จินตนาการถึงสังคมดิสโทเปียในอนาคต

โชคดีที่คุณแอบกระซิบกับตัวเองว่า วันนี้เราไม่มีอะไรแบบนั้น

โอ้ ถือม้าของคุณไว้

เมื่อเร็ว ๆ นี้ พาดหัวข่าวระบุว่ารายงานวิจัยที่โพสต์ทางออนไลน์ในประเทศจีนเมื่อวันที่ 1 กรกฎาคม พ.ศ. 2022 ได้บรรยายถึงการศึกษาที่คาดว่าจะเกี่ยวข้องกับการประเมินคลื่นสมองและการแสดงออกทางสีหน้าของผู้คนเพื่อจุดประสงค์ในการคำนวณว่าพวกเขาภักดีต่อพรรคคอมมิวนิสต์จีน (CCP) หรือไม่ . เอาล่ะ อนาคตกำลังใกล้เข้ามาเรื่อยๆ อย่างน้อยก็ในแง่ของการบรรลุสังคม dystopian ที่เรากลัวว่าสักวันหนึ่งจะเกิดขึ้น

รายงานการวิจัยหายไปอย่างรวดเร็วจากลิงก์ที่โพสต์ออนไลน์

น่าจะเป็นการดูถูกเหยียดหยามอย่างรวดเร็วที่กวาดไปทั่วอินเทอร์เน็ตก็เพียงพอแล้วที่จะดึงกระดาษออก หรือบางทีนักวิจัยอาจแค่ต้องการเปลี่ยนคำสองสามคำและการแก้ไขที่ไม่เป็นอันตรายอื่นๆ โดยตั้งเป้าที่จะทำการโพสต์ใหม่เมื่อพวกเขามีโอกาสที่ละเอียดยิ่งขึ้นเพื่อให้แน่ใจว่า i มีจุดและ t ทั้งหมดถูกข้าม เราจะต้องลืมตาดูว่ากระดาษจะมีชีวิตที่สองหรือไม่

ฉันจะไปข้างหน้าและเจาะลึกสิ่งที่เรารู้เกี่ยวกับการศึกษาวิจัย และพยายามเชื่อมโยงจุดต่างๆ ว่างานที่เกี่ยวข้องกับ AI ประเภทนี้มีความสำคัญต่อพวกเราทุกคนอย่างไร ไปไกลเกินกว่าที่จะมองเห็นสิ่งนี้ ที่ถูกกักขังไว้เฉพาะประเทศใดประเทศหนึ่ง การรายงานข่าวของฉันจะครอบคลุมมากกว่ารายงานอื่นๆ เมื่อเร็วๆ นี้เกี่ยวกับรายการที่น่าแจ้งข่าวนี้ ดังนั้นโปรดอดทนรอ

การเน้นย้ำของฉันก็เช่นกันคือมีบทเรียนเกี่ยวกับจริยธรรม AI ที่สำคัญจำนวนหนึ่งซึ่งเราสามารถรวบรวมได้จากเอกสารที่อ้างสิทธิ์ สำหรับการครอบคลุมอย่างต่อเนื่องและกว้างขวางของฉันเกี่ยวกับจริยธรรม AI และ AI เชิงจริยธรรม โปรดดูที่ ลิงค์ที่นี่ และ ลิงค์ที่นี่เพียงเพื่อชื่อไม่กี่

นี่คือสิ่งที่ได้รับการกล่าวถึงเกี่ยวกับการศึกษาวิจัย

เห็นได้ชัดว่า "อาสาสมัคร" บางคนได้รับคัดเลือกให้เข้าร่วมในการทดลองเกี่ยวกับการรับรู้ของ CCP ไม่ว่าพวกเขาจะเป็นอาสาสมัครที่เต็มใจหรือคล้ายกับอาสาสมัครที่ถูกกระตุ้นหรืออาจเป็นอาสาสมัครหรือไม่ก็ตาม เราจะถือว่าเพื่อการอภิปรายว่าพวกเขาเห็นด้วยที่จะเป็นหัวข้อในการศึกษา

ฉันนำสิ่งนี้มาเพื่อไม่เพียงแค่ฉลาดแกมโกง เมื่อใดก็ตามที่มีการทดลองที่เกี่ยวข้องกับมนุษย์ มีแนวทางปฏิบัติที่เป็นที่ยอมรับโดยทั่วไปมากมายเกี่ยวกับการสรรหาและการจุ่มอาสาสมัครดังกล่าวเข้าไปในความพยายามในการวิจัย บางส่วนนี้สืบย้อนไปถึงการศึกษาก่อนหน้าที่มักจะหลอกหรือบังคับให้ผู้คนทำการทดลอง ซึ่งบางครั้งก็นำไปสู่ผลสะท้อนที่ไม่พึงประสงค์ทางจิตใจ หรือแม้แต่การทำร้ายร่างกายสำหรับผู้เข้าร่วมเหล่านั้น ชุมชนวิทยาศาสตร์ได้พยายามอย่างยิ่งที่จะลดประเภทของการศึกษาที่ร้ายกาจเหล่านั้น และกำหนดให้มีการเปิดเผยข้อมูลและคำเตือนทุกประเภทแก่ผู้ที่ต้องการรวมในการศึกษาที่เกี่ยวข้องกับมนุษย์

เพื่อความกระจ่าง ไม่ใช่ทุกคนที่ปฏิบัติตามแนวทางที่รอบคอบและรอบคอบเช่นนั้น

ต่อไป มีรายงานว่ามีอาสาสมัคร 43 คน และกล่าวกันว่าเป็นสมาชิกของพรรคคอมมิวนิสต์จีน พึงระลึกไว้เสมอว่าการเลือกหัวข้อสำหรับการทดสอบนั้นค่อนข้างสำคัญต่อการทดสอบ และต้องนำมาพิจารณาด้วยเกี่ยวกับข้อสรุปใดๆ ที่คุณอาจพยายามไปถึงภายหลังเกี่ยวกับผลลัพธ์ของการทดสอบ

สมมติว่าฉันต้องการทำการทดลองเกี่ยวกับวิธีที่ผู้คนรับรู้ซีรี่ส์ Star Wars ที่ได้รับการยกย่อง ถ้าฉันเลือกวิชาที่ทุกคนเกลียด Star Wars ไว้ล่วงหน้า (คนพวกนี้จะมีตัวตนอยู่ได้อย่างไร) และฉันแสดงคลิปวิดีโอ Star Wars ให้พวกเขาดู พวกเขาอาจจะบอกว่าพวกเขายังไม่ชอบ Star Wars อยู่ จากการทดลองทางวิทยาศาสตร์หลอกนี้ บางทีฉันแอบอ้างอย่างลับๆ ว่าผู้คนโดยทั่วไปเกลียด Star Wars ซึ่ง "พิสูจน์แล้ว" (ขยิบตา) ในการตั้งค่าการวิจัยที่ฉันเตรียมไว้ "อย่างระมัดระวัง"

คุณอาจไม่ทราบว่าฉันได้สวมบทบาทวงล้อรูเล็ตอย่างที่เคยเป็น โดยการเลือกหัวข้อที่ฉันคาดไว้ล่วงหน้าว่าจะให้ผลลัพธ์ที่ต้องการแอบแฝงของฉัน แน่นอน ถ้าฉันตั้งใจเลือกคนที่ชอบ Star Wars และเป็นแฟนตัวยง โอกาสที่พวกเขาจะรายงานว่ามีความสุขที่ได้ดูคลิป Star Wars เหล่านั้น อีกครั้ง ข้อสรุปใด ๆ ที่มาถึงเกี่ยวกับวิธีการที่ผู้คนโดยทั่วไปมีปฏิกิริยาต่อ Star Wars จะถูกทำให้สงบลงโดยกลุ่มวิชาที่เลือกไว้ล่วงหน้าซึ่งได้รับการคัดเลือกสำหรับความพยายาม

การศึกษาที่เน้น CCP ดูเหมือนจะให้อาสาสมัครนั่งอยู่หน้าจอแสดงผลวิดีโอแบบคีออสก์ และอ่านบทความต่างๆ เกี่ยวกับนโยบายและความสำเร็จของ CCP นี่อาจเป็น “การทดลองบำบัด” ที่ผู้เข้ารับการทดลองกำลังเผชิญอยู่ เมื่อวางแผนการทดสอบ คุณมักจะคิดปัจจัยการทดลองหรือแง่มุมที่คุณต้องการดูว่ามีผลกับผู้เข้าร่วมหรือไม่

เห็นได้ชัดว่าคำถามการวิจัยกำลังถูกสำรวจว่าการทบทวนเนื้อหาเหล่านี้จะมีผลกระทบต่ออาสาสมัครในแง่ของการเพิ่ม การลดลง หรือความเป็นกลางต่อความประทับใจที่ตามมาของ CCP หรือไม่

ในสมมติฐานว่างแบบคลาสสิก คุณอาจจัดให้มีการศึกษาดังกล่าวเพื่อระบุว่าวัสดุที่บริโภคไม่มีผลกระทบต่อการแสดงผลที่ตามมาซึ่งแสดงออกโดยอาสาสมัคร เมื่อคุณได้เปรียบเทียบความคิดเห็นของพวกเขาเกี่ยวกับ CCP ก่อนและหลังแล้ว คุณจะลองดูในเชิงสถิติว่ามีการตรวจจับการเปลี่ยนแปลงในการแสดงผลของพวกเขาอย่างมีนัยสำคัญทางสถิติหรือไม่

อาจเป็นไปได้ว่าก่อนและหลังไม่ได้แตกต่างกันในเชิงสถิติ ดังนั้นคุณอาจสรุปได้อย่างมีเหตุผลว่าสำหรับการศึกษาเฉพาะครั้งนี้ เนื้อหาที่แสดง (การบำบัดด้วยการทดลอง) ดูเหมือนจะไม่ได้สร้างความแตกต่างในความประทับใจ ในทางกลับกัน หากมีความแตกต่างที่ถูกต้องทางสถิติ คุณจะต้องดูว่าช่วงหลังนั้นยิ่งใหญ่กว่าเมื่อก่อนหรือไม่ ช่วยให้คุณแนะนำคร่าวๆ ได้ว่าวัสดุดังกล่าวช่วยเพิ่มความประทับใจ (และในอีกด้านหนึ่งของเหรียญ ถ้า ค่าหลังน้อยกว่าก่อนหน้านี้ อาจหมายความว่าวัสดุลดหรือลดความประทับใจ)

มีปลายหลวมที่จู้จี้จุกจิกมากมายที่จะต้องได้รับการจัดการในการศึกษาดังกล่าว

ตัวอย่างเช่น เรามักจะต้องการมีกลุ่มควบคุมที่เราสามารถเปรียบเทียบกับกลุ่มที่ได้รับการทดลองบำบัดได้ นี่คือเหตุผล สมมติว่าการนั่งอ่านเอกสารหน้าตู้เป็นพื้นฐานที่แท้จริงว่าทำไมความประทับใจจึงเปลี่ยนไป อาจเป็นได้ว่าธรรมชาติของวัสดุที่บริโภคนั้นไม่มีสาระสำคัญโดยคร่าวๆ ต่อผลกระทบจากการพิมพ์ แค่นั่งอ่านอะไรก็ได้ เช่น เรื่องล่าสุดเกี่ยวกับแมวที่ทำเรื่องตลกๆ คนเดียวก็อาจช่วยได้ ดังนั้นเราจึงอาจจัดให้มีบางหัวข้อในกลุ่มควบคุมของเราที่มีเนื้อหาอื่นให้อ่าน นอกเหนือจากนโยบาย CCP และเอกสารความสำเร็จ

เราไม่ทราบว่าทำในกรณีนี้หรือไม่ (ดูเหมือนยังไม่มีใครพูดถึงแง่มุมนี้เลย)

ฉันรู้ว่าตอนนี้คุณเริ่มรู้สึกไม่สบายใจเกี่ยวกับส่วนที่เป็นสื่อระเบิดของการศึกษานี้ เราจะรีบเข้าไปในส่วนนั้นโดยเร็ว

เราจะตรวจพบได้อย่างไรว่าอาสาสมัครในการทดลองนี้ตอบสนองหรือเปลี่ยนแปลงความประทับใจของพวกเขาอันเป็นผลมาจากการอ่านเนื้อหาที่แสดง

วิธีการตามธรรมเนียมคือการถามพวกเขา

คุณอาจจะเคยใช้แบบสอบถามที่ถามพวกเขาถึงความประทับใจที่มีต่อ CCP จากนั้น หลังจากที่ได้สัมผัสกับการทดลองทดลอง เหมือนกับการอ่านเนื้อหาที่แสดง เราสามารถจัดการแบบสอบถามอื่นได้ คำตอบที่ผู้เรียนให้ไว้ทั้งก่อนและหลังอาจนำมาเปรียบเทียบกันได้ หากเราใช้กลุ่มควบคุมด้วย เราจะถือว่าคำตอบของกลุ่มควบคุมจะไม่เปลี่ยนแปลงอย่างมีนัยสำคัญจากก่อนหน้าเป็นหลัง

การขอความประทับใจจากผู้เข้าร่วมการทดลองนี้ไม่จำเป็นต้องตรงไปตรงมาอย่างที่เห็น

สมมติว่าอาสาสมัครในการทดลองมีความรู้สึกหรือความเบี่ยงเบนโดยรวมที่คุณต้องการให้พวกเขาตอบสนองต่อการทดลองในลักษณะเฉพาะ ในกรณีนั้น พวกเขาอาจจงใจพูดเกินจริงปฏิกิริยาในส่วนหลังของการบริหารการทดลอง คุณเคยเห็นสิ่งนี้เกิดขึ้นอย่างแน่นอน ถ้าฉันกำลังทดสอบรสชาติสำหรับโซดาตัวใหม่ที่ออกสู่ตลาด ฉันอาจทำเหมือนว่าฉันกำลังดื่มโซดาอย่างบ้าคลั่ง โดยหวังว่าจะได้โฆษณาโดยผู้ผลิตโซดาและได้รับชื่อเสียงสิบห้านาทีที่สมควรได้รับอย่างมั่งคั่ง .

ประเด็นสำคัญก็คือการถามความคิดเห็นจากผู้คนเท่านั้นไม่ใช่วิธีการวัดการเปลี่ยนแปลงที่แน่นอน เป็นแนวทางหนึ่ง วิธีอื่นสามารถทำได้และมักจะดำเนินการ

การศึกษานี้เลือกวัดปฏิกิริยาของอาสาสมัครอย่างไร?

เห็นได้ชัดว่ามีการใช้อย่างน้อยสองวิธี วิธีหนึ่งประกอบด้วยการสแกนใบหน้าและการใช้ซอฟต์แวร์จดจำใบหน้าแบบ AI เพื่อประเมินปฏิกิริยาของอาสาสมัคร อีกวิธีหนึ่งมีรายงานว่ามีการสแกนคลื่นสมองบางรูปแบบ ยังไม่มีรายงานว่ามีการใช้อุปกรณ์สแกนคลื่นสมองประเภทใด หรือใช้ซอฟต์แวร์วิเคราะห์คลื่นสมองแบบ AI ชนิดใด

รายงานต่าง ๆ ระบุว่าการศึกษาระบุสิ่งนี้เกี่ยวกับธรรมชาติของการทดลอง: “ในด้านหนึ่ง มันสามารถตัดสินว่าสมาชิกพรรคยอมรับความคิดและการศึกษาทางการเมืองอย่างไร” และการศึกษาดังกล่าวยังกล่าวถึงเรื่องนี้อีกด้วย: “ในทางกลับกัน มันจะให้ข้อมูลที่แท้จริงสำหรับการศึกษาความคิดและการเมืองเพื่อให้สามารถปรับปรุงและเติมเต็มได้” การศึกษาวิจัยนี้มีสาเหตุมาจากการดำเนินการภายใต้การอุปถัมภ์ของศูนย์วิทยาศาสตร์แห่งชาติเหอเฟยครบวงจรของจีน

รายงานของสื่อแนะนำว่าการศึกษาดังกล่าวพาดพิงถึงการอ้างว่าการสแกนการจดจำใบหน้าและการสแกนด้วยคลื่นสมองสามารถช่วยในการตรวจจับว่า CCP แสดงผลภายหลังได้เพิ่มขึ้น

ฉันต้องการทราบให้คุณทราบว่าหากเราไม่สามารถตรวจสอบระบบที่ใช้และตรวจสอบเอกสารการวิจัยได้โดยตรง เราไม่ทราบรายละเอียดว่าระบบที่ใช้ AI เหล่านั้นถูกใช้งานอย่างไร

อาจเป็นไปได้ว่าอาสาสมัครมีปฏิกิริยาต่อการตั้งค่าการทดลองมากกว่าการตอบสนองต่อการทดลองบำบัด ทุกคนที่เข้าร่วมในการศึกษาอาจกังวลตั้งแต่แรก สิ่งนี้อาจทำให้ความพยายามในการสแกนด้วยคลื่นสมองหรือการวิเคราะห์รูปแบบใบหน้าสับสน นอกจากนี้ยังมีโอกาสที่พวกเขารู้สึกมีแรงจูงใจที่จะเอาใจนักวิจัย โดยเลือกที่จะคิดบวกหลังจากเห็นเนื้อหา และในทางทฤษฎีแล้วสิ่งนี้สามารถสะท้อนให้เห็นในการสแกนด้วยคลื่นสมองและการสแกนใบหน้า (แต่โปรดทราบว่า จัดการกับการโต้เถียงกันอย่างเร่าร้อนเกี่ยวกับความถูกต้องของข้อโต้แย้งดังกล่าว ดังที่ฉันจะอธิบายในชั่วขณะหนึ่ง) หวังว่าจะบิดเบือนผลลัพธ์และแสดงให้เห็นว่าพวกเขาได้รับผลกระทบในทางบวก

ปฏิกิริยาของ Twitter ประณามอย่างมากว่าแนวคิดของการใช้การสแกนด้วยคลื่นสมองที่ใช้เทคโนโลยี AI และการจดจำใบหน้านั้นเป็นการกระทำที่น่าตกใจและอุกอาจ มีเพียงสัตว์ประหลาดของมนุษย์เท่านั้นที่จะใช้อุปกรณ์ประเภทนี้ ทวีตเหล่านั้นบอกเล่าให้เราฟัง

ฉันต้องขอให้คุณนั่งลงและเตรียมตัวสำหรับบางสิ่งที่อาจเป็นเรื่องน่าประหลาดใจที่หยาบคายและน่าตกใจ

มีนักวิจัยจำนวนมากทั่วโลกที่ใช้เทคโนโลยีประเภทเดียวกันนี้ในการศึกษาวิจัยของพวกเขา นี่ไม่ใช่ครั้งแรกอย่างแน่นอนที่มีการใช้ความสามารถในการสแกนคลื่นสมองกับอาสาสมัครในการวิจัย นี่ไม่ใช่ครั้งแรกที่มนุษย์ใช้การจดจำใบหน้าเพื่อวัตถุประสงค์ในการทดลองอย่างแน่นอน แม้แต่การค้นหาออนไลน์แบบคร่าว ๆ ก็จะแสดงการศึกษาทดลองมากมายในหลายประเทศและห้องปฏิบัติการที่ใช้อุปกรณ์ประเภทดังกล่าว

อย่างที่กล่าวไปแล้ว การใช้สิ่งเหล่านี้เพื่อวัดความภักดีต่อ CCP ไม่ใช่สิ่งที่คุณจะให้ความสำคัญมาก เมื่อใช้ AI ดังกล่าวในการควบคุมของรัฐบาลจะมีการข้ามเส้นสีแดงอย่างที่พวกเขาพูด

นั่นเป็นส่วนที่หนาวเหน็บอย่างเห็นได้ชัดของทั้งชุดและ caboodle

หลายคนแสดงความกังวลว่าหากรัฐบาลเลือกที่จะใช้เทคโนโลยีการสแกนด้วยคลื่นสมองและการจดจำใบหน้าเพื่อยืนยันความจงรักภักดีต่อระบอบการปกครองที่มีอยู่ เราจะพบว่าตัวเองอยู่ในโลกแห่งความเจ็บปวด เมื่อคุณเดินไปตามถนนสาธารณะ อาจเป็นไปได้ว่าอุปกรณ์ที่ติดตั้งบนเสาไฟจะกำหนดความฉลาดทางความภักดีของคุณอย่างลับๆ

มีคนสันนิษฐานว่าหากใบหน้าของคุณไม่ได้บ่งบอกว่าคุณภักดีเพียงพอ หรือหากการสแกนด้วยคลื่นสมองแสดงให้เห็นแบบเดียวกัน อันธพาลของรัฐบาลอาจรีบวิ่งเข้ามาจับตัวคุณ ทำให้ตกใจ สุดซึ้ง จะต้องไม่ได้รับอนุญาต

นั่นคือสาเหตุว่าทำไมพาดหัวข่าวจึงพาดพิงถึงข่าวนี้

ลองนึกภาพสิ่งนี้ เราอาจจะสร้างและใช้ระบบคอมพิวเตอร์ที่ใช้ AI ล่าสุดในการตัดสินใจว่าเราภักดีหรือไม่ หากคุณพยายามจ้างคนให้นั่งเฉยๆ และทำแบบเดียวกัน คุณจะต้องใช้คนจำนวนมากและมีปัญหาด้านลอจิสติกส์ในการพยายามจัดตำแหน่งให้ทุกคนเห็น ในกรณีของระบบที่ใช้ AI สิ่งที่คุณต้องทำคือตั้งค่าอุปกรณ์อิเล็กทรอนิกส์บนเสาไฟ ด้านข้างของอาคาร และอื่นๆ การสแกนหาความภักดีสามารถเกิดขึ้นได้ตลอด 24×7 ตลอดเวลา ในทุกสถานที่ที่มีอุปกรณ์ครบครัน จากนั้นสามารถป้อนลงในฐานข้อมูลขนาดใหญ่ได้

เรากลายเป็นมนุษย์ที่เป็นเพียงฟันเฟืองในระบบนิเวศการกดขี่ทางสังคมที่น่าจับตามองขนาดมหึมา ตาที่มองเห็นไม่ใช่แค่การดูสิ่งที่เราทำ นอกจากนี้ยังตีความสิ่งที่ใบหน้าของเราอ้างว่าพูดเกี่ยวกับความภักดีของเราต่อรัฐบาล จิตใจของเราก็จะต้องถูกตรวจสอบหาสาเหตุที่น่าสยดสยองเช่นเดียวกัน

อ๊ะ!

มีข้อกังวลรองที่มาจากสิ่งนี้เช่นกัน แม้ว่าอาจจะไม่ค่อนข้างมีหนามเมื่อเปรียบเทียบกับความหมายของพี่ใหญ่ที่ร่างไว้แล้ว

ไตร่ตรองคำถามเร่งด่วนสองข้อนี้:

• เราสามารถยืนยันได้อย่างน่าเชื่อถือว่าการสแกนด้วยคลื่นสมองสามารถยืนยันถึงความภักดีของคุณได้หรือไม่?
• เราสามารถยืนยันได้อย่างน่าเชื่อถือว่าการสแกนการจดจำใบหน้าสามารถยืนยันถึงความภักดีของคุณได้หรือไม่?

เดี๋ยวก่อน คุณอาจจะตะโกนสุดปอด

ฉันตระหนักและรับทราบว่าคุณอาจไม่สนใจค่อนข้างมากเกี่ยวกับความน่าเชื่อถือของตัวเอง การที่สิ่งนี้สามารถทำได้อย่างน่าเชื่อถือหรือไม่นั้นมีความสำคัญน้อยกว่าข้อเท็จจริงที่กำลังทำอยู่เลย ไม่มีใครควรอยู่ภายใต้การตรวจสอบข้อเท็จจริงดังกล่าว ลืมไปได้เลยว่าเทคโนโลยีนี้เหมาะกับงานนี้หรือไม่ เราไม่ควรรับภาระหน้าที่

ไม่ว่าในกรณีใด คำตอบในตอนนี้คือไม่ดังก้อง กล่าวคือระบบ AI ที่มีอยู่ซึ่งมีลักษณะเหมือน "การสแกนด้วยคลื่นสมอง" และการจดจำใบหน้านั้นไม่เพียงพอต่อการก้าวกระโดด

คุณอาจเห็นเมื่อเร็วๆ นี้ว่าผู้ผลิตการจดจำใบหน้าบางรายได้ทำการย้อนรอยในแง่ของการนำระบบจดจำใบหน้าไปใช้ ในการโพสต์คอลัมน์ที่กำลังจะจัดขึ้น ฉันจะพูดถึงความพยายามล่าสุดเช่นโดย Microsoft เพื่อพยายามยับยั้งกระแสของผู้ที่ใช้เครื่องมือจดจำใบหน้าที่ Microsoft จัดหาให้เพื่อวัตถุประสงค์ที่มากกว่าสิ่งที่เทคโนโลยีสามารถทำได้หรือควรใช้ . คุณอาจสนใจเมื่อดูก่อนหน้านี้เกี่ยวกับคุณสมบัติ AI Ethics ที่ได้รับการเผยแพร่อย่างดีเกี่ยวกับการจดจำใบหน้าแล้ว ดู ลิงค์ที่นี่. ฉันยังพูดถึงขอบเขตของการสแกนคลื่นสมอง ดูการสนทนาของฉันที่ ลิงค์ที่นี่.

โดยสังเขป ไม่มีวิธีการที่เชื่อถือได้หรือสมเหตุสมผลที่จะแนะนำว่าการสแกนด้วยคลื่นสมองหรือการจดจำใบหน้าสามารถอ้างว่าแสดงถึงความภักดีของใครบางคนได้ แม้แต่แง่มุมพื้นฐานที่สันนิษฐานได้เช่นว่าคุณสามารถเชื่อมโยงการสแกนเหล่านั้นได้อย่างน่าเชื่อถือหรือไม่ว่ามีคนมีความสุขและเศร้าหรือไม่ยังคงมีการถกเถียงกันอย่างถึงพริกถึงขิง การพยายามเพิ่มสิ่งที่ตรงกันข้ามกับสิ่งที่ไม่เป็นรูปเป็นร่างและแปรผันเนื่องจากความภักดีนั้นเป็นสะพานที่ไกลเกินไป

ฉันอาจเสริมว่าบางคนเชื่ออย่างแรงกล้าว่าในที่สุดเราจะไปถึงที่นั่น นั่นเป็นเหตุผลที่ฉันพยายามสังเกตว่าเรายังไปไม่ถึง แทนที่จะบอกว่าเราจะไม่มีวันไปถึงที่นั่น ไม่เคยเป็นคำใหญ่ คุณต้องแน่ใจอย่างแน่นอนว่าคุณจะโยนสิ่งนี้ทิ้งหรือไม่ ไม่เคย เป็นไปได้ (จำไว้ว่า “ไม่” หมายความรวมถึงทศวรรษต่อจากนี้ ศตวรรษจากนี้ และอีกหลายพันหรือล้านปีต่อจากนี้

บางคนได้ตอบสนองต่อข่าวเกี่ยวกับการศึกษาวิจัยในห้องปฏิบัติการของจีนนี้เป็นเครื่องบ่งชี้ว่าโลกกำลังเปลี่ยนทิศทางไปสู่การใช้ AI อย่างไม่เหมาะสมและเป็นอันตรายอย่างไร ฉันจะแบ่งปันกับคุณชั่วขณะหนึ่งว่าจริยธรรม AI คืออะไร สิ่งนี้จะช่วยให้คุณเข้าใจได้ชัดเจนยิ่งขึ้นว่าเหตุใดการศึกษานี้จึงดูละเมิดกฎเกณฑ์ที่ยอมรับกันโดยทั่วไปของ AI ด้านจริยธรรมจำนวนมาก หากไม่เกือบทั้งหมด

เชื่อหรือไม่ บางคนแนะนำว่าบางทีเรากำลังสร้างภูเขาจากจอมปลวกเกี่ยวกับการศึกษานี้โดยเฉพาะ

พวกเราเป็น

ข้อโต้แย้งคือในไม่ช้าจอมปลวกก็สามารถกลายเป็นภูเขาได้ ในความคิดที่เป็นที่เลื่องลือเรื่องก้อนหิมะที่ใหญ่ขึ้นเรื่อยๆ เมื่อมันกลิ้งลงมาจากเนินหิมะ เราต้องหยุดไม่ให้ก้อนหิมะเริ่มเคลื่อนที่ หากเราอดทนต่อการศึกษาประเภทนี้ เราจะปล่อยให้ก้อนหิมะนั้นเริ่มต้นการเดินทาง โดย​การ​พูด​ออก​และ​เรียก​การ​ศึกษา​เช่น​นั้น เรา​อาจ​ยับยั้ง​ก้อน​หิมะ​ได้.

สิ่งหนึ่งที่แน่นอนคือ เรากำลังจะเปิดกล่องแพนโดร่าเมื่อพูดถึงแง่มุม AI และคำถามยังคงอยู่ว่าเราจะป้องกันไม่ให้เปิดกล่องหรืออย่างน้อยก็หาวิธีจัดการกับสิ่งที่ออกมาอย่างระมัดระวัง เมื่อกล่องได้ปลดปล่อยเนื้อหาที่ชั่วร้ายออกมา

หากไม่มีความหวัง พายุสื่อประเภทนี้จะกระตุ้นให้เกิดการอภิปรายอย่างกว้างขวางเกี่ยวกับวิธีที่เราจะป้องกันการกระทำที่ชั่วร้ายที่เกี่ยวข้องกับ AI และหลีกเลี่ยงความเสี่ยงจากอัตถิภาวนิยมที่เกิดจาก AI จำนวนมาก เราจำเป็นต้องยกระดับการรับรู้ทางสังคมของเราเกี่ยวกับจริยธรรม AI และการพิจารณา AI อย่างมีจริยธรรม

ก่อนที่จะพูดถึงเนื้อสัตว์และมันฝรั่งเพิ่มเติมเกี่ยวกับการพิจารณาเรื่องป่าและขนสัตว์ซึ่งเป็นพื้นฐานของระบบ AI ประเภทนี้ เรามาสร้างพื้นฐานเพิ่มเติมในหัวข้อที่จำเป็นอย่างยิ่งก่อน เราจำเป็นต้องเจาะลึกสั้นๆ เกี่ยวกับจริยธรรมของ AI โดยเฉพาะอย่างยิ่งการถือกำเนิดของ Machine Learning (ML) และ Deep Learning (DL)

คุณอาจทราบอย่างคลุมเครือว่าเสียงที่ดังที่สุดในยุคนี้ในด้าน AI และแม้แต่นอกสาขา AI นั้นประกอบด้วยการโห่ร้องเพื่อให้ดูเหมือน AI ที่มีจริยธรรมมากขึ้น เรามาดูกันว่าการอ้างถึง AI Ethics และ Ethical AI หมายความว่าอย่างไร ยิ่งไปกว่านั้น เราจะสำรวจสิ่งที่ฉันหมายถึงเมื่อฉันพูดถึงแมชชีนเลิร์นนิงและการเรียนรู้เชิงลึก

ส่วนใดส่วนหนึ่งหรือส่วนหนึ่งของจริยธรรม AI ที่ได้รับความสนใจจากสื่อเป็นจำนวนมากประกอบด้วย AI ที่แสดงอคติและความไม่เท่าเทียมกัน คุณอาจทราบดีว่าเมื่อยุคล่าสุดของ AI เริ่มต้นขึ้น มีความกระตือรือร้นอย่างมากในสิ่งที่บางคนเรียกว่าตอนนี้ AI เพื่อความดี. น่าเสียดายที่ความตื่นเต้นที่พุ่งพล่านนั้น เราเริ่มเห็น AI สำหรับไม่ดี. ตัวอย่างเช่น ระบบจดจำใบหน้าที่ใช้ AI หลายระบบได้รับการเปิดเผยว่ามีอคติทางเชื้อชาติและอคติทางเพศ ซึ่งฉันได้กล่าวถึง ลิงค์ที่นี่.

ความพยายามที่จะต่อต้าน AI สำหรับไม่ดี กำลังดำเนินการอย่างแข็งขัน แถมยังโวยวาย ถูกกฎหมาย การแสวงหาการควบคุมในการกระทำผิด ยังมีแรงผลักดันที่สำคัญต่อการน้อมรับจริยธรรม AI เพื่อปรับความชั่วช้าของ AI แนวความคิดคือเราควรนำมาใช้และรับรองหลักการ AI เชิงจริยธรรมที่สำคัญสำหรับการพัฒนาและการลงพื้นที่ของ AI เพื่อตัดราคา AI สำหรับไม่ดี และประกาศและส่งเสริมผู้ทรงชอบไปพร้อม ๆ กัน AI เพื่อความดี.

ตามแนวคิดที่เกี่ยวข้อง ฉันเป็นผู้สนับสนุนที่พยายามใช้ AI เป็นส่วนหนึ่งของการแก้ปัญหา AI ที่ต่อสู้กับไฟด้วยไฟในลักษณะที่คิดแบบนั้น เราอาจยกตัวอย่างการฝังองค์ประกอบ AI ที่มีจริยธรรมลงในระบบ AI ที่จะตรวจสอบว่า AI ที่เหลือทำสิ่งต่าง ๆ อย่างไรและอาจตรวจจับความพยายามในการเลือกปฏิบัติในแบบเรียลไทม์ ดูการสนทนาของฉันที่ ลิงค์ที่นี่. นอกจากนี้เรายังสามารถมีระบบ AI แยกต่างหากที่ทำหน้าที่เป็นตัวตรวจสอบจริยธรรม AI ระบบ AI ทำหน้าที่เป็นผู้ดูแลในการติดตามและตรวจจับเมื่อ AI อื่นกำลังเข้าสู่ขุมนรกที่ผิดจรรยาบรรณ (ดูการวิเคราะห์ความสามารถดังกล่าวของฉันได้ที่ ลิงค์ที่นี่).

ในอีกสักครู่ ฉันจะแบ่งปันหลักการที่ครอบคลุมเกี่ยวกับจริยธรรม AI กับคุณ มีรายการประเภทนี้มากมายที่ลอยอยู่ที่นี่และที่นั่น คุณสามารถพูดได้ว่ายังไม่มีรายการเดียวของการอุทธรณ์และการเห็นพ้องต้องกันที่เป็นสากล นั่นเป็นข่าวที่โชคร้าย ข่าวดีก็คืออย่างน้อยก็มีรายการจริยธรรม AI ที่พร้อมใช้งานและมีแนวโน้มว่าจะค่อนข้างคล้ายกัน ทั้งหมดนี้แสดงให้เห็นว่าด้วยรูปแบบของการบรรจบกันของเหตุผลต่างๆ ที่เรากำลังหาทางไปสู่ความธรรมดาทั่วไปของสิ่งที่ AI Ethics ประกอบด้วย

อันดับแรก เรามาพูดถึงหลักจริยธรรมของ AI โดยรวมโดยสังเขปเพื่อแสดงให้เห็นข้อควรพิจารณาที่สำคัญสำหรับผู้ที่ประดิษฐ์ งานภาคสนาม หรือใช้ AI

ตัวอย่างเช่น ตามที่วาติกันระบุไว้ใน กรุงโรมเรียกร้องจรรยาบรรณ AI และอย่างที่ฉันได้กล่าวถึงในเชิงลึกที่ ลิงค์ที่นี่นี่คือหลักจริยธรรม AI หลัก XNUMX ประการที่ระบุไว้:

• โปร่งใส: โดยหลักการแล้วระบบ AI จะต้องอธิบายได้
• รวม: ต้องคำนึงถึงความต้องการของมนุษย์ทุกคนเพื่อให้ทุกคนได้รับประโยชน์และทุกคนสามารถเสนอเงื่อนไขที่ดีที่สุดในการแสดงออกและพัฒนา
• ความรับผิดชอบ: ผู้ที่ออกแบบและปรับใช้การใช้ AI จะต้องดำเนินการด้วยความรับผิดชอบและความโปร่งใส
• ความเป็นกลาง: ไม่สร้างหรือกระทำการตามอคติ อันเป็นการรักษาความเป็นธรรมและศักดิ์ศรีความเป็นมนุษย์
• ความน่าเชื่อถือ: ระบบ AI ต้องสามารถทำงานได้อย่างน่าเชื่อถือ
• ความปลอดภัยและความเป็นส่วนตัว: ระบบ AI ต้องทำงานอย่างปลอดภัยและเคารพความเป็นส่วนตัวของผู้ใช้

ตามที่ระบุไว้โดยกระทรวงกลาโหมสหรัฐ (DoD) ในของพวกเขา หลักจริยธรรมสำหรับการใช้ปัญญาประดิษฐ์ และอย่างที่ฉันได้กล่าวถึงในเชิงลึกที่ ลิงค์ที่นี่นี่คือหลักจริยธรรม AI หลักหกประการ:

• รับผิดชอบ: บุคลากรของ DoD จะใช้ดุลยพินิจและการดูแลที่เหมาะสมในขณะที่ยังคงรับผิดชอบในการพัฒนา การปรับใช้ และการใช้ความสามารถของ AI
• เท่าเทียมกัน: แผนกจะดำเนินการอย่างรอบคอบเพื่อลดอคติที่ไม่ได้ตั้งใจในความสามารถของ AI
• ติดตามได้: ความสามารถของ AI ของแผนกจะได้รับการพัฒนาและปรับใช้เพื่อให้บุคลากรที่เกี่ยวข้องมีความเข้าใจที่เหมาะสมเกี่ยวกับเทคโนโลยี กระบวนการพัฒนา และวิธีการปฏิบัติงานที่ใช้กับความสามารถของ AI รวมถึงวิธีการที่โปร่งใสและตรวจสอบได้ แหล่งข้อมูล ขั้นตอนการออกแบบและเอกสารประกอบ
• ความน่าเชื่อถือ: ความสามารถด้าน AI ของแผนกจะมีการใช้งานที่ชัดเจนและชัดเจน และความปลอดภัย การรักษาความปลอดภัย และประสิทธิภาพของความสามารถดังกล่าวจะต้องได้รับการทดสอบและรับรองภายในการใช้งานที่กำหนดไว้ตลอดวงจรชีวิตทั้งหมด
• ควบคุมได้: แผนกจะออกแบบและออกแบบความสามารถของ AI เพื่อให้เป็นไปตามหน้าที่ที่ตั้งใจไว้ ในขณะที่มีความสามารถในการตรวจจับและหลีกเลี่ยงผลที่ไม่ได้ตั้งใจ และความสามารถในการปลดหรือปิดใช้งานระบบที่ปรับใช้ซึ่งแสดงพฤติกรรมที่ไม่ได้ตั้งใจ

ฉันยังได้พูดคุยถึงการวิเคราะห์กลุ่มต่างๆ เกี่ยวกับหลักจริยธรรมของ AI รวมถึงการกล่าวถึงชุดที่คิดค้นโดยนักวิจัยที่ตรวจสอบและสรุปสาระสำคัญของหลักจริยธรรม AI ระดับชาติและระดับนานาชาติในบทความเรื่อง “แนวปฏิบัติด้านจริยธรรม AI ทั่วโลก” (เผยแพร่ ใน ธรรมชาติ) และความครอบคลุมของฉันสำรวจที่ ลิงค์ที่นี่ซึ่งนำไปสู่รายการคีย์สโตนนี้:

• ความโปร่งใส
• ความยุติธรรมและความเป็นธรรม
• การไม่อาฆาตพยาบาท
• ความรับผิดชอบ
• ความเป็นส่วนตัว
• ประโยชน์
• เสรีภาพและเอกราช
• วางใจ
• การพัฒนาอย่างยั่งยืน
• เกียรติ
• ความเป็นน้ำหนึ่งใจเดียวกัน

อย่างที่คุณอาจเดาได้โดยตรง การพยายามระบุรายละเอียดเฉพาะที่เป็นพื้นฐานของหลักการเหล่านี้อาจทำได้ยากมาก ยิ่งไปกว่านั้น ความพยายามที่จะเปลี่ยนหลักการกว้างๆ เหล่านั้นให้เป็นสิ่งที่จับต้องได้ทั้งหมดและมีรายละเอียดมากพอที่จะนำไปใช้ในการสร้างระบบ AI ก็ยังเป็นสิ่งที่ยากต่อการถอดรหัส โดยรวมแล้วเป็นการง่ายที่จะโบกมือว่าหลักจรรยาบรรณของ AI คืออะไรและควรปฏิบัติตามอย่างไร ในขณะที่มันเป็นสถานการณ์ที่ซับซ้อนกว่ามากในการเข้ารหัส AI ที่จะต้องเป็นยางจริงที่ตรงตามท้องถนน

นักพัฒนา AI จะใช้หลักจริยธรรม AI ร่วมกับผู้ที่จัดการความพยายามในการพัฒนา AI และแม้แต่ผู้ที่ลงมือปฏิบัติงานและบำรุงรักษาระบบ AI ในท้ายที่สุด ผู้มีส่วนได้ส่วนเสียทั้งหมดตลอดวงจรชีวิตของการพัฒนาและการใช้งาน AI ทั้งหมดจะได้รับการพิจารณาให้อยู่ในขอบเขตของการปฏิบัติตามบรรทัดฐานที่กำหนดไว้ของ AI เชิงจริยธรรม นี่เป็นจุดเด่นที่สำคัญเนื่องจากข้อสันนิษฐานตามปกติคือ "เฉพาะผู้เขียนโค้ด" หรือผู้ที่ตั้งโปรแกรม AI จะต้องปฏิบัติตามแนวคิด AI Ethics ตามที่ระบุไว้ก่อนหน้านี้ ต้องใช้หมู่บ้านในการประดิษฐ์และใส่ AI และทั้งหมู่บ้านจะต้องมีความรอบรู้และปฏิบัติตามหลักจริยธรรม AI

ตรวจสอบให้แน่ใจว่าเราอยู่ในหน้าเดียวกันเกี่ยวกับธรรมชาติของ AI ในปัจจุบัน

วันนี้ไม่มี AI ใดที่มีความรู้สึก เราไม่มีสิ่งนี้ เราไม่ทราบว่า AI ที่มีความรู้สึกจะเป็นไปได้หรือไม่ ไม่มีใครสามารถคาดเดาได้อย่างเหมาะเจาะว่าเราจะได้รับ AI ที่มีความรู้สึกหรือไม่ และ AI ที่มีความรู้สึกจะเกิดขึ้นอย่างอัศจรรย์อย่างปาฏิหาริย์ในรูปแบบของซุปเปอร์โนวาทางปัญญาเชิงคำนวณหรือไม่ ลิงค์ที่นี่).

ประเภทของ AI ที่ฉันมุ่งเน้นประกอบด้วย AI ที่ไม่มีความรู้สึกที่เรามีในปัจจุบัน หากเราต้องการคาดเดาอย่างดุเดือดเกี่ยวกับ ความรู้สึก AI การอภิปรายนี้อาจไปในทิศทางที่ต่างไปจากเดิมอย่างสิ้นเชิง AI ที่มีความรู้สึกควรจะมีคุณภาพของมนุษย์ คุณจะต้องพิจารณาว่า AI ที่มีความรู้สึกนั้นเทียบเท่ากับความรู้ความเข้าใจของมนุษย์ ยิ่งไปกว่านั้น เนื่องจากบางคนคาดเดาว่าเราอาจมี AI ที่ฉลาดล้ำ จึงเป็นไปได้ว่า AI ดังกล่าวจะฉลาดกว่ามนุษย์ (สำหรับการสำรวจของฉันเกี่ยวกับ AI ที่ฉลาดสุดๆ เป็นไปได้ ดู ความคุ้มครองที่นี่).

เรามาพูดถึงเรื่องต่างๆ กันมากขึ้น และพิจารณา AI ที่ไม่มีความรู้สึกเชิงคำนวณในปัจจุบัน

ตระหนักว่า AI ในปัจจุบันไม่สามารถ "คิด" ในรูปแบบใดๆ ที่เท่าเทียมกับความคิดของมนุษย์ได้ เมื่อคุณโต้ตอบกับ Alexa หรือ Siri ความสามารถในการสนทนาอาจดูคล้ายกับความสามารถของมนุษย์ แต่ความจริงก็คือมันเป็นการคำนวณและขาดความรู้ความเข้าใจของมนุษย์ ยุคใหม่ของ AI ได้ใช้ประโยชน์จาก Machine Learning (ML) และ Deep Learning (DL) อย่างกว้างขวาง ซึ่งใช้ประโยชน์จากการจับคู่รูปแบบการคำนวณ สิ่งนี้นำไปสู่ระบบ AI ที่มีลักษณะเหมือนมนุษย์ ในขณะเดียวกัน ทุกวันนี้ไม่มี AI ใดที่มีลักษณะคล้ายสามัญสำนึก และไม่มีความมหัศจรรย์ทางปัญญาใดๆ เกี่ยวกับการคิดที่แข็งแกร่งของมนุษย์

ML/DL คือรูปแบบหนึ่งของการจับคู่รูปแบบการคำนวณ วิธีปกติคือคุณรวบรวมข้อมูลเกี่ยวกับงานการตัดสินใจ คุณป้อนข้อมูลลงในคอมพิวเตอร์รุ่น ML/DL โมเดลเหล่านั้นพยายามค้นหารูปแบบทางคณิตศาสตร์ หลังจากพบรูปแบบดังกล่าวแล้ว หากพบ ระบบ AI จะใช้รูปแบบดังกล่าวเมื่อพบข้อมูลใหม่ เมื่อนำเสนอข้อมูลใหม่ รูปแบบที่อิงตาม "ข้อมูลเก่า" หรือข้อมูลในอดีตจะถูกนำไปใช้เพื่อแสดงการตัดสินใจในปัจจุบัน

ฉันคิดว่าคุณสามารถเดาได้ว่าสิ่งนี้กำลังมุ่งหน้าไปที่ใด หากมนุษย์ที่ทำตามแบบแผนในการตัดสินใจได้รวมเอาอคติที่ไม่ดีเข้าไว้ โอกาสที่ข้อมูลจะสะท้อนสิ่งนี้ในรูปแบบที่ละเอียดอ่อนแต่มีความสำคัญ การจับคู่รูปแบบการคำนวณของ Machine Learning หรือ Deep Learning จะพยายามเลียนแบบข้อมูลตามหลักคณิตศาสตร์ ไม่มีความคล้ายคลึงของสามัญสำนึกหรือแง่มุมอื่น ๆ ของการสร้างแบบจำลองที่ประดิษฐ์โดย AI ต่อตัว

นอกจากนี้ นักพัฒนา AI อาจไม่ทราบว่าเกิดอะไรขึ้นเช่นกัน คณิตศาสตร์ลี้ลับใน ML/DL อาจทำให้ยากต่อการค้นหาอคติที่ซ่อนอยู่ในขณะนี้ คุณจะหวังและคาดหวังอย่างถูกต้องว่านักพัฒนา AI จะทดสอบอคติที่ซ่อนอยู่ แม้ว่าจะยากกว่าที่คิดก็ตาม มีโอกาสสูงที่แม้จะมีการทดสอบที่ค่อนข้างกว้างขวางว่าจะมีความลำเอียงที่ยังคงฝังอยู่ในโมเดลการจับคู่รูปแบบของ ML/DL

คุณสามารถใช้สุภาษิตที่มีชื่อเสียงหรือน่าอับอายของขยะในถังขยะออก เรื่องนี้คล้ายกับอคติมากกว่าที่จะแทรกซึมอย่างร้ายกาจเมื่ออคติที่จมอยู่ใน AI การตัดสินใจของอัลกอริทึม (ADM) ของ AI จะเต็มไปด้วยความไม่เท่าเทียมกันตามความเป็นจริง

ไม่ดี.

กลับมาที่จุดโฟกัสของเราที่ระบบ AI ที่ใช้เพื่อจุดประสงค์ที่ไม่เหมาะสมหรืออาจเป็นการกระทำที่ผิดกฎหมาย และเกี่ยวข้องกับการศึกษาล่าสุดเกี่ยวกับความภักดีของ CCP ที่โพสต์เมื่อเร็วๆ นี้

ข้อควรพิจารณาหลักสองประการอยู่ในใจ:

1) อินสแตนซ์ AI นี้เป็นส่วนหนึ่งของรูปแบบต่อเนื่องที่ใหญ่กว่าของการใช้ AI ที่น่าสับสน ดังนั้นจึงเป็นลางไม่ดีและเปิดหูเปิดตาเกี่ยวกับสิ่งที่เกิดขึ้น

2) ปล่อยแมวออกจากถุงได้ โดยถ้า AI แบบนี้ถูกเลี้ยงในประเทศหนึ่งก็สามารถแพร่กระจายไปยังประเทศอื่นได้เช่นกัน

เริ่มต้นด้วยประเด็นแรกเกี่ยวกับอินสแตนซ์ของ AI ซึ่งเป็นส่วนหนึ่งของรูปแบบต่อเนื่อง

พื้นฐานสำคัญประการหนึ่งที่โดดเด่นสำหรับการถูกรบกวนโดยเฉพาะอย่างยิ่งจากการศึกษาครั้งนี้คือมันเป็นส่วนหนึ่งของรูปแบบที่ใหญ่ขึ้นว่า AI มีเป้าหมายที่จะใช้งานโดยบางคนอย่างไร หากการศึกษานี้เป็นเพียงการศึกษาเดียวที่เคยดำเนินการ เราอาจจะรู้สึกกังวลเล็กน้อยจากการศึกษาดังกล่าว อย่างไรก็ตาม มันอาจจะไม่สอดคล้องกับความร้อนแรงอย่างที่เราเห็นอยู่ตอนนี้

นี่อาจเป็นเพียงหยดหยดของการก้าวไปสู่บางสิ่งที่จะหลุดมือไป

ตามที่รายงานในข่าว จีนเป็นที่รู้จักกันดีในเรื่องการยืนกรานที่จะจงรักภักดีต่อ CCP ที่พรั่งพรูออกมา นอกจากนี้ยังมีการจัดตั้งหรือกำหนดวิธีการต่าง ๆ เพื่อให้มั่นใจว่าประชาชนได้รับการปลูกฝังให้อยู่ในหลักคำสอนของรัฐบาล มีการอ้างถึงกรณีศึกษาก่อนหน้านี้ที่พยายามคิดค้นอัลกอริธึม AI ที่สามารถวัดสภาพความคิดของสมาชิกพรรคได้ (ดูจีนสนับสนุน เวลาเรียน ในปี 2019 ที่กล่าวถึงความพยายามเหล่านี้)

คุณอาจจำได้ว่าในปี 2018 รองประธานาธิบดี Mike Pence ได้กล่าวสุนทรพจน์ที่ Hudson Institute และเน้นว่า “ผู้ปกครองของจีนตั้งเป้าที่จะนำระบบ Orwellian มาใช้ในการควบคุมแทบทุกด้านของชีวิตมนุษย์” (นี่เป็นการอ้างอิงถึงการนำ CCP ไปใช้ ระบบการให้คะแนนเครดิตทางสังคม หัวข้อการโต้เถียงที่โดดเด่น) คุณสามารถยืนยันได้อย่างง่ายดายว่าการศึกษา CCP ล่าสุดนี้เป็นอีกก้าวหนึ่งในทิศทางนั้น

เราไม่รู้ว่าฟางเส้นสุดท้ายจะหักหลังอูฐเมื่อใดหรือหรือไม่ การศึกษาแบบครั้งเดียวเหล่านี้จึงกลายเป็นระบบตรวจสอบที่ใช้ AI อย่างแพร่หลาย

จุดที่สองที่ควรค่าแก่ความสนใจคือเราไม่สามารถสรุปได้ว่า AI ประเภทนี้จะถูก จำกัด อยู่ที่ประเทศจีนเท่านั้น โดยพื้นฐานแล้วแม้ว่าการใช้ AI ประเภทนี้ในประเทศจีนที่อาจแพร่หลายไปนั้นเป็นเรื่องที่น่ารำคาญ แต่ประเทศอื่น ๆ ก็อาจทำเช่นเดียวกัน

เมื่อ AI สำหรับสิ่งนี้ได้รับการกล่าวขานว่าพร้อมสำหรับช่วงไพร์มไทม์ ก็ไม่น่าจะต้องใช้เวลามากสำหรับประเทศอื่น ๆ ในการตัดสินใจว่าพวกเขาต้องการที่จะนำไปใช้เช่นกัน แมวจะออกจากกระเป๋า บางประเทศคงจะใช้ AI นี้ในทางที่กดขี่โดยสมบูรณ์ และไม่พยายามแสร้งทำเป็นว่าทำเช่นนั้น ประเทศอื่นๆ อาจพยายามใช้ AI ประเภทนี้สำหรับสิ่งที่ดูเหมือนจะเป็นประโยชน์ ซึ่งในท้ายที่สุดก็มีข้อเสียที่แทบจะหลีกเลี่ยงไม่ได้

ที่จริงแล้ว การแนะนำว่า AI ประเภทนี้อาจจะถูกนำมาใช้ก็ต่อเมื่อมันถูกมองว่าพร้อมสำหรับช่วงเวลาไพร์มไทม์นั้นเป็นการเรียกชื่อที่ผิดเล็กน้อย อาจไม่แตกต่างกันเล็กน้อยว่า AI สามารถทำงานได้อย่างมั่นใจในลักษณะนี้หรือไม่ AI สามารถใช้เป็นเรื่องราวปก ดูคำอธิบายของฉันที่ ลิงค์ที่นี่. โดยไม่คำนึงถึงสิ่งที่ AI สามารถทำได้จริง แนวคิดก็คือ AI สามารถเป็นเสแสร้งที่สะดวกในการนำมาซึ่งการตรวจสอบของประชาชนและแผนการวัดและสร้างความมั่นใจในความจงรักภักดีต่อเจ้าหน้าที่

ในช่วงหัวเลี้ยวหัวต่อของการอภิปรายที่หนักหน่วงนี้ ฉันพนันได้เลยว่าคุณต้องการตัวอย่างตัวอย่างที่อาจแสดงหัวข้อนี้ มีชุดตัวอย่างพิเศษและเป็นที่นิยมอย่างแน่นอนที่ใกล้เคียงกับใจของฉัน คุณเห็นไหม ในฐานะของฉันในฐานะผู้เชี่ยวชาญด้าน AI รวมถึงการแตกสาขาตามหลักจริยธรรมและกฎหมาย ฉันมักถูกขอให้ระบุตัวอย่างที่เป็นจริงซึ่งแสดงให้เห็นประเด็นขัดแย้งด้านจริยธรรมของ AI เพื่อให้เข้าใจธรรมชาติที่ค่อนข้างเป็นทฤษฎีของหัวข้อนี้ได้ง่ายขึ้น หนึ่งในประเด็นที่ชวนให้นึกถึงมากที่สุดซึ่งแสดงให้เห็นอย่างชัดเจนถึงปัญหาด้าน AI ที่มีจริยธรรมนี้ คือการถือกำเนิดของรถยนต์ที่ขับเคลื่อนด้วยตนเองอย่างแท้จริงที่ใช้ AI สิ่งนี้จะทำหน้าที่เป็นกรณีใช้งานที่สะดวกหรือเป็นแบบอย่างสำหรับการสนทนาอย่างกว้างขวางในหัวข้อ

ต่อไปนี้คือคำถามสำคัญที่ควรค่าแก่การไตร่ตรอง: การถือกำเนิดของรถยนต์ที่ขับเคลื่อนด้วยตนเองอย่างแท้จริงโดยใช้ AI นั้นให้แสงสว่างเกี่ยวกับการใช้ AI ในทางที่ผิดหรือไม่ และหากเป็นเช่นนั้น สิ่งนี้จะแสดงให้เห็นอย่างไร

ให้เวลาฉันสักครู่เพื่อแกะคำถาม

ประการแรก โปรดทราบว่าไม่มีคนขับที่เป็นมนุษย์ที่เกี่ยวข้องกับรถยนต์ที่ขับด้วยตนเองอย่างแท้จริง โปรดทราบว่ารถยนต์ที่ขับเคลื่อนด้วยตนเองอย่างแท้จริงนั้นขับเคลื่อนผ่านระบบขับเคลื่อน AI ไม่จำเป็นต้องมีคนขับเป็นมนุษย์ที่พวงมาลัย และไม่มีข้อกำหนดสำหรับมนุษย์ในการขับยานพาหนะ สำหรับการครอบคลุมยานยนต์อัตโนมัติ (AV) ที่กว้างขวางและต่อเนื่องของฉัน และโดยเฉพาะอย่างยิ่งรถยนต์ที่ขับด้วยตนเอง โปรดดูที่ ลิงค์ที่นี่.

ฉันต้องการชี้แจงเพิ่มเติมว่ามีความหมายอย่างไรเมื่อกล่าวถึงรถยนต์ที่ขับเคลื่อนด้วยตนเองอย่างแท้จริง

การทำความเข้าใจระดับของรถยนต์ที่ขับเคลื่อนด้วยตัวเอง

เพื่อความกระจ่าง รถยนต์ที่ขับเคลื่อนด้วยตัวเองที่แท้จริงคือรถที่ AI ขับเคลื่อนรถด้วยตัวเองทั้งหมด และไม่มีความช่วยเหลือจากมนุษย์ในระหว่างงานขับขี่

ยานพาหนะไร้คนขับเหล่านี้ถือเป็นระดับ 4 และระดับ 5 (ดูคำอธิบายของฉันที่ ลิงค์นี้) ในขณะที่รถที่ต้องใช้มนุษย์ในการร่วมแรงร่วมใจในการขับขี่นั้นมักจะถูกพิจารณาที่ระดับ 2 หรือระดับ 3 รถยนต์ที่ร่วมปฏิบัติงานในการขับขี่นั้นถูกอธิบายว่าเป็นแบบกึ่งอิสระและโดยทั่วไปประกอบด้วยหลากหลาย ส่วนเสริมอัตโนมัติที่เรียกว่า ADAS (ระบบช่วยเหลือผู้ขับขี่ขั้นสูง)

ยังไม่มีรถที่ขับด้วยตัวเองที่แท้จริงในระดับ 5 และเรายังไม่รู้ด้วยซ้ำว่าจะสำเร็จหรือไม่ และต้องใช้เวลานานแค่ไหนกว่าจะไปถึงที่นั่น

ในขณะเดียวกัน ความพยายามระดับ 4 ค่อยๆ พยายามดึงแรงฉุดโดยทำการทดลองบนถนนสาธารณะที่แคบและคัดเลือกมา แม้ว่าจะมีการโต้เถียงกันว่าการทดสอบนี้ควรได้รับอนุญาตตามลำพังหรือไม่ (เราทุกคนเป็นหนูตะเภาที่มีชีวิตหรือตายในการทดลอง เกิดขึ้นบนทางหลวงและทางด่วนของเรา ทะเลาะกันบ้าง ดูการรายงานข่าวของฉันที่ ลิงค์นี้).

เนื่องจากรถยนต์กึ่งอิสระจำเป็นต้องมีคนขับรถการใช้รถยนต์ประเภทนั้นจึงไม่แตกต่างจากการขับขี่ยานพาหนะทั่วไปดังนั้นจึงไม่มีอะไรใหม่ที่จะครอบคลุมเกี่ยวกับพวกเขาในหัวข้อนี้ (แต่อย่างที่คุณเห็น ในไม่ช้าคะแนนโดยทั่วไปจะถูกนำมาใช้)

สำหรับรถยนต์กึ่งอิสระมันเป็นสิ่งสำคัญที่ประชาชนจำเป็นต้องได้รับการเตือนล่วงหน้าเกี่ยวกับสิ่งรบกวนที่เกิดขึ้นเมื่อไม่นานมานี้แม้จะมีคนขับรถของมนุษย์ที่คอยโพสต์วิดีโอของตัวเองที่กำลังหลับอยู่บนพวงมาลัยรถยนต์ระดับ 2 หรือระดับ 3 เราทุกคนต้องหลีกเลี่ยงการหลงผิดโดยเชื่อว่าผู้ขับขี่สามารถดึงความสนใจของพวกเขาออกจากงานขับรถขณะขับรถกึ่งอิสระ

คุณเป็นบุคคลที่รับผิดชอบต่อการขับขี่ของยานพาหนะโดยไม่คำนึงว่าระบบอัตโนมัติอาจถูกโยนเข้าไปในระดับ 2 หรือระดับ 3

รถยนต์ไร้คนขับและการใช้ AI ในทางที่ผิด

สำหรับยานพาหนะที่ขับเคลื่อนด้วยตนเองอย่างแท้จริงระดับ 4 และระดับ 5 จะไม่มีคนขับที่เกี่ยวข้องกับงานขับรถ

ผู้โดยสารทุกคนจะเป็นผู้โดยสาร

AI กำลังขับรถอยู่

แง่มุมหนึ่งที่จะพูดถึงในทันทีคือความจริงที่ว่า AI ที่เกี่ยวข้องกับระบบขับเคลื่อน AI ในปัจจุบันไม่ได้มีความรู้สึก กล่าวอีกนัยหนึ่ง AI เป็นกลุ่มของการเขียนโปรแกรมและอัลกอริทึมที่ใช้คอมพิวเตอร์โดยสิ้นเชิงและส่วนใหญ่ไม่สามารถให้เหตุผลในลักษณะเดียวกับที่มนุษย์สามารถทำได้

เหตุใดจึงเน้นย้ำว่า AI ไม่มีความรู้สึก?

เพราะฉันต้องการเน้นย้ำว่าเมื่อพูดถึงบทบาทของระบบขับเคลื่อน AI ฉันไม่ได้อ้างถึงคุณสมบัติของมนุษย์ต่อ AI โปรดทราบว่าทุกวันนี้มีแนวโน้มที่เป็นอันตรายและต่อเนื่องในการทำให้มนุษย์กลายเป็นมนุษย์ด้วย AI โดยพื้นฐานแล้วผู้คนกำลังกำหนดความรู้สึกเหมือนมนุษย์ให้กับ AI ในปัจจุบันแม้ว่าจะมีความจริงที่ปฏิเสธไม่ได้และไม่สามารถเข้าใจได้ว่ายังไม่มี AI เช่นนี้

ด้วยคำชี้แจงดังกล่าวคุณสามารถจินตนาการได้ว่าระบบขับเคลื่อน AI จะไม่ "รู้" เกี่ยวกับแง่มุมของการขับขี่ การขับขี่และสิ่งที่เกี่ยวข้องจะต้องได้รับการตั้งโปรแกรมให้เป็นส่วนหนึ่งของฮาร์ดแวร์และซอฟต์แวร์ของรถยนต์ที่ขับเคลื่อนด้วยตนเอง

มาดำน้ำในแง่มุมมากมายที่มาเล่นในหัวข้อนี้

ประการแรก สิ่งสำคัญคือต้องตระหนักว่ารถยนต์ที่ขับเคลื่อนด้วยตนเองของ AI นั้นไม่เหมือนกันทุกคัน ผู้ผลิตรถยนต์และบริษัทเทคโนโลยีที่ขับเคลื่อนด้วยตนเองแต่ละรายต่างใช้แนวทางในการพัฒนารถยนต์ที่ขับเคลื่อนด้วยตนเอง ดังนั้นจึงเป็นเรื่องยากที่จะกล่าวอย่างถี่ถ้วนว่าระบบขับเคลื่อน AI จะทำอะไรหรือไม่ทำ

นอกจากนี้ เมื่อใดก็ตามที่ระบุว่าระบบขับเคลื่อน AI ไม่ได้ทำสิ่งใดสิ่งหนึ่ง นักพัฒนาสามารถแซงหน้าสิ่งนี้ได้ในภายหลัง ซึ่งจริงๆ แล้วโปรแกรมคอมพิวเตอร์ให้ทำสิ่งนั้น ระบบขับเคลื่อน AI ค่อยๆ ปรับปรุงและขยายออกไปทีละขั้น ข้อจำกัดที่มีอยู่ในปัจจุบันอาจไม่มีอยู่อีกต่อไปในการทำซ้ำหรือเวอร์ชันของระบบในอนาคต

ฉันหวังว่าจะเป็นบทสวดที่เพียงพอเพื่อรองรับสิ่งที่ฉันกำลังจะเล่า

มาร่างภาพสถานการณ์รถยนต์ที่ขับด้วยตนเองที่อาจใช้ประโยชน์จาก AI ในรูปแบบคร่าวๆ หรือการกระทำที่ผิดกฎหมาย

ฉันจะแบ่งปันกับคุณเกี่ยวกับการแยกส่วนของรถยนต์ที่ขับเคลื่อนด้วยตนเองโดยใช้ AI ที่อาจทำให้คุณสั่นและถูกรบกวน สิ่งเหล่านี้เป็นแง่มุมที่แทบจะไม่มีใครพูดถึงเลย ผมได้หยิบยกประเด็นนี้ขึ้นมาซ้ำแล้วซ้ำเล่า ทั้งที่ยอมรับอย่างเปิดเผยว่า จนกว่าเราจะมีการนำรถยนต์ไร้คนขับมาใช้อย่างแพร่หลาย เราจะไม่ได้รับความฉุนเฉียวมากเมื่อสังคมวิตกกังวลหรือไม่พอใจกับสิ่งที่ดูเหมือนทุกวันนี้เป็นเพียงแนวคิดเชิงนามธรรม .

คุณพร้อม?

เราจะเริ่มต้นด้วยการวางรากฐาน

รถยนต์ไร้คนขับที่ใช้ AI จะติดตั้งกล้องวิดีโออย่างสมเหตุสมผล ซึ่งช่วยให้รถยนต์ที่ขับด้วยตนเองสามารถรับภาพวิดีโอของฉากการขับขี่ได้ ในทางกลับกัน ระบบการขับขี่ AI ที่ทำงานอยู่บนคอมพิวเตอร์ในรถยนต์ที่ขับเคลื่อนด้วยตนเองนั้นมีวัตถุประสงค์เพื่อตรวจสอบวิดีโอที่รวบรวมด้วยคอมพิวเตอร์และค้นหาว่าถนนอยู่ที่ไหน รถยนต์ในบริเวณใกล้เคียงอยู่ที่ไหน คนเดินถนนอยู่ที่ไหน และอื่นๆ ฉันรู้ว่าฉันกำลังท่องพื้นฐาน 101 รถยนต์ที่ขับด้วยตนเอง

มีกล้องวิดีโอติดตั้งอยู่ที่ด้านนอกของรถยนต์ขับเคลื่อนอัตโนมัติและกำลังชี้ออกไปด้านนอก นอกจากนี้ โดยรวมแล้ว คุณสามารถคาดหวังได้ว่าจะมีกล้องวิดีโออยู่บนหรือภายในรถที่เล็งเข้าด้านในของรถที่ขับด้วยตนเอง ทำไมถึงเป็นเช่นนั้น? ง่าย ๆ เพราะจะมีการใช้งานที่สำคัญมากมายสำหรับการจับภาพเหตุการณ์ภายในรถยนต์ที่เป็นอิสระ

เมื่อคุณไปนั่งรถไร้คนขับ คุณไม่จำเป็นต้องเป็นคนขับอีกต่อไป คุณจะทำอย่างไรในขณะที่อยู่ในรถที่ขับด้วยตนเอง?

สิ่งหนึ่งที่คุณสามารถทำได้คือมีปฏิสัมพันธ์กับผู้อื่นที่บ้านหรือที่ทำงาน คุณกำลังเดินทางไปทำงาน ซึ่งจะบอกว่าใช้เวลาหนึ่งชั่วโมงในการขับรถโดยรถยนต์ที่ขับเคลื่อนด้วยตนเอง และคุณสามารถเริ่มต้นวันทำงานด้วยการทำเซสชันโต้ตอบแบบเรียลไทม์ออนไลน์เหมือนการซูม พวกเขาสามารถเห็นคุณได้เนื่องจากกล้องที่ชี้เข้าด้านในรถที่ขับเอง คุณสามารถเห็นได้บนหน้าจอ LED ภายในรถที่ขับด้วยตนเอง ในตอนท้ายของวัน ขณะกลับบ้าน คุณอาจสนทนาวิดีโอโต้ตอบแบบโต้ตอบกับลูกๆ ของคุณในขณะที่พวกเขากำลังเริ่มทำการบ้านในตอนเย็น

การใช้งานอื่นจะเป็นการเรียน ตอนนี้คุณไม่จำเป็นต้องเสียเวลาขับรถ คุณสามารถเปลี่ยนเวลาตายในรถที่ขับด้วยตนเองให้เป็นการเสริมทักษะหรือรับใบรับรองหรือปริญญาได้ ด้วยกล้องที่ชี้เข้าด้านใน ผู้สอนของคุณสามารถเห็นคุณและพูดคุยถึงวิธีการฝึกอบรมของคุณ

อีกวิธีหนึ่งคือพยายามทำให้แน่ใจว่าผู้ขับขี่ในรถยนต์ที่ขับด้วยตนเองจะไม่อาละวาด ในรถยนต์ที่ขับเคลื่อนโดยมนุษย์ คนขับคือผู้ใหญ่ที่มักจะป้องกันไม่ให้ผู้ขับขี่ทำสิ่งไร้สาระ เช่น ทำเครื่องหมายภายในด้วยกราฟฟิตี้ จะเกิดอะไรขึ้นกับรถยนต์ไร้คนขับที่ใช้ AI บางคนกังวลว่าผู้ขับขี่จะเลือกฉีกภายในรถ เพื่อพยายามและป้องกันสิ่งนี้ บริษัทแชร์รถที่ใช้รถยนต์ที่ขับเคลื่อนด้วยตนเองมักจะใช้กล้องวิดีโอที่หันเข้าด้านในเพื่อตรวจสอบว่าผู้คนกำลังทำอะไรขณะอยู่ในรถยนต์ที่ขับเคลื่อนด้วยตนเอง

ฉันคิดว่าคุณมั่นใจว่าเราจะมีกล้องวิดีโอที่ชี้เข้าไปในภายในของรถยนต์ที่ขับด้วยตนเอง นอกเหนือจากกล้องที่ชี้ออกไปด้านนอกเพื่อแยกแยะฉากการขับขี่

ตอนนี้คุณพร้อมสำหรับสิ่งที่ฉันเรียกว่าดวงตาเร่ร่อนแล้ว ดูบทวิเคราะห์ของฉันที่ ลิงค์ที่นี่.

ขั้นแรก ให้พิจารณากล้องวิดีโอที่ชี้ออกไปด้านนอก

ไม่ว่ารถยนต์ที่ขับเองจะไปไหน ก็สามารถบันทึกวิดีโอทุกอย่างที่กล้องมองเห็นได้ รถที่ขับด้วยตนเองที่ส่งลิฟต์ให้ใครบางคนจากบ้านของพวกเขาและพาพวกเขาไปที่ร้านขายของชำจะลัดเลาะไปในละแวกใกล้เคียง และวิดีโอจะบันทึกไม่เพียงแต่ถนนเท่านั้น แต่ยังรวมถึงทุกอย่างที่เกิดขึ้นภายในสายตาด้วย พ่อลูกเล่นกันที่สนามหน้าบ้าน ครอบครัวหนึ่งนั่งอยู่ที่ระเบียงหน้าบ้าน บนและบนมันไป

ขณะนี้ เรามีรถยนต์ที่ขับเองได้ไม่กี่คันบนถนนสาธารณะ ซึ่งความสามารถในการจับภาพวิดีโอของกิจกรรมประจำวันนี้ค่อนข้างหายากและไม่มีสาระสำคัญ

จินตนาการว่าเราบรรลุถึงรถยนต์ไร้คนขับที่ปลอดภัยและแพร่หลายในที่สุด หลายพันคน อาจจะหลายล้าน เรามีรถยนต์ที่ขับเคลื่อนโดยมนุษย์ประมาณ 250 ล้านคันในสหรัฐอเมริกาในปัจจุบัน ในที่สุด สิ่งเหล่านี้จะถูกแทนที่ด้วยรถยนต์ที่ขับเคลื่อนด้วยตนเองหรือแทบไม่ได้ใช้งานอีกต่อไป และเราจะมีรถยนต์ที่ขับเคลื่อนด้วยตนเองเป็นส่วนใหญ่บนถนนของเรา รถยนต์ที่ขับเคลื่อนด้วยตนเองเหล่านี้ขับเคลื่อนโดย AI และสามารถโรมมิ่งได้ตลอด 24 × 7 ไม่มีการหยุดพักไม่มีการแบ่งห้องน้ำ

ข้อมูลวิดีโอสามารถอัปโหลดจากรถยนต์ที่ขับด้วยตนเองเหล่านี้ผ่านการเชื่อมต่อเครือข่ายอิเล็กทรอนิกส์ OTA (Over-The-Air) รถยนต์ที่ขับด้วยตนเองจะใช้ OTA เพื่อรับการอัปเดตซอฟต์แวร์ AI ล่าสุดที่ดาวน์โหลดลงในรถ นอกจากนี้ สามารถใช้ OTA เพื่ออัปโหลดข้อมูลจากรถยนต์ที่ขับด้วยตนเองไปยังฐานข้อมูลบนคลาวด์ได้

ทั้งหมดบอกว่าเป็นไปได้ที่จะรวมข้อมูลที่อัปโหลดนี้เข้าด้วยกัน ด้วยการเย็บ คุณสามารถรวมการมาและการเดินทางประจำวันของใครก็ตามที่ก้าวออกไปข้างนอกทุกวันในสถานที่ใด ๆ ที่ใช้รถยนต์ขับเคลื่อนด้วยตนเองอย่างกว้างขวาง

นั่นคือดวงตาที่เร่ร่อนที่ฉันเตือนไว้

ตอนนี้เราสามารถรวมการศึกษา CCP เข้ากับความสามารถประเภทนี้ได้แล้ว สมมติว่ารัฐบาลมีสิทธิ์เข้าถึงข้อมูลวิดีโอที่รวบรวมทั้งหมดนี้ จากนั้นพวกเขาสามารถใช้อัลกอริธึมการจดจำใบหน้าแบบ AI เพื่อตรวจสอบสถานที่ที่คุณไป ช่วงเวลาของวัน ตลอดการเดินทางในแต่ละวันของคุณ นอกจากนี้ พวกเขาน่าจะใช้เครื่องวิเคราะห์แบบ AI ที่ "ภักดี" เพื่อดูว่าคุณมีหน้าตาที่ซื่อสัตย์หรือไม่

ลองนึกภาพว่าในบ่ายวันอังคารที่คุณกำลังเดินไปซื้อแซนด์วิชที่ร้านอาหารท้องถิ่น รถยนต์ที่ขับเองวิ่งผ่านบนถนน วิดีโอมากมายทั้งหมดจับภาพคุณขณะที่คุณกำลังเดินไปหาอะไรกินเป็นเวลา XNUMX นาที ข้อมูลถูกอัปโหลดไปยังฐานข้อมูลแบบรวมศูนย์ รัฐบาลได้ดำเนินโปรแกรมการจดจำใบหน้าด้วย AI กับข้อมูล

ปรากฎว่า AI "กำหนด" ว่าคุณมีลักษณะที่ไม่ซื่อสัตย์บนใบหน้าของคุณ

บางทีรูปลักษณ์ที่ไม่ซื่อสัตย์นี้อาจเกิดขึ้นเพียงชั่วครู่เท่านั้น คุณรออยู่ที่หัวมุมถนนเพื่อให้ไฟเปลี่ยนเพื่อที่คุณจะได้ข้ามถนนไปยังร้านอาหาร ในขณะนั้นคุณรู้สึกขยะแขยงเล็กน้อยที่คุณต้องรอสัญลักษณ์ Walk นานเกินไป นี่อาจเป็นสัญญาณบ่งชี้ว่าคุณไม่จงรักภักดีต่อรัฐบาลหรือไม่?

ใช่ การคำนวณของ AI นั้น คุณรู้สึกไม่ซื่อสัตย์อย่างล้นเหลือในช่วงเวลานั้น เมื่อคุณกลับถึงบ้านในคืนนั้น รัฐบาลได้จัดให้มีการจับกุมคุณ

แต่เดี๋ยวก่อนยังมีอีก

อย่าลืมว่ากล้องวิดีโอก็หันเข้าด้านในด้วย

ในวันอังคารเดียวกันนั้น ขณะที่คุณกำลังขับรถไปทำงานด้วยรถยนต์ไร้คนขับ กล้องวิดีโอกำลังจับภาพทุกช่วงเวลาของคุณ นี้ถูกอัปโหลดไปยังฐานข้อมูลส่วนกลาง ซอฟต์แวร์ AI ที่วิเคราะห์รูปแบบใบหน้าสำหรับความไม่ซื่อสัตย์ได้ทำการตรวจสอบรูปแบบการคำนวณของการแสดงออกทางสีหน้าของคุณระหว่างการเดินทางไปสำนักงาน

มีอยู่ช่วงหนึ่ง คุณกำลังมองออกไปนอกยานพาหนะที่เป็นอิสระและสังเกตเห็นคนงานก่อสร้างกำลังปิดกั้นถนนบางส่วน และทำให้ระบบขับเคลื่อน AI ชะลอความเร็วของรถที่ขับด้วยตนเอง ในเสี้ยววินาที ใบหน้าของคุณแสดงท่าทางดูถูกคนงานก่อสร้างที่ชะลอการจราจร

การวิเคราะห์รูปแบบใบหน้าของ AI ตีความสิ่งนี้ว่าเป็นสัญญาณของความไม่ซื่อสัตย์ต่อรัฐบาล

โจมตีคุณสองครั้งในวันเดียว

คุณอาศัยอยู่บนน้ำแข็งบางๆ

แน่นอนว่า AI นั้น "ถูก" หรือ "ผิด" เกี่ยวกับความสามารถในการระบุความภักดีของคุณนั้นแทบไม่มีความสำคัญในบริบทนี้ สิ่งสำคัญคือ AI ถูกนำมาใช้เพื่อการนี้ มนุษย์ที่กำลังปรับใช้ AI อาจหรือไม่สนใจว่า AI นั้นเหมาะสมกับการใช้งานประเภทนี้หรือไม่ AI อนุญาตให้มีการควบคุมของรัฐบาลโดยไม่คำนึงถึงความถูกต้องทางเทคโนโลยี

ที่ครอบคลุมการสแกนใบหน้า

หากในที่สุดเรามีอุปกรณ์พกพาราคาประหยัดสำหรับการสแกนด้วยคลื่นสมอง (ที่ถูกกล่าวหา) สิ่งนี้สามารถรวมอยู่ในรถยนต์ที่ขับด้วยตนเองได้อย่างแน่นอน กล้องวิดีโอเป็นสิ่งที่แน่นอนในขณะนี้ ความเป็นไปได้ที่จะมีอุปกรณ์สแกนคลื่นสมองของความสามารถนี้ไม่ได้อยู่ในการ์ดในขณะนี้ แต่เป็นสิ่งที่คาดการณ์ไว้สำหรับอนาคตอย่างชัดเจน

สำหรับการสำรวจของฉันเกี่ยวกับวิธีที่รัฐบาลอาจพยายามเข้ายึดครองประชาชนโดยการควบคุมรถยนต์ที่ขับด้วยตนเอง โปรดดู ลิงค์ที่นี่. มีความเป็นไปได้ที่คล้ายคลึงกันที่ผู้มุ่งร้ายอาจพยายามทำเช่นเดียวกัน ดู ลิงค์ที่นี่. สิ่งเหล่านี้ไม่ได้มีวัตถุประสงค์เพื่อเป็นกลวิธีสร้างความหวาดกลัวในการครอบคลุมในหัวข้อที่เกี่ยวข้องเหล่านั้น แต่เป็นการเตือนล่วงหน้าถึงความสำคัญของความปลอดภัยในโลกไซเบอร์และข้อควรระวังอื่น ๆ ที่สังคมต้องดำเนินการเกี่ยวกับการโจมตีรถยนต์ไร้คนขับที่แพร่หลายและ ยานพาหนะอิสระอื่น ๆ

สรุป

ฉันต้องการจะกล่าวถึงอีกแง่มุมหนึ่งอย่างรวดเร็วเกี่ยวกับ AI ที่ใช้เพื่อยืนยันความภักดีซึ่งฉันคิดว่าเป็นหัวข้อที่ค่อนข้างแยกจากกัน แต่อย่างใดอย่างหนึ่งที่ทวีตและโซเชียลมีเดียบางรายการได้รับความเบื่อหน่าย

ฉันได้กล่าวไปก่อนหน้านี้ว่าเราไม่มีความรู้สึก AI และเราไม่รู้ว่าเราจะทำหรือเมื่อไหร่ มาสร้างความบันเทิงให้กับความคิดที่ว่าเราจะมี AI ที่มีความรู้สึก ในกรณีนั้น ให้พิจารณาสถานการณ์สมมติต่อไปนี้

เราเลือกใช้ AI แบบไร้ความรู้สึกเพื่อนำ AI ไปใช้อย่างแพร่หลาย ซึ่งจะตรวจสอบด้วยการคำนวณว่าผู้คนภักดีต่อรัฐบาลของตนหรือไม่ โดยใช้การสแกนใบหน้า การสแกนด้วยคลื่นสมอง และอื่นๆ ทั้งหมดนี้ดำเนินการโดยมนุษย์และใช้งานโดยผู้มีอำนาจ นั่นคือสถานการณ์ที่รบกวนจิตใจที่ฉันเพิ่งอธิบายไปก่อนหน้านี้

ถึงเวลาขึ้น ante

AI กลายเป็นความรู้สึก ตอนนี้เราอาจส่ง AI ที่มีความรู้สึกนี้ให้มีความสามารถอย่างกว้างขวางในการระบุความจงรักภักดีและความไม่ภักดีในมนุษย์ AI ที่ชั่วร้ายที่กำลังพิจารณาที่จะกำจัดมนุษย์อาจใช้ความสามารถนี้เพื่อตัดสินว่าแท้จริงมนุษย์จะเป็นผู้ไม่ซื่อสัตย์และควรถูกทำลายอย่างสิ้นเชิง หรือบางทีอาจเป็นเพียงแค่มนุษย์ที่แสดงอาการไม่ซื่อสัตย์ทางใบหน้าหรือความคิดของพวกเขาเท่านั้นที่จะถูกทิ้งโดยเฉพาะอย่างยิ่ง

อีกมุมหนึ่งคือ AI ปรารถนาที่จะเป็นทาสมนุษย์ ดูการสนทนาของฉันที่ ลิงค์ที่นี่.

ดูเหมือนว่าเราจะให้ AI เป็นของขวัญที่สมบูรณ์แบบสำหรับการทำภารกิจนั้น โครงสร้างพื้นฐานที่มีอยู่ที่เราวางไว้ช่วยให้ AI สามารถจับตาดูมนุษย์เราอย่างระมัดระวัง ผู้ที่ดูเหมือนจะแสดงท่าทางที่ไม่ซื่อสัตย์หรือคิดเกี่ยวกับนริศ AI จะรู้สึกถึงความโกรธของ AI

ฉันรู้ว่าฉันพูดว่านี่เป็นการเพิ่มของ ante ฉันไม่แน่ใจว่าเป็นกรณี สำหรับฉันแล้วดูเหมือนว่าเราจะมีเจ้านาย AI ตัดสินชะตากรรมของเรากับเจ้านายของมนุษย์โดยตรงหรือไม่ที่มีโอกาสใช้ระบบ AI เพื่อกำหนดความภักดี ดีไม่มีข้อเสนอใดที่ดูเหมือนจะเป็นที่ต้องการโดยเฉพาะ

ความคิดเห็นสุดท้ายสำหรับตอนนี้

Marcus Tullius Cicero ปราชญ์และปราชญ์ชาวโรมันกล่าวว่าไม่มีสิ่งใดสูงส่ง ไม่มีอะไรน่านับถือมากไปกว่าความภักดี เราอาจปล่อยให้ AI ก้าวไปข้างหน้าและกลายเป็นเครื่องมือในการเกณฑ์ทหารและรับรอง "ความภักดี" ด้วยวิธีการที่น่ากลัว

เหตุผลที่ควรคำนึงถึงในการนำจริยธรรม AI มาไว้ในรายการที่ต้องทำของเรา