OpenAI ประกาศเมื่อวันที่ 31 พฤษภาคม ความพยายามในการยกระดับความสามารถในการแก้ปัญหาทางคณิตศาสตร์ของ ChatGPT โดยมีเป้าหมายเพื่อลดอินสแตนซ์ของปัญญาประดิษฐ์ (AI) ภาพหลอน OpenAI เน้นย้ำการบรรเทาภาพหลอนเป็นขั้นตอนสำคัญต่อการพัฒนา AGI ที่สอดคล้องกัน
ในเดือนมีนาคม การเปิดตัว ChatGPT เวอร์ชันล่าสุด GPT-4 ทำให้ปัญญาประดิษฐ์กลายเป็นกระแสหลัก อย่างไรก็ตาม แชทบอท AI เชิงกำเนิดนั้นต้องต่อสู้กับความถูกต้องตามข้อเท็จจริงมาเป็นเวลานาน บางครั้งก็สร้างข้อมูลเท็จ ซึ่งเรียกกันทั่วไปว่า "ภาพหลอน" ความพยายามในการลดความหลอนของ AI เหล่านี้ได้รับการประกาศผ่านโพสต์บนเว็บไซต์ของพวกเขา
ภาพหลอนของ AI หมายถึงกรณีที่ระบบปัญญาประดิษฐ์สร้างผลลัพธ์ที่ไม่ถูกต้องตามความเป็นจริง ทำให้เข้าใจผิดหรือไม่ได้รับการสนับสนุนจากข้อมูลในโลกแห่งความเป็นจริง ภาพหลอนเหล่านี้สามารถแสดงออกมาในรูปแบบต่างๆ เช่น สร้างข้อมูลเท็จ สร้างเหตุการณ์หรือบุคคลที่ไม่มีอยู่จริง หรือให้รายละเอียดที่ไม่ถูกต้องเกี่ยวกับหัวข้อบางอย่าง
OpenAI ดำเนินการวิจัยเพื่อตรวจสอบประสิทธิภาพของข้อเสนอแนะ XNUMX ประเภท ได้แก่ “การกำกับดูแลผลลัพธ์” และ “การกำกับดูแลกระบวนการ” การกำกับดูแลผลลัพธ์เกี่ยวข้องกับการป้อนกลับตามผลลัพธ์สุดท้าย ในขณะที่การกำกับดูแลกระบวนการจะให้ข้อมูลป้อนเข้าสำหรับแต่ละขั้นตอนในสายโซ่แห่งความคิด OpenAI ประเมินโมเดลเหล่านี้โดยใช้ปัญหาทางคณิตศาสตร์ สร้างโซลูชันหลายรายการ และเลือกโซลูชันที่มีอันดับสูงสุดตามโมเดลความคิดเห็นแต่ละรายการ
หลังจากการวิเคราะห์อย่างละเอียด ทีมวิจัยพบว่าการควบคุมดูแลกระบวนการให้ประสิทธิภาพที่เหนือกว่า เนื่องจากสนับสนุนให้แบบจำลองปฏิบัติตามกระบวนการที่มนุษย์รับรอง ในทางตรงกันข้าม การกำกับดูแลผลลัพธ์พิสูจน์ได้ว่ามีความท้าทายมากขึ้นในการพิจารณาอย่างถี่ถ้วนอย่างสม่ำเสมอ
OpenAI ตระหนักดีว่าความหมายของการควบคุมดูแลกระบวนการมีขอบเขตมากกว่าคณิตศาสตร์ และจำเป็นต้องมีการตรวจสอบเพิ่มเติมเพื่อทำความเข้าใจผลกระทบของมันในโดเมนต่างๆ แสดงความเป็นไปได้ว่าหากผลลัพธ์ที่สังเกตได้เป็นจริงในบริบทที่กว้างขึ้น การควบคุมดูแลกระบวนการสามารถนำเสนอการผสมผสานระหว่างประสิทธิภาพและการจัดตำแหน่งที่ดีเมื่อเทียบกับการกำกับดูแลผลลัพธ์ เพื่ออำนวยความสะดวกในการวิจัย บริษัทได้เผยแพร่ชุดข้อมูลที่สมบูรณ์ของการกำกับดูแลกระบวนการ เชิญชวนให้มีการสำรวจและศึกษาในพื้นที่นี้
ที่เกี่ยวข้อง ความต้องการ AI ทำให้ Nvidia เข้าสู่สโมสร $1T ในช่วงสั้นๆ
แม้ว่า OpenAI จะไม่ได้แสดงตัวอย่างที่ชัดเจนซึ่งกระตุ้นให้พวกเขาสืบสวนเรื่องอาการประสาทหลอน แต่เหตุการณ์ล่าสุด XNUMX ครั้งได้แสดงให้เห็นตัวอย่างปัญหาในสถานการณ์จริง
ในเหตุการณ์ล่าสุด ทนายความของ Steven A. Schwartz ในคดี Mata v. Avianca Airlines ยอมรับว่าใช้แชทบอทเป็นแหล่งค้นคว้า อย่างไรก็ตาม ข้อมูลที่ให้โดย ChatGPT กลับกลายเป็นว่าถูกประดิษฐ์ขึ้นทั้งหมด โดยเน้นย้ำถึงปัญหาที่เกิดขึ้น
ChatGPT ของ OpenAI ไม่ใช่เพียงตัวอย่างเดียวของระบบปัญญาประดิษฐ์ที่พบกับภาพหลอน AI ของ Microsoft ในระหว่างการสาธิตเทคโนโลยีแชทบอทในเดือนมีนาคม ได้ตรวจสอบรายงานรายได้และสร้างตัวเลขที่ไม่ถูกต้องสำหรับบริษัทต่างๆ เช่น Gap และ Lululemon
นิตยสาร: ผู้ค้า 25K เดิมพันการเลือกหุ้นของ ChatGPT, AI ห่วยแตกเมื่อโยนลูกเต๋าและอีกมากมาย
ที่มา: https://cointelegraph.com/news/here-s-how-openai-plans-to-cleanse-chatgpt-from-false-information