โมเดล “การให้เหตุผล” ล่าสุดของ OpenAI ในข้อผิดพลาดพื้นฐาน

วิดีโอสาธิต OpenAI แนะนำว่าโมเดลมีแนวโน้มที่จะเกิดข้อผิดพลาด

ตามวิดีโอที่ OpenAI เผยแพร่เพื่อแสดงจุดแข็งของโมเดล ผู้ใช้อัปโหลดรูปภาพของบ้านนกไม้ จากนั้นขอคำแนะนำจากโมเดลเกี่ยวกับวิธีการสร้างบ้านนกที่คล้ายกัน โมเดล "การใช้เหตุผล" ดูเหมือนจะ "คิด" อยู่ครู่หนึ่งก่อนที่จะให้สิ่งที่ดูเหมือนจะเป็นชุดคำสั่ง

เมื่อพิจารณาอย่างละเอียดมากขึ้น คำแนะนำต่างๆ ดูเหมือนจะเป็นการเสียเวลา แบบจำลองนี้วัดวัสดุที่จำเป็นสำหรับงาน เช่น สี กาว และน้ำยาซีล แต่จะระบุขนาดเฉพาะแผงด้านหน้าของบ้านนกเท่านั้น

แบบจำลองแนะนำให้ตัดกระดาษทรายเป็นชุดขนาดอื่นที่ไม่จำเป็น นอกจากนี้ โมเดลยังระบุด้วยว่ากำลังให้ "ขนาดที่แน่นอน" แต่ไม่ได้ให้ขนาดที่แน่นอน ซึ่งตรงกันข้ามกับคำกล่าวอ้างก่อนหน้านี้

James Filus ผู้อำนวยการสถาบันช่างไม้ ซึ่งเป็นหน่วยงานการค้าในสหราชอาณาจักรยังได้เปิดเผยข้อผิดพลาดของแบบจำลอง เช่น เครื่องมือที่จำเป็น แต่ขาดหายไปจากรายการของ o1 เช่น ค้อน

“คุณจะรู้เรื่องการสร้างบ้านนกจากรูปภาพพอๆ กับที่คุณทราบเกี่ยวกับข้อความ ซึ่งถือเป็นการเอาชนะวัตถุประสงค์ทั้งหมดของเครื่องมือ AI”

ฟิลัส.

นอกจากนี้ Filus ยังเปิดเผยว่าค่าใช้จ่ายในการสร้างบ้านนกหลังเดียวกันจะ “ไม่ใกล้เลย” เท่ากับ 20 ถึง 50 เหรียญสหรัฐฯ ตามที่แบบจำลองประมาณการไว้

โมเดล OpenAI ตรงกันข้ามกับการใช้งานที่ตั้งใจไว้

กรณี o1 เพิ่มไปยังตัวอย่างอื่นๆ ของการสาธิตผลิตภัณฑ์ของโมเดล AI ซึ่งทำตรงกันข้ามกับวัตถุประสงค์ที่ตั้งใจไว้ ในปี 2023 โฆษณา Google สำหรับเครื่องมือค้นหาที่ใช้ AI ระบุอย่างไม่ถูกต้องว่ากล้องโทรทรรศน์ James Webb ค้นพบสิ่งที่ไม่ได้ค้นพบ ความผิดพลาดนี้ส่งผลให้ราคาหุ้นของบริษัทตกต่ำ

นี่ไม่ได้มาจากบริษัทเสิร์ชเอ็นจิ้นยักษ์ใหญ่ทั้งหมด เนื่องจากเมื่อเร็ว ๆ นี้เครื่องมือที่คล้ายกันของ Google เวอร์ชันอัปเดตได้บอกผู้ใช้ว่า การกินก้อนหินนั้นปลอดภัย นอกจากนี้ยังอ้างว่าผู้ใช้สามารถใช้กาวเพื่อติดชีสกับพิซซ่าได้

แม้จะมีข้อผิดพลาด แต่โมเดล o1 ตามเกณฑ์มาตรฐานสาธารณะ ยังคงเป็นโมเดลที่มีความสามารถมากที่สุดของ OpenAI จนถึงปัจจุบัน นอกจากนี้ยังใช้แนวทางที่แตกต่างจาก ChatGPT ในการตอบคำถามอีกด้วย

จากข้อมูลของ Time นั้น o1 ยังคงเป็นเครื่องทำนายคำถัดไปที่ก้าวหน้ามาก เนื่องจากได้รับการฝึกฝนโดยใช้การเรียนรู้ของเครื่องกับข้อความหลายพันล้านคำจากอินเทอร์เน็ตและอื่นๆ

แบบจำลองใช้เทคนิคที่เรียกว่า "ห่วงโซ่แห่งความคิด" ในการให้เหตุผลเพื่อ "คิด" เกี่ยวกับคำตอบชั่วขณะเบื้องหลังและให้คำตอบหลังจากนั้นเท่านั้น สิ่งนี้แตกต่างจากการให้คำพูดเพื่อตอบสนองต่อการแจ้งเตือน

สิ่งนี้ช่วยให้โมเดลให้คำตอบที่แม่นยำยิ่งขึ้น เมื่อเทียบกับกรณีที่เพียงแค่แยกคำออกมาเพื่อตอบคำถามของผู้ใช้

ระบบทีละขั้นตอน ในการเริ่มต้นอาชีพ Web3 ของคุณและเริ่มต้นงาน Crypto ที่มีรายได้สูงใน 90 วัน