Apple เพิกเฉยต่อคำเตือนของวิศวกรเกี่ยวกับเทคโนโลยี AI ที่ผิดพลาด

มีรายงานว่า Apple เพิกเฉยต่อคำเตือนของวิศวกรเกี่ยวกับข้อบกพร่องของ Apple Intelligence และเปิดตัวเทคโนโลยีดังกล่าวต่อไป ซึ่งได้รับการวิจารณ์จากตลาดอย่างล้นหลาม

Apple Intelligence ของผู้ผลิต iPhone ตกเป็นข่าวพาดหัวด้วยเหตุผลที่ไม่ถูกต้อง และได้รับการวิพากษ์วิจารณ์อย่างกว้างขวาง โดยเฉพาะอย่างยิ่งในการสร้างข้อมูลที่เป็นเท็จและทำให้หัวข้อข่าวเสียหาย

วิศวกรค้นพบข้อบกพร่องในหลายรุ่น รวมถึง Apple Intelligence

แม้ว่าจะเป็นเรื่องปกติที่โมเดลภาษาขนาดใหญ่จะมีอาการประสาทหลอน แต่ความท้าทายที่อุตสาหกรรม AI ยังไม่สามารถแก้ไขได้ กรณีของ Apple แตกต่างออกไปเล็กน้อย วิศวกรสังเกตเห็นข้อบกพร่องบางอย่างในโมเดลก่อนที่จะเปิดตัว แต่บริษัทกลับเพิกเฉยต่อคำเตือนดังกล่าว

ตามที่นักวิเคราะห์ระบุว่า การดำเนินการเปิดตัวโมเดลดังกล่าวนั้นไม่รอบคอบในส่วนของยักษ์ใหญ่ด้านเทคโนโลยีรายนี้ หลังจากมีเสียงเตือนเกี่ยวกับ ข้อบกพร่อง defi คำเตือนดังกล่าวมาจาก การศึกษาวิจัย ที่เผยแพร่เมื่อเดือนตุลาคมปีที่แล้ว

แม้ว่าจะยังไม่ได้รับการตรวจสอบจากผู้ทรงคุณวุฒิ แต่การศึกษายังสรุปว่าแบบจำลองเหล่านี้ไม่ได้ให้เหตุผล หลังจากทดสอบ "การให้เหตุผล" ทาง matic ของ LLM ชั้นนำบางส่วนในอุตสาหกรรม AI

เพื่อทดสอบโมเดลเหล่านี้ วิศวกรได้ให้พวกเขาแก้ปัญหาทางคณิตศาสตร์หลายพันข้อจาก ชุดข้อมูล GSM8K ซึ่งเป็นเกณฑ์มาตรฐานของอุตสาหกรรม

ตามแนวคิดแห่งอนาคต คำถามทั่วไปจากชุดข้อมูลคือ “เจมส์ซื้อเนื้อวัว 5 แพ็ก ชิ้นละ 4 ปอนด์ ราคาเนื้อวัวอยู่ที่ 5.50 ดอลลาร์ต่อปอนด์ เขาจ่ายไปเท่าไหร่?”

วิศวกรได้เปิดเผยช่องว่างในโมเดล AI โดยเพียงแค่เปลี่ยนตัวเลขในคำถามเพื่อหลีกเลี่ยงการปนเปื้อนของข้อมูล สิ่งนี้ทำให้เกิดความไม่ถูกต้องเล็กน้อยแต่น่าทึ่งใน 20 LLM ที่ตรวจสอบ

อย่างไรก็ตาม เมื่อนักวิจัยก้าวไปอีกขั้นด้วยการเปลี่ยนชื่อและเพิ่ม "รายละเอียดที่ไม่เกี่ยวข้อง" ผลลัพธ์ที่ได้คือ "หายนะ" ซึ่งสูงถึง 65%

นักวิจัยเขียนว่า: “สิ่งนี้เผยให้เห็นข้อบกพร่องที่สำคัญในความสามารถของแบบจำลองในการแยกแยะข้อมูลที่เกี่ยวข้องสำหรับการแก้ปัญหา ซึ่งอาจเป็นเพราะการให้เหตุผลนั้นไม่เป็นทางการในคำศัพท์สามัญสำนึก และส่วนใหญ่ขึ้นอยู่กับการจับคู่รูปแบบ”

จากข้อมูลของนักวิจัย ผลลัพธ์ที่ได้จะแตกต่างกันไปในแต่ละรุ่น ตัวอย่าง 01 ของ OpenAI ลดลง 17.5% และ GPT-4o รุ่นก่อนลดลง 32% นักวิจัยตั้งข้อสังเกตว่าแม้แต่โมเดลที่ "ฉลาดที่สุด" ก็ประสบปัญหาและมีข้อบกพร่องร้ายแรงบางประการ

โมเดล AI ต้องดิ้นรนด้วยตัวเอง 

การทดสอบยังพิสูจน์ให้เห็นว่าโมเดล AI อาจดูฉลาดในการแก้ปัญหา แต่เมื่อไม่ได้คัดลอกการบ้านของใครบางคนแบบคำต่อคำ พวกเขาก็ประสบปัญหา สำหรับ Apple มีรายงานว่ายักษ์ใหญ่ด้านเทคโนโลยีทราบผลการทดสอบแต่ก็เปิดตัวโมเดลออกสู่ตลาด

มีการตอบโต้อย่างรุนแรงจากตลาด ซึ่งรวมถึง BBC ที่สร้างความกังวลเกี่ยวกับโมเดลที่เปิดเผยข้อมูลที่ทำให้เข้าใจผิด เพื่อให้ Apple หยุดโปรแกรม จนกว่าจะสามารถแก้ไขได้

ฟีเจอร์ AI ของ Apple ได้รับการคาดหวังให้สรุปการแจ้งเตือนข่าว แต่บางครั้งก็สร้างข่าวขึ้นมาเอง สร้างความไม่พอใจให้กับผู้อ่านและผู้เผยแพร่ข่าวเป็นอย่างมาก

หนึ่งในการแจ้งเตือนข่าวที่ไม่ถูกต้องกล่าวหาว่าราฟาเอล นาดาลเป็นเกย์ และชายคนหนึ่งที่ถูกกล่าวหาว่าสังหารหัวหน้าฝ่ายประกันภัยของสหรัฐฯ ได้ยิงตัวตาย AI ของ Apple ยังสรุปการแจ้งเตือนของแอป BBC อย่างไม่ถูกต้องโดยอ้างว่า Luke Littler ได้รับรางวัล PDC World Darts Championship ชั่วโมงก่อนที่จะเริ่ม

ดูเหมือนว่าบทสรุปที่ไม่ถูกต้องอีกเรื่องของนิวยอร์กไทม์สจะถูกตีพิมพ์เมื่อวันที่ 6 มกราคม ซึ่งเกี่ยวข้องกับวันครบรอบสี่ปีของการจลาจลในแคปิตอลฮิลล์

“ฟีเจอร์ Apple Intelligence อยู่ในช่วงเบต้า และเรากำลังทำการปรับปรุงอย่างต่อเนื่องโดยอาศัยความช่วยเหลือจากความคิดเห็นของผู้ใช้” Apple กล่าวในแถลงการณ์ต่อ BBC “การอัปเดตซอฟต์แวร์ในอีกไม่กี่สัปดาห์ข้างหน้าจะชี้แจงเพิ่มเติมเมื่อข้อความที่แสดงเป็นการสรุปโดย Apple Intelligence เรา ขอแนะนำให้ผู้ใช้รายงานข้อกังวลหากพวกเขาดูสรุปการแจ้งเตือนที่ไม่คาดคิด” คำแถลง กล่าวเสริม

ฟีเจอร์ที่ผิดพลาดของ Apple เป็นหนึ่งในเครื่องมือ AI ที่เผยแพร่แก่ผู้ใช้ iPhone รุ่นใหม่บางรุ่นในเดือนธันวาคม รวมถึงโทรศัพท์มือถือ iPhone 16, 15 Pro และ 15 Pro Max รวมถึงบน iPad และ Mac บางรุ่น

ระบบทีละขั้นตอน ในการเริ่มต้นอาชีพ Web3 ของคุณและเริ่มต้นงาน Crypto ที่มีรายได้สูงใน 90 วัน