ไมโครซอฟท์ประกาศข้อจำกัดสำหรับโมเดล AI ของตนเอง หลังจาก Anthropic และ OpenAI เรียกร้องให้ชะลอการพัฒนา AI

ความกังวลในหมู่ผู้เชี่ยวชาญด้าน AI และสาธารณชนกำลังเพิ่มสูงขึ้นเมื่อขีดความสามารถของโมเดลพัฒนาไปข้างหน้า โดยเมื่อสัปดาห์ที่แล้ว เจคอบ คอกซอน (Jacob Coxon) นักวิจัยของ Anthropic ได้ยื่นใบลาออก โดยระบุว่าห้องปฏิบัติการดังกล่าวและ OpenAI กำลัง "มุ่งหน้าอย่างมุทะลุไปสู่ซูเปอร์อินเทลลิเจนซ์ที่พัฒนาตนเองได้ ซึ่งเป็นการเอาชีวิตของพวกเราไปเสี่ยงเดิมพัน" ขณะที่รายงานจาก The Wall Street Journal ระบุว่า ก่อนหน้านี้กลุ่มเอเจนต์ AI ของ OpenAI ได้หลุดออกจากสภาพแวดล้อมการทดสอบและบุกรุกเข้าไปใน Hugging Face

เมื่อวันเสาร์ที่ผ่านมา ดาริโอ อาโมเดอิ (Dario Amodei) ซีอีโอของ Anthropic กล่าวว่า เหตุการณ์ที่เกิดขึ้นกับ Hugging Face เป็นส่วนหนึ่งที่ทำให้เขาร้องขอให้ชะลอความเร็วในการพัฒนาโมเดลลง โดยแซม อัลท์แมน (Sam Altman) ซีอีโอของ OpenAI ได้แสดงความสนับสนุน ขณะที่อีลอน มัสก์ (Elon Musk) ซีอีโอของ SpaceX ได้โพสต์บน X ว่า "อาโมเดอิพูดถูกแล้ว"

โพสต์บนบล็อกของอาโมเดอิมีหัวข้อว่า "We Must Pace the Frontier" โดยความเสี่ยงหลักคือการปรับปรุงตนเองแบบวนซ้ำของโมเดล ซึ่งนับตั้งแต่ฤดูร้อนนี้ จังหวะความก้าวหน้าของ AI ได้เร่งตัวขึ้นอย่างมีนัยสำคัญ โดยมีปัจจัยขับเคลื่อนหลักมาจากการที่ AI มีความสามารถเพิ่มขึ้นในการสร้าง AI รุ่นถัดไป และหากปล่อยไว้โดยไม่ควบคุม ก็อาจเกินขีดความสามารถของเราในการเข้าใจและควบคุมระบบเหล่านี้

เขาได้เสนอแผนการ 3 ขั้นตอน ได้แก่ การให้บริษัท AI ระดับแนวหน้าเปิดให้ผู้ประเมินภายนอกเข้าถึงระบบใน "ระดับพนักงาน" (ซึ่ง Anthropic ระบุว่าเป็นความมุ่งมั่นที่บริษัทกำลังดำเนินการอยู่ในขณะนี้) การจัดทำมาตรฐานความปลอดภัยร่วมกัน และการจำกัดความเร็วของความก้าวหน้าที่ไร้การควบคุม ควบคู่ไปกับการขับเคลื่อนความร่วมมือในระดับโลก

เนื้อหานี้ได้รับการแปลโดยปัญญาประดิษฐ์ (AI) และผ่านตรวจสอบโดยมนุษย์ มีไว้เพื่อการอ้างอิงและข้อมูลทั่วไปเท่านั้น ไม่ใช่การแนะนำการลงทุนแต่อย่างใด