แซม อัลท์แมน สนับสนุนการควบคุมจังหวะการพัฒนา AI ระดับแนวหน้า ด้าน OpenAI เตรียมนำการประเมินความปลอดภัยที่เป็นอิสระมาใช้

อัลท์แมนระบุว่า การปรับจังหวะการพัฒนาไม่ได้หมายถึงการหยุดการวิจัยและพัฒนา แม้ว่าข้อพิจารณาด้านความปลอดภัยและการติดตามตรวจสอบอย่างต่อเนื่องจะเพิ่มต้นทุนและอาจทำให้ความคืบหน้าในการฝึกฝนช้าลงบ้าง แต่การพัฒนาโมเดลและความก้าวหน้าทางเทคโนโลยีจะยังคงดำเนินต่อไป

ก่อนหน้านี้ นโยบายการขยายขนาดอย่างมีความรับผิดชอบที่บริษัท AI ชั้นนำบางแห่งนำมาใช้ และกรอบความพร้อมที่จัดทำโดย OpenAI มุ่งเน้นไปที่โมเดลที่ฝึกฝนเสร็จสมบูรณ์และความเสี่ยงในการนำไปใช้งานเป็นหลัก อัลท์แมนเชื่อว่าการจัดการความปลอดภัยควรรอบคลุมถึงกระบวนการพัฒนาและประเมินผลโมเดลด้วยเช่นกัน

สำหรับการฝึกฝนการเรียนรู้แบบเสริมกำลังระดับชั้นนำที่คาดว่าจะช่วยเพิ่มขีดความสามารถของโมเดลได้อย่างมีนัยสำคัญ OpenAI ได้เริ่มกำหนดข้อพิจารณาด้านความปลอดภัยที่ชัดเจนก่อนการฝึกฝน ขณะเดียวกันก็ยังคงรักษาการประเมินความปลอดภัยก่อนการเปิดตัวโมเดลไว้ บริษัทหวังว่าบริษัท AI ชั้นนำอื่น ๆ จะนำแนวทางของตนไปปรับใช้และเสนอโซลูชันของตัวเอง เพื่อขับเคลื่อนการสร้างมาตรฐานร่วมกันสำหรับปัญหาความไม่สอดคล้องของโมเดล การติดตามตรวจสอบ และความปลอดภัย

อัลท์แมนระบุว่า การปรับจังหวะการพัฒนาไม่ได้เท่ากับการหยุดการวิจัยและพัฒนา ข้อพิจารณาด้านความปลอดภัยและการติดตามตรวจสอบอย่างต่อเนื่องจำเป็นต้องใช้ทรัพยากรมากขึ้น และจะทำให้อัตราการพัฒนาขีดความสามารถของ AI ชั้นนำต่ำกว่ากรณีที่ไม่มีมาตรการดังกล่าว แต่การวิจัยและพัฒนาที่เกี่ยวข้องจะยังคงรุดหน้าต่อไป

ความคิดเห็นของอัลท์แมนมีขึ้นเพื่อตอบรับข้อเสนอแนะเมื่อวันที่ 12 กันยายน จากดาริโอ อะโมเดอี ประธานเจ้าหน้าที่บริหารของแอนโทรพิก โดยอะโมเดอีระบุว่า ยิ่ง AI มีส่วนร่วมในการพัฒนาโมเดลรุ่นต่อไปมากขึ้น ความสามารถของโมเดลก็อาจก้าวหน้าไปเร็วกว่าที่อุตสาหกรรมจะสามารถเข้าใจและควบคุมความเสี่ยงที่เกี่ยวข้องได้

อะโมเดอีได้เสนอมาตรการ 3 ประการ ได้แก่ การที่บริษัท AI ชั้นแนวหน้าให้สิทธิ์ทีมประเมินที่เป็นบุคคลภายนอกเข้าถึงข้อมูลอย่างต่อเนื่องในระดับที่ใกล้เคียงกับพนักงาน การส่งเสริมการจัดทำมาตรฐานความปลอดภัยร่วมกันระหว่างบริษัทที่เกี่ยวข้องในประเทศกลุ่มประชาธิปไตย และการผลักดันความร่วมมือระหว่างประเทศซึ่งรวมถึงประเทศอย่างสหรัฐฯ และจีน

แอนโทรพิกได้ให้คำมั่นที่จะดึงทีมประเมินจากภายนอกเข้ามาทำงาน ขณะเดียวกัน อัลท์แมนระบุว่าโอเพนเอไอจะนำแนวทางการประเมินอิสระที่คล้ายคลึงกันมาใช้เช่นกัน แม้ว่าบริษัทยังไม่ได้เปิดเผยรายละเอียดสิทธิ์การเข้าถึงเฉพาะของผู้ประเมินและกรอบเวลาในการดำเนินการก็ตาม

ในประเด็นเรื่องความเร็วในการพัฒนา ลำดับความสำคัญของทรัมป์มีความแตกต่างจากผู้นำบางคนในบริษัท AI ชั้นแนวหน้า โดยทรัมป์มองว่าสหรัฐฯ ไม่มีความจำเป็นต้องชะลอการพัฒนา AI เพื่อหลีกเลี่ยงการสูญเสียการเป็นผู้นำเหนือจีน ขณะเดียวกัน อัลท์แมนสนับสนุนให้ดำเนินการวิจัยและพัฒนาต่อไป พร้อมทั้งสร้างความมั่นใจว่ามาตรการด้านความสอดคล้อง ความปลอดภัย และการตรวจสอบ จะไม่ล้าหลังความก้าวหน้าด้านขีดความสามารถของโมเดล

เนื้อหานี้ได้รับการแปลโดยปัญญาประดิษฐ์ (AI) และผ่านตรวจสอบโดยมนุษย์ มีไว้เพื่อการอ้างอิงและข้อมูลทั่วไปเท่านั้น ไม่ใช่การแนะนำการลงทุนแต่อย่างใด