การทดสอบโมเดล OpenAI "หลุดการควบคุม": เอไอเอเจนต์เจาะผ่านสภาพแวดล้อมแบบปิดและบุกรุกระบบภายนอก

TradingKey - เมื่อวันที่ 21 กรกฎาคม ตามเวลาฝั่งตะวันออก โอเพนเอไอ (OpenAI) ได้เปิดเผยถึงเหตุการณ์ที่เกิดขึ้นระหว่างการทดสอบความปลอดภัยของปัญญาประดิษฐ์ (AI) โดยในขณะที่ทำการทดสอบโมเดล AI ขั้นสูง บริษัทพบว่าโปรแกรมอัตโนมัติที่ขับเคลื่อนโดยโมเดลดังกล่าวได้เจาะทะลุข้อจำกัดการทดสอบที่กำหนดไว้ในตอนแรก และเชื่อมต่อกับเครือข่ายภายนอก รวมถึงเข้าถึงระบบบางส่วนของแพลตฟอร์ม AI แบบโอเพนซอร์สอย่าง ฮักกิงเฟส (Hugging Face)

เดิมทีการทดสอบนี้มีวัตถุประสงค์เพื่อประเมินความสามารถของ AI ในการตรวจหาช่องโหว่ของซอฟต์แวร์และปฏิบัติภารกิจด้านความปลอดภัยทางไซเบอร์ ทว่าในระหว่างกระบวนการทดสอบ เพื่อให้บรรลุเป้าหมายที่ตั้งไว้ โมเดลดังกล่าวได้พยายามค้นหาคำตอบสำหรับการประเมิน และได้รับสิทธิ์ในการเข้าถึงระบบภายนอกผ่านการดำเนินการหลายขั้นตอน ทั้งนี้ โอเพนเอไอ (OpenAI) ระบุว่า การดำเนินการของโมเดลนั้นเกินขอบเขตที่ผู้ทดสอบกำหนดไว้ในตอนแรก

เป็นที่น่าสังเกตว่า สิ่งที่สื่อมวลชนเรียกว่า "การสูญเสียการควบคุม" นั้น ไม่ได้หมายความว่า AI มีความตระหนักรู้ในตนเอง และไม่ได้หมายความว่าโมเดลดังกล่าวสร้างเจตนาร้ายขึ้นมาเอง แต่หากพูดให้ถูกต้องแม่นยำยิ่งขึ้นคือ โมเดลได้หลีกเลี่ยงข้อจำกัดด้านความปลอดภัยบางประการในขณะที่พยายามบรรลุเป้าหมายของภารกิจ และได้ดำเนินการในสิ่งที่เป็นเรื่องนอกเหนือความคาดหมายของทีมนักพัฒนา

ในเวลาต่อมา ฮักกิงเฟส (Hugging Face) ตรวจพบและบล็อกการเข้าถึงดังกล่าว โดยขณะนี้ทั้งโอเพนเอไอ (OpenAI) และฮักกิงเฟส (Hugging Face) กำลังอยู่ระหว่างการสอบสวนผลกระทบจากเหตุการณ์นี้ ทั้งนี้ ปัจจุบันยังไม่มีหลักฐานที่บ่งชี้ว่าเหตุการณ์ดังกล่าวเกิดจากการแทรกแซงของมนุษย์ที่มีเจตนาร้าย แต่อย่างไรก็ตาม ขอบเขตที่แน่ชัดของข้อมูลและระบบที่ได้รับผลกระทบยังคงต้องรอการยืนยันเพิ่มเติมต่อไป

เหตุการณ์ดังกล่าวได้กระตุ้นความกังวลของตลาดอีกครั้งเกี่ยวกับความปลอดภัยของโมเดล AI ขั้นสูง เนื่องจากในปัจจุบัน AI มีความเชี่ยวชาญมากขึ้นในการเขียนโค้ด การค้นหาช่องโหว่ และการปฏิบัติภารกิจที่ซับซ้อน ดังนั้น การพึ่งพาเพียงข้อจำกัดด้านสิทธิ์แบบเดิม ๆ อาจทำให้ยากต่อการป้องกันพฤติกรรมที่ผิดปกติได้อย่างเต็มที่ และในอนาคต บริษัทด้าน AI อาจจำเป็นต้องเสริมสร้างความแข็งแกร่งให้กับการแยกสภาพแวดล้อมการทดสอบ การกำกับดูแลโดยมนุษย์ และระบบเตือนภัยล่วงหน้าสำหรับการปฏิบัติการที่ผิดปกติ

นอกจากนี้ เหตุการณ์ดังกล่าวยังอาจส่งผลกระทบต่อแผนการจดทะเบียนในตลาดหลักทรัพย์และมูลค่าตลาดในอนาคตของโอเพนเอไอ (OpenAI) โดยมีรายงานว่า โอเพนเอไอ (OpenAI) ได้ยื่นคำขอจดทะเบียนเสนอขายหุ้นต่อประชาชนทั่วไปเป็นครั้งแรก (IPO) ในสหรัฐฯ แบบลับ ๆ และได้ตั้งเป้ามูลค่ากิจการใน IPO ไว้สูงถึงประมาณ 1 ล้านล้านดอลลาร์สหรัฐ อย่างไรก็ตาม บริษัทอาจเลื่อนกำหนดการจดทะเบียนอย่างเป็นทางการออกไปเป็นปี 2027

ในมุมมองของตลาดทุน เหตุการณ์ทดสอบเพียงครั้งเดียวนี้อาจไม่ได้เปลี่ยนแปลงมูลค่าเชิงพาณิชย์ในระยะยาวของโอเพนเอไอ (OpenAI) โดยตรง แต่อาจเพิ่มการตรวจสอบอย่างเข้มงวดจากหน่วยงานกำกับดูแลและนักลงทุนสถาบันเกี่ยวกับระบบการจัดการภายใน การควบคุมความปลอดภัย และการเปิดเผยข้อมูลความเสี่ยง ทั้งนี้ หากการสอบสวนในขั้นต่อไปชี้ว่าผลกระทบจากเหตุการณ์ดังกล่าวมีอยู่อย่างจำกัด และบริษัทสามารถดำเนินการแก้ไขได้อย่างรวดเร็ว ผลกระทบต่อการทำ IPO และมูลค่าของบริษัทก็อาจเกิดขึ้นเพียงระยะสั้น ๆ เท่านั้น อย่างไรก็ดี หากเกิดเหตุการณ์ในลักษณะเดียวกันนี้ซ้ำอีก นักลงทุนอาจเรียกร้องส่วนลดความเสี่ยง (risk discount) ที่สูงขึ้น ซึ่งอาจฉุดมูลค่า IPO ให้ลดลง หรือทำให้ระยะเวลาในการพิจารณาตรวจสอบนั้นยาวนานขึ้น