Schmidt อดีต CEO ของ Google เรียกร้องให้ 'ถอดปลั๊ก' ระบบ AI ที่ความสามารถบางอย่าง

Eric Schmidt อดีต CEO ของ Google เตือนนักพัฒนาปัญญาประดิษฐ์ให้ควบคุมเพดานการพัฒนาของตน นอกจากนี้เขายังเน้นย้ำถึงความสำคัญของสหรัฐอเมริกาที่ชนะการแข่งขันปัญญาประดิษฐ์ (AI) กับจีนที่กำลังดำเนินอยู่

ในการให้สัมภาษณ์ กับ George Stephanopoulos ในสัปดาห์นี้ ในรายการ ABC News เมื่อวันอาทิตย์ที่ผ่านมา Schmidt เตือนเกี่ยวกับศักยภาพของระบบ AI ที่จะทำงานอย่าง dent และแม้แต่ปรับปรุงตัวเองด้วย

“ เร็วๆ นี้ เราจะสามารถมีคอมพิวเตอร์ที่ทำงานด้วยตัวเองได้ เพื่อตัดสินใจว่าพวกเขาต้องการทำอะไร ” ชมิดต์กล่าว

ชมิดต์: ไม่ควรปล่อยให้ AI ไม่ถูกตรวจสอบ

ชมิดต์ย้ำถึงความเสี่ยงของการพัฒนา AI ขั้นสูงโดยไม่ได้รับการควบคุม โดยสังเกตว่าระบบที่สามารถพัฒนาตนเองได้นั้นก่อให้เกิดอันตรายอย่างมาก

“ เมื่อระบบสามารถปรับปรุงตนเองได้ เราจำเป็นต้องคิดอย่างจริงจังเกี่ยวกับการถอดปลั๊กออก ” อดีต CEO ของ Google กล่าว

เมื่อสเตฟาโนปูลอสถามชมิดต์ว่าระบบ AI ดังกล่าวสามารถตอบโต้ความพยายามในการปิดระบบได้หรือไม่ ชมิดต์ตอบว่า "ตามทฤษฎีแล้ว เราควรมีคนที่คอยช่วยเหลือ—ในเชิงเปรียบเทียบ"

ในขณะที่ความกังวลเกี่ยวกับ ความเสี่ยงที่มีอยู่ของ AI กำลังเพิ่มมากขึ้น ผู้เชี่ยวชาญบางคนแย้งว่าความกลัวดังกล่าวเกินความจริง ศาสตราจารย์นิค เจนนิงส์ รองผู้อำนวยการฝ่ายวิจัยที่อิมพีเรียลคอลเลจลอนดอน เป็นหนึ่งในผู้ที่ไม่เห็นด้วยกับคำทำนายวันโลกาวินาศ

Jennings ยืนยัน ว่าแม้ว่า AI จะสามารถเป็นเลิศในงานเฉพาะด้านได้ แต่การสร้างระบบที่มีความฉลาดเหมือนมนุษย์ในหลากหลายด้านยังคงเกินกว่าความสามารถในปัจจุบันของนักวิทยาศาสตร์

“ การพัฒนา AI ที่ทำงานเดี่ยวๆ ได้เป็นอย่างดีนั้นสามารถทำได้ ” Jennings อธิบาย “แต่การสร้าง AI ทั่วไปที่สะท้อนความฉลาดของมนุษย์ในหลาย ๆ วิชานั้นไม่ใช่สิ่งที่เราคาดหวังได้ในอนาคตอันใกล้นี้”

ความคิดเห็นที่แตกต่างเกี่ยวกับภัยคุกคามจาก AI

ในขณะเดียวกัน ความกังวลยังคงมีอยู่ในหมู่นักวิจัย AI ชั้นนำที่เตือนถึงอันตรายที่เกิดจากวัตถุประสงค์ที่กำหนด defi ไม่ดีและมาตรการความปลอดภัยที่ไม่เพียงพอ Stuart Russell ศาสตราจารย์ UC Berkeley และนักวิชาการหลังปริญญาเอก Michael Cohen โต้แย้งว่าในที่สุดระบบ AI ที่ทรงพลังก็อาจเป็นภัยคุกคามต่อมนุษยชาติได้หากปล่อยทิ้งไว้โดยไม่ตรวจสอบ

ใน รายงานข้อมูลเชิงลึก ที่ตีพิมพ์ในวารสารวิทยาศาสตร์ Russell และ Cohen เรียกร้องให้มีการกำกับดูแลการพัฒนา AI ที่เข้มงวดมากขึ้น พวกเขาเน้นย้ำถึงความจำเป็นที่บริษัทเทคโนโลยีจะต้องพิสูจน์ความปลอดภัยของระบบ AI ก่อนปล่อยออกสู่ตลาด พวกเขาโต้แย้งว่าหากไม่มีวัตถุประสงค์ที่ชัดเจนและการป้องกันที่แข็งแกร่ง ระบบ AI ขั้นสูงก็สามารถดำเนินการขัดต่อผลประโยชน์ของมนุษย์ได้

“ หากวัตถุประสงค์ของ AI เหล่านี้ขัดแย้งกับวัตถุประสงค์ของมนุษย์ มันก็อาจเรียกได้ว่าเป็นหายนะ ” รัสเซลล์และโคเฮนเขียน พวกเขาเชื่อว่าบริษัทเทคโนโลยีควรมีความรับผิดชอบในการรับรองความปลอดภัยของระบบของตน และ dent "เส้นสีแดง" ที่สำคัญซึ่ง AI ไม่ควรข้าม

การถกเถียงที่เพิ่มมากขึ้นเกี่ยวกับความปลอดภัยของ AI

ความก้าวหน้าอย่างรวดเร็วของ AI ได้ก่อให้เกิดความท้าทายแล้ว รวมถึงการแพร่กระจายของข้อมูลที่บิดเบือน การแบ่งขั้วทางสังคม และอคติของอัลกอริทึม ความกังวลเกี่ยวกับความปลอดภัยและกฎระเบียบยังไม่สอดคล้องกับการพัฒนาของเทคโนโลยี

คำกล่าวของชมิดท์สะท้อนให้เห็นถึงความเร่งด่วนที่เพิ่มขึ้นในหมู่ผู้นำอุตสาหกรรมในการจัดการกับความท้าทายเหล่านี้ ผู้เชี่ยวชาญอย่าง Elon Musk เรียกร้องให้มีกฎระเบียบล่วงหน้าเพื่อลดความเสี่ยงด้าน AI มานานแล้ว

Musk ซึ่งครั้งหนึ่งเคยเรียก AI ว่าเป็น “ความเสี่ยงที่ใหญ่ที่สุดที่เราเผชิญในฐานะอารยธรรม” เตือน ว่าทางการไม่ได้ทำอะไรเลยในการจัดการกับอันตรายของมัน ในทำนองเดียวกัน นักฟิสิกส์ Stephen Hawking กลัวว่าการบรรลุความเป็นเอกเทศ ซึ่งเป็นจุดที่เครื่องจักรเหนือกว่าสติปัญญาของมนุษย์ อาจทำให้มนุษยชาติไม่สามารถควบคุมระบบ AI ขั้นสูงได้

ในการให้สัมภาษณ์ Hawking แย้งว่าหากไม่มีข้อบังคับ AI อาจกลายเป็น "สิ่งที่ดีที่สุดหรือเลวร้ายที่สุดที่เกิดขึ้นกับมนุษยชาติ"

การแข่งขัน AI ของสหรัฐฯ-จีนรุนแรงขึ้น

ชมิดต์ตั้งข้อสังเกตว่าแม้ว่าก่อนหน้านี้สหรัฐฯ จะเป็นผู้นำ ในการพัฒนา AI เหนือจีน แต่ช่องว่างก็แคบลงอย่างมากในช่วงหกเดือนที่ผ่านมา “ จีนตามทันในลักษณะที่น่าทึ่ง ” เขากล่าว โดยบรรยายถึงสถานการณ์ปัจจุบันว่าเป็นการแข่งขันที่มีเดิมพันสูงระหว่างสองมหาอำนาจ

“ มีประเด็นหนึ่ง บางทีในปีหรือสองปีข้างหน้า ที่ระบบสามารถเริ่มทำการวิจัยของตนเองได้ พวกเขาถูกเรียกว่านักวิทยาศาสตร์ AI ซึ่งต่างจากนักวิทยาศาสตร์ที่เป็นมนุษย์ คุณเปลี่ยนจากการมีนักวิทยาศาสตร์ที่เป็นมนุษย์ 1,000 คน มาเป็นนักวิทยาศาสตร์ AI หนึ่งล้านคน ฉันคิดว่านั่นจะเพิ่มความชัน และเมื่อคุณเคลื่อนที่ด้วยความเร็วนี้ คู่แข่งจะตามทันได้ยาก ” เขากล่าว

ชมิดต์เชื่อว่า ฝ่ายบริหารของทรัมป์ ที่เข้ามาจะให้ความสำคัญกับความสามารถในการแข่งขันของสหรัฐฯ ในด้าน AI ซึ่งเขามองว่าเป็นก้าวเชิงบวก “ตราบใดที่คุณค่าของมนุษย์ยังคงอยู่” เขากล่าว “เราควรจะโอเค”

ระบบทีละขั้นตอน ในการเริ่มต้นอาชีพ Web3 ของคุณและเริ่มต้นงาน Crypto ที่มีรายได้สูงใน 90 วัน