เครื่องมือลายน้ำโอเพ่นซอร์สของ Google สำหรับผู้ใช้เพื่อ dent ข้อความที่สร้างโดย AI

นักวิจัยของ Google อธิบายเครื่องมือใส่ลายน้ำของพวกเขา

ใน โพสต์บนแพลตฟอร์ม X บริษัทเสิร์ชเอ็นจิ้นยักษ์ใหญ่เปิดเผยว่ากำลังเปิดซอร์สเครื่องมือใส่ลายน้ำ SynthID Text โดยกล่าวว่ามันจะ “มีให้ใช้งานฟรีสำหรับธุรกิจและนักพัฒนา เนื่องจากจะช่วยให้พวกเขา dent เนื้อหาที่สร้างโดย AI”

Pushmeet Kohli รอง dent ฝ่ายวิจัยของ Google DeepMind และผู้ร่วมเขียนรายงานการวิจัยจาก Google DeepMind กล่าวว่า "ระบบไม่ได้ประนีประนอมฟังก์ชันของโมเดล AI แต่เพียงทำให้ดีขึ้นเท่านั้น"

รูปภาพและวิดีโอเป็นศูนย์กลางในการอภิปรายเกี่ยวกับความน่า dent ของเนื้อหาและลายน้ำที่ได้รับการจัดสรรให้เป็นโซลูชันที่จำเป็นในการต่อสู้กับ Deepfakes

Coalition for Content Provenance and Authenticity (C2PA) ซึ่งเป็นความร่วมมือระหว่างบริษัทเทคโนโลยีและสื่อรายใหญ่เพื่อสร้างระบบสำหรับการแนบเมตาดาต้าที่เข้ารหัสเพื่อระบุภาพและวิดีโอที่สร้างโดย AI ก็เป็นศูนย์กลางของการอภิปรายเหล่านี้เช่นกัน

ตามรายงานการวิจัยของ Google DeepMinds ข้อความ SynthID จะรบกวนการสร้างเนื่องจากจะเปลี่ยนคำบางคำที่แชทบอทแสดงให้ชัดเจนสำหรับเครื่องตรวจจับ SynthID แต่แทบจะมองไม่เห็นโดยมนุษย์

“การปรับเปลี่ยนเช่นนี้จะนำลายเซ็นทางสถิติมาสู่ข้อความที่สร้างโดย AI และในระหว่างขั้นตอนการตรวจจับลายน้ำ ลายเซ็นสามารถวัดได้เพื่อดูว่าข้อความนั้นมาจากโมเดล AI โดย LLM ที่มีลายน้ำหรือไม่” นักวิจัยเขียนในรายงาน

ด้วยการสร้างประโยคทีละคำ นั่นคือวิธีการทำงานของ LLM ที่ขับเคลื่อนแชทบอท เนื่องจากพวกเขาเลือกคำถัดไปที่น่าจะเป็นไปได้ขึ้นอยู่กับบริบทของสิ่งที่เกิดขึ้นก่อนหน้านี้ ด้วยการสุ่มจัดสรรคะแนนตัวเลขให้กับคำที่ผู้สมัครสอบ LLM จะสร้างคำที่มีคะแนนสูงกว่า ลายน้ำจะถูกใส่ลงบนข้อความที่จะวิเคราะห์โดยเครื่องตรวจจับและพบว่ามีคะแนนสูงกว่า

วันนี้ เรากำลังเปิดซอร์สเครื่องมือใส่ลายน้ำข้อความ SynthID ของเราผ่านชุดเครื่องมือ Responsible Generative AI Toolkit ที่ได้รับการอัปเดต

พร้อมให้บริการฟรีสำหรับนักพัฒนาและธุรกิจ ซึ่งจะช่วยให้พวกเขา dent เนื้อหาที่สร้างโดย AI ได้

ค้นหาข้อมูลเพิ่มเติม → https://t.co/n2aYoeJXqn pic.twitter.com/4uRKYaz57Y

– Google DeepMind (@GoogleDeepMind) 23 ตุลาคม 2024

ผู้เชี่ยวชาญในอุตสาหกรรมยกย่อง Google ที่ก้าวไปในทิศทางที่ถูกต้อง

แม้ว่าระบบ DeepMind จะทำงานได้ดีกว่าเครื่องมืออื่นๆ ในเรื่องลายน้ำ แต่นักวิจัยยอมรับในรายงานของพวกเขาว่าเครื่องมือยังคงมีข้อบกพร่อง ตัวอย่างเช่น หากคุณแก้ไขข้อความที่สร้างโดยราศีเมถุน เครื่องมือตรวจจับจะถูกหลอก

“แม้ว่า SynthID จะไม่ใช่เครื่องมือช่วยใน dent เนื้อหาที่สร้างโดย AI แต่ก็เป็นองค์ประกอบสำคัญสำหรับการพัฒนาเครื่องมือระบุ dent ด้วย AI ที่เชื่อถือได้มากขึ้น”

– โคห์ลี.

หากผู้ใช้แก้ไขข้อความอย่างมีนัยสำคัญหรือใช้แชทบอตอื่นเพื่อสรุปข้อความ อุปกรณ์ตรวจจับจะหลงทางในการใส่ลายน้ำข้อความที่สร้างโดย AI

Google อ้างว่า SynthID Text ไม่กระทบต่อคุณภาพ ความแม่นยำ หรือความเร็วของการสร้างข้อความตามที่ทดสอบโดยระบบที่รวมอยู่ใน โมเดล Gemini บริษัทยังกล่าวเพิ่มเติมอีกว่ามันใช้งานได้แม้กับข้อความที่ถูกครอบตัด ดัดแปลง หรือถอดความ

“การตรวจจับเป็นปัญหาเฉพาะเมื่อเริ่มคำนึงถึงการใช้งานในสถานการณ์จริง เนื่องจากมีปัญหาในการตรวจสอบข้อความในป่า ซึ่งเราจะต้องรู้ว่ามีการใช้ลายน้ำรูปแบบใดจึงจะรู้และจะหาตำแหน่งได้ที่ไหน สัญญาณ” Bruce MacCormack สมาชิกของคณะกรรมการกำกับดูแล C2PA อธิบาย

นอกจาก Google แล้ว OpenAI ยังทำงานเกี่ยวกับเทคโนโลยีลายน้ำข้อความ AI มาหลายปีแล้ว แต่ได้ เลื่อนการเปิดตัวออกไป เนื่องจากความสามารถทางเทคนิคและเชิงพาณิชย์

แต่ผู้เชี่ยวชาญในอุตสาหกรรมมักยกย่องความคิดริเริ่มของ Google ว่าเป็นก้าวไปในทิศทางที่ถูกต้อง

“บริษัทให้คำมั่นสัญญาว่าจะปรับปรุงการใช้ dent เนื้อหาที่คงทนจาก C2PA สำหรับเอกสารและข้อความดิบ” แอนดรูว์ เจงค์ส ผู้อำนวยการฝ่ายแหล่งที่มาของสื่อและประธานบริหารของ C2PA ของ Microsoft กล่าว

MacCormack ยังเสริมด้วยว่าแม้ว่านักวิจัยของ Google ยังมีสิ่งที่ต้องทำอีกมากเพื่อทำให้กรณีนี้ใช้งานได้จริง แต่ก็ยังคงเป็นความคิดริเริ่มที่ยิ่งใหญ่และเป็น "ก้าวแรกในการวิ่งมาราธอนข้างหน้า"