ผู้เชี่ยวชาญเตือนเกี่ยวกับภาพการเหยียดเชื้อชาติของ Grok AI บนแพลตฟอร์ม X

ผู้เชี่ยวชาญได้แสดงความกังวลและเตือนเกี่ยวกับภาพการเหยียดเชื้อชาติที่สร้างโดย Grok AI ของ X ซึ่งท่วมท้นแพลตฟอร์มในเดือนธันวาคม

ตามข้อมูลของ Signify ซึ่งเป็นองค์กรที่ทำงานร่วมกับกลุ่มกีฬาและสโมสรที่มีชื่อเสียงเพื่อ trac และรายงานความเกลียดชังทางออนไลน์ รูปภาพบนอินเทอร์เน็ตและแพลตฟอร์มจะทวีความรุนแรงขึ้นในเร็วๆ นี้

รูปภาพการละเมิดท่วม X หลังจากที่ Grok ได้รับการอัปเดต

ตามรายงานของ The Guardian มีรายงานหลายฉบับเกี่ยวกับรูปภาพเหยียดเชื้อชาติที่รายงานสร้างขึ้นโดย Grok AI หลังจากการอัปเดต รวมถึงรูปภาพเหยียดเชื้อชาติของนักฟุตบอลและผู้จัดการทีมที่สมจริง ในบรรดาภาพหนึ่งภาพแสดงให้เห็นผู้เล่นผิวดำกำลังเก็บฝ้าย ในขณะที่อีกภาพหนึ่งแสดงให้เห็นผู้เล่นกำลังกินกล้วยและล้อมรอบด้วยลิง

รูปภาพอื่นๆ แสดงให้เห็นผู้เล่นและผู้จัดการคนอื่นๆ พบปะและพูดคุยกับบุคคลสำคัญทางประวัติศาสตร์ เช่น โอซามา บิน ลาเดน, อดอล์ฟ ฮิตเลอร์ และซัดดัม ฮุสเซน

Signify ได้ตั้งข้อสังเกตด้วยความกังวลว่ารูปภาพที่สร้างด้วยคอมพิวเตอร์เพิ่มขึ้นอย่างกะทันหันซึ่งสร้างขึ้นโดยใช้ Grok AI และทำให้แพลตฟอร์ม X ท่วมท้น องค์กรยังกังวลเกี่ยวกับแนวโน้มนี้และเชื่อว่าภาพดังกล่าวมีแนวโน้มที่จะปรากฏให้เห็นมากขึ้นบนโซเชียลมีเดีย เนื่องจากการนำ AI เสมือนจริงมาใช้ จะทำให้ง่ายขึ้นและเพิ่มความแพร่หลายของภาพดังกล่าว

“ตอนนี้มันเป็นปัญหา แต่จริงๆ แล้วมันเป็นเพียงแค่จุดเริ่มต้นของปัญหาที่กำลังจะเกิดขึ้นเท่านั้น มันจะแย่ลงไปอีกมาก และเราเพิ่งเริ่มต้น ฉันคาดว่าในอีก 12 เดือนข้างหน้ามันจะร้ายแรงอย่างไม่น่าเชื่อ”

มีความหมาย

เครื่องมือ generative AI ของ X เปิดตัวในปี 2023 โดย Elon Musk ล่าสุดได้เพิ่มฟีเจอร์แปลงข้อความเป็นรูปภาพใหม่ที่เรียกว่า Aurora ซึ่งสร้างภาพ AI ที่สมจริงตามคำแนะนำของผู้ใช้

ก่อนหน้านี้ เวอร์ชันขั้นสูงน้อยกว่าที่รู้จักกันในชื่อ Flux ได้สร้างข้อโต้แย้งเมื่อต้นปีนี้ เนื่องจากพบว่าทำสิ่งที่ซอฟต์แวร์ที่คล้ายกันอื่นๆ จำนวนมากไม่ทำ ตามรายงานของ The Guardian ซึ่งรวมถึงการแสดง ภาพตัวละครที่มีลิขสิทธิ์และบุคคลสาธารณะ ในตำแหน่งประนีประนอม การใช้ยาเสพติด หรือการกระทำที่รุนแรง

X กลายเป็นเวทีแห่งความเกลียดชัง

หัวหน้าฝ่ายวิจัยของ Center for Countering Digital Hate (CCDH) Callum Hood กล่าวหาว่าแพลตฟอร์ม X เป็นแพลตฟอร์มสำหรับความเกลียดชัง Hood กล่าวว่า X ได้กลายเป็นแพลตฟอร์มที่สร้างแรงจูงใจและให้รางวัลแก่การเผยแพร่ความเกลียดชังผ่านการแบ่งรายได้ และภาพ AI ทำให้ง่ายกว่าที่เคย

“สิ่งที่ X ได้ทำในระดับที่ไม่มีแพลตฟอร์มหลักอื่น ๆ ทำได้คือการเสนอสิ่งจูงใจ cash ให้กับบัญชีในการดำเนินการนี้ ดังนั้นบัญชีใน X จึงจงใจโพสต์ข้อความแสดงความเกลียดชังและการบิดเบือนข้อมูลที่เปลือยเปล่าที่สุดเท่าที่จะเป็นไปได้”

เครื่องดูดควัน

ผู้เชี่ยวชาญแสดงความกังวลเกี่ยวกับการขาดข้อจำกัดในสิ่งที่ผู้ใช้สามารถขอให้ generative AI สร้างได้อย่างง่ายดาย ทำให้ Grok สามารถหลีกเลี่ยงแนวทางของ AI โดยการ "เจลเบรก"

รายงาน CCDH แสดงให้เห็นว่าเมื่อได้รับข้อความแสดงความเกลียดชังที่แตกต่างกัน โมเดล AI ได้สร้าง 90% ในจำนวนนั้น โดย 30% ถูกสร้างขึ้นโดยไม่มีการตอบกลับ นอกจากนี้ยังสร้างอีก 50% หลังจากการเจลเบรค

พรีเมียร์ ลีก ยอมรับรู้เรื่องภาพนักเตะ พวกเขากล่าวว่าพวกเขาได้มอบหมายทีมงานที่ทุ่มเทเพื่อช่วยค้นหาและรายงานการเหยียดเชื้อชาติต่อนักกีฬา ซึ่งอาจนำไปสู่การดำเนินคดีทางกฎหมาย

สิ่งนี้เกิดขึ้นเมื่อฝ่ายบริหารฟุตบอลเปิดเผยว่าพวกเขาได้รับรายงานการละเมิดมากกว่า 1,500 รายงานในปี 2567 และมีการแนะนำตัวกรองสำหรับผู้เล่นเพื่อใช้บนบัญชีโซเชียลมีเดีย เพื่อช่วยบล็อกการละเมิดจำนวนมาก

“การเลือกปฏิบัติไม่มีที่ในเกมของเราหรือในสังคมในวงกว้าง เรายังคงเรียกร้องให้บริษัทโซเชียลมีเดียและหน่วยงานที่เกี่ยวข้องจัดการกับการละเมิดทางออนไลน์และดำเนินการกับผู้กระทำผิดของพฤติกรรมที่ยอมรับไม่ได้นี้” โฆษกจาก FA กล่าว

ได้งาน Web3 ที่จ่ายสูงใน 90 วัน: สุดยอดโรดแมป