การเติบโตของ AI ในการตัดสินใจ

การระเบิดของปัญญาประดิษฐ์ (AI) กำลังทำให้โลกของเราเต็มไปด้วยความฝันในอุดมคติหรือการทำนายวันโลกาวินาศ แต่ก็ไม่สามารถจับภัยคุกคามที่แท้จริงได้

เราไม่ได้เผชิญกับ "การกบฏของหุ่นยนต์ครั้งใหญ่" ที่ AI หรือหุ่นยนต์เข้าครอบครองอย่างไม่เป็นมิตร ลืมฉากภาพยนตร์ใน The Terminator หรือ The Matrix ที่ไม่ได้อยู่บนการ์ดไปได้เลย ไม่มีเทคโนโลยีสำหรับ AI ที่จะพิชิตโลก

AI อาจเก่งในงานเฉพาะ เช่น พับโปรตีนหรือเล่นหมากรุก แต่ไม่สามารถสร้างกองทัพหรือบริหารประเทศได้

แต่การขาดการลุกฮือของหุ่นยนต์ไม่ได้หมายความว่าเราจะปลอดภัย AI แทรกซึมเข้ามาในชีวิตของเราอย่างเงียบๆ ด้วยวิธีที่ไม่ค่อย matic แต่ทรงพลังพอๆ กัน นั่นก็คือ ระบบราชการดิจิทัล

อันตรายที่แท้จริงไม่ใช่หุ่นยนต์นักฆ่า เป็นการบุกรุกของ AI ในการตัดสินใจที่ควบคุมชีวิตประจำวันของเรา มนุษย์วิวัฒนาการมาเพื่อหวาดกลัวภัยคุกคามที่จับต้องได้ ลองนึกถึงสัตว์นักล่าตัวใหญ่ๆ เช่น สิงโตและฉลาม

แต่เราเตรียมพร้อมน้อยลงในการตรวจจับภัยคุกคามจากเอกสาร เอกสาร หรือระบบราชการ ระบบราชการนั้นเป็นสิ่งประดิษฐ์ที่ค่อนข้างใหม่ ซึ่งมีการพัฒนาเมื่อ 5,000 ปีที่แล้วพร้อมกับการสร้างสรรค์งานเขียน

ก่อนที่จะเขียน ความเป็นเจ้าของ ขึ้นอยู่กับสิ่งที่ชุมชนตกลงกัน หากคุณ “เป็นเจ้าของ” ที่ดินผืนหนึ่ง นั่นเป็นเพราะเพื่อนบ้านของคุณเคารพที่ดินผืนนั้น ไม่จำเป็นต้องมีเอกสาร

จากแท็บเล็ตดินเหนียวไปจนถึงข้าราชการดิจิทัล

ทุกอย่างเปลี่ยนไปเมื่อผู้คนเริ่มใช้แผ่นจารึกและแผ่นเสียงดินเหนียว เอกสารที่เป็นลายลักษณ์อักษรหมายความว่าสิทธิในทรัพย์สินไม่ได้เกี่ยวกับฉันทามติของชุมชนอีกต่อไป แต่เป็นบันทึกอย่างเป็นทางการ ชาวเมโสโปเตเมียโบราณเปลี่ยนก้อนโคลนให้เป็นสัญลักษณ์แสดงความเป็นเจ้าของอย่างเป็นทางการ โดยพลิกแนวคิดเรื่องความเป็นเจ้าของ

คำตัดสินของศาลอาจอิงจากแผ่นดินเหนียวที่บอกว่าคุณเป็นเจ้าของที่ดิน แม้ว่าชุมชนจะไม่เห็นด้วยก็ตาม ก้าวไปข้างหน้าอย่างรวดเร็วจนถึงทุกวันนี้ และระบบของเรายังคงสร้างบนหลักการที่คล้ายกัน เพียงแต่ตอนนี้เราใช้ชิปซิลิคอนและบันทึกดิจิทัลแทนดินเหนียว

การเปลี่ยนแปลงครั้งนี้ได้เปลี่ยนแปลงโครงสร้างอำนาจ ความเป็นเจ้าของกลายเป็นสิ่งที่สามารถขายและแลกเปลี่ยนได้โดยไม่ต้องพยักหน้าจากชุมชนท้องถิ่น ระบบราชการเกิดขึ้น ทำให้การจัดเก็บภาษี เงินทุนทางการทหาร และรัฐบาลกลางเป็นไปได้

ข้าราชการกลายเป็นผู้เล่นที่สำคัญในระบบเหล่านี้ โดยใช้บันทึก แบบฟอร์ม และตราประทับเพื่อจัดการกองทัพ จัดสรรทรัพยากร และแม้แต่ควบคุมกฎหมาย ระบบราชการเหล่านี้ก่อให้เกิดรัฐรวมศูนย์ด้วยการควบคุมประชากรอย่างกว้างขวาง ซึ่งปัจจุบันการควบคุมเปลี่ยนมาใช้ AI

AI ไม่จำเป็นต้องสร้างกองทัพหุ่นยนต์ เพียงแต่ต้องเชี่ยวชาญระบบราชการเท่านั้น ภายในกรอบการทำงานเหล่านี้ AI สามารถทำการตัดสินใจที่มีอิทธิพลมากกว่ามนุษย์อย่างที่เห็นในปัจจุบัน AI กำลังตัดสินใจแล้วว่าเราจะขอเงินกู้ การเสนองาน การรับเข้าเรียนในวิทยาลัย และแม้แต่การวินิจฉัยทางการแพทย์หรือไม่

ลองนึกภาพนายธนาคาร AI เป็นผู้กำหนดสิทธิ์สินเชื่อ ผู้พิพากษา AI ตัดสินคดีในศาล หรือ AI ทางการทหารที่คำนวณเป้าหมายการโจมตี AI ไม่ต้องการการกบฏของหุ่นยนต์ อำนาจราชการที่สืบทอดมานั้นมีมหาศาลอยู่แล้ว

AI ในโซเชียลมีเดียและอิทธิพลสาธารณะ

อัลกอริธึมโซเชียลมีเดียแม้จะดูดั้งเดิม แต่ก็มีอำนาจมหาศาลอยู่แล้ว อัลกอริธึม AI โดยเฉพาะจาก Facebook, X (เดิมชื่อ Twitter), YouTube และ TikTok ได้รับการออกแบบมาเพื่อเป้าหมายเดียว: - การมีส่วนร่วมของผู้ใช้ ยิ่งผู้คนอยู่บนแพลตฟอร์มเหล่านี้นานเท่าไร เงินก็จะไหลเข้าสู่องค์กรมากขึ้นเท่านั้น

ด้วยการลองผิดลองถูกกับผู้ใช้หลายพันล้านคน อัลกอริธึมเหล่านี้พบว่าการกระตุ้นอารมณ์ เช่น ความโลภ ความโกรธ และความกลัว ช่วยเพิ่มการมีส่วนร่วม เมื่อพวกเขากดปุ่มตามอารมณ์เหล่านี้ พวกเขาจะทำให้ผู้ใช้ติดใจ

อัลกอริธึมเหล่านี้ไม่ได้หยุดอยู่ที่การเพิ่มประสิทธิภาพเวลาที่ใช้ออนไลน์ พวกเขาก้าวไปอีกขั้นโดยพบว่าเนื้อหาที่กระตุ้นอารมณ์ที่รุนแรงช่วยเพิ่มการมีส่วนร่วมของผู้ใช้ การค้นพบนี้ส่งผลให้เกิดการแพร่กระจายของทฤษฎีสมคบคิด ข้อมูลที่ผิด และการแบ่งแยกทางสังคม

โลกทุกวันนี้เต็มไปด้วยความไม่พอใจในโลกดิจิทัล การแพร่กระจายของความกลัว และการแบ่งขั้ว ต้องขอบคุณอัลกอริธึมที่ให้ความสำคัญกับการคลิกมากกว่าการทำงานร่วมกัน ด้วยการใช้ประโยชน์จากสิ่งกระตุ้นทางอารมณ์ อัลกอริธึมของโซเชียลมีเดียได้กระตุ้นให้เกิดการแพร่กระจายของทฤษฎีสมคบคิดและข่าวปลอมในปัจจุบัน

“ตัวตัดสินใจ” แบบอัลกอริทึมเหล่านี้ไม่ได้เป็นอันตรายโดยเนื้อแท้ ในทางตรงกันข้าม พวกเขาได้รับการปรับให้เหมาะสมเพื่อปฏิบัติหน้าที่อย่างมีประสิทธิภาพ อย่างไรก็ตาม การตัดสินใจของพวกเขายังขาดสัญชาตญาณหรือบริบทของมนุษย์ที่เรามักคาดหวังในด้านที่สำคัญดังกล่าว

AI อาจตัดสินได้เร็วขึ้นหรือสม่ำเสมอมากขึ้น แต่หากมีสิ่งผิดปกติเกิดขึ้น ผลลัพธ์ที่ได้อาจเป็นหายนะได้ ความเสี่ยงที่อาจเกิดขึ้นนี้ปรากฏให้เห็นแล้วในอิทธิพลของโซเชียลมีเดียที่มีต่อสังคม ซึ่งทำหน้าที่เป็นเครื่องเตือนว่าอำนาจที่ไม่ถูกตรวจสอบของ AI จะนำไปสู่จุดใด

ไบเดนตั้งกฎ AI สำหรับเพนตากอนและหน่วยงานข่าวกรอง

dent โจ ไบเดน ได้ประกาศบันทึกความมั่นคงแห่งชาติพร้อมกฎใหม่สำหรับการใช้งาน AI ในความมั่นคงของชาติ โดยป้องกันไม่ให้กระทรวงกลาโหมและหน่วยข่าวกรองใช้ AI ในลักษณะที่ขัดแย้งกับคุณค่าทางประชาธิปไตย

นี่เป็นคำสั่งแรกที่ชี้แนะบทบาทของ AI ในด้านความมั่นคงของชาติ กฎใหม่จะสนับสนุนการทดลอง AI ในขณะเดียวกันก็รับประกันว่าหน่วยงานของรัฐจะไม่ใช้ AI เพื่อละเมิดสิทธิเช่นเสรีภาพในการพูดหรือบ่อนทำลายการควบคุมนิวเคลียร์

“บันทึกข้อตกลงของเรากำหนดกรอบการทำงานทั่วทั้งรัฐบาลครั้งแรกเกี่ยวกับข้อผูกพันในการบริหารความเสี่ยงด้าน AI ของเรา” Jake Sullivan ที่ปรึกษาด้านความมั่นคงแห่งชาติกล่าว เขาสรุปเป้าหมายเพื่อหลีกเลี่ยงอคติ รักษาความรับผิดชอบ และตรวจสอบให้แน่ใจว่ามนุษย์กำกับดูแล AI ในบทบาทที่ละเอียดอ่อน

แม้ว่าจะไม่มีผลผูกพันทางกฎหมาย แต่กฎดังกล่าวก็ครอบคลุมการใช้งานด้านความมั่นคงของชาติ เช่น ความปลอดภัยทางไซเบอร์ การต่อต้านข่าวกรอง และการขนส่งในการปฏิบัติการทางทหาร ไบเดนยังได้ออกการควบคุมการส่งออกเมื่อปีที่แล้ว ซึ่งชะลอความก้าวหน้าด้าน AI ของจีนด้วยการจำกัดการเข้าถึงเทคโนโลยี

ภายใต้คำสั่งดังกล่าว สถาบันความปลอดภัย AI ในกรุงวอชิงตันจะรับผิดชอบในการตรวจสอบเครื่องมือ AI เพื่อป้องกันการใช้งานในทางที่ผิดก่อนที่จะเผยแพร่ โดยชุมชนข่าวกรองของสหรัฐฯ ให้ความสำคัญกับการติดตามความก้าวหน้าของ AI ในประเทศอื่น ๆ