มาเลเซีย และ อินโดนีเซีย กลายเป็นสองประเทศแรกในโลกที่สั่งระงับการเข้าถึง Grok ซึ่งเป็นแชทบอท AI บนแพลตฟอร์ม X ของ อีลอน มัสก์ (Elon Musk) เนื่องจากความกังวลเรื่องการนำเทคโนโลยีนี้ไปใช้ สร้างภาพตัดต่อลามกอนาจาร (Deepfakes)
มาเล-อินโด 2 ประเทศแรกในโลกนำร่องแบน
คณะกรรมการการสื่อสารและมัลติมีเดียของมาเลเซีย (MCMC) ได้ออกมาเคลื่อนไหวต่อต้าน Grok แพลตฟอร์ม AI Chatbot ของ อีลอน มัสก์ เนื่องจากมีการ ใช้ Grok ในทางที่ผิดซ้ำ ๆ เพื่อสร้างเนื้อหาที่เป็นอันตราย โดยเฉพาะถูกนำไปใช้แก้ไขภาพบุคคลจริงให้ดูเหมือนสวมชุดวาบหวิว หรือสร้างภาพลามกอนาจารโดยที่เจ้าตัวไม่ยินยอม ซึ่งส่งผลกระทบต่อผู้หญิงและเด็ก
นอกจากนี้ ยังระบุว่า X ล้มเหลวในการแก้ไขความเสี่ยงเชิงโครงสร้างของแพลตฟอร์ม โดยเน้นไปที่การให้ผู้ใช้รายงานปัญหาเพียงอย่างเดียว แทนที่จะมีระบบป้องกันที่รัดกุม
ขณะที่ อินโดนีเซีย ก็เป็นอีกประเทศที่ออกมาแบน Grok โดยก่อนหน้านี้ อินโดนีเซียได้พยายามปราบปรามแหล่งสื่อลามกออนไลน์ในช่วงไม่กี่ปีที่ผ่านมา อาทิ แพลตฟอร์ม OnlyFans และ Pornhub ที่ถูกแบนในประเทศแล้ว
โดย Meutya Hafid รัฐมนตรีว่าการกระทรวงการสื่อสารและกิจการดิจิทัลของอินโดนีเซีย กล่าวในโพสต์บน Instagram ว่า การใช้ Grok ในการผลิตเนื้อหาทางเพศที่โจ่งแจ้งเป็นการละเมิดสิทธิมนุษยชน ศักดิ์ศรี และความปลอดภัยทางออนไลน์
เนื่องจากในอินโดนีเซีย มีกรณีของ Kirana Ayuningtyas ผู้ใช้งาน X ที่เป็นผู้พิการ เธอพบว่ามีคนใช้ Grok สั่งให้ตัดต่อภาพของเธอให้อยู่ในชุดบิกินี่ แม้เธอจะพยายามปรับการตั้งค่าความเป็นส่วนตัวหรือรายงานไปยังแพลตฟอร์มแล้ว แต่ก็ไม่สามารถหยุดยั้งการกระทำดังกล่าวได้ ซึ่งสร้างความอับอายและกระทบต่อจิตใจอย่างรุนแรง
นอกจากนี้ หลายประเทศเริ่มออกมากดดัน มัสก์ อาทิ สหราชอาณาจักร ที่เตรียมประกาศให้การสร้างภาพลามกอนาจารโดยไม่ได้รับยินยอมเป็นความผิดทางอาญา อย่างเต็มรูปแบบในสัปดาห์นี้ และพร้อมบล็อกบริการ หาก X ไม่ปฏิบัติตามกฎหมาย
ขณะที่ สหภาพยุโรป (EU) สั่งให้ X เก็บรักษาข้อมูลและเอกสารภายในทั้งหมดที่เกี่ยวกับ Grok เพื่อใช้ในการสอบสวนตามกฎหมายความปลอดภัยดิจิทัล (DSA) รวมถึง สหรัฐอเมริกา ที่เริ่มมี ส.ว. กดดันให้ Apple และ Google ถอดแอป X ออกจาก App Store หากยังไม่แก้ไขปัญหานี้อย่างเด็ดขาด
ฟีเจอร์ Spicy Mode ต้นเหตุของปัญหา
ต้นต่อของปัญหาดังกล่าวมาจากโหมดหนึ่งของ Grok ที่เรียกว่า Spicy Mode ที่ถูกออกแบบมาเพื่อให้ AI ตอบโต้ได้อย่างอิสระและไร้ข้อจำกัด (Unhinged) สามารถใช้ให้ AI สร้างภาพและวิดีโอวาบหวิวบนแพลตฟอร์มได้ และแทนที่จะแสดงผลลัพธ์เฉพาะในแชทส่วนตัว แต่ Grok บนแพลตฟอร์ม X จะแสดงผลเป็น การตอบกลับสาธารณะ (Public Reply) ทำให้ภาพที่ถูกตัดต่อกระจายว่อนไปทั่วโซเชียลทันที
จากการะประเมินโดยนักวิจัยคาดว่า Grok ถูกใช้สร้างภาพลามกอนาจารโดยไม่ได้รับยินยอมในอัตราสูงถึง 6,700 ภาพต่อชั่วโมง (หรือประมาณ 160,000 ภาพภายใน 24 ชั่วโมง) และเหยื่อไม่ได้มีแค่คนดังหรือเซเลบริตี้ แต่ส่วนใหญ่เป็น ผู้หญิงทั่วไปและเด็ก เนื่องจากมี ช่องโหว่ของคำสั่ง เพราะแม้ว่า xAI จะมีกฎห้ามสร้างภาพเด็ก แต่พบว่าคำสั่งภายในของระบบ (System Prompt) ระบุว่าคำว่า “เด็กผู้หญิง” (Girl) หรือ “วัยรุ่น” (Teenager) ไม่ได้หมายความว่าเป็นผู้เยาว์เสมอไป
หลังจากที่มีกระแสลบในโลกออนไลน์ ล่าสุด xAI ได้แก้ปัญหาเบื้องต้นด้วยการจำกัดสิทธิ์การสร้างและแก้ไขภาพให้ใช้ได้เฉพาะ ผู้ที่จ่ายเงินสมัครสมาชิก (Premium) เท่านั้น แต่มาตรการดังกล่าวก็ถูกรัฐบาลอังกฤษและกลุ่มสิทธิสตรีโจมตีอย่างหนัก เพราะแทนที่จะบล็อกไม่ให้ทำได้ กลับกลายเป็นว่าต้องจ่ายเงินก่อนถึงจะสร้างภาพตัดต่อเหล่านี้ได้
ขณะที่ มัสก์ มองว่า ความผิดอยู่ที่คนใช้ ไม่ใช่ที่เครื่องมือ พร้อมทั้งระบุว่าใครที่ใช้สร้างภาพผิดกฎหมายจะต้องรับผิดชอบเองตามกฎหมาย
