ตํารวจฮ่องกงได้เข้าจับกุมกลุ่มคนชายหญิงกว่า 27 คน อายุระหว่าง 21 ถึง 34 ปี ที่คาดว่าเป็นมิจฉาชีพใช้เทคโนโลยี Deepfake ปลอมเป็นผู้หญิง ในการหลอกวิดีโอคอลกับเหล่าชายหนุ่มผู้แสวงหาความรักจากโลกออนไลน์ โดยมุ่งเป้าเหยื่อไปที่ผู้ชายจากไต้หวันไปจนถึงสิงคโปร์และไกลถึงอินเดีย ก่อนที่จะหลอกล่อเหยื่อให้โอนเงินไปให้หรือบังคับเหยื่อให้ลงทุนผ่านแพลตฟอร์มสกุลเงินดิจิทัลปลอม  

ตามรายงานของตํารวจฮ่องกงระบุว่า การหลอกลวงโดยใช้ Deepfake ของแก๊งมิจฉาชีพหลอกให้รักนี้มักมีการจัดการที่มีความเป็นระเบียบสูง โดยแบ่งออกเป็นแผนกที่รับผิดชอบขั้นตอนต่างๆ โดยเริ่มต้นจากปลอมตัวเป็นผู้หญิงที่มีเสน่ห์ทำทีเป็นส่งข้อความไปผิดเบอร์ จากนั้นมิจฉาชีพจะก็สร้างสถานการณ์ชวนคุยโดยใช้ความจริงใจและอารมณ์ของเหยื่อให้เกิดความรักจนถึงขั้นเริ่มวางแผนอนาคตร่วมกัน จากนั้นจึงทำการหลอกโกงเงิน เป็นต้น

การหลอกลวงของมิจฉาชีพกลุ่มนี้ดําเนินมาประมาณ 1 ปี กว่าที่ตํารวจจะได้รับรายงานและวางแผนเข้าทำการจับกุมในเวลาต่อมา โดยสามารถยึดโทรศัพท์มือถือมากกว่า 100 เครื่อง เทียบเท่ากับเงินสดเกือบ 26,000 ดอลลาร์สหรัฐ หรือประมาณ 860,000 บาท และนาฬิกาหรูอีกจํานวนหนึ่ง

จากการหลอกลวงของกลุ่มมิจฉาชีพดังกล่าวสร้างมูลค่าความเสียหายกว่า 46 ล้านดอลลาร์สหรัฐ หรือราว 1.5 พันล้านบาท และยังไม่มีรายงานข้อมูลที่แน่ชัดว่าอาชญากรรมนี้แพร่หลายไปมากแค่ไหนในฮ่องกง แต่หน่วยงานรัฐที่เกี่ยวข้องมีการรณรงค์สร้างความตระหนักรู้เกี่ยวกับการหลอกลวงทางโทรศัพท์มาเป็นเวลานาน หลังจากมีผู้สูงอายุตกเป็นเหยื่อจำนวนมากและสร้างความเสียหายสูงจนน่าตกใจ

นอกจากนี้ เมื่อต้นปีที่ผ่านมา บริษัทออกแบบและวิศวกรรมข้ามชาติของอังกฤษในฮ่องกงก็เคยตกเป็นเหยื่อและสูญเสียเงินกว่า 25 ล้านดอลลาร์สหรัฐ โดยพนักงานของบริษัทนี้ถูกมิจฉาชีพหลอกลวงโดยใช้เทคโนโลยี Deepfake ปลอมตัวเป็นประธานเจ้าหน้าที่ฝ่ายการเงินและพนักงานคนอื่นๆ

ในไทยเองก็มีรายงานความเสียหายจากการหลอกลวงด้วย Deepfake เช่นกัน โดยข้อมูลจากสำนักงานคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์ (ก.ล.ต.) รวมถึงตลาดหลักทรัพย์แห่งประเทศไทย (ตลท.) ระบุว่า กรณีการใช้ AI Deepfake เพื่อตัดต่อและสวมรอยเป็นใบหน้าคนดังถูกนำไปใช้หลอกเงินเหยื่อมาพักใหญ่แล้ว และไม่ได้มีเพียงแค่บน Facebook แต่ปรากฏทั่วแพลตฟอร์มสังคมออนไลน์ยอดนิยม ทั้ง TikTok และ YouTube ด้วย

มิจฉาชีพที่ดำเนินการหลอกลวงนักลงทุนในลักษณะนี้มักจะตั้งเซิร์ฟเวอร์จะอยู่ในต่างประเทศ ที่ผ่านมาตำรวจมักจับได้เฉพาะกลุ่มบัญชีม้าและกลายเป็นกรณี ‘แมวไล่จับหนู’ ไปเรื่อยๆ หากจะแก้ปัญหาเหล่านี้ได้จะต้องมีการกำหนดผลักดันให้เป็นวาระแห่งชาติ

ด้าน ธนาคารแห่งประเทศไทย (ธปท.) กำลังอยู่ระหว่างศึกษาการออกแนวปฏิบัติว่า หากประชาชนถูกมิจฉาชีพหลอกในกรณีใดบ้างที่ธนาคารพาณิชย์จะต้องเป็นผู้รับผิดชอบ 100% พร้อมร่วมมือหน่วยงานที่เกี่ยวข้องร่างกฎหมายใหม่เพื่อคืนเงินให้ประชาชนที่ถูกหลอกได้เร็วขึ้น ส่วนมาตรการที่ธปท. ได้ออกมาเพื่อจัดการภัยการเงินในช่วงที่ผ่านมา เช่น การกำหนดให้ธนาคารไม่ส่งลิงก์ผ่าน SMS ช่วยให้ประชาชนถูกหลอกลดลง อย่างไรก็ตาม มิจฉาชีพได้เปลี่ยนรูปแบบจากการหลอกว่าส่ง SMS จากธนาคารพาณิชย์ เป็นการส่ง SMS ปลอมเป็นหน่วยงานของรัฐแทน เช่น กรมบัญชีกลาง เป็นต้น ซึ่งถือเป็นเรื่องที่ทุกภาคส่วน ต้องช่วยกันให้ความรู้และเฝ้าระวัง รวมถึงกำหนดมาตรการที่ต้องมีการพูดคุยให้ชัดเจน

ที่มา : CNN และ สมาคมธนาคารไทย 

สืบเนื่องจากข้อแนะนำจาก “Oversight Board” หรือคณะกรรมการอิสระที่ทำหน้าที่ตรวจสอบนโยบายด้านเนื้อหาบนแพลตฟอร์มของ Meta แจ้งว่า โซเชียลมีเดียของบริษัทมีนโยบายเกี่ยวกับคอนแทนต์ AI ที่ ‘แคบเกินไป’ ทำให้ Meta จะเริ่มปรับเปลี่ยนนโยบายใหม่ตั้งแต่เดือนพฤษภาคมนี้

โดยคอนเทนต์ที่เป็นภาพ เสียง และวิดีโอทั้งหมดที่ถูกสร้างขึ้นด้วยเครื่องมือ AI จะต้องมีป้ายเตือนกำกับไว้ด้วย ไม่ว่าจะเป็นการแจ้งเองโดยสมัครใจของผู้โพสต์ หรือเมื่อเครื่องมือ AI ของ Meta เองสามารถตรวจจับได้ว่า คอนเทนต์นั้นๆ ถูกสร้างขึ้นโดย AI อย่างไรก็ตาม บริษัทไม่ได้ข้อมูลรายละเอียดว่าจะมีการตรวจจับด้วยระบบไหน

ก่อนหน้านี้ นโยบายเกี่ยวกับคอนเทนต์ AI ของ Meta มีอยู่ข้อเดียวเท่านั้น คือ ห้ามลงโพสต์วิดีโอที่ปรากฏภาพเคลื่อนไหวของบุคคลที่พูดอะไรออกมาโดยที่เขาหรือเธอไม่ได้พูดจริงๆ แต่เป็นการสร้างขึ้นของ AI (Deepfake) นั่นทำให้นโยบายนี้ไม่ครอบคลุมมากพอไปถึงคอนเทนต์สร้างโดย AI อื่นๆ ที่กำลังท่วมท้นอยู่ในโลกอินเทอร์เน็ตขณะนี้

“ในช่วง 4 ปีที่ผ่านมา โดยเฉพาะในช่วงปีที่แล้วเพียงปีเดียว มีการพัฒนาเครื่องมือ AI ที่สร้างคอนเทนต์รูปภาพหรือเสียงได้เสมือนจริงมากขึ้น และเทคโนโลยีพวกนี้ก็กำลังพัฒนายิ่งขึ้น” Meta ระบุในบล็อกโพสต์แถลงเกี่ยวกับนโยบายนี้ “ตามที่ Oversight Board แจ้งมา การติดป้ายเตือนว่าเป็นคอนเทนต์ที่ AI สร้างขึ้นนั้นสำคัญไม่ยิ่งหย่อนไปกว่านโยบายห้ามโพสต์วิดีโอที่แสดงให้เห็นว่าบุคคลหนึ่งกำลังพูดหรือทำอะไรที่เขาหรือเธอไม่ได้ทำจริง”

Meta ย้ำว่าสำหรับคอนเทนต์ที่สร้างโดย AI แต่สื่อสารสิ่งที่ผิดกฎร้ายแรงของแพลตฟอร์ม เช่น การรังแก ชักนำการเลือกตั้ง การคุกคามทางเพศ เหล่านี้จะถูกแบนออกจากระบบตามปกติแม้จะเป็นภาพหรือเสียงที่ทำขึ้นจาก AI ก็ตาม

• Google กำลังพิจารณาเก็บเงินค่าใช้ AI แบบพรีเมียมในบริการค้นหาข้อมูล มองเป็นแหล่งทำรายได้ใหม่ของบริษัท
• “DAPPER” เปิดคอลเล็กชันแรกที่ใช้ “AI” ช่วยออกแบบ กลยุทธ์ใหม่ใช้ “เทคฯ” เป็นเบื้องหลังธุรกิจเสื้อผ้า

ความเคลื่อนไหวครั้งนี้ของ Meta หากสามารถทำได้จริงน่าจะช่วยให้ชุมชนผู้ใช้โซเชียลมีเดียใช้วิจารณญาณได้ดีขึ้นมาก Positioning พบว่าโลกอินเทอร์เน็ตปัจจุบันมีภาพที่ผลิตจากเครื่องมือ AI จำนวนมากที่เหมือนจริงอย่างมาก และถูกผู้โพสต์พิมพ์ข้อความประกอบเพื่อชี้นำว่าเป็นภาพที่เกิดขึ้นจริงอยู่บ่อยครั้ง ซึ่งอาจจะนำไปสู่ข่าวปลอม (Fake News) ความเข้าใจที่ผิดในสังคม หรือการหลอกลวงต่อไปในอนาคตได้

Source