Facebook ใช้ AI ตรวจจับคอนเทนต์ Hate Speech ได้มหาศาล ...แต่ก็ยังต้องพัฒนาอีกมาก


by Pattarat
02-12-2020 23:18:43
Facebook รายงานความคืบหน้าว่า แพลตฟอร์มสามารถตรวจจับประทุษวาจา (Hate Speech) ในอัตราที่เพิ่มมากขึ้นกว่า 3 ปีก่อนมากด้วยเทคโนโลยี AI และการปรับนโยบายให้เข้มงวดขึ้นในปีนี้ อย่างไรก็ตาม ยังมีคำถามอีกมากต่อประสิทธิภาพการตรวจจับของแพลตฟอร์มในเครือ
รายงานการตรวจจับประทุษวาจาของบริษัท Facebook ไตรมาสล่าสุด Q3/2020 รายงานว่า บริษัทตรวจพบ Hate Speech ของผู้ใช้งานในอัตรา 0.10-0.11% หรือเท่ากับ 10-11 คอนเทนต์ในทุกๆ 10,000 ยอดรีชของคอนเทนต์ที่มีการสุ่มตรวจ อย่างไรก็ตาม ตัวเลขที่ Facebook ระบุยังไม่มีการตรวจสอบความน่าเชื่อถือจากองค์กรภายนอก แต่ทางบริษัทกล่าวว่ากำลังวางแผนที่จะให้องค์กรอื่นเข้ามาตรวจสอบได้

การตรวจดังกล่าวนี้คือการตรวจเจอ "ก่อน" ที่ผู้ใช้จะรายงานเข้ามาที่ Facebook โดยบริษัทรายงานว่า ไตรมาสล่าสุด ประทุษวาจาที่บริษัทเข้าระงับคอนเทนต์ เป็นคอนเทนต์ที่ Facebook ตรวจเจอเองถึง 94.7% ส่วนฝั่ง Instagram สามารถตรวจพบเอง 94.8%

อัตราการตรวจจับประทุษวาจาได้เอง ก่อนที่ผู้ใช้จะรายงานเข้ามา

อัตราดังกล่าวถือเป็นอัตราที่มากขึ้นอย่างก้าวกระโดด สำหรับ Facebook เมื่อเทียบกลับไปในปี 2017 ช่วงนั้นยังมีการตรวจพบ Hate Speech ก่อนถูกรายงานเพียง 23.6% ส่วนแพลตฟอร์ม Instagram เพิ่งเริ่มมีการตรวจในปี 2019 และปีที่แล้วมีอัตราการตรวจพบก่อนถูกผู้ใช้รายงานเพียง 44.6%

นอกจากประทุษวาจาแล้ว ทั้ง Facebook และ Instagram ยังตรวจพบคอนเทนต์ประเภทความรุนแรง ภาพอนาจารเด็ก ภาพอนาจารทางเพศ การรังแกและคุกคาม เพิ่มมากขึ้นจากช่วง Q2/2020

 

ใช้ AI ตรวจหา ...แต่ก็ยังต้องพัฒนาประสิทธิภาพ

การตรวจพบและระงับคอนเทนต์เหล่านี้ Facebook ระบุว่าเกิดจากการพัฒนาเพิ่มประสิทธิภาพให้เทคโนโลยี AI ยกตัวอย่างเช่น ในเดือนพฤษภาคม 2020 บริษัทมีการจัดการแข่งขันวิจัยและพัฒนาระบบเพื่อตรวจจับ "มีม" ที่สื่อสารถึงความเกลียดชัง โดยต้องการให้ AI สามารถวิเคราะห์ภาพและข้อความประเภทนี้ได้

คอนเทนต์ประเภทนี้เป็นเรื่องยากและมีข้อจำกัดที่ AI จะตรวจจับได้อย่างแม่นยำ โดย Facebook อธิบายว่า "คอนเทนต์ที่เป็น Hate Speech ชิ้นใหม่นั้นอาจจะไม่เหมือนกับตัวอย่างก่อนหน้าที่ AI ได้เรียนรู้ไป" เพราะเรื่องเหล่านี้มักจะมีเทรนด์ใหม่หรือเรื่องราวใหม่ๆ เกิดขึ้นเสมอ

ตัวอย่างภาพ "มีม" ที่ AI ต้องทำความเข้าใจ เพราะภาพกับข้อความเมื่อนำมาประกอบกันจึงจะเป็นความหมายใหม่ที่กลายเป็น Hate Speech

Facebook ยังต้องเพิ่มประสิทธิภาพให้ AI สามารถเข้าใจภาษาที่แตกต่างกันทั่วโลก และต้องลงลึกละเอียดถึงเทรนด์ของแต่ละประเทศอีก จึงจะสามารถเข้าใจและนิยามได้ว่า Hate Speech ในแต่ละประเทศคืออะไร อีกทั้งยังเปลี่ยนแปลงได้ตามกาลเวลา ยกตัวอย่างเช่น Facebook เพิ่งอัปเดตนโยบายเมื่อเดือนที่แล้วนี้เองว่า คอนเทนต์ที่ "ปฏิเสธความจริงหรือบิดเบือนความจริงเกี่ยวกับการฆ่าล้างเผ่าพันธุ์" ถือเป็นประทุษวาจาอย่างหนึ่ง และจะถูกแบนออกจากแพลตฟอร์ม ความเคลื่อนไหวนี้เกิดขึ้นเพื่อตอบสนองต่อกระแส "ลัทธิต่อต้านคนยิว" ที่กำลังเพิ่มมากขึ้นทุกที โดยก่อนหน้าที่จะออกนโยบายดังกล่าว Facebook เคยปฏิเสธที่จะแบนคอนเทนต์ทำนองนี้มาตลอดเพราะยึดหลักเสรีภาพในการพูด แต่ความน่ากังวลที่เพิ่มขึ้นทำให้ต้องแบนในที่สุด

ดังนั้น แม้ว่าจะมี AI เข้ามาช่วยจนทำให้ Facebook ตรวจจับคอนเทนต์สุ่มเสี่ยงต่างๆ ได้มากขึ้น (อย่าลืมว่ายังไม่มีองค์กรภายนอกตรวจข้อเท็จจริงส่วนนี้) แต่ผู้ทำหน้าที่ตรวจสอบกลั่นกรองคอนเทนต์ที่เป็น "มนุษย์" ก็ยังสำคัญมาก รวมถึงในโลกความเป็นจริง ผู้ใช้เองก็ยังรู้สึกว่า Facebook ยังตรวจจับได้ไม่ดีพอ และยังไม่ลงลึกละเอียดถึงวัฒนธรรมของแต่ละประเทศหรือแต่ละชุมชน

Source
ติดตามทุกข่าวสารได้ผ่านช่องทาง LINE
Add friend ที่ @Positioningmag
เพิ่มเพื่อน

ติดตามผ่านช่องทาง Twitter