ถ้ายังจำกันได้ เมื่อ 3 เดือนที่ผ่านมาบรรดา Social Media ทุกตัวไม่ว่าจะเป็น Facebook, YouTube ต้องผ่านบทสดสอบยามวิกฤติสำคัญ เมื่อ Social Media ที่คนเล่นนับพันล้านคนทั่วโลกกลายเป็นเครื่องมือในการถ่ายทอดสดและเผยแพร่ภาพความรุนแรงในเหตุกราดยิงที่เมือง Christchurch ในตอนนั้น เราเคยนำความรุนแรงของเหตุการณ์มาเล่าใน บทเรียนจากเหตุกราดยิง Christchurch การก่อการร้ายที่ถ่ายทอดสดบนโลกโซเชียล ซึ่งสรุปง่าย ๆ ก็คือ ภายในเวลา 24 ชั่วโมง Facebook หยุดยั้งการเผยแพร่คลิปซ้ำไปมากกว่า 1.2 ล้านครั้ง (เข้าใจว่าเป็นการแชร์) และคอนเทนต์ที่เกิดจากการ Live ครั้งนั้น (ภาพ วิดีโอ อัพโหลดซ้ำ) มากกว่า 300,000 ครั้ง
ทั้ง YouTube และ Facebook ต้องกลับมาทบทวนนโยบายความปลอดภัยของตัวเองเพื่อป้องกันไม่ให้เกิดเหตุการณ์เช่นนี้อีก แม้ว่าทุกวันนี่เราจะมีการ Live โป๊, Live ฆ่าตัวตาย, Live คอนเทนต์ผิดกฎหมาย แต่ก็ไม่มีอะไรจะรุนแรงไปกว่าการใช้ช่องทาง Live ในการก่อการร้าย (เพราะวัตถุประสงค์ของการก่อการร้ายคือการให้คนได้เห็นภาพความรุนแรงให้ได้มากที่สุด)
เมื่อไม่นานมานี้ Facebook ได้ออกบทความชื่อ Protecting Facebook Live from Abuse and Investing in Manipulated Media Research ซึ่งเป็นการทำการศึกษากรณีการ Live ความรุนแรงที่เกิดขึ้นและเสนอแนวทางวิธีการยับยั้งไม่ให้เกิดขึ้น
สำหรับสิ่งที่ Facebook บอกในบทความก็คือ Facebook ได้มีการปรับนโยบายลงโทษในกรณีที่ผู้ใช้งานมีการ Live Video ที่มีความรุนแรง (ไม่ว่าจะผิดลิขสิทธิ์ มีความรุนแรง หรือผิดต่อข้อตกลงใด ๆ) จากเดิมจากที่จะบังคับหยุดการ Live แต่ยัง Live ได้ต่อ แล้วต้อง Live ผิด ติด ๆ กันหลายครั้งถึงจะโดนห้าม Live แต่ตอนนี้ ถ้าเราทำผิดกฎการ Live นั้น Facebook จะใช้วิธีฟันไปเลยว่าห้าม Live ต่อ โดยจะมีระยะเวลาโทษ 15 วัน 30 วันก็ว่ากันไป และถ้าทำผิดรุนแรงมาก ๆ ก็จะถึงขั้นห้าม Live หรือปิดบัญชีไปเลย
นอกจากนี้ Facebook เองยังบอกว่าจะจัดการกับบัญชีที่มีพฤติกรรมสนับสนุนการก่อการร้ายด้วย เช่นการแชร์ ก็จะถูกจัดการด้วยเช่นกัน
ส่วนในเรื่องของการป้องกันในอนาคตนั้น Facebook ได้พูดถึง การ Investing in Research into Manipulated Media หรือศึกษาพฤติกรรมการใช้สื่อไปในทางที่ไม่ดีไม่ควรนั้น บอกว่ากำลังร่วมมือกับ The University of Maryland, Cornell University และ The University of California, Berkeley ในการศึกษาเพื่อยับยั้งการใช้สื่อไปในทางที่ไม่ควรด้วยการวิเคราะห์ภาพ ข้อความ วิดีโอ ในเชิงลึก เพื่อสร้างอัลกอริทึมที่ตรวจจับให้รวดเร็วทันเวลา รวมถึงดูออกว่าอันไหนเป็น deepfakes หรือวิดีโอตัดต่อที่เหมือนจริงมาก ๆ เหมือนคนคนนั้นพูดหรือทำสิ่งนั้นจริง ๆ
เราเคยเขียนบทความเรื่อง ทำไมโซเชียลมีเดียถึงเผยด้านลบของเราได้ง่ายกว่าด้านดี และวิธีทำคอนเทนต์ให้โลกดีขึ้น Social Network ถูกออกแบบมาเพื่อให้คน กลับมาใช้งานอีก ซึ่งนั่นหมายความว่ามันจะ ต้องแสดงสิ่งที่เราอยากจะเห็น แต่ในอีกแง่นึง การแสดงในสิ่งที่เราอยากจะเห็นนั้นก็เป็นการทำให้เรา ไม่เห็นสิ่งที่เราไม่อยากจะเห็นแม้ว่าสิ่งนั้นจะเป็นความจริงก็ตาม ดังนั้นแม้ว่าจะมีอัลกอริทึมที่ชาญฉลาดเพียงใด แต่มันก็ไม่อาจเอาชนะความต้องการของคนได้ ดังนั้นถ้าเราอยากให้โลก Social Media เต็มไปด้วยความสร้างสรรค์มากกว่าทำลาย ก็เริ่มต้นจากตัวเราเอง
