จากนโยบายที่เข้มงวดของ YouTube ไม่ว่าจะเป็นการแบนผู้ใช้ที่ไม่ปฏิบัติตามนโยบายที่ห้ามใช้งาน Ad Block หรือการติดกำกับเนื้อหาที่สร้างโดย AI เพื่อป้องกันการสับสนของผู้ใช้ ครั้งนี้ก็มีอัปเดตนโยบายไม่อนุญาตให้มีเนื้อหาที่จำลองสถานการณ์ หรือความจริงที่เกี่ยวกับอาชญกรรม
เพราะช่วงหลังมานี้ที่มีเครื่องมือ AI คอยช่วยจำลองความสมจริงของบุคคล และเหตุการณ์ต่าง ๆ มากขึ้น ก็เริ่มมีการจำลองถึงเหตุการณ์อาชญากรรม ที่มีเหยื่อเป็นผู้เยาว์ พร้อมเล่าถึงความรุนแรง และเหตุการณ์ที่เสียชีวิตแบบสมจริงด้วย
ซึ่งเนื้อหาประเภทนี้มีการจำลองทั้งภาพเหตุการณ์ที่สมจริง สร้างภาพเคลื่อนไหว และจำลองเสียงของเหยื่อที่เป็นผู้เยาว์ด้วย AI เพื่ออธิบายความรุนแรงที่เกิดขึ้น ทำให้ YouTube ต้องออกนโยบายใหม่เพื่อจำกัดการเข้าถึงคอนเทนต์ประเภทนี้
โดยนโยบายที่ว่าคือการเตือนผู้ใช้ครั้งแรกจากการอัปโหลดวิดีโอเป็นเวลาหนึ่งสัปดาห์ แต่หากยังมีการละเมิดนโยบายอีกครั้งภายใน 90 วัน บทลงโทษจากการละเมิดนโยบายจะเพิ่มขึ้น จนอาจจะถูกลบช่อง และโปรไฟล์ได้
นับว่าเป็นอีกความรับผิดชอบหนึ่งของแพลตฟอร์มที่ไม่ควรปล่อยปะละเลยเนื้อหาที่จำลอง และส่งผลกระทบต่อทั้งผู้พบเห็น รวมถึงกระทบต่อสภาพจิตใจของครอบครัวผู้อยู่ในเหตุการณ์ด้วย เพราะเทคโนโลยี และ AI ที่สร้างอะไรสมจริงได้ เริ่มใช้ไปในทางไม่ถูกต้องมากขึ้น
ที่มา: https://www.theverge.com/2024/1/8/24030107/youtube-ai-deepfakes-true-crime-victims-minors
