‘Whisper’ เครื่องมือแปลงเสียงเป็นข้อความของ OpenAI ได้รับรายงานจากเหล่าผู้ใช้งานทั้งนักพัฒนา, วิศวกรซอฟต์แวร์ และนักวิจัยว่า Whisper ได้เพิ่มเติมข้อความนอกเหนือสคริปต์ จนทำให้ใจความเนื้อหาบิดเบือนจากเสียงต้นฉบับ
จากรายงานของ Associated Press มีวิศวกร และนักวิจัยชี้แจงว่า Whisper มีการสร้างเนื้อหาเพิ่มเติมจากคลิปเสียง โดยเนื้อหาที่ AI สร้างขึ้นมามีทั้งการวิจารณ์เชื้อชาติ และข้อมูลที่เกี่ยวข้องกับทางการแพทย์ ซึ่งเป็นข้อมูลที่ผิดพลาดจนอาจก่อให้เกิดอันตรายในวงกว้างได้
หลังจากกรณีที่นักวิจัยจากมหาวิทยาลัยมิชิแกนพบว่า 8 ใน 10 ของข้อความที่ถอดเสียงมามีเนื้อหาที่ไม่ได้อยู่ในคลิปเสียง และวิศวกรด้าน Machine Learning พบการสร้างเนื้อหาขึ้นเองมากกว่าครึ่ง จากการทดสอบกว่า 100 ชั่วโมง รวมถึงนักพัฒนายังพบว่าข้อความที่มีการสร้างเนื้อหาขึ้นเองมากกว่า 26,000 ถูกสร้างโดย Whisper
จากการทดสอบข้างต้น ผู้เชี่ยวชาญอ้างว่าการใช้เครื่องมือ Whisper ในการแปลงเสียงเป็นข้อความอาจมีข้อผิดพลาดเกิดขึ้นได้มากถึง 40% เลยทีเดียว ซึ่งปัจจุบัน Whisper มียอดดาวน์โหลดถึง 4.2 ล้านครั้ง โดยที่เครื่องมือดังกล่าวติดตั้งมาบน Oracle, Cloud บน Microsoft และ ChatGPT บางเวอร์ชัน
ทางบริษัทได้กล่าวว่ากำลังเร่งแก้ไขการแปลงข้อความเพื่อไม่ให้เกิดข้อผิดพลาดดังกล่าวโดยเร็วที่สุด รวมถึงมีการระบุนโยบายห้ามใช้ Whisper ในการค้นหาข้อมูลที่สำคัญอีกด้วย
ที่มา: Engadget
