แนวทางของเราในการสร้างนวัตกรรม AI อย่างมีความรับผิดชอบ

Generative AI มีศักยภาพในการปลดล็อกความคิดสร้างสรรค์บน YouTube ทั้งยังสามารถยกระดับประสบการณ์ของผู้ชมและครีเอเตอร์บนแพลตฟอร์มของเรา แต่ที่สำคัญไม่แพ้กัน เราจะต้องนำโอกาสเหล่านี้มาปรับใช้ให้สมดุลกับความรับผิดชอบในการปกป้องชุมชน YouTube เนื้อหาทั้งหมดที่อัปโหลดไปยัง YouTube ขึ้นอยู่กับหลักเกณฑ์ของชุมชนไม่ว่าจะสร้างขึ้นมาด้วยวิธีใด ซึ่งเราทราบดีว่า AI จะก่อให้เกิดความเสี่ยงรูปแบบใหม่ และเราเองจะต้องมีแนวทางใหม่ๆ ในการจัดการ

เราอยู่ในช่วงแรกเริ่มของงานส่วนนี้ และจะพัฒนาแนวทางต่อไปเมื่อได้เรียนรู้อะไรมากขึ้น ต่อไปนี้คือสิ่งที่ YouTube จะเปิดตัวในช่วง 2-3 เดือนข้างหน้าจนถึงช่วงต้นปีใหม่

ข้อกำหนดในการเปิดเผยข้อมูลและป้ายกำกับใหม่สำหรับเนื้อหา

เราเชื่อว่าทุกคนต่างต้องการให้ระบบนิเวศข้อมูลบน YouTube มีคุณภาพอยู่เสมอ หนึ่งในนโยบายที่เราใช้มาอย่างยาวนานคือ เราไม่อนุญาตให้แสดงเนื้อหาบางประเภทที่ได้รับการดัดแปลงทางเทคนิคที่ทำให้ผู้ชมเข้าใจผิดหรือเป็นการหลอกลวงซึ่งมีความเสี่ยงสูงว่าจะเป็นภัยร้ายแรง แม้ AI จะทำให้ผู้คนสามารถบอกเล่าเรื่องราวในรูปแบบใหม่ๆ แต่ก็สามารถใช้สร้างเนื้อหาที่อาจจะทำให้ผู้ชมเข้าใจผิด โดยเฉพาะอย่างยิ่งหากผู้ชมไม่รู้ว่าวิดีโอนั้นมีการดัดแปลงหรือสังเคราะห์ขึ้นมา

ในอีกไม่กี่เดือนข้างหน้า เราจะจัดการกับข้อกังวลนี้ด้วยการเปิดตัวการอัปเดตที่แจ้งให้ผู้ชมทราบว่าเนื้อหาที่รับชมอยู่เป็นเนื้อหาสังเคราะห์ กล่าวคือ เราจะกำหนดให้ครีเอเตอร์เปิดเผยข้อมูลเมื่อสร้างเนื้อหาที่มีการดัดแปลงหรือสังเคราะห์แต่ดูสมจริง ซึ่งรวมถึงการใช้เครื่องมือ AI เมื่อครีเอเตอร์ทำการอัปโหลดเนื้อหา เราจะมีตัวเลือกใหม่ให้เลือกเพื่อระบุว่าเนื้อหานั้นมีการดัดแปลงหรือสังเคราะห์เพื่อดูสมจริง ตัวอย่างเช่น วิดีโอที่ AI สร้างขึ้นซึ่งนำเสนอเหตุการณ์ที่ไม่เคยเกิดขึ้นมาก่อนแต่ดูสมจริง หรือเนื้อหาที่แสดงภาพคนพูดหรือทำอะไรสักอย่างแต่ไม่ใช่สิ่งที่เกิดขึ้นจริง

ตัวอย่างการใส่ป้ายกำกับสำหรับเนื้อหาลงในแผงคำอธิบาย

สิ่งนี้สำคัญอย่างยิ่งในกรณีที่เนื้อหากล่าวถึงหัวข้อละเอียดอ่อน เช่น การเลือกตั้ง ความขัดแย้งและวิกฤติด้านสาธารณสุขในปัจจุบัน หรือเจ้าหน้าที่ภาครัฐ หากมีหลายครั้งที่ครีเอเตอร์เลือกไม่เปิดเผยข้อมูลนี้ ก็อาจถูกลงโทษโดย YouTube ซึ่งรวมถึงการถูกนำเนื้อหาออก การถูกระงับจากโปรแกรมพาร์ทเนอร์ YouTube หรืออาจได้รับบทลงโทษอื่นๆ เราจะทำงานร่วมกับครีเอเตอร์ก่อนที่จะเปิดตัวการอัปเดตนี้ เพื่อให้แน่ใจว่าครีเอเตอร์มีความเข้าใจเกี่ยวกับข้อกำหนดใหม่เหล่านี้

เรามี 2 วิธีในการแจ้งให้ผู้ชมทราบว่าเนื้อหาอาจมีการดัดแปลงหรือสังเคราะห์ เราจะใส่ป้ายกำกับใหม่ลงในแผงคำอธิบายเพื่อชี้แจงว่าเนื้อหาบางส่วนมีการแก้ไขหรือสร้างขึ้นด้วยเทคโนโลยีคอมพิวเตอร์ และสำหรับเนื้อหาบางประเภทที่เกี่ยวกับหัวข้อละเอียดอ่อน เราจะติดป้ายกำกับที่โดดเด่นยิ่งขึ้นในวิดีโอเพลเยอร์

ตัวอย่างการติดป้ายกำกับในวิดีโอเพลเยอร์

ในบางกรณี ป้ายกำกับเพียงอย่างเดียวอาจไม่พอที่จะลดความเสี่ยงต่อการเกิดอันตราย ดังนั้นสื่อสังเคราะห์บางประเภท ไม่ว่าจะมีป้ายกำกับหรือไม่ จะถูกนำออกจากแพลตฟอร์มหากละเมิดหลักเกณฑ์ของชุมชนเรา ตัวอย่างเช่น วิดีโอสังเคราะห์ที่แสดงให้เห็นความรุนแรงแบบสมจริงอาจยังคงถูกนำออกหากมีเป้าหมายเพื่อทำให้ผู้ชมตกใจหรือรู้สึกขยะแขยง

ในอนาคต เมื่อเราเปิดตัวการอัปเดตใหม่เหล่านี้แล้ว เนื้อหาที่สร้างโดยผลิตภัณฑ์และฟีเจอร์ Generative AI ของ YouTube จะมีป้ายกำกับชัดเจนว่าเป็นเนื้อหาที่มีการดัดแปลงหรือสังเคราะห์ขึ้น

ตัวอย่างการติดป้ายกำกับเนื้อหาที่สร้างโดย Dream Screen ซึ่งเป็นผลิตภัณฑ์ Generative AI ของ YouTube

ตัวเลือกใหม่สำหรับครีเอเตอร์ ผู้ชม และศิลปิน

เราได้รับความคิดเห็นอย่างต่อเนื่องจากชุมชน YouTube ทั้งครีเอเตอร์ ผู้ชม และศิลปิน ว่าเทคโนโลยีใหม่ๆ ส่งผลกระทบต่อตัวเองอย่างไรบ้าง โดยเฉพาะอย่างยิ่งหากเทคโนโลยีคอมพิวเตอร์สามารถจำลองใบหน้าหรือเสียงของใครสักคนโดยไม่ได้รับอนุญาตหรือสื่อให้เข้าใจผิดถึงมุมมองของบุคคลนั้นๆ

ดังนั้นในอีกไม่กี่เดือนข้างหน้า เราจะเปิดให้สามารถส่งคำขอนำเนื้อหาออกหากเป็นเนื้อหาที่ AI สร้างขึ้น หรือมีการสังเคราะห์หรือดัดแปลงในลักษณะอื่นๆ ซึ่งเป็นการจำลองบุคคลที่ระบุตัวตนได้ ไม่ว่าจะทางใบหน้าหรือทางเสียง โดยจะใช้กระบวนการคำขอเกี่ยวกับความเป็นส่วนตัวที่เรามี เราจะนำบางเนื้อหาออกจาก YouTube เท่านั้นและจะพิจารณาปัจจัยหลายประการเมื่อประเมินคำขอเหล่านี้ ปัจจัยที่ว่าอาจหมายรวมถึงข้อเท็จจริงว่าเนื้อหาเป็นการล้อเลียนหรือเสียดสีหรือไม่ ในเนื้อหาสามารถระบุตัวผู้ที่ส่งคำขอเข้ามาได้อย่างชัดเจนไหม หรือเกี่ยวข้องกับเจ้าหน้าที่ภาครัฐหรือบุคคลที่มีชื่อเสียงหรือไม่ ซึ่งในกรณีนี้เราอาจใช้เกณฑ์ที่เข้มงวดกว่า

นอกจากนี้ เรายังจะเปิดโอกาสให้พาร์ทเนอร์เพลงสามารถส่งคำขอให้ลบเนื้อหาเพลงที่ AI สร้างขึ้นซึ่งเลียนแบบเสียงร้องหรือเสียงแร็ปอันเป็นเอกลักษณ์ของศิลปิน โดยเราจะคำนึงถึงปัจจัยต่างๆ ในการพิจารณาอนุมัติคำขอเหล่านี้ เช่น เนื้อหาเป็นเรื่องของการรายงานข่าว การวิเคราะห์ หรือการวิพากษ์วิจารณ์เสียงร้องสังเคราะห์หรือไม่ โดยอำนาจในส่วนนี้จะเป็นของค่ายเพลงหรือผู้จัดจำหน่ายที่เป็นตัวแทนของศิลปินที่เข้าร่วมการทดลองดนตรี AI เบื้องต้นของ YouTube เราจะขยายสิทธิ์ไปยังค่ายเพลงและผู้จัดจำหน่ายเพิ่มเติมต่อไปในอีกไม่กี่เดือนข้างหน้า

การใช้เทคโนโลยี AI เพื่อขับเคลื่อนการกลั่นกรองเนื้อหา

ตลอดเวลาที่ผ่านมา YouTube พึ่งพาทั้งเจ้าหน้าที่และเทคโนโลยีแมชชีนเลิร์นนิงในการบังคับใช้หลักเกณฑ์ของชุมชน โดยมีเจ้าหน้าที่กว่า 20,000 คนใน Google ที่ปฏิบัติงานอยู่ทั่วโลก ในระบบการทำงานของเรานั้น ตัวแยกประเภท AI จะช่วยตรวจจับเนื้อหาที่อาจละเมิดในวงกว้าง แล้วเจ้าหน้าที่จะตรวจสอบเพื่อยืนยันว่าเนื้อหาละเมิดนโยบายจริงหรือไม่ AI ช่วยให้ระบบกลั่นกรองเนื้อหาของเรามีความรวดเร็วและแม่นยำมากขึ้นอย่างต่อเนื่อง

สิ่งหนึ่งที่เห็นได้ชัดเจนว่า AI ช่วยเราได้คือการตรวจจับการละเมิดรูปแบบใหม่ๆ เมื่อมีภัยคุกคามแปลกใหม่เกิดขึ้น ระบบของเรามีบริบทค่อนข้างน้อยในการทำความเข้าใจและระบุภัยเหล่านั้นในวงกว้าง แต่ Generative AI ช่วยให้เราขยายชุดข้อมูลที่ใช้ฝึกตัวแยกประเภท AI ได้อย่างรวดเร็ว ซึ่งหมายความว่าเราสามารถระบุและตรวจจับเนื้อหาประเภทนี้ได้เร็วขึ้นมาก ระบบที่มีความเร็วและความแม่นยำมากขึ้นยังช่วยให้เจ้าหน้าที่ของเราสามารถตรวจสอบเนื้อหาที่เป็นอันตรายในปริมาณที่น้อยลงด้วย

การให้บริการเครื่องมือและฟีเจอร์ AI อย่างมีความรับผิดชอบ 

ในขณะที่พัฒนาเครื่องมือ AI ใหม่ๆ สำหรับครีเอเตอร์ แนวทางของเรายังคงสอดคล้องกับวิธีที่เราจัดการกับความท้าทายที่ยิ่งใหญ่ที่สุดในด้านความรับผิดชอบ แนวทางนั้นคือเราเชื่อมั่นในการทุ่มเวลาให้กับการทำสิ่งที่ถูกต้อง มิใช่การพยายามเป็นผู้บุกเบิก

เรากำลังไตร่ตรองอย่างรอบคอบถึงวิธีต่อยอดการลงทุนที่มีมาหลายปีในการสร้างทีมและเทคโนโลยีที่สามารถกลั่นกรองเนื้อหาจำนวนมหาศาลของเรา ซึ่งรวมถึงภารกิจสำคัญที่เราทำอยู่ นั่นคือการพัฒนาแนวป้องกันไม่ให้เครื่องมือ AI สร้างเนื้อหาที่ไม่ควรมีอยู่บน YouTube

นอกจากนี้ เรายังตระหนักด้วยว่าผู้ไม่ประสงค์ดีจะพยายามหลบเลี่ยงแนวป้องกันเหล่านี้อย่างหลีกเลี่ยงไม่ได้ เราจะนำความคิดเห็นของผู้ใช้และบทเรียนที่ได้รับมาปรับปรุงมาตรการป้องกันของเราอย่างต่อเนื่อง ทีมเฉพาะทางภายในบริษัทของเรา เช่น ทีมตรวจสอบข้อมูล จะโฟกัสกับการทดสอบจำลองปัญหาและการตรวจจับภัยคุกคามเป็นพิเศษ เพื่อให้ระบบได้เผชิญกับความท้าทายใหม่ๆ ที่อาจเกิดขึ้น

การปฏิวัติวงการในยุคแห่ง AI อยู่ใกล้แค่เอื้อม

นี่ถือเป็นก้าวแรกของเราในการปลดล็อกศักยภาพการปฏิวัติวงการที่แท้จริงของ Generative AI ที่สามารถจุดประกายนวัตกรรมและความคิดสร้างสรรค์รูปแบบใหม่บน YouTube เรารู้สึกตื้นเต้นมากกับศักยภาพของเทคโนโลยี AI และรู้ว่าสิ่งที่จะเกิดขึ้นในอนาคตจะทำให้อุตสาหกรรมการสร้างสรรค์สั่นสะเทือนไปนานหลายปี ในช่วงเวลาสำคัญนี้ เราจะใช้เวลาไปกับการสร้างสมดุลระหว่างผลประโยชน์มหาศาลที่ได้จากเทคโนโลยีนี้กับการดูแลความปลอดภัยของชุมชน YouTube อย่างต่อเนื่อง และเราจะทำงานอย่างใกล้ชิดกับครีเอเตอร์ ศิลปิน และฝ่ายอื่นๆ ในอุตสาหกรรมการสร้างสรรค์เพื่อให้เกิดความร่วมมือกันที่เป็นประโยชน์ต่อทุกฝ่าย

Jennifer Flannery O'Connor and Emily Moxley
Vice Presidents, Product Management, YouTube