Content Moderation is Hard

หลัง Elon Musk ซื้อกิจการ Twitter เสร็จสมบูรณ์ ก็มีการเปลี่ยนแปลงตามมาอย่างรวดเร็ว ทั้งการไล่ CEO และทีมบริหาร, การประกาศแนวทาง Free Speech และ การประกาศจะตั้งกรรมการกำกับดูแลเนื้อหา ที่เป็นคนนอก แทนของเดิมที่ใช้คนใน

the bird is freed

— Elon Musk (@elonmusk) October 28, 2022

ในฐานะผู้สนใจเรื่องนี้ ผมได้รับคำถามอยู่เรื่อยๆ ว่า Elon ซื้อ Twitter ได้แล้วจะเป็นอย่างไร

ต้องยอมรับว่าก่อนหน้านี้ผมตอบเรื่องนี้ได้ไม่ดีนัก (บทความเดิม: ทำไม Elon Musk ถึงซื้อ Twitter) แต่เมื่อ Elon ซื้อ Twitter สำเร็จ ก็มีบทความและความเห็นที่น่าสนใจจากผู้เชี่ยวชาญออกมามากมาย

ที่เขียนได้ดีและโดดเด่นมากๆ คือบทความของ Nilay Patel บรรณาธิการของ The Verge ที่พาดหัวว่า Twitter จะเป็น “นรก” ของ Elon

ในฐานะที่ทำธุรกิจออนไลน์ และต้องทำ content moderation มาบ้าง ผมก็เห็นด้วยตามนั้น

ข้อเสนอหลักของ Patel คือแก่นหลักของบริการโซเชียลนั้นไม่ใช่ตัวเทคโนโลยี แต่เป็นตัวเนื้อหา ซึ่งก็เป็นเรื่องคน

the problems with Twitter are not engineering problems. They are political problems. Twitter, the company, makes very little interesting technology; the tech stack is not the valuable asset. The asset is the user base: hopelessly addicted politicians, reporters, celebrities, and other people who should know better but keep posting anyway. You! You, Elon Musk, are addicted to Twitter. You’re the asset. You just bought yourself for $44 billion dollars.

พอเป็นเรื่องคนล้วนๆ มันเลยเป็นเรื่องยาก เพราะเทคโนโลยีใดๆ (AI เทพแค่ไหนก็ตาม) ก็ไม่สามารถบริหารจัดการคนได้ ต้องใช้คนอยู่ดี และการทำให้คนจำนวนมหาศาล “พอใจ” คงไม่ใช่สิ่งที่สามารถทำได้เลย ทุกนโยบาย ทุกการตัดสินใจ มีคนเสียประโยชน์และด่าเราเสมอ

The problem when the asset is people is that people are intensely complicated

Dear Twitter Advertisers pic.twitter.com/GMwHmInPAS

— Elon Musk (@elonmusk) October 27, 2022

แนวทางของ Elon ที่ต้องการสร้าง free speech ต้องการสร้างแพลตฟอร์มแห่งการถกเถียง สร้าง ‘a common digital town square’ อาจดูเท่บนหน้ากระดาษ แต่เป็นเรื่องยากมากในทางปฏิบัติ

Elon อาจไม่พอใจผู้บริหารชุดก่อนของ Twitter ที่แบน Donald Trump, Kanye West หรือฝ่ายขวาสุดขั้วทั้งหลาย และต้องการเปิดพื้นที่ให้ถกเถียงกันอย่างอิสระ

แต่ในทางธุรกิจแล้ว “พื้นที่ถกเถียงอย่างอิสระ” แปลว่ามีการควบคุม ลบ แบนเนื้อหาน้อยลง สิ่งที่ตามมาคือเนื้อหา “สุดขั้ว” จากคนที่มีแนวคิด radical มีมากขึ้น ผู้ใช้ที่มีแนวคิดกลางๆ moderate (ซึ่งเป็นเสียงส่วนใหญ่ในสังคม) จะเริ่มถอยหนี รวมถึงผู้ลงโฆษณา แบรนด์ต่างๆ ก็จะไม่ลงโฆษณาด้วย เพราะไม่อยากให้โฆษณาของตัวเองมีภาพลักษณ์อยู่ตำแหน่งข้างๆ เนื้อหาที่สุดขั้วจนเกินไป

ทางเลือกของ Elon จึงมีสองทางคือ จะปล่อยเสรี จนผู้ใช้น้อยลง รายได้ของบริษัท (ไม่ใช่ของ Elon) น้อยลง

หรือ จะเน้นสร้างรายได้ให้บริษัทเลี้ยงตัวได้ ดึงดูดคนกลางๆ เข้ามา ซึ่งเท่ากับว่าต้องควบคุมเนื้อหาเข้มงวดขึ้น (และกลุ่มผู้บริหารที่เขาไล่ออกไปนั้นพยายามทำมาแต่แรกแล้ว)

it turns out that most people do not want to participate in horrible unmoderated internet spaces full of shitty racists and not-all-men fedora bullies. (This is why Twitter is so small compared to its peers!) What most people want from social media is to have nice experiences and to feel validated all the time. They want to live at Disney World. So if you want more people to join Twitter and actually post tweets, you have to make the experience much, much more pleasant. Which means: moderating more aggressively!

ตรงนี้เป็นทางเลือกที่ยาก และหากเมื่อใดที่ Elon เลือกอย่างการควบคุมที่เข้มงวดขึ้น เขาก็จะโดนแฟนบอยฝ่ายขวาเข้ามาถล่มทันที ไหนล่ะ free speech

Elon ไม่ใช่คนแรกในโลกที่เจอปัญหานี้ Facebook, YouTube, Twitter ผ่านกันมาหมดแล้ว และในฐานะบริษัทที่หวังผลกำไร ทางเลือกมีเพียงการ moderate เนื้อหาให้เข้มงวดขึ้น

ที่ผ่านมา Twitter ค่อนข้างปล่อยเสรีเนื้อหาเมื่อเทียบกับแพลตฟอร์มอื่นๆ ก็ไม่น่าแปลกใจที่ Twitter มีผู้ใช้น้อยกว่า คือประมาณ 200 ล้านคน เทียบกับ Facebook มี 2 พันกว่าล้านคน

สิ่งที่ย้อนแย้งมากคือโซเชียลทางเลือกทั้งหลายของฝ่ายขวาอเมริกา เช่น Gettr, Parler, Truth Social ก็ต้องเผชิญหน้ากับคำถามเรื่อง moderation vs monetization เช่นกัน และสุดท้ายทุกรายก็ต้องเลือกลบ-แบนเนื้อหาที่ไม่ถูกรสนิยมของแพลตฟอร์มทิ้งอยู่ดี แม้ทำกันแบบเงียบๆ ก็ตาม (อ่านลิงก์อ้างอิงได้ในบทความต้นทาง)

นอกจากนี้ยังมีประเด็นว่า นโยบายและกฎหมายเรื่อง Content Moderation ในแต่ละประเทศแตกต่างกันมาก หลายประเทศมีกฎหมายเรื่องความรับผิดชอบของแพลตฟอร์ม-ตัวกลางที่เข้มงวดกว่าสหรัฐอเมริกามาก เช่น เยอรมนี จีน อินเดีย

หลายประเทศยังมีประเด็นเรื่องการเมืองภายในเข้ามายุ่งเกี่ยว เช่น รัฐบาลอาจเข้ามากดดันแพลตฟอร์มให้ลบคอนเทนต์ของฝ่ายตรงข้ามออกไป อย่างเดียวกับที่ Google/Facebook เคยเจอมาก่อนกับรัฐบาลจีน

สิ่งที่ Google/Facebook ตัดสินใจคือ ไม่ยอมทำตามคำสั่งของรัฐบาลจีน แล้วเดินออกมาอย่างสง่าผ่าเผย โดนบล็อคก็เอาสิ แล้วไง ฉันเลือกจะไม่ทำธุรกิจในจีนไปเลยก็ได้

แต่ถ้า Elon เจอคำขอแบบเดียวกันจากรัฐบาลจีน เขาจะเลือกทำแบบ Google/Facebook หรือไม่ อย่าลืมว่า Elon มีโรงงาน Tesla Gigafactory ในจีน และมียอดขายรถยนต์ในจีนปีละหลายพันล้านดอลลาร์

เขาจะเจอกับสถานการณ์แบบนี้มากขึ้นเรื่อยๆ ในแต่ละประเทศทั่วโลก ยิ่ง Elon ดังเท่าไร แสดงออกว่าเป็นผู้ควบคุม Twitter มากแค่ไหน นักการเมืองของประเทศต่างๆ จะวิ่งเข้ามาหาและต่อรอง (คำที่ไม่สุภาพคือ บีบไข่)

มันไม่ใช่เรื่องง่ายเลย Elon

น่าจะยากกว่าส่งจรวดไปดาวอังคารเยอะเลย

ภาพประกอบจาก @elonmusk