จากกรณี Google Gemini เรนเดอร์ภาพมนุษย์แบบมี diversity จนเกินควร (คำอธิบายจากกูเกิล) และเกิดเสียงวิจารณ์มากมาย โดยเฉพาะในสหรัฐอเมริกาบ้านเกิด ที่ประเด็นเรื่องสีผิว ความหลากหลาย กำลังเป็นประเด็นเดือดในปีแห่งการเลือกตั้ง 2024
ถ้าตัดประเด็นการถกเถียงเรื่องการเมืองแบบแยกค่ายชัดเจน (woke vs far right) ออกไป เราก็เห็นเสียงวิจารณ์มากมายต่อทิศทางที่กูเกิลกำลังมุ่งไป
The Gemini images made me realize that Google faces a danger that they themselves probably didn't even know about. If they're not careful, they'll budlight their brand merely by leaking how wildly different their political opinions are from their users'.
— Paul Graham (@paulg) February 25, 2024
ชุดคำอธิบายเรื่องนี้ที่ดีที่สุดเท่าที่อ่านมา มาจาก Noah Smith (อีกแล้ว) โดยเขาย้อนอดีตไปยังเรื่องการแบ่งแยกสีผิวในสหรัฐอเมริกา ว่าเป็นมรดกทางประวัติศาสตร์ที่สั่งสมมายาวนานตั้งแต่ยุคก่อตั้งประเทศ ถึงแม้จะดีขึ้นเรื่อยๆ ตามกาลเวลา (เลิกทาสปี 1865, เลิกแบ่งชนชั้นทางสีผิวหรือ Desegregation ในช่วงปี 1960) แต่มันยังมีปัญหานี้อยู่
ปัญหาเรื่องเชื้อชาติไม่ได้มีแต่คู่ขัดแย้งคนขาว vs คนดำเท่านั้น เพราะอเมริกาเคยเหยียดจีน (Chinese Exclusion Act) และญี่ปุ่น (Japanese Internment) มาก่อน ซึ่งการหลอมรวมความเป็นชาติภายใต้เชื้อชาติที่แตกต่างไม่ใช่เรื่องง่าย
Noah ตั้งคำถามว่า
Today, in 2024, can a 34-year-old Asian American man look up at a statue of George Washington in a New York City park and think, even in some generalized symbolic sense, that this is a statue of his predecessor?
ซึ่งเป็นสิ่งที่ไม่ง่ายเลย
www.noahpinion.blog ความพยายามหนึ่งในการแก้ปัญหาเรื่องการเหยียดเชื้อชาติ คือการพยายามแสดงออกถึงความหลากหลายตามสื่อต่างๆ เพื่อให้คนอเมริกัน “รู้สึก” ว่าความหลากหลายในสังคมเป็นเรื่องปกติทั่วไป
this is where the idea of retroactive representation comes in. Normal representation — putting people of color in movies, TV, etc. — is intended to show Americans that they live in a diverse, integrated, multiracial society today
ผมคิดว่าแนวทางของ Disney (Little Mermaid ผิวดำ) หรือ Google (ใส่ความหลากหลายลงใน Gemini) สะท้อนไอเดียเหล่านี้ที่อยู่ข้างใต้ อย่างไรก็ตาม ตัวอย่างของการทำ representation ที่ดีที่สุดน่าจะเป็นละครเพลงเรื่อง Hamilton
Hamilton เป็นละครเพลงที่เริ่มแสดงในปี 2015 (มีเวอร์ชันแสดงแล้วถ่ายเป็นหนังใน Disney+ ฉายปี 2020) โดยนำเอาชีวประวัติของ Alexander Hamilton หนึ่งใน Founding Fathers ผู้สร้างชาติอเมริกา (มือขวาของ George Washington และมีหน้าอยู่ในแบงค์ 10 ดอลลาร์ที่คนอเมริกันคุ้นเคย) มาตีความใหม่ โดยให้ตัวละครดังๆ ในประวัติศาสตร์เปลี่ยนเป็นคนสีผิวต่างๆ ที่ไม่ใช่คนขาว (ซึ่งในประวัติศาสตร์ทุกคนคือคนขาว!)
กรณีของตัวเอก Alexander Hamilton ตัวจริงเป็นคนเชื้อสายสกอตติช แต่ในละครแสดงโดย Lin-Manuel Miranda ผู้สร้างละครเพลงเรื่องนี้ ซึ่งเป็นคนเชื้อสายเปอร์โตริโก เท่านั้นยังไม่พอ อดีตประธานาธิบดีสหรัฐรุ่นแรกๆ หลายคน ทั้ง George Washington, Thomas Jefferson, James Madison ล้วนแต่แสดงโดยคนดำ นอกจากนี้ยังมีตัวแสดงที่เป็นละตินอเมริกันและเอเชียร่วมด้วย
คำอธิบายของ Miranda ในฐานะผู้สร้าง สรุปเอาไว้ว่ามันเป็น “การเล่าประวัติศาสตร์อเมริกันยุคโน้น โดยมุมมองของคนอเมริกันยุคนี้”
“America then, as told by America now.”
ในขณะที่ Hamilton ประสบความสำเร็จแบบถล่มทลาย ทำไม Gemini ที่พยายามทำแบบเดียวกัน (แสดงภาพบุคคลในประวัติศาสตร์ ด้วยการนำเสนอแบบหลากหลายเชื้อชาติ) ถึงโดนด่าเละเทะ คำตอบของ Noah คือบอกว่า กูเกิลนั้นพยายาม “มาทางลัด” เกินไป
Google’s release of an AI app that forces users to see nonwhite people in place of White historical figures is, on some level, an attempt at something similar to what Hamilton tried to do. But Google’s attempt failed disastrously. Why? In my view, it was because the Google team tried to take a shortcut.
Noah พยายามยกตัวอย่างการแก้ปัญหา diversity ของบริษัท มหาวิทยาลัย ฯลฯ ด้วยวิธีที่ไม่ลุ่มลึกมากพอ (เพราะปัญหามันแก้ยากจริงๆ) อย่างเช่น การพยายามลดการเหยียดคนดำ ด้วยการไปเหยียดหรือเบียดบังสิทธิของคนขาวแทน แต่เมื่อคิดไม่ลึกซึ้งพอ มันเลยให้ผลในทางตรงข้ามคือสังคมยิ่งแตกแยก
Discrimination against White employees in companies and universities is another kind of shortcut. It’s an attempt to circumvent the hard work of changing attitudes and prosecuting companies for discriminating against people of color, and instead simply leap to a solution by implementing discrimination in the opposite direction.
But it won’t work.
racism and antiracism don’t cancel each other out like matter and antimatter.
วิธีการของกูเกิลก็เช่นกัน การพยายามดัดแปลง prompt ของผู้ใช้ โดยแอบเติมเรื่อง diversity ลงไปแบบเนียนๆ (แต่ดันให้ผลออกมาแย่) เป็น “ทางลัด” ที่กูเกิลพยายามเดิน เอาง่ายเข้าว่า แต่เมื่อปัญหามันยาก มันจึงพัง
ตรงนี้เป็นสิ่งที่ AI (และทีมกูเกิลที่พยายามทำ diversity) ยังแพ้มนุษย์ผู้ปัญญาเลิศอย่าง Lin-Manuel Miranda ที่สามารถเล่าเรื่อง นำเสนอภาพแบบเดียวกันได้อย่างมีชั้นเชิงกว่ามาก
But where Hamilton was a smashing success, Gemini’s clumsy attempts were a P.R. disaster. Why? Because retroactive representation is an inherently tricky and delicate thing, and AI chatbots don’t have the subtlety to get it right.
Hamilton succeeded because the audience understood the subtlety of the message that was being conveyed. Everyone knows that Alexander Hamilton was not a Puerto Rican guy. They appreciate the casting choice because they understand the message it conveys. Lin-Manuel Miranda does not insult his audience’s intelligence.
Gemini is no Lin-Manuel Miranda (and neither are its creators).
Where Hamilton challenges the viewer to imagine America’s founders as Latino, Black, and Asian, Gemini commands the user to forget that British monarchs were White. One invites you to suspend disbelief, while the other orders you to accept a lie.
ผมคิดว่าข้อสรุปของ Noah อันนี้ประเทืองปัญญามาก และน่าจะเป็นหนึ่งในคำตอบของคำถามใหญ่มากอีกอัน ว่าสุดท้ายแล้ว AI จะมาแทนมนุษย์หรือไม่
กรณีของ diversity ที่มีคู่เปรียบเทียบระหว่าง Gemini (หนึ่งใน AI ที่เลิศที่สุดในปัจจุบัน + นโยบายของบริษัทแบบกูเกิล) กับ Hamilton (หนึ่งในสื่อบันเทิงที่ลุ่มลึกเรื่องสีผิวและประสบความสำเร็จมากที่สุด) มนุษย์ยังเป็นฝ่ายทำได้ดีกว่ามาก
ข้อเท็จจริงนี้อาจยังเป็นจริงเฉพาะแค่ตอนนี้เท่านั้น ในอนาคตเราอาจเห็น AI ที่เก่งกว่านี้มากๆ (จริงๆ คือ Gemini เวอร์ชันปลดล็อคไม่มี guardrail ก็คงให้ผลลัพธ์ที่ดีแบบตรงไปตรงมา) เราอาจเห็นความสามารถในการ “เปลี่ยนความจริง” ที่เก่งฉกาจกว่านี้ได้ แต่นั่นยังไม่ใช่สิ่งที่เกิดในเร็วๆ นี้
ข้อสรุปนี้อาจนำไปสู่โซลูชันว่าเราจะอยู่ร่วมกับ AI ได้อย่างไร (อย่างน้อยก็ในระยะสั้น) เราอาจใช้ AI สร้างภาพตามคำสั่งที่สะดวกรวดเร็วกว่ามนุษย์วาดเองมาก (ลาก่อนสายผลิต) แต่ถ้าต้องการงานที่ลุ่มลึก มีชั้นเชิงมากกว่า มนุษย์ยังจำเป็นอยู่
ข้อสรุปนี้เราพูดกันมานานจนเบื่อแล้ว (เอา AI ไปทำงานพื้นๆ แล้วมนุษย์ควบคุม AI อีกที) แต่ตัวอย่างเรื่อง Hamilton vs Gemini เป็นสิ่งที่เห็นภาพชัดเจนมากจริงๆ
อย่างไรก็ตาม เราทุกคนคงไม่ใช่อัจฉริยะแบบ Lin-Manuel Miranda นั่นก็นำไปสู่คำถามใหญ่อีกข้อหนึ่งว่า มนุษย์ทั่วไปพื้นๆ จะเอาชนะ AI พื้นๆ ได้อย่างไร ซึ่งก็ตอบไม่ง่ายเลย
สิ่งที่เกิดขึ้นคือหลังอ่านบทความจบ ผมต้องไปนั่งดู Hamilton บ้าง เพื่อให้เข้าใจว่าการเล่าเรื่องเชื้อชาติแบบมีชั้นเชิงเขาทำกันอย่างไร