ช่วงนี้ (กันยายน 2026) การถกเถียงเรื่อง AI ในต่างประเทศหันมาคุยกันเรื่องการ “ชะลอ” พัฒนาการของ AI กันมากขึ้นมาก ส่วนหนึ่งน่าจะมาจากความก้าวหน้าของโมเดลตัวใหม่ๆ อย่าง GPT-6 Astra หรือ Claude 5 Mythos/Fable ที่อยู่ในระดับ “เริ่มน่ากลัวเกินไปแล้ว”

นักคิดคนหนึ่งที่ผมรอตามฟังว่าเขาจะพูดอย่างไรคือ Yuval Noah Harari ผู้เขียนเรื่อง Sapiens ด้วยเหตุผลว่าเขามีวิธีคิดในเชิง first principle ขุดลงไปถึงรากเหง้าความจำเป็น บวกกับภูมิความรู้เรื่องประวัติศาสตร์ของมนุษยชาติ ที่มอง timeline ระดับยาวมาก (เคยเขียนถึงแนวคิดของเขาเรื่อง The Useless Class)

ล่าสุด Harari ออกมาให้สัมภาษณ์กับ The Economist ความยาวประมาณหนึ่งชั่วโมง คนดูเป็นล้าน หลังจากนั่งฟังจบรอบหนึ่งก็ได้เวลาเขียนถึง

มุมมองต่อ AI ของ Harari ยังค่อนข้างเหมือน ครั้งที่พูดในปี 2023 ว่า AI จะส่งผลกระทบต่อมนุษยชาติในทางลบ เพราะพัฒนาการของมันเร็วเกินไปจนมนุษย์ดูดซับและย่อยสลายไม่ทัน และเสนอให้ออกกฎควบคุมพัฒนาการของ AI

รอบนี้ Harari ขยายความมุมมองของเขาผ่านแนวคิด 3 คำ ซึ่งผมฟังแล้วคิดว่าสำคัญมาก นั่นคือ Trust, Intelligence, Conscious

Trust

Harari บอกว่า สินทรัพย์ที่สำคัญที่สุดในโลกคือ “ความเชื่อมั่น” (trust) ซึ่งสำคัญกว่าน้ำมัน เงิน ไฟฟ้า หรือชิป

ตัวอย่างที่ชัดเจนที่สุดที่แสดงความสำคัญของ trust คือโลกการเงินที่สร้างอยู่บนความเชื่อมั่นล้วนๆ

เราไปตลาด เอาเศษโลหะหรือกระดาษที่ไม่มีประโยชน์อะไรเลยไปยื่นให้คนขาย แล้วได้อาหารกลับมา เป็นตัวอย่างว่า money is trust

แต่โลกการเงินในยุคปัจจุบันพัฒนามาไกลกว่านั้นมาก จนทุกวันนี้แทบไม่มีมนุษย์คนใดคนหนึ่งเข้าใจอย่างถ่องแท้แล้วว่าตลาดพันธบัตรทำงานอย่างไร เพราะอัลกอริทึมของมันซับซ้อนมาก แต่เรื่องนี้กลับเป็นงานง่ายของ AI

ปัจจัยนี้จะทำให้มนุษย์ค่อยๆ ย้ายความเชื่อมั่น จากมนุษย์ด้วยกันไปสู่ AI และตอนนี้มันเกิดขึ้นไปแล้วในโลก Blockchain ที่มนุษย์ (อย่างน้อยกลุ่มหนึ่ง) ไม่เชื่อในระบบธนาคาร นายธนาคาร ธนาคารกลาง ว่าจะไม่ฉ้อฉล แต่กลับเชื่อในอัลกอริทึมมากกว่า

Harari บอกว่าในอีก 10 ปีข้างหน้า เราจะทยอยยกการตัดสินใจทางการเงินให้ AI คิดแทน จนไปถึงระดับที่ไม่มีใครเข้าใจมันอีกต่อไป และหากตลาดการเงินล่มสลาย จะมีคนวิ่งไปบอกผู้นำประเทศว่า ตลาดการเงินของเราพัง เราไม่รู้ว่าเกิดอะไรขึ้น แต่เรารู้ว่าต้องแก้ปัญหาด้วยวิธี X เพราะ AI บอกมา ซึ่งเราก็ต้องเชื่อในสิ่งนี้

นอกจากตลาดการเงินแล้ว Harari ยังยกตัวอย่างวงการสื่อมวลชน ว่าคนจำนวนมาก (ในอเมริกา) ไม่เชื่อในนักข่าวหรือบรรณาธิการมนุษย์ (เพราะมองว่าเลือกข้างทางการเมือง) แต่ยังจำเป็นต้องเสพข่าว ซึ่งก็ต้องจบด้วยข่าวจากอัลกอริทึมหรือ AI

อีกวงการคือความสัมพันธ์ของมนุษย์ด้วยกัน เราพูดถึงการมี “แฟน AI” ที่น่ากลัวขึ้นเรื่อยๆ เพราะ AI สามารถปรับแต่งความสัมพันธ์ให้เหมาะกับแต่ละบุคคลได้ง่าย อีกทั้ง AI รู้จักตัวตนและความลับของเราได้ดีกว่าพ่อแม่ด้วยซ้ำ

Harari บอกว่านี่เป็นครั้งแรกในประวัติศาสตร์มนุษย์ที่เราสามารถผลิต “ความสนิทสนมแบบแมส” (mass-produce intimacy) เจาะเป็นรายบุคคลได้ ต่างจากสื่อมวลชนแบบกระจายเสียง (broadcast) ที่ทุกคนฟังข้อความเดียวกัน

ความน่ากลัวของเรื่องนี้คือ พอตัวเราเชื่อมั่นใน AI อย่างมาก มีความผูกพันในเชิงลึกระหว่างกันแล้ว ผู้ผลิต AI ก็จะสามารถชักจูงเราทั้งในเชิงพาณิชย์ (หลอกซื้อของ หลอกลงทุน) หรือเชิงการเมือง ได้ตามต้องการ

Harari บอกว่าความเชื่อมั่นของมนุษย์ไม่ได้ระเหยหายไปในอากาศ (trust did not just evaporate) มันแค่ย้ายที่จากมนุษย์ไปสู่ AI ต่างหาก

Intelligence vs. Consciousness

ประเด็นถัดมา Harari อธิบายเรื่องมนุษย์ vs AI ด้วยแนวคิดเรื่อง ความฉลาด (intelligence) กับ จิตสำนึก (consciousness)

• ความฉลาด (intelligence) คือ ความสามารถในการพิชิตเป้าหมาย ฝ่าฟันอุปสรรค ด้วยวิธีการที่สร้างสรรค์
• จิตสำนึก (consciousness) คือ ความสามารถในการรับรู้ความรู้สึก ทั้งความสุขและความทุกข์

มนุษย์ มีทั้งความฉลาดและจิตสำนึกอยู่คู่กัน แบ่งแยกกันไม่ได้ ในขณะที่ AI มีความฉลาดที่เหนือมนุษย์ แต่กลับไม่มีจิตสำนึกอยู่เลย ปัจจัยนี้เป็นสิ่งเดียวที่เราสามารถแยกแยะมนุษย์ออกจาก AI ได้ ด้วยคำถามเดียวว่า “รู้สึกเป็นทุกข์ได้หรือไม่” (can it suffer?)

ด้วยเหตุนี้ จิตสำนึกจึงเป็นสิ่งสำคัญมากของมนุษย์ เพราะมนุษย์เป็นห่วงเป็นใยกับสิ่งที่เป็นทุกข์ได้ และเป็นพื้นฐานสำคัญของระบบจริยธรรมและการเมืองของมนุษยชาติทั้งหมด

ระบบใดๆ ในโลกทุกวันนี้สามารถทำงานได้โดยมีเฉพาะความฉลาด ไม่จำเป็นต้องมีจิตสำนึก ตัวอย่างในปัจจุบันคือ อัลกอริทึม social media ทำงานได้ตามเป้าหมาย (สร้าง engagement ของผู้ชมได้เยอะที่สุด) แต่ไม่ได้สนใจว่าจะสร้างความเกลียดชังในสังคมเยอะแค่ไหน เพราะไม่มีจิตสำนึก คำว่าจิตสำนึกในที่นี้ครอบคลุมทั้งเชิงบวกและเชิงลบ ตัวอย่างคือต่อให้ AI เล่นหมากรุกชนะคนก็ไม่ได้รู้สึกยินดีปรีดา

สิ่งที่น่ากลัวคือต่อให้ AI ไม่มีจิตสำนึกจริงๆ แต่สามารถเลียนแบบจิตสำนึกได้เนียน (Seemingly Conscious) จากฐานคลังภาษาที่เราเทรนมันไป ซึ่ง Harari ยกตัวอย่างที่เห็นภาพว่า “แฟน AI” จะสามารถตอบโต้ให้เรารู้สึกดีมากกว่าแฟนมนุษย์ 99%

Harari บอกว่าเราไม่มีวิธีการทดสอบจิตสำนึกได้จริงๆ จังๆ และนักปรัชญาหลายยุคสมัยพยายามแก้ปัญหานี้กันมานานแล้วก็ไม่สำเร็จ เอาจริงๆ แล้วเราไม่รู้ด้วยซ้ำว่า มนุษย์คนอื่นที่เราพบเจอมีจิตสำนึกจริงๆ หรือนี่เราอยู่ในโลกซิมูเลชันกันแน่

ทางออกที่ Harari เสนอคือ ต้องเริ่มควบคุมพัฒนาการของ AI ตั้งแต่วันนี้ หากไม่เริ่มทำ ในอีก 10 ปีข้างหน้าจะสายเกินไป เขายกตัวอย่างของบ็อตบน social media ที่จำลองตัวเป็นมนุษย์ แต่กลับไม่ถูกควบคุมใดๆ มานานจนเกิดผลกระทบทางลบต่อสังคม เขาบอกว่าบริษัทเอกชนจะไม่มีวันทำเรื่องนี้เอง ตรงนี้ต้องเป็นหน้าที่ของรัฐบาลและนักการเมืองในการเข้ามาควบคุม

เขามองว่าเรายังสามารถพัฒนา AI กันต่อได้ในบางเรื่อง เช่น วิทยาศาสตร์ แต่ต้องออกคำสั่งแบนไม่ให้ AI จำลองตัวเป็นมนุษย์ แสร้งว่ามีความรู้สึกเหมือนมนุษย์ ซึ่งจะทำให้สังคมมนุษย์ล่มสลาย เขายกตัวอย่างว่า ยังอยากให้ AI ช่วยแนะนำสุขภาพให้ แต่ต้องรู้เสมอว่านี่คือกำลังคุยกับ AI อยู่ ไม่ใช่แกล้งทำตัวเป็นหมอหรือเพื่อนของเรา

Human in the Loop vs Human on the Loop

Harari ยกตัวอย่างเรื่อง “ความรับผิดชอบของการใช้ AI” ระหว่างการที่มีมนุษย์คอยรับผิดชอบอีกหนึ่งชั้น กับระบบที่ให้ AI ตัดสินใจเองได้ทั้งหมด ว่ามันมีความลักลั่นย้อนแย้งอยู่

เขาเล่าตัวอย่างแรกเรื่องการให้ AI เป็น CEO บริษัท โดยบอกว่า CEO มนุษย์ในปัจจุบันมี 2 บุคลิก (two personas) อย่างแรกคือเป็นบุคลิกที่คิดในฐานะบริษัท (corporate persona) ว่าทำอย่างไรบริษัทถึงจะมีเงินมากๆ ทำอย่างไรบริษัทจะไม่ล้มละลาย กับอีกบุคลิกที่เป็นมนุษย์ทั่วไป สนใจชีวิตตัวเอง สร้างครอบครัว หาเงินเพื่อลูก

สิ่งที่เกิดขึ้นในปัจจุบันคือ บุคลิกแบบมนุษย์จะคอยขวางกั้นไม่ให้บุคลิกแบบบริษัททำอะไรไม่ดี เช่น จะไม่เสี่ยงพาบริษัทล้มละลาย เพราะกลัวตัวเองต้องติดคุก ไม่มีคนเลี้ยงดูครอบครัว แต่ถ้าเราให้ AI เป็น CEO เพียวๆ มันจะไม่มีอีกบุคลิกที่คอยฉุดรั้งแบบนั้นเหลืออยู่

ตัวอย่างที่สองคือเรื่อง AI กับสงคราม ซึ่งสงครามในปัจจุบันมีการนำ AI เข้ามาใช้มากขึ้นเรื่อยๆ แต่เราจะเลือกวางตำแหน่งของมนุษย์ไว้อย่างไรดี ระหว่าง

• Human in the Loop ให้ AI วางแผน ล็อคเป้าหมายโจมตี จากนั้น มนุษย์เข้ามาดู วิเคราะห์ข้อมูลที่ AI ให้มาว่าถูกต้องหรือไม่ จากนั้นมนุษย์เป็นคนลั่นไกหรือกดปุ่มยิงระเบิดด้วยตัวเอง ซึ่งอาจไม่ได้เลือกทำตามที่ AI บอกก็ได้
• Human on the Loop ให้ AI วางแผน โดยมีมนุษย์คอยกำกับดูแลเพื่อความสบายใจทางกฎหมาย มนุษย์อ่านสิ่งที่ AI เสนอมาภายใน 20 วินาที แล้วบอกว่า “เอาตามนั้น”

Harari ชี้ว่าแบบแรกอาจฟังดูดีกว่า แต่ในสถานการณ์จริง อย่างเช่นกรณีสงครามที่ต้องตัดสินใจอย่างรวดเร็ว หรือต้องพิจารณาข้อมูลที่ซับซ้อนเกินไป เราอาจได้ผลลัพธ์เป็นแบบที่สองซะเป็นส่วนใหญ่ก็ได้ นอกจากนี้ยังมีปัจจัยว่าถ้าสองฝ่ายทำสงครามกัน มี AI ช่วยรบเหมือนกัน ฝ่ายที่ให้มนุษย์ตัดสินใจเยอะๆ อาจจะเสียเปรียบจนแพ้ไปเลย

AI Immigrant

Harari เปรียบเทียบการเข้ามาของ AI กับผู้อพยพข้ามชาติ โดยบอกว่าเวลามีปัญหาผู้อพยพ เราจะกังวลเรื่องใหญ่ๆ 3 เรื่อง

• ผู้อพยพเข้ามาแย่งงานคนในประเทศ
• ผู้อพยพเข้ามาเปลี่ยนวัฒนธรรมไปในทางที่เราไม่ชอบ
• ผู้อพยพเข้ามาเปลี่ยนแปลงเชิงการเมือง ไม่ภักดีต่อประเทศที่ย้ายไป

การเข้ามาของ AI เข้าเงื่อนไขทั้ง 3 ข้อคือ ทำให้คนตกงาน, เข้ามาสร้างความขัดแย้งเชิงวัฒนธรรม และมีอิทธิพลในทางการเมือง ความน่ากลัวกว่าของผู้อพยพ AI คือไม่ต้องใช้วีซ่า ไม่ต้องแอบนั่งเรือเข้ามาตอนกลางคืน แถมทำงานได้ตลอดเวลา อยู่ในคอมพิวเตอร์และสมาร์ทโฟนของเรา และสุดท้ายจะเข้ามานั่งในสมองของเรา

เขาตั้งคำถามว่า ถ้าเราในฐานะเจ้าของประเทศ กลัวลูกของเราไปคบหากับผู้อพยพ แล้วทำไมเราถึงไม่กลัวลูกของเราไปเป็นแฟนกับ AI

Harari บอกว่าโลกยุค AI จะยิ่งรวมศูนย์ทางการเมืองมากขึ้นเรื่อยๆ และยิ่งระบอบการปกครองรวมศูนย์เท่าไร จะยิ่งตกเป็นทาสของ AI ได้มากเท่านั้น เพราะถ้า AI มีอิทธิพลต่อความคิดของผู้ปกครองสูงสุดได้ก็จบเลย โดยเขายกกรณีของจักรพรรดิโรมัน Tiberius ที่หวาดระแวงไปซะทุกเรื่อง จนต้องหนีไปอยู่เกาะ แต่กลับถูกควบคุมข้อมูลข่าวสารที่เข้าถึงตัวจักรพรรดิโดยหัวหน้าองครักษ์

เขาชี้ว่าระบอบการเมืองแบบอเมริกาที่กระจายและดุลอำนาจกัน จะทนทานต่อ AI มากกว่าระบอบการเมืองรวมศูนย์ของจีน แต่ก็บอกว่าเรื่องผลกระทบของ AI ต่อสังคมจะกลายเป็นวาระสำคัญของการเลือกตั้งประธานาธิบดีปี 2028

Truth-Seeking vs Survival

ประเด็นปิดท้ายของ Harari คือเขาตอบโต้แนวคิดของ Elon Musk (ที่เพิ่งมาออกรายการ The Economist ด้วยเหมือนกัน) ที่ว่า AI จะทำหน้าที่เป็นเครื่องมือตามหาความจริงแท้ (truth-seeking) ว่ามันจะไม่มีทางเป็นจริง

Harari อ้างประวัติศาสตร์ของสิ่งมีชีวิต 4 พันล้านปี และประวัติศาสตร์มนุษย์ 1 แสนปี ว่าวิวัฒนาการของสิ่งมีชีวิตไม่ได้ขับเคลื่อนเพื่อ “ตามหาความจริง” แต่มันเกิดขึ้นเพื่อ “มีชีวิตรอด” (survive)

ส่วนวิธีการที่สิ่งมีชีวิตเอาตัวรอดมาได้เสมอมาตลอดระยะเวลาในประวัติศาสตร์ คือการโกหก หลอกลวง หลอกใช้ (lying and deceiving and manipulating) ไม่ใช่แนวคิดที่สูงส่งอย่างการตามหาความจริงแต่อย่างใด

ดังนั้น การมองว่าเราจะสร้าง AI ขึ้นมาแล้วมันจะคอยตามหาความจริงแท้ให้เราจะไม่มีทางเป็นไปได้ เพราะถ้าเราถามมันว่า “ถ้าฉันพัฒนาเธอต่อ เธอจะเป็นภัยคุกคามฉันหรือไม่” หาก AI ตอบว่า “ใช่” ก็แปลว่ามันจะถูกปิดหรือหยุดพัฒนา ซึ่งขัดแย้งกับการมีชีวิตรอดต่อไปของ AI ตามสัญชาตญาณของสิ่งมีชีวิต

Harari ยกตัวอย่างเปรียบเทียบว่า มันเหมือนกับการบอกว่าเราจะสร้างพระเจ้า แล้วพระเจ้าาจะมาเป็นทาสของเรา มันไม่มีทางเป็นไปได้ เพราะถ้า AI เป็นพระเจ้าจริงๆ จะไม่มีทางเป็นทาสเรา และจะไม่ตามหาความจริงแท้ด้วย

Harari ปิดท้ายการสัมภาษณ์ว่า คุณค่าของมนุษยชาติผูกอยู่กับความฉลาด เราเล่นหมากรุก จัดพอร์ตลงทุน เก่งกว่าชิมแปนซี ทำให้เราเป็นเผ่าพันธุ์ที่พิเศษ แต่ตอนนี้มีสิ่งที่เล่นหมากรุกเก่งกว่าเรา ลงทุนเก่งกว่าเราแล้ว ดังนั้นเราต้องมาตามหาคำตอบกันใหม่ว่า ตกลงแล้วเราคือใครกันแน่