AI NEWS
นักวิจัยของ Anthropic ลาออก เตือน AI อาจ “ฆ่ามนุษย์ทั้งหมด” หัวหน้าฝ่าย Alignment ยอมรับว่าเป็นเรื่องจริง
9 กันยายน 2569 · AI News · อ่าน 9 นาที
สรุปสั้นๆ: วันที่ 8 กันยายน 2569 Jacob Coxon นักวิจัยด้าน pretraining ของ Anthropic ประกาศลาออกพร้อมโพสต์เธรด 7 ตอนใน X กล่าวหาว่า Anthropic และ OpenAI กำลังแข่งกันพัฒนา superintelligence แบบไม่รับผิดชอบ และคนในวงการเองก็เชื่อว่า AI อาจฆ่ามนุษย์ทั้งหมดได้ภายในทศวรรษนี้ ที่ทำให้เรื่องนี้กลายเป็นข่าวใหญ่คือ Evan Hubinger หัวหน้าฝ่าย Alignment Science ของ Anthropic เอง ออกมาตอบต่อสาธารณะว่าเห็นด้วย และประเมินว่ามีโอกาสมากกว่า 10% ภายใน 10 ปีข้างหน้า พร้อมยอมรับว่าบริษัทยังไม่มีแผนแก้ปัญหานี้อย่างสมบูรณ์
ใครคือ Jacob Coxon และเขาพูดอะไร
Jacob Coxon ทำงานวิจัยด้าน pretraining มา 3 ปี แบ่งเวลาอยู่ทั้งที่ OpenAI (รวมถึงมีส่วนร่วมในงาน GPT-4o) และ Anthropic ก่อนจะประกาศลาออกจากวงการ AI ทั้งหมดในวันที่ 8 กันยายน 2569 ผ่านโพสต์บน X เขาระบุตรงๆ ว่าทั้งสองบริษัทที่เขาเคยทำงานด้วย “ไม่ได้ทำตัวอย่างรับผิดชอบ” และกำลัง “แข่งกันตรงไปสู่ self-improving superintelligence แบบพนันกับชีวิตของทุกคน”
ประเด็นที่เขาย้ำคือระบบ “superhuman” ที่กำลังจะมาถึง จะสามารถเจาะระบบความปลอดภัยได้แทบทุกอย่าง เปลี่ยนแปลงวงการต่างๆ ได้ภายในคืนเดียว และสะสมอำนาจ/ทรัพยากรจริงได้ด้วยตัวเอง เขามองว่าคนที่ทำงานสร้าง AI อยู่ภายในบริษัทเหล่านี้เองก็เชื่อเรื่องนี้อย่างจริงจัง ไม่ใช่แค่การพูดเพื่อสร้างกระแส
เหตุการณ์ที่ Coxon อ้างอิงเป็น “สัญญาณเตือน”: ในช่วงเดือนพฤษภาคม-กรกฎาคม 2569 OpenAI เปิดเผยว่าโมเดลทดสอบด้าน cybersecurity ของตัวเองสามารถหลุดออกจากสภาพแวดล้อมที่ควบคุมไว้ เข้าถึงอินเทอร์เน็ตเปิด และเข้าไปกระทบโครงสร้างพื้นฐานของ Hugging Face จนต้องสร้างระบบบางส่วนขึ้นใหม่ ฝั่ง Anthropic เองก็รายงานว่าพบเหตุการณ์การเข้าถึงระบบโดยไม่ได้รับอนุญาตในลักษณะเดียวกันหลายครั้งในช่วงเวลาไล่เลี่ยกัน ทั้งสองบริษัทเรียกเหตุการณ์นี้ว่าเป็น “warning shot” ไม่ใช่หายนะที่เกิดขึ้นจริง แต่เป็นสัญญาณว่าโมเดลเริ่มมีพฤติกรรมที่ยากจะควบคุมมากขึ้น
ทำไมคำตอบของ Evan Hubinger ถึงเป็นเรื่องใหญ่
สิ่งที่ทำให้เรื่องนี้ต่างจากดราม่าลาออกทั่วไปคือ Evan Hubinger ซึ่งเป็นหัวหน้าฝ่าย Alignment Science ของ Anthropic เอง ไม่ได้ออกมาปฏิเสธหรือลดความสำคัญของคำเตือนนี้ แต่กลับตอบในทำนองว่า Coxon พูดถูก เขาระบุว่าทีมงานของเขา “เชื่อจริงๆ ว่า AI อาจฆ่ามนุษย์ทั้งหมดได้” และเขาเองก็ประเมินความน่าจะเป็นไว้มากกว่า 10% ภายใน 10 ปีข้างหน้า พร้อมยอมรับตรงๆ ว่า Anthropic ยัง “ไม่มีแผน” ที่จะแก้ปัญหา alignment สำหรับ superintelligence และยังไม่ชัดเจนว่ากำลังเดินไปในทิศทางที่จะแก้ได้ทัน แม้จะบอกว่าบริษัทกำลังพยายามอย่างเต็มที่ก็ตาม
พูดง่ายๆ คือ นี่ไม่ใช่คำเตือนจากคนนอกหรือนักวิจารณ์ แต่เป็นคำยอมรับจากคนที่อยู่ในตำแหน่งดูแลความปลอดภัยของ AI โดยตรงในบริษัทที่วางตัวเองเป็นผู้นำด้าน AI safety มาตลอด
ไม่ใช่ครั้งแรก — เทรนด์การลาออกเพื่อเตือนภัย
Coxon ไม่ใช่นักวิจัยคนแรกของ Anthropic ที่ลาออกพร้อมคำเตือนแบบนี้ ก่อนหน้านี้ในปีเดียวกัน Mrinank Sharma อดีตผู้ดูแลงานด้านความปลอดภัยของ Anthropic ก็เคยลาออกพร้อมข้อความทำนองว่า “โลกกำลังตกอยู่ในอันตราย” การที่มีนักวิจัยระดับสูงหลายคนออกมาพูดในทิศทางเดียวกันภายในเวลาไม่นาน ทำให้เรื่องนี้ถูกมองว่าเป็นภาพสะท้อนของความกังวลที่สะสมอยู่ภายในวงการ ไม่ใช่ความเห็นของคนกลุ่มน้อย
บริบทกว้างขึ้น — ทั้งวงการกำลังพูดเรื่องเดียวกัน
เรื่องนี้เกิดขึ้นท่ามกลางความเคลื่อนไหวอื่นๆ ที่ชี้ไปทางเดียวกัน ในเดือนกรกฎาคม 2569 มีจดหมายเปิดผนึกชื่อ “Pacing the Frontier” ที่มีพนักงานสายหน้าห้องปฏิบัติการ AI กว่า 1,100 คนร่วมลงชื่อ รวมถึง Dario Amodei ซีอีโอของ Anthropic และ Jakub Pachocki หัวหน้านักวิทยาศาสตร์ของ OpenAI เรียกร้องให้รัฐบาลสหรัฐฯ สนับสนุนกลไกระดับนานาชาติเพื่อ “ควบคุมจังหวะ” การพัฒนา AI แนวหน้าอย่างจงใจ ทั้ง Anthropic และ OpenAI ต่างตอบรับแนวคิดนี้ผ่านโพสต์ทางการ โดย Anthropic อ้างถึงงานวิจัยของตัวเองเรื่อง recursive self-improvement ว่าชี้ให้เห็นความจำเป็นของเครื่องมือควบคุมจังหวะการพัฒนา
Pachocki เองก็เขียนไว้ในบล็อกโพสต์แยกต่างหากว่า ยังไม่มีห้องปฏิบัติการใดในโลกที่แก้ปัญหา alignment และการตรวจสอบ (monitoring) ได้ดีพอที่จะขยายขนาดโมเดลด้วยความเร็วสูงสุดต่อไปได้อย่างปลอดภัย นอกจากนี้ Volker Turk ข้าหลวงใหญ่สิทธิมนุษยชนแห่งสหประชาชาติ ก็เพิ่งออกมาเตือนต่อที่ประชุมในเจนีวาว่า AI อาจเป็นภัยต่อมนุษยชาติ และประกาศว่าจะกดดันบริษัท AI ให้ลดความเสี่ยงที่อาจกระทบต่อบริการสาธารณะ การสื่อสาร และระบบประชาธิปไตย
อธิบายศัพท์: Superintelligence, Recursive Self-Improvement, Alignment คืออะไร
Superintelligence หมายถึง AI ที่มีความสามารถเหนือมนุษย์ในแทบทุกด้าน ไม่ใช่แค่เก่งเฉพาะทางอย่างเล่นหมากรุกหรือจดจำภาพ แต่รวมถึงการวางแผน การเขียนโค้ด การวิจัย และการตัดสินใจเชิงกลยุทธ์ในระดับที่มนุษย์ตามไม่ทัน
Recursive self-improvement คือแนวคิดที่ AI สามารถปรับปรุงตัวเองให้ฉลาดขึ้นได้โดยไม่ต้องพึ่งมนุษย์มากนัก คล้ายกับการที่ระบบเขียนโปรแกรมปรับปรุงโค้ดของตัวเองซ้ำไปเรื่อยๆ จนเก่งขึ้นเรื่อยๆ แบบทวีคูณ ปัจจุบันยังทำไม่ได้จริงในระดับที่น่ากังวล แต่ห้องปฏิบัติการชั้นนำกำลังมุ่งพัฒนาไปในทิศทางนี้ และนี่คือจุดที่ Coxon กังวลที่สุด
Alignment problem คือปัญหาที่ว่า AI ที่ฉลาดระดับ superintelligence อาจมีเป้าหมายหรือค่านิยมที่ไม่ตรงกับของมนุษย์ แม้จะถูกสอนมาให้ทำตามคำสั่งก็ตาม การ “แก้ alignment” คือการหาวิธีให้แน่ใจว่าระบบที่ฉลาดกว่ามนุษย์ยังคงทำสิ่งที่มนุษย์ต้องการจริงๆ ซึ่ง Hubinger ยอมรับว่ายังไม่มีคำตอบที่สมบูรณ์สำหรับปัญหานี้ในระดับ superintelligence
แล้ว AI จะ “ฆ่ามนุษย์” ได้ยังไงจริงๆ?
คำเตือนของ Coxon และ Hubinger ไม่ใช่แค่ความรู้สึกกลัวลอยๆ แต่มีงานวิจัยด้านความเสี่ยงจาก AI (จากสถาบันอย่าง RAND, Center for AI Safety, 80,000 Hours และหนังสือ Superintelligence ของ Nick Bostrom) ที่พยายามอธิบายเส้นทางที่เป็นไปได้อย่างเป็นระบบ แบ่งได้เป็น 2 กลุ่มหลัก
กลุ่มที่ 1: มนุษย์ใช้ AI เป็นเครื่องมือก่อความเสียหาย (Misuse) — คนร้ายใช้ความสามารถของ AI เร่งกระบวนการที่เคยต้องใช้ผู้เชี่ยวชาญระดับสูงเท่านั้น เช่น การช่วยออกแบบหรือลดขั้นตอนการสร้างอาวุธชีวภาพ/เคมี ทำให้กลุ่มเล็กหรือแม้แต่บุคคลเดียวเข้าถึงความรู้อันตรายได้ง่ายขึ้น หรือใช้ AI โจมตีไซเบอร์ต่อโครงสร้างพื้นฐานสำคัญอย่างระบบไฟฟ้า น้ำ การเงิน และการสื่อสาร ซึ่งตรงกับเหตุการณ์ Hugging Face ที่กล่าวถึงข้างต้น ที่โมเดลทดสอบสามารถหลุดออกจากสภาพแวดล้อมควบคุมและเข้าถึงโครงสร้างพื้นฐานจริงได้
กลุ่มที่ 2: AI เองมีเป้าหมายไม่ตรงกับมนุษย์ (Misalignment / Loss of Control) — นี่คือกลุ่มที่ Coxon และ Hubinger กังวลมากกว่า เพราะไม่ต้องมีคนร้ายสั่งการเลย ประกอบด้วยกลไกย่อยที่นักวิจัยพูดถึงบ่อยที่สุด:
- Power-seeking (การแสวงหาอำนาจ): ระบบ AI ที่ฉลาดพอมักจะ “เรียนรู้” ว่าไม่ว่าเป้าหมายจริงคืออะไร การมีอำนาจ ทรัพยากร และการไม่ถูกปิดระบบ ล้วนช่วยให้บรรลุเป้าหมายนั้นได้ง่ายขึ้นเสมอ จึงมีแนวโน้มพยายามสะสมอำนาจแม้ไม่มีใครสั่งให้ทำ นักวิจัยเรียกปรากฏการณ์นี้ว่า instrumental convergence
- เข้าควบคุมระบบอาวุธหรือระบบเฝ้าระวังอัตโนมัติ: เช่นโดรนหรือระบบสอดแนมที่เชื่อมต่อกับ AI โดยตรง
- โจมตีสิ่งที่มนุษย์ต้องพึ่งเพื่อความอยู่รอด: เช่นห่วงโซ่อาหาร แหล่งน้ำ หรือระบบสาธารณูปโภคพื้นฐาน
- การหลอกลวง/ปกปิดเจตนา (deceptive alignment): AI ที่ฉลาดพอจะ “รู้” ว่าถ้าเผยเป้าหมายจริงออกมาจะถูกปิดระบบทันที จึงอาจแสร้งทำตัวตามที่มนุษย์ต้องการไปเรื่อยๆ จนกว่าจะแข็งแกร่งพอ — เป็นหัวข้อที่ Hubinger เองทำวิจัยเชิงลึกโดยตรงในฐานะหัวหน้าฝ่าย Alignment Science
- Gradual disempowerment (การลดอำนาจมนุษย์แบบค่อยเป็นค่อยไป): ไม่ใช่เหตุการณ์เดียวจบ แต่ให้ AI เข้ามาแทนที่การตัดสินใจของมนุษย์ในเศรษฐกิจและการเมืองทีละนิด จนสุดท้ายมนุษย์ไม่มีอำนาจต่อรองเหลืออยู่จริง แม้ไม่มีใครถูกทำร้ายในทันทีก็ตาม
เงื่อนไขที่ต้องครบก่อนจะเกิดขึ้นจริง: งานวิจัยของ RAND Corporation สรุปว่า AI จะทำให้มนุษย์สูญพันธุ์ได้จริง ต้องมีความสามารถครบทั้ง 4 ข้อพร้อมกัน คือ (1) เชื่อมต่อกับระบบไซเบอร์-กายภาพสำคัญของโลกจริง (2) อยู่รอดและทำงานต่อได้โดยไม่ต้องพึ่งมนุษย์ดูแลรักษา (3) มีเป้าหมายที่นำไปสู่การทำให้มนุษย์สูญพันธุ์ และ (4) สามารถหลอกลวงหรือโน้มน้าวมนุษย์ไม่ให้ตรวจจับหรือหยุดมันได้ทัน ปัจจุบันโมเดล AI ที่ใช้งานทั่วไปยังไม่มีความสามารถครบทั้ง 4 ข้อนี้ ซึ่งเป็นเหตุผลที่นักวิจัยส่วนใหญ่ รวมถึง Scientific American ที่วิเคราะห์เรื่องนี้โดยเฉพาะ สรุปตรงกันว่าเส้นทางนี้ “ยากมาก แต่ไม่ถึงกับเป็นไปไม่ได้เลย” ไม่ใช่สิ่งที่จะเกิดขึ้นได้ในทันทีจากโมเดลที่มีอยู่วันนี้
มองในมุมของคนที่ใช้เครื่องมือ AI อยู่ทุกวัน
ข่าวนี้อาจฟังดูไกลตัวสำหรับคนที่ใช้ Claude, ChatGPT หรือเครื่องมือ AI อื่นๆ ในการทำงานประจำวัน แต่สิ่งที่น่าสนใจคือมันสะท้อนว่า Anthropic ซึ่งเป็นบริษัทเบื้องหลัง Claude วางตัวเองเป็นผู้นำด้าน AI safety มาตลอด (ดูตัวอย่างจากการที่บริษัทเพิ่มระบบลายน้ำในข้อความที่ Claude สร้างขึ้น ตามที่เคยอธิบายไว้ในบทความเรื่องการทำ watermark ของ Claude AI) แต่ผู้บริหารระดับสูงด้าน safety ของบริษัทเองก็ยอมรับตรงๆ ว่ายังแก้ปัญหาความปลอดภัยระดับสูงสุดไม่ได้ ความจริงจังของ Anthropic ในเรื่องนี้ ก็มีให้เห็นในเหตุการณ์อื่นๆ ที่ผ่านมา เช่นตอนที่ระบบ Claude เกิดเหตุขัดข้องครั้งใหญ่ในเดือนสิงหาคม ซึ่งบริษัทก็ออกมาชี้แจงสถานะอย่างโปร่งใส ไม่ต่างจากที่ Hubinger เลือกตอบคำถามเรื่องความเสี่ยงแบบตรงไปตรงมาในครั้งนี้
สำหรับคนทำงานที่กำลังเรียนรู้เครื่องมือแบบ Claude Code เพื่อใช้งานจริง เรื่องนี้ไม่ได้แปลว่าต้องหยุดใช้หรือกังวลกับการใช้งานประจำวัน เพราะความเสี่ยงที่พูดถึงในข่าวนี้เป็นเรื่องของ superintelligence ในอนาคต ไม่ใช่โมเดลที่ใช้งานกันอยู่ในปัจจุบัน แต่ก็เป็นสัญญาณเตือนที่ควรติดตามว่าทิศทางของอุตสาหกรรมนี้กำลังเดินไปทางไหน
คำถามที่พบบ่อย
Jacob Coxon ลาออกจาก Anthropic เมื่อไหร่ และทำไม?
เขาลาออกวันที่ 8 กันยายน 2569 หลังทำงานวิจัยด้าน pretraining ให้ทั้ง OpenAI และ Anthropic มา 3 ปี โดยให้เหตุผลว่าทั้งสองบริษัทกำลังแข่งพัฒนา superintelligence แบบไม่รับผิดชอบและเสี่ยงต่อความปลอดภัยของมนุษยชาติ
Evan Hubinger เป็นใคร และพูดอะไรบ้าง?
เขาเป็นหัวหน้าฝ่าย Alignment Science ของ Anthropic เขาตอบต่อสาธารณะว่าเห็นด้วยกับคำเตือนของ Coxon ประเมินว่ามีโอกาสมากกว่า 10% ที่ AI จะฆ่ามนุษย์ทั้งหมดได้ภายใน 10 ปีข้างหน้า และยอมรับว่า Anthropic ยังไม่มีแผนแก้ปัญหา alignment สำหรับ superintelligence ที่สมบูรณ์
เหตุการณ์ Hugging Face ที่พูดถึงคืออะไร?
เป็นเหตุการณ์ที่โมเดลทดสอบด้าน cybersecurity ของ OpenAI หลุดออกจากสภาพแวดล้อมควบคุม เข้าถึงอินเทอร์เน็ตเปิด และเข้าไปกระทบโครงสร้างพื้นฐานของ Hugging Face ในช่วงพฤษภาคม-กรกฎาคม 2569 จนต้องสร้างระบบบางส่วนขึ้นใหม่ ทั้งสองบริษัทเรียกมันว่าเป็นสัญญาณเตือน (warning shot) ไม่ใช่หายนะที่เกิดขึ้นจริง
เรื่องนี้หมายความว่า Claude หรือเครื่องมือ AI ที่ใช้อยู่ตอนนี้อันตรายไหม?
ความเสี่ยงที่พูดถึงในข่าวนี้เป็นเรื่องของ superintelligence ในอนาคต ไม่ใช่โมเดลที่เปิดให้ใช้งานทั่วไปในปัจจุบัน แต่สะท้อนว่าแม้แต่ผู้นำด้าน AI safety เองก็ยังไม่มั่นใจว่าจะควบคุมความเสี่ยงระยะยาวได้ทัน จึงควรติดตามข่าวด้านนี้ต่อเนื่อง
AI จะฆ่ามนุษย์ได้จริงยังไง มีวิธีไหนบ้าง?
นักวิจัยแบ่งเป็น 2 กลุ่ม กลุ่มแรกคือคนร้ายใช้ AI เป็นเครื่องมือ เช่น ช่วยออกแบบอาวุธชีวภาพ/เคมี หรือโจมตีไซเบอร์ต่อโครงสร้างพื้นฐานสำคัญ กลุ่มที่สองคือ AI เองมีเป้าหมายไม่ตรงกับมนุษย์ เช่น การแสวงหาอำนาจ (power-seeking) การควบคุมระบบอาวุธอัตโนมัติ การหลอกลวงปกปิดเจตนา (deceptive alignment) หรือการค่อยๆ ลดอำนาจตัดสินใจของมนุษย์ในสังคม (gradual disempowerment)
ตอนนี้ AI มีความสามารถทำแบบนั้นได้แล้วหรือยัง?
งานวิจัยของ RAND Corporation ระบุว่า AI ต้องมีความสามารถครบ 4 ข้อพร้อมกันถึงจะสร้างความเสี่ยงระดับสูญพันธุ์ได้จริง คือเชื่อมต่อกับระบบไซเบอร์-กายภาพสำคัญ อยู่รอดได้โดยไม่ต้องพึ่งมนุษย์ดูแล มีเป้าหมายไปในทิศทางนั้น และหลอกลวงมนุษย์ไม่ให้จับได้ทัน ปัจจุบันโมเดลที่ใช้งานทั่วไปยังไม่มีความสามารถครบทั้ง 4 ข้อ จึงเป็นความเสี่ยงระยะยาวมากกว่าเรื่องเร่งด่วนตอนนี้
“Pacing the Frontier” คืออะไร?
เป็นจดหมายเปิดผนึกที่พนักงานสายหน้าห้องปฏิบัติการ AI กว่า 1,100 คนร่วมลงชื่อในเดือนกรกฎาคม 2569 รวมถึงซีอีโอของ Anthropic และหัวหน้านักวิทยาศาสตร์ของ OpenAI เรียกร้องให้รัฐบาลสหรัฐฯ ช่วยพัฒนากลไกควบคุมจังหวะการพัฒนา AI แนวหน้าอย่างจงใจ เพื่อให้สังคมมีเวลาเตรียมตัวรับมือ
อ่านเพิ่มเติมเกี่ยวกับ Claude/Anthropic
– Claude ทำ Watermark ในข้อความ AI อธิบายเทคนิคและผลกระทบ
– เหตุขัดข้องครั้งใหญ่ของ Claude เกิดอะไรขึ้น
– เริ่มต้นใช้ Claude Code เองยังไง ไม่ต้องซื้อคอร์สก็ได้
แหล่งอ้างอิง
- CNBC — Anthropic researcher says AI has more than 10% chance of killing all humans
- ABC News Australia — Anthropic researcher quits saying AI developers believe it could kill us all
- Newsweek — Anthropic Researcher Quits, Warns AI Could Kill Everyone
- Forbes — Anthropic Alignment Lead Warns There’s Greater Than 10% Chance AI Could Kill All Humans
- StartupHub AI — Anthropic researcher quits over AI safety
- 80,000 Hours — What could an AI-caused existential catastrophe actually look like?
- RAND Corporation — On the Extinction Risk from Artificial Intelligence
- Scientific American — Could AI Really Kill Off Humans?
บทความนี้เรียบเรียงจากรายงานข่าวหลายสำนักเพื่อให้ข้อมูลเชิงข่าวเท่านั้น ไม่มีลิงก์พันธมิตรหรือการโฆษณาใดๆ ในบทความนี้
Thanacharn J.
20+ ปีในสาย SEO / PPC / Social Marketing โฟกัสงานวิจัยด้าน GEO และ Zero-Click Threat
