AI มีโอกาส 10% อาจก่อ “ความเสียหายระดับหายนะ” ภายในปี 2030 ภาคการเงินเสี่ยงสุด
งานวิจัยร่วมระหว่าง MIT FutureTech และ University of Queensland ที่สำรวจความเห็นผู้เชี่ยวชาญด้าน AI ทั่วโลก 272 คน สรุปว่า AI ที่หลุดการควบคุมหรือถูกนำไปใช้เป็นอาวุธ มีโอกาสอย่างน้อย 10% ที่จะก่อความเสียหายระดับ “หายนะ” ภายในปี 2030 โดยเฉพาะในภาคการเงินที่ถูกประเมินว่าเปราะบางเป็นพิเศษ ตัวเลขนี้มาจากไหน หมายความว่าอย่างไรจริง ๆ และควรตีความอย่างระมัดระวังแค่ไหน บทความนี้สรุปให้ครบพร้อมอ้างอิงกลับไปยังรายงานวิจัยต้นฉบับโดยตรง
ทำความรู้จักงานวิจัยและวิธีที่ใช้ประเมินความเสี่ยง
ทีมวิจัยจาก MIT FutureTech ร่วมกับ University of Queensland ใช้วิธี Delphi Method คือให้ผู้เชี่ยวชาญประเมินความเสี่ยงแบบไม่เปิดเผยตัวตนวนซ้ำ 3 รอบระหว่างเดือนกันยายนถึงพฤศจิกายน 2568 โดยให้ผู้เชี่ยวชาญ 272 คนจาก 37 ประเทศ ประเมินความเสี่ยง AI ทั้งหมด 24 ด้าน ทั้งด้านโอกาสเกิดและความรุนแรงของผลกระทบ นิยาม “ความเสียหายระดับหายนะ” ที่ใช้ในงานวิจัยนี้หมายถึงเหตุการณ์ที่ทำให้มีผู้เสียชีวิตมากกว่า 1 ล้านคน หรือสร้างความเสียหายทางการเงินมากกว่า 100,000 ล้านดอลลาร์สหรัฐ หรือส่งผลกระทบเชิงลึกในระดับอารยธรรม เช่น การล่มสลายของบรรทัดฐานประชาธิปไตย
งานวิจัยฉบับเต็มเผยแพร่เป็นสาธารณะ สามารถอ่านรายละเอียดวิธีวิจัยและตารางข้อมูลทั้งหมดได้จากลิงก์ในส่วนแหล่งอ้างอิงท้ายบทความ
18 ใน 24 ความเสี่ยง มีโอกาสมากกว่า 10% ที่จะก่อหายนะภายในปี 2030
ภายใต้สถานการณ์ “ธุรกิจตามปกติ” คือไม่มีการเพิ่มมาตรการควบคุม AI ใด ๆ นอกเหนือจากที่ทำอยู่แล้ว ผู้เชี่ยวชาญประเมินว่า 18 จาก 24 ด้านความเสี่ยงมีโอกาสมากกว่า 10% ที่จะก่อความเสียหายระดับหายนะภายใน 5 ปีข้างหน้า ความเสี่ยง 5 อันดับแรกที่ถูกประเมินว่ารุนแรงที่สุดคือ ความสามารถอันตรายของ AI (Dangerous Capabilities), พลวัตการแข่งขันระหว่างบริษัท AI (Competitive Dynamics), การใช้ AI พัฒนาอาวุธไซเบอร์หรืออาวุธจริง (Weapons & Cyberattacks), การรวมศูนย์อำนาจในมือผู้ครอบครองเทคโนโลยี AI (Power Centralization) และการแพร่กระจายข้อมูลเท็จ (False Information)
แม้จะสมมติว่ามีการใช้ “มาตรการบรรเทาแบบปฏิบัติได้จริง” (Pragmatic Mitigations) แล้ว ผู้เชี่ยวชาญยังคงประเมินว่า 5 ด้านความเสี่ยงมีโอกาสมากกว่า 10% ที่จะก่อหายนะอยู่ดี ได้แก่ ความสามารถอันตรายของ AI (12%), อาวุธและการโจมตีทางไซเบอร์ (12%), ผลกระทบต่อสิ่งแวดล้อม (12%), ความเหลื่อมล้ำและการว่างงาน (11%) และการรวมศูนย์อำนาจ (11%) ขณะที่ความเสี่ยงทั้ง 24 ด้านยังคงมีโอกาสมากกว่า 5% แม้มีมาตรการบรรเทาแล้วก็ตาม
ข้อมูลจากการติดตามข่าว และ ประสบการณ์จริง
AI ทำงานผิดพลาดบ่อยมาก และทำให้ธุรกิจเสียหาย
ก่อนหน้านี้ผมได้เห็นข่าว มาร์กปลดพนักงาน 10% ซึ่งทำให้เกิดความเสียหายกับ Meta ค่อนข้างรุนแรง หรือแม้กระทั่ง Starbucks ก็มีการสั่งการให้หยุดการใช้ AI เนื่องจากทำผิดพลาดเรื่องแคมเปญ เนื่องมาจากระบบผิดพลาด ตรงจุดนี้ เป็นจุดใหญ่ ที่ทำให้เสียหายเยอะมาก
และวันนั้นเห็นข่าวที่ Scale เล็กลงไปอีก เช่น ตำรวจใช้ AI ตรวจจับอาชญากรรม ซึ่งอาจทำให้จับคนร้ายผิดคนก็เป็นไปได้เหมือนกัน และสำหรับประสบการณ์จริง ถึงแม้เราจะเป็นผู้ใช้งาน AI ในเรื่องของการผลิต content ยังคงพบข้อผิดพลาดมหาศาล แค่แม้แต่การ สร้างคลิปวีดีโอ ยังพลาดได้ และเรื่องอื่นๆ จะพลาดไม่ได้หรือไง?
ทำไมภาคการเงินถึงถูกจัดว่า น่ากลัวที่สุด
ผู้เชี่ยวชาญจัดให้ภาคข้อมูลข่าวสาร (Information) และความมั่นคงแห่งชาติ (National Security) เป็นภาคที่เปราะบางที่สุดโดยรวม แต่ภาคการเงินและประกันภัยก็ถูกประเมินว่าเปราะบางไม่แพ้กันในความเสี่ยงเฉพาะด้าน โดยเฉพาะการฉ้อโกงและการหลอกลวง (Fraud & Scams) ช่องโหว่ความปลอดภัยของระบบ AI และความล้มเหลวด้านความปลอดภัยของระบบ เหตุผลหลักคือ AI สามารถถูกใช้เพิ่มขีดความสามารถในการปั่นตลาด การฉ้อโกง การโจมตีทางไซเบอร์ การก่อวินาศกรรมระบบคอมพิวเตอร์ และการละเมิดความเป็นส่วนตัวได้ในสเกลที่ใหญ่และเร็วกว่าที่มนุษย์ทำเองได้ ผู้เชี่ยวชาญรายหนึ่งในงานวิจัยระบุว่าภาคการเงินเผชิญความเปราะบางทั้งจากการถูกโจมตีโดยตรงและจากความเสี่ยงด้านกฎระเบียบเมื่อระบบ AI เกิดความล้มเหลว
บันทึกจากประสบการณ์ทดลองใช้งานมาประมาณ 1 ปี
AI คำนวณเรื่องการเงินผิดพลาด มีให้เห็นบ่อย
หลายคนคงเคยตั้งสมการ 9.9 และ 9.11 มาแล้ว และก่อนหน้านี้ AI จะตอบว่า 9.11 เป็นตัวเลขที่ใหญ่กว่า แต่จริงๆแล้ว มันเป็นคำถามที่ค่อนข้าง Tricky ซึ่ง AI มันจะงง และ เอ๋อ ง่ายๆ ซึ่งนี่อาจเป็นเรื่องเล็กๆ ที่หลายคนมองข้ามไป และเป็นเรื่องของความตลก แต่ถ้าเรามองใน Scale ที่ใหญ่กว่านี้ ในเรื่องของการเงินของโลก มันน่ากลัวกว่าที่คิด
จากตัวอย่างด้านบน ที่ผมทดลองเองนั้น จะเห็นว่า ผมบอกว่า ถ้า 8 เท่ากับ 8.1 และ 9 เล็กกว่า 8 ตัวเลขไหนจะใหญ่กว่ากัน AI ตอบว่า 8 ใหญ่ที่สุด ซึ่งต้องบอกว่าเป็นคำถามที่ Mislead มากๆ แต่อันที่จริงแล้ว ควร AI ควรจะตอบว่า 9 ใหญ่ที่สุด ถึงแม้ว่าจะมีการถามคำถามเป็น puzzle ซึ่งจุดนี้ เห็นได้ชัดมากว่า มันมีโอกาสที่ทำให้มีผลกระทบกับการเงิน
ใครเสี่ยงที่สุด ใครต้องรับผิดชอบ: ช่องว่างที่งานวิจัยชี้ให้เห็น
ประเด็นที่น่าสนใจไม่แพ้ตัวเลขความเสี่ยงคือช่องว่างระหว่าง “คนที่เปราะบางที่สุด” กับ “คนที่ต้องรับผิดชอบมากที่สุด” ผู้เชี่ยวชาญประเมินว่าผู้ใช้งาน AI ทั่วไปและกลุ่มผู้ได้รับผลกระทบทางอ้อม เช่น ประชาชนทั่วไปหรือพนักงานที่ถูกตัดสินใจแทนโดยระบบ AI คือกลุ่มที่เปราะบางที่สุด แต่กลับถูกประเมินว่ามีความรับผิดชอบในการแก้ไขปัญหาเพียงระดับต่ำถึงปานกลางเท่านั้น ในทางกลับกัน ผู้พัฒนาโมเดล AI แบบ General-Purpose และหน่วยงานกำกับดูแล เช่น รัฐบาลและหน่วยงานออกกฎระเบียบ ถูกประเมินว่ามีความรับผิดชอบสูงสุดในการจัดการความเสี่ยง แม้จะเป็นกลุ่มที่เปราะบางต่อผลกระทบโดยตรงน้อยกว่าก็ตาม ส่วนผู้ให้บริการโครงสร้างพื้นฐาน เช่น ผู้ให้บริการคลาวด์และศูนย์ข้อมูล กลับถูกประเมินว่าเปราะบางต่อความเสี่ยงเหล่านี้น้อยที่สุด ทั้งที่เป็นส่วนสำคัญของห่วงโซ่การพัฒนา AI
นักวิจัยระบุว่าความไม่สมดุลนี้สร้าง “แรงจูงใจที่บิดเบี้ยว” ในการจัดการความเสี่ยง เพราะฝ่ายที่ต้องแบกรับผลกระทบไม่ใช่ฝ่ายเดียวกับที่มีอำนาจแก้ไขปัญหาได้จริง
ตัวเลข 10% นี้ต่างจากงานวิจัยอื่นที่เคยเป็นข่าวอย่างไร
หลายคนอาจเคยได้ยินตัวเลขจากการแข่งขัน Existential Risk Persuasion Tournament ปี 2565 ที่ผู้เชี่ยวชาญประเมินโอกาสที่ AI จะนำไปสู่การสูญพันธุ์ของมนุษยชาติไว้ที่ราว 3% ซึ่งดูเหมือนต่ำกว่าตัวเลข 10% ในงานวิจัยนี้มาก แต่ทีมวิจัยของ MIT และ University of Queensland ระบุไว้อย่างตรงไปตรงมาในรายงานว่าตัวเลขทั้งสองงานวิจัยเปรียบเทียบกันโดยตรงไม่ได้ เพราะใช้นิยามความรุนแรงต่างกันคนละระดับ งานวิจัยชิ้นก่อนวัดโอกาส “การสูญพันธุ์ของมนุษยชาติทั้งหมด” ขณะที่งานวิจัยนี้วัดโอกาส “ความเสียหายระดับหายนะ” ซึ่งมีเกณฑ์ต่ำกว่ามาก คือเริ่มต้นที่ผู้เสียชีวิต 1 ล้านคนหรือความเสียหาย 100,000 ล้านดอลลาร์ ไม่ใช่การสูญพันธุ์ทั้งเผ่าพันธุ์ ตัวเลขที่สูงกว่าจึงไม่ได้แปลว่าความเสี่ยงเพิ่มขึ้น 3 เท่า แต่เป็นเพราะกำลังวัดสิ่งที่ต่างกัน
สิ่งที่ควรรู้ก่อนตีความตัวเลขนี้ว่าเป็น “คำทำนาย”
ทีมวิจัยเองระบุข้อจำกัดของงานวิจัยไว้อย่างละเอียด ประเด็นสำคัญที่สุดคือตัวเลขเหล่านี้เป็นการประเมินความน่าจะเป็นเชิงอัตวิสัย (Subjective Probability) จากผู้เชี่ยวชาญด้านความเสี่ยง AI ไม่ใช่นักพยากรณ์ที่มีสถิติความแม่นยำสูงอย่าง Superforecaster ซึ่งงานวิจัยด้านการพยากรณ์ระยะยาวเคยพบว่าผู้เชี่ยวชาญเฉพาะด้านมักให้น้ำหนักความน่าจะเป็นกับผลลัพธ์สุดโต่งสูงกว่านักพยากรณ์อาชีพ นอกจากนี้กลุ่มตัวอย่างยังมีความเบี่ยงเบน คือเป็นเพศชายถึง 68% และมาจากอเมริกาเหนือหรือยุโรปรวมกันถึง 79% ทำให้ไม่ได้เป็นตัวแทนของผู้เชี่ยวชาญ AI ทั่วโลกอย่างสมบูรณ์ งานวิจัยนี้ได้รับทุนสนับสนุนบางส่วนจาก Commonwealth Bank of Australia ซึ่งทีมวิจัยระบุว่าธนาคารมีส่วนร่วมเพียงตรวจสอบการออกแบบงานวิจัย แต่ไม่มีอิทธิพลต่อการเก็บข้อมูล การวิเคราะห์ หรือการรายงานผล
- ผู้เชี่ยวชาญ AI 272 คน ประเมินว่า 18 ใน 24 ความเสี่ยงมีโอกาส >10% ก่อหายนะภายในปี 2030 หากไม่เพิ่มมาตรการ
- แม้มีมาตรการบรรเทาแล้ว ยังมี 5 ความเสี่ยงที่โอกาสยังคง >10% รวมถึงความสามารถอันตรายของ AI และอาวุธไซเบอร์
- ภาคการเงิน ข้อมูลข่าวสาร และความมั่นคงแห่งชาติ ถูกจัดเป็นภาคที่เปราะบางที่สุด
- ตัวเลขนี้เป็นการประเมินเชิงอัตวิสัยจากผู้เชี่ยวชาญกลุ่มหนึ่ง ไม่ใช่คำทำนายที่แม่นยำหรือได้รับการยืนยันทางสถิติ
- CFO Dive (เผยแพร่ซ้ำผ่าน Yahoo) – Rogue AI poses 10% odds of ‘catastrophic harm’ by 2030: MIT study โดย Jim Tyson
- MIT FutureTech & University of Queensland – Prioritization of Risks from Artificial Intelligence: A Delphi Study of 272 International Experts (มิถุนายน 2569, รายงานวิจัยฉบับเต็ม)
- Forecasting Research Institute – Existential Risk Persuasion Tournament (2022)
อัปเดตล่าสุด: 23 กรกฎาคม 2569 | ตัวเลขและเปอร์เซ็นต์ในบทความนี้เป็นการประเมินความน่าจะเป็นเชิงอัตวิสัยของผู้เชี่ยวชาญกลุ่มหนึ่งในงานวิจัยแบบ Delphi Study ไม่ใช่ข้อเท็จจริงที่พิสูจน์ได้หรือคำทำนายที่แน่นอน ผู้เชี่ยวชาญเองยอมรับว่ากลุ่มตัวอย่างมีความเบี่ยงเบนทางภูมิศาสตร์และเพศ และตัวเลขอาจเปลี่ยนแปลงได้ตามพัฒนาการของเทคโนโลยี AI และมาตรการกำกับดูแลในอนาคต แนะนำให้อ่านรายงานฉบับเต็มเพื่อทำความเข้าใจวิธีวิจัยและข้อจำกัดโดยละเอียดก่อนนำตัวเลขไปอ้างอิงต่อ
บทความนี้จัดทำโดยทีมงาน Rechargeland.com เพื่อวัตถุประสงค์ในการให้ข้อมูลเท่านั้น
