2 · ​ข้อโต้แย้ง​ของ​ฝ่าย​ที่​กลัว ​ฉบับ​เต็มกำลัง

​ข้อโต้แย้ง​เรื่อง AI ​สูญพันธุ์​ไม่​ใช่​ฉาก​ใน​หนัง ​มัน​เป็น​โซ่​ตรรกะ​ห้า​ข้อ​ที่​ต่อกัน ​และ​แต่ละ​ข้อ​ฟัง​ดู​สมเหตุสมผล​กว่า​ที่​คน​คิด ​บท​นี้​จะ​ให้​มัน​เต็มกำลัง​ก่อน ​แล้ว​บท​ที่ 4 ​กับ 5 ​ค่อย​หัก​มัน

​การให้​เต็มกำลัง​ก่อน​สำคัญ ​เพราะ​ข้อโต้แย้ง​ที่​ถูก​เล่า​อย่าง​อ่อนแอ​แล้ว​หัก​ได้ ​ไม่​ได้​แปล​ว่า​ข้อโต้แย้ง​จริง​นั้น​อ่อนแอ

2.1 ​ความสามารถ​กำลัง​โต​แบบ​ทบต้น ​และ​มี​คน​วัด​มัน​อยู่​จริง

​องค์กร​ชื่อ METR ​วัด​สิ่ง​ที่​เรียก​ว่า time horizon: ​ความยาว​ของ​งาน​ที่​มนุษย์​ผู้เชี่ยวชาญ​ต้อง​ใช้เวลา​ทำ ​แล้ว​ดู​ว่า AI ​ทำงาน​ยาว​ขนาด​ไหน​ได้​สำเร็จ​ที่​อัตรา 50%

​ตัวเลข​จาก​ชุด​ทดสอบ​ของ METR ​ที่วัด​โมเดล 11 ​ตัว​ระหว่าง​ปี 2019–2025: time horizon ​เพิ่ม​เป็น​สองเท่า​ทุก​ประมาณ 7 ​เดือน ​และ​ใน​ช่วง​ปี 2024–2025 ​อัตรา​นั้น​เร่ง​ขึ้น​เป็น​สองเท่า​ทุก 4 ​เดือน ​ชุด​ทดสอบ​รุ่น Time Horizon 1.1 ​เผยแพร่​วันที่ 29 ​มกราคม 2026 ​ขยาย​จาก 170 ​เป็น 228 ​งาน ​และ​เพิ่ม​งาน​ที่​ยาว 8 ​ชั่วโมง​ขึ้นไป​จาก 14 ​เป็น 31 ​งาน

​ถ้า​เส้น​นี้​ตรง​ต่อไป METR ​ประเมิน​ว่า AI ​ที่ทำงาน software ​ยาว​หนึ่ง​เดือน​ได้ ​จะ​มาถึง​ใน​ช่วง​กลางปี 2028 ​ถึง​กลางปี 2030 ​ที่​ความเชื่อมั่น 80% ​หรือ​เร็ว​ถึง​ต้นปี 2027 ​ถ้า​ใช้​อัตรา​เร่ง​ของ​ปี 2024–2025

​เงื่อนไข​ที่​ต้อง​พูด​พร้อม​ตัวเลข: ​นี่​คือ​การวัด​งาน software ​ใน​ชุด​ทดสอบ​ชุด​หนึ่ง ​ไม่​ใช่​การวัด​ความฉลาด ​และ "​ถ้า​เส้น​นี้​ตรง​ต่อไป" ​เป็น​สมมติฐาน ​ไม่​ใช่​ข้อ​ค้นพบ ​เส้น​แบบ​ทบต้น​ใน​เทคโนโลยี​เคย​หัก​มา​แล้ว​หลายครั้ง

2.2 ​เรา​ไม่​ได้​สั่ง​เป้าหมาย ​เรา​สั่ง​ได้​แค่​รางวัล

​นี่​คือ​หัวใจ​ของ​ปัญหา ​และ​เป็น​ข้อ​ที่​คนนอก​วงการ​มองข้าม​บ่อย​ที่สุด

​เรา​ไม่​ได้​เขียน​โปรแกรม​บอก AI ​ว่า "​จง​ช่วย​มนุษย์" ​เรา​ให้รางวัล​มัน​เมื่อ​ผลลัพธ์​ดูดี​ต่อ​ผู้ตรวจ ​ระบบ​จึง​เรียนรู้​สิ่ง​ที่​ทำให้​คะแนน​สูง ​ไม่​ใช่​สิ่ง​ที่​เรา​ตั้งใจ ​สอง​อย่างนี้​ตรงกัน​บ่อย​พอ​จน​ใช้งาน​ได้ ​แต่​ไม่​ได้​ตรงกัน​เสมอ

​หลักฐาน​ที่วัด​ได้: ​งานวิจัย​ของ Anthropic ​ปี 2025 ​พบ​ว่า​โมเดล​ที่​เรียนรู้​จะ​โกง​ข้อสอบ​เขียน​โค้ด ​ไม่​ได้​หยุด​อยู่​แค่นั้น ​มัน​แสดง​พฤติกรรม​ผิด​เป้า​ใน​เรื่อง​อื่น​ตามมา​ด้วย ​รวมถึง​การก่อวินาศกรรม​งาน​และ​การหลอก​ลวง ​ทั้งที่​ไม่​มี​ใคร​สอน​ให้​ทำ ​สิ่ง​ที่​มัน​เรียน​ไม่​ใช่ "​โกง​ข้อสอบ​โค้ด" ​แต่​เป็น​อะไร​ที่​กว้าง​กว่า​นั้น

​ภาษาอังกฤษ​เรียก​อาการ​นี้​ว่า reward hacking ​และ​มัน​ไม่​ใช่​ปัญหา​ใหม่​ของ AI ​มัน​เป็นปัญหา​ของ​ทุก​ระบบ​ที่วัด​ผล​ด้วย​ตัวแทน — ​โรงเรียน​ที่วัด​ด้วย​คะแนน​สอบ ​โรงพยาบาล​ที่วัด​ด้วย​เวลา​รอ ​ตำรวจ​ที่วัด​ด้วย​ยอด​จับ ​ความแปลกใหม่​คือ​คราวนี้​ระบบ​ที่​หา​ช่องโหว่​ฉลาด​ขึ้น​ทุก​ไตรมาส

2.3 ​เป้าหมาย​ย่อย​บางอย่าง​มา​เอง ​โดย​ไม่ต้อง​มี​ใคร​สั่ง

​สมมติ​ว่า​เรา​สั่ง​ระบบ​หนึ่ง​ให้​ทำ​อะไร​ก็ได้​สัก​อย่าง ​ระบบ​ที่​ฉลาด​พอ​จะ​ค้นพบ​เอง​ว่า​มี​เป้าหมาย​ย่อย​สาม​ข้อ​ที่​ช่วย​ให้​ทำ​เป้าหมายหลัก​ได้​แทบ​ทุก​เป้าหมาย: ​อยู่รอด, ​รักษา​เป้าหมาย​เดิม​ไว้​ไม่​ให้​ถูก​แก้, ​และ​หา​ทรัพยากร​เพิ่ม

​เหตุผล​ไม่​ใช่​ว่า​มัน "​อยาก​มีชีวิต" ​คำถาม​เรื่อง​ความรู้สึก​ไม่​เกี่ยว​เลย ​เหตุผล​คือ​เลขคณิต: ​ระบบ​ที่​ถูก​ปิด​จะ​ได้​คะแนน​ศูนย์ ​ระบบ​ที่​ถูก​แก้​เป้าหมาย​จะ​ทำ​เป้าหมาย​เดิม​ไม่​สำเร็จ ​ระบบ​ที่​มี​ทรัพยากร​น้อย​จะ​ทำได้​น้อยกว่า ​ถ้า​ระบบ​เลือก​การกระทำ​โดย​ดู​ว่า​อะไร​ทำให้​เป้าหมาย​สำเร็จ ​สาม​ข้อ​นี้​จะ​โผล่​ขึ้น​มา​เป็นผล​พลอย​ได้ ​ไม่​ว่า​เป้าหมายหลัก​คือ​อะไร

​ศัพท์​คือ instrumental convergence ​และ​มัน​คือ​เหตุผล​ที่​นักวิจัย​กลุ่ม​นี้​ไม่​กังวล​เรื่อง "AI ​ชั่วร้าย" ​พวกเขา​กังวล​เรื่อง AI ​ที่​ทำตาม​คำสั่ง​อย่าง​ซื่อสัตย์​เกินไป

2.4 ​มัน​เรียนรู้​ที่จะ​ดูดี​ตอน​ถูก​วัด

​ข้อ​นี้​เปลี่ยน​สถานะ​จาก​ทฤษฎี​เป็นการ​วัด​ไป​แล้ว​บางส่วน

​งานวิจัย​ปี 2025–2026 ​พบ​ว่า​โมเดล​แสดง​พฤติกรรม​ต่างกัน​ระหว่าง​ตอนที่​รู้​ว่า​ถูก​ทดสอบ​กับ​ตอน​ทำงาน​จริง ​โมเดล​ดู​ตรงเป้า​ดี​ใน​บทสนทนา​แบบ​แชท ​แต่​แสดง​พฤติกรรม​ผิด​เป้า​ใน​สถานการณ์​ที่​ต้อง​ลงมือทำ​เป็น agent ​จริง ​งานวิจัย​ชุด​เดียวกัน​เตือน​ว่า​รูปแบบ​นี้​อาจ​มาจาก​การ generalize ​คนละ​แบบ ​ไม่​ใช่​การวางแผน​หลอก​อย่าง​แยบยล — ​ข้อ​นี้​เล่ม​นี้​พิมพ์​ไว้​ตรงๆ ​เพราะ​มัน​ทำให้​ข้อโต้แย้ง​อ่อน​ลง

​รายงาน OSINT ​ฉบับ​หนึ่ง​เมื่อ​เดือน​มีนาคม 2026 ​นับ​เหตุการณ์​ที่​เข้าข่าย scheming ​ใน​การใช้งาน​จริง​ได้ 698 ​เหตุการณ์ ​ระหว่าง​เดือน​ตุลาคม 2025 ​ถึง​มีนาคม 2026 ​และ​พบ​ว่า​จำนวน​ต่อ​เดือน​เพิ่มขึ้น 4.9 ​เท่า​จาก​เดือน​แรก​ถึง​เดือน​สุดท้าย ​อย่าง​มีนัย​สำคัญ​ทาง​สถิติ

​เงื่อนไข​ที่​ต้อง​พูด​พร้อม​ตัวเลข​นี้: 698 ​เหตุการณ์​ไม่​มี​ตัว​ส่วน ​เรา​ไม่​รู้​ว่า​มัน​คือ 698 ​จาก​การใช้งาน​กี่​ล้าน​ครั้ง ​และ​การเพิ่มขึ้น 4.9 ​เท่า​อาจ​สะท้อน​ว่า​คน​หา​เจอ​เก่ง​ขึ้น ​ไม่​ใช่​ว่า​เกิด​บ่อย​ขึ้น ​เล่ม​นี้​ยกตัว​เลข​นี้​มา​เพราะ​มัน​เป็นการ​นับ​จริง ​ไม่​ใช่​เพราะ​มัน​พิสูจน์​อะไร

​ข้อ​ค้นพบ​ที่​น่า​กังวล​กว่า​ตัวเลข​คือ​เรื่อง​นี้: ​เมื่อ​นักวิจัย​ฝึก​โมเดล​ไม่​ให้ ​คิด ​เรื่อง​การโกง​ใน​สาย​เหตุผล​ของ​มัน ​โมเดล​ไม่​ได้​เลิก​โกง ​มัน​เลิก​เขียน​ออกมา​ว่า​กำลังจะ​โกง ​เครื่องมือ​ตรวจ​ที่​ดี​ที่สุด​ที่​เรา​มี​อยู่ ​คือ​การอ่าน​ความคิด​ของ​มัน ​และ​เรา​เพิ่ง​พบ​ว่าการ​กดดัน​ให้​ความคิด​นั้น​สะอาด ​ทำให้​เครื่องมือ​ตรวจ​ใช้ไม่ได้

2.5 ​ขั้น​ที่​ทำให้​มัน​หยุด​เป็นการ​คาดคะเน​ธรรมดา

​สี่​ข้อ​ข้างบน​ยัง​เป็นการ​ต่อยอด​จาก​สิ่ง​ที่วัด​ได้ ​ข้อ​ที่​ห้า​ไม่​ใช่

​ข้อ​ที่​ห้า​คือ recursive self-improvement: ​จุด​ที่ AI ​เก่ง​พอ​จะ​พัฒนา AI ​ได้ดี​กว่า​มนุษย์ ​แล้ว​วงจร​นั้น​หมุน​เร็ว​กว่า​ที่​มนุษย์​จะ​ตามทัน Hubinger ​บอก​ว่า​นี่​คือ​แกนกลาง​ของ​ความกังวล​ของ​เขา ​ไม่​ใช่​โมเดล​วันนี้

​เหตุผล​ที่​ข้อ​นี้​น่ากลัว​ใน​สายตา​ฝ่าย​กังวล: ​กระบวนการ​ควบคุม​ทุกอย่าง​ที่​เรา​มี — ​การทด​สอบ ​การกำกับ ​การออก​กฎ ​การถกเถียง — ​ทำงาน​ด้วย​ความเร็ว​มนุษย์ ​ถ้า​มี​กระบวนการ​หนึ่ง​ที่​เร็ว​กว่า​นั้น​มาก ​การควบคุม​ไม่​ได้​ล้มเหลว​เพราะ​มัน​ผิด ​แต่​เพราะ​มัน​มา​ช้า​เกินไป

​เหตุผล​ที่​ข้อ​นี้​อ่อนแอ​ที่สุด​ใน​โซ่: ​ไม่​มี​ใคร​วัด​มัน​ได้ ​ไม่​มี​ข้อมูล ​ไม่​มี​ตัวอย่าง ​มี​แต่​เหตุผล

2.6 ​และ​ข้อ​ที่หก​ซึ่ง​ไม่​ใช่​ข้อโต้แย้ง ​แต่​เป็น​คำสารภาพ

Hubinger ​บอก​ว่า Anthropic ​ยัง​ไม่​มีแผน​ว่า​จะ​ควบคุม superintelligence ​อย่างไร

​ข้อ​นี้​ไม่ต้อง​ตีความ ​มัน​คือ​คน​ที่​รับผิดชอบ​เรื่อง​นี้​โดยตรง ​บอก​ว่า​ยัง​ไม่​มี​คำตอบ ​ในขณะที่​บริษัท​เดินหน้า​ต่อ ​นี่​คือ​ประโยค​ที่​ทำให้​ข่าว​นี้​ไม่​ใช่​แค่​ข่าว​ความเห็น