Chapter 10 — Fabrication
บทที่ 10 — การปลอมแปลง
Two thousand people were shown a mixture of real and synthetic images and video and asked to sort them. Two of them got everything right. [ESTABLISHED] (iProov study, 2025, via Adaptive Security)
คนสองพันคนได้ดูภาพและวิดีโอที่ปนกันระหว่างของจริงกับของสังเคราะห์ แล้วถูกขอให้แยกว่าอันไหนเป็นอันไหน มีเพียงสองคนเท่านั้นที่ตอบถูกทั้งหมด [ESTABLISHED] (iProov study, 2025, via Adaptive Security)
That is 0.1%. It is the number to open with because it disposes of the most common assumption in this subject — that a careful person can tell. A careful person cannot tell, and neither, mostly, can the software sold to tell for them.
นั่นคือ 0.1% ตัวเลขนี้ควรเปิดเรื่อง เพราะมันล้มสมมติฐานที่พบบ่อยที่สุดในเรื่องนี้ในคำเดียว — ที่ว่าคนที่รอบคอบพอจะดูออก คนที่รอบคอบดูไม่ออก และซอฟต์แวร์ที่ขายไว้ให้ดูแทนก็ดูไม่ออกเช่นกัน ในกรณีส่วนใหญ่
This is the chapter where I have to report that verification is currently losing, and where the correct response turns out not to be a better detector.
บทนี้ผมต้องรายงานว่าการตรวจสอบความถูกต้องกำลังแพ้อยู่ในขณะนี้ และคำตอบที่ถูกต้องกลับไม่ใช่เครื่องตรวจจับที่ดีกว่าเดิม
The state of detection
สถานะของการตรวจจับ
Commercial deepfake detection baselines are reported around 55% accuracy, and industry analysis flags this openly as insufficient to function as a safeguard — at that rate roughly half of synthetic content passes. [ESTABLISHED] as reported; the figure comes from industry reporting rather than a standardised benchmark, so treat the precise number as indicative.
เครื่องตรวจจับดีปเฟกเชิงพาณิชย์มีเกณฑ์พื้นฐานที่รายงานกันอยู่ราว 55% ของความแม่นยำ และการวิเคราะห์ในอุตสาหกรรมเองก็ชี้ตรง ๆ ว่าเท่านี้ไม่พอจะทำหน้าที่เป็นเครื่องป้องกัน — ที่อัตรานี้ เนื้อหาสังเคราะห์ราวครึ่งหนึ่งหลุดผ่านไปได้ [ESTABLISHED] ตามที่มีการรายงาน ตัวเลขนี้มาจากรายงานของอุตสาหกรรม ไม่ใช่จากเกณฑ์มาตรฐานที่เป็นทางการ ตัวเลขที่แน่นอนจึงเป็นเพียงตัวชี้แนวโน้ม
Three structural problems sit underneath, and they are structural rather than temporary:
ใต้ตัวเลขนั้นมีปัญหาเชิงโครงสร้างสามข้อ และมันเป็นปัญหาเชิงโครงสร้างจริง ไม่ใช่ปัญหาชั่วคราว
The adversarial gap is architectural. Detectors are trained to recognise the artefacts left by known generator architectures — historically generative adversarial networks. Current diffusion models produce different artefacts, which GAN-trained detectors were never built to catch. Every advance in generation resets detection, and generation advances faster than detectors are retrained. This is not a gap that closes. [ESTABLISHED]
ช่องว่างเชิงปรปักษ์เป็นเรื่องเชิงสถาปัตยกรรม เครื่องตรวจจับถูกฝึกให้จำร่องรอยที่ตัวสร้างรุ่นที่รู้จักทิ้งไว้ — ในอดีตคือโครงข่ายปรปักษ์เชิงกำเนิด (GAN) โมเดลดิฟฟิวชันในปัจจุบันทิ้งร่องรอยที่ต่างออกไป และเครื่องตรวจจับที่ฝึกด้วย GAN ไม่เคยถูกสร้างมาให้จับร่องรอยแบบนั้น ตัวสร้างก้าวหน้าหนึ่งครั้ง การตรวจจับต้องนับหนึ่งใหม่หนึ่งครั้ง และตัวสร้างก้าวหน้าเร็วกว่าที่เครื่องตรวจจับจะถูกฝึกใหม่ทัน ช่องว่างนี้ไม่ปิด [ESTABLISHED]
Detector reliability varies by who is in the image. Peer-reviewed evaluation found measurable performance disparities by age, ethnicity and gender. So a detector's error rate is not one number — it is a different number depending on the subject, in the same way, and for related reasons, as the facial recognition differentials in Chapter 6. [ESTABLISHED]
ความน่าเชื่อถือของเครื่องตรวจจับแตกต่างกันไปตามตัวบุคคลในภาพ งานประเมินที่ผ่านการทบทวนโดยผู้เชี่ยวชาญพบความเหลื่อมล้ำด้านประสิทธิภาพที่วัดได้ตามอายุ เชื้อชาติ และเพศ อัตราความผิดพลาดของเครื่องตรวจจับจึงไม่ใช่ตัวเลขเดียว — มันเป็นคนละตัวเลขแล้วแต่ว่าใครอยู่ในภาพ แบบเดียวกัน และด้วยเหตุผลที่เกี่ยวเนื่องกัน กับความเหลื่อมล้ำของการจดจำใบหน้าในบทที่ 6 [ESTABLISHED]
And the human-machine comparison is not what you would guess. Some studies report human perceptual detection now outperforming machine detection on video, while machines edge out humans on static images. There is no clean hierarchy to fall back on. [CONTESTED] (University of Florida, Feb 2026)
และการเปรียบเทียบระหว่างมนุษย์กับเครื่องก็ไม่เป็นไปตามที่คุณคาดเดา งานศึกษาบางชิ้นรายงานว่าตอนนี้มนุษย์ใช้การรับรู้ตรวจจับวิดีโอได้ดีกว่าเครื่อง ขณะที่เครื่องนำมนุษย์อยู่เล็กน้อยในภาพนิ่ง ไม่มีลำดับชั้นที่ชัดเจนให้ยึด [CONTESTED] (University of Florida, Feb 2026)
The alternative that is actually being built
ทางเลือกที่กำลังถูกสร้างขึ้นจริง
If you cannot reliably analyse content to determine whether it is synthetic, the remaining option is to establish where it came from. That is the wager behind C2PA — the Coalition for Content Provenance and Authenticity — and its Content Credentials, at specification version 2.3 as of January 2026.
เมื่อวิเคราะห์เนื้อหาเพื่อบอกว่ามันสังเคราะห์หรือไม่ไม่ได้อย่างน่าเชื่อถือ ทางเลือกที่เหลือคือสืบว่ามันมาจากไหน นั่นคือการเดิมพันเบื้องหลัง C2PA — Coalition for Content Provenance and Authenticity — และ Content Credentials ของมัน ที่ข้อกำหนดเวอร์ชัน 2.3 ณ เดือนมกราคม 2026
The adoption is real and larger than most people realise. Leica shipped the first camera signing C2PA credentials at capture in 2023; the Samsung Galaxy S25 and Google Pixel 10 now sign natively, with Nikon and Canon integrating at hardware level. OpenAI attaches C2PA metadata to generated media; Microsoft added credentials across Microsoft 365 content in February 2026; Google is rolling verification through Gemini, Search and Chrome; TikTok reports labelling over 1.3 billion videos with provenance data. The EU AI Act's Article 50 mandates machine-readable marking of AI content, which C2PA satisfies, and California's SB 942 took effect January 2026 with AB 853 following in 2027. [ESTABLISHED] (C2PA; adoption status 2026)
การนำไปใช้เกิดขึ้นจริง และกว้างกว่าที่คนส่วนใหญ่รู้ Leica เป็นกล้องรายแรกที่เซ็นข้อมูลรับรอง C2PA ตั้งแต่ตอนถ่ายในปี 2023 ตอนนี้ Samsung Galaxy S25 และ Google Pixel 10 เซ็นในตัว ส่วน Nikon และ Canon กำลังผนวกไว้ในระดับฮาร์ดแวร์ OpenAI แนบเมทาดาทา C2PA ไปกับสื่อที่สร้างขึ้น Microsoft เพิ่มข้อมูลรับรองในเนื้อหา Microsoft 365 ทั้งหมดเมื่อเดือนกุมภาพันธ์ 2026 Google กำลังทยอยเปิดการตรวจสอบผ่าน Gemini, Search และ Chrome TikTok รายงานว่าติดป้ายข้อมูลแหล่งที่มาให้วิดีโอไปแล้วกว่า 1.3 พันล้านคลิป ฝั่งกฎหมาย มาตรา 50 ของ EU AI Act บังคับให้ทำเครื่องหมายเนื้อหา AI แบบที่เครื่องอ่านได้ และ C2PA ตอบข้อนี้ได้ ส่วน SB 942 ของแคลิฟอร์เนียมีผลบังคับใช้ตั้งแต่มกราคม 2026 โดย AB 853 จะตามมาในปี 2027 [ESTABLISHED] (C2PA; adoption status 2026)
Now the two limitations, which matter more than the adoption figures:
ข้อจำกัดสองข้อต่อไปนี้สำคัญกว่าตัวเลขการนำไปใช้ทั้งหมดข้างต้น:
Provenance is destroyed by ordinary handling. Re-encoding, screenshotting or platform recompression strips a C2PA manifest exactly as it strips EXIF. The chain is only as good as every step that preserved it, and most steps do not.
ที่มาที่ตรวจสอบได้ถูกทำลายได้ด้วยการจัดการตามปกติ เข้ารหัสใหม่ แคปหน้าจอ หรือปล่อยให้แพลตฟอร์มบีบอัด ข้อมูลรับรอง C2PA ก็หลุดไปเหมือนที่ EXIF หลุด ห่วงโซ่นี้ดีได้เท่ากับขั้นตอนที่รักษามันไว้ทุกขั้น และขั้นตอนส่วนใหญ่ไม่ได้รักษา
It cannot work backwards. C2PA certifies content signed at capture or creation. It says nothing about older media, unsigned media, or anything that passed through a tool that did not participate.
มันใช้ย้อนหลังไม่ได้ C2PA รับรองเฉพาะเนื้อหาที่ถูกเซ็นตั้งแต่ตอนถ่ายหรือตอนสร้าง สื่อเก่า สื่อที่ไม่ได้เซ็น หรืออะไรก็ตามที่ผ่านเครื่องมือที่ไม่ได้เข้าร่วมระบบ มันไม่บอกอะไรเลย
Put the two together and you get the honest position: C2PA can eventually establish that something is authentic, through an unbroken signing chain. It can never establish that something is fake — absence of a credential is the normal condition of nearly everything, not a signal.
รวมสองข้อเข้าด้วยกันแล้วได้จุดยืนที่ตรงไปตรงมา: C2PA อาจพิสูจน์ได้ในที่สุดว่าสิ่งหนึ่ง*เป็นของแท้* ผ่านห่วงโซ่การเซ็นที่ไม่ขาดตอน แต่มันไม่มีทางพิสูจน์ได้ว่าสิ่งหนึ่ง*เป็นของปลอม* — การไม่มีข้อมูลรับรองคือสภาวะปกติของแทบทุกสิ่ง ไม่ใช่สัญญาณ
That asymmetry is the whole design and it must be understood before the technology is relied on.
ความไม่สมมาตรนั้นคือการออกแบบทั้งหมด ต้องเข้าใจมันก่อน แล้วค่อยพึ่งเทคโนโลยีนี้
What an investigator does instead
นักสืบทำอะไรแทน
Three things, in order of value.
สามอย่าง เรียงตามคุณค่า
Get upstream of the artefact. Do not analyse the image; find where it came from. The original upload, the account that posted it first, the device or the person who claims to have made it, the platform record. Chapter 8's geolocation is a provenance technique, not an analysis technique — it does not ask whether the image was manipulated, it asks whether the world it depicts exists where it claims to be. A fabricated scene must fabricate the whole scene consistently, and consistency across independent physical details is very hard to fake and very easy to check.
ไล่ตามต้นทางของร่องรอย อย่าวิเคราะห์ภาพ จงหาว่ามันมาจากไหน การอัปโหลดครั้งแรก บัญชีที่โพสต์ก่อนใคร อุปกรณ์หรือบุคคลที่อ้างว่าเป็นคนสร้าง บันทึกของแพลตฟอร์ม การระบุพิกัดจากภาพในบทที่ 8 เป็นเทคนิคด้านที่มาที่ตรวจสอบได้ ไม่ใช่เทคนิควิเคราะห์ — มันไม่ถามว่าภาพถูกดัดแปลงหรือไม่ มันถามว่าโลกในภาพนั้นมีอยู่จริงตรงที่มันอ้างหรือไม่ ฉากที่ปลอมขึ้นต้องปลอมทั้งฉากให้สอดคล้องกัน และความสอดคล้องข้ามรายละเอียดทางกายภาพที่เป็นอิสระต่อกันนั้นปลอมยากมากและตรวจง่ายมาก
Corroborate across independent channels. A video is one channel. Its claims usually touch others: a flight that happened or did not, a building that exists or does not, a shadow at an angle that is possible or impossible on that date, a document filed somewhere. The MH17 work in Chapter 8 was never a judgement about whether individual photographs were genuine; it was a demonstration that dozens of independent items agreed with each other. Fabrication scales badly against that requirement.
หาหลักฐานยืนยันข้ามช่องทางที่เป็นอิสระต่อกัน วิดีโอหนึ่งคลิปคือช่องทางเดียว แต่ข้อกล่าวอ้างในนั้นมักแตะช่องทางอื่นด้วย เที่ยวบินที่เกิดขึ้นจริงหรือไม่ อาคารที่มีอยู่จริงหรือไม่ เงาที่ตกในมุมที่เป็นไปได้หรือเป็นไปไม่ได้ในวันนั้น เอกสารที่ถูกยื่นไว้ที่ไหนสักแห่ง งานเรื่อง MH17 ในบทที่ 8 ไม่เคยเป็นการตัดสินว่าภาพถ่ายแต่ละใบเป็นของแท้หรือไม่ มันคือการแสดงให้เห็นว่ารายการอิสระหลายสิบรายการพูดตรงกัน การปลอมแปลงขยายขนาดสู้ข้อกำหนดนั้นไม่ไหว
Preserve the original bitstream. Chapter 9's discipline is doubly load-bearing here. Hash at acquisition. Preserve the file as delivered, not a re-encoded copy — because re-encoding destroys both the provenance manifest and any forensic artefact that might later be analysable by tools that do not yet exist.
รักษาบิตสตรีมต้นฉบับไว้ วินัยของบทที่ 9 รับน้ำหนักสองเท่าตรงนี้ ทำแฮชตั้งแต่ตอนได้รับ เก็บไฟล์ในสภาพที่ส่งมอบมา ไม่ใช่สำเนาที่เข้ารหัสใหม่ — เพราะการเข้ารหัสใหม่ทำลายทั้งข้อมูลรับรองที่มาที่ตรวจสอบได้ และร่องรอยทางนิติวิทยาศาสตร์ที่เครื่องมือซึ่งยังไม่มีในตอนนี้อาจวิเคราะห์ได้ในภายหลัง
The consequence nobody wants to say
ผลที่ไม่มีใครอยากพูดถึง
The most important effect of synthetic media on investigation is not that fakes will be believed. It is that genuine evidence will be doubted, and that doubt is now always available, for free, to anyone against whom evidence exists.
ผลกระทบที่สำคัญที่สุดของสื่อสังเคราะห์ต่อการสืบสวนไม่ใช่ว่าของปลอมจะถูกเชื่อ แต่คือหลักฐานของจริงจะถูกสงสัย และความสงสัยนั้นตอนนี้หยิบใช้ได้เสมอ โดยไม่มีต้นทุน สำหรับใครก็ตามที่มีหลักฐานปรักปรำอยู่
A recording used to carry a presumption. It no longer does, and it will not again. The presumption does not transfer to detectors, because detectors sit near 55%. So the burden moves to provenance — to being able to say where a thing came from, who held it, and what happened to it in between.
บันทึกเสียงหรือวิดีโอเคยมีข้อสันนิษฐานติดตัวมา ตอนนี้ไม่มีแล้ว และจะไม่มีอีก ข้อสันนิษฐานนั้นไม่ย้ายไปอยู่ที่เครื่องตรวจจับ เพราะเครื่องตรวจจับอยู่ที่ราว 55% ภาระจึงย้ายไปที่ที่มาที่ตรวจสอบได้ — ไปที่การบอกได้ว่าสิ่งหนึ่งมาจากไหน ใครถือมันไว้ และเกิดอะไรขึ้นกับมันระหว่างทาง
Which returns you to Chapter 9, and to the observation that ties this part of the book together: the skill that turns out to be decisive in the synthetic era is not analytical cleverness. It is custody — the unglamorous, procedural, entirely learnable discipline of being able to account for where everything in your file came from.
นั่นพาคุณกลับไปที่บทที่ 9 และไปที่ข้อสังเกตที่ร้อยส่วนนี้ของหนังสือเข้าด้วยกัน: ทักษะที่ชี้ขาดในยุคของสื่อสังเคราะห์ไม่ใช่ความเฉียบแหลมในการวิเคราะห์ แต่คือการดูแลรักษาพยานหลักฐาน — วินัยที่ไม่หรูหรา เป็นขั้นตอน และเรียนรู้ได้ทั้งหมด ในการอธิบายได้ว่าทุกสิ่งในแฟ้มของคุณมาจากไหน
The Move — Never ask "is this fake." Ask "where did this come from." When you receive a piece of media, do not begin with analysis or with a detection tool. Begin by tracing it upstream: earliest appearance, first uploading account, the physical claims it makes that can be checked against independent sources. Record the chain. If the chain cannot be established, that is your finding — not "fake," but unverifiable, which is a different and more honest word and is the one that survives challenge.
ท่าประจำบท — อย่าถามว่า "นี่ปลอมหรือไม่" จงถามว่า "สิ่งนี้มาจากไหน" ได้รับสื่อชิ้นหนึ่งมา อย่าเริ่มด้วยการวิเคราะห์หรือเครื่องมือตรวจจับ เริ่มด้วยการสืบย้อนต้นทาง: การปรากฏครั้งแรกสุด บัญชีที่อัปโหลดเป็นคนแรก ข้อกล่าวอ้างเชิงกายภาพที่ตรวจกับแหล่งอิสระได้ บันทึกห่วงโซ่นี้ไว้ หากสร้างห่วงโซ่ไม่ได้ นั่นคือข้อสรุปของคุณ — ไม่ใช่ "ปลอม" แต่คือ ตรวจสอบไม่ได้ ซึ่งเป็นคนละคำและตรงไปตรงมากว่า และเป็นคำที่ทนการโต้แย้งได้
What would change my mind: a detector demonstrating high accuracy against a generator it was not trained on, in independent evaluation, would reopen analysis as a viable path. The architectural argument in this chapter predicts that will not happen, and I would treat any vendor claiming it as [CLAIMED] until an independent lab reproduces it against unseen generators.
อะไรจะทำให้ผมเปลี่ยนใจ: เครื่องตรวจจับที่แสดงความแม่นยำสูงต่อตัวสร้างที่มันไม่เคยถูกฝึกด้วย ในการประเมินที่เป็นอิสระ จะเปิดทางให้การวิเคราะห์กลับมาเป็นเส้นทางที่ใช้ได้อีกครั้ง ข้อโต้แย้งเชิงสถาปัตยกรรมในบทนี้ทำนายว่าสิ่งนั้นจะไม่เกิดขึ้น และผมจะถือข้อกล่าวอ้างของผู้ขายรายใดที่อ้างเช่นนั้นเป็น [CLAIMED] จนกว่าห้องปฏิบัติการอิสระจะทำซ้ำผลนั้นได้กับตัวสร้างที่ไม่เคยเห็นมาก่อน