06 · จริยศาสตร์
การไต่สวนครั้งที่ 6 ในภาค I ศาลปรัชญา คือที่อยู่ของบทนี้ ปรัชญาถามเครื่องจักรว่าการตัดสินใจหนึ่งยังเก็บน้ำหนักทางศีลธรรมของมันไว้ได้หรือไม่ เมื่อระบบเป็นผู้ตัดสินแทน
ส่งต่อการตัดสินใจให้สิ่งอื่นทำแทน โดยศีลธรรมของมันไม่หายไปด้วย ทำได้หรือไม่
จำเลยผิวดำที่ไม่ได้กระทำผิดซ้ำ ถูกจัดเป็นความเสี่ยงสูงผิดพลาดในอัตราราวสองเท่าของจำเลยผิวขาวที่ไม่ได้กระทำผิดซ้ำ นับจากคดีในเขต Broward County กว่า 7,000 คดี สองคดีต่อไปนี้คือหน้าตาของตัวเลขนั้น บ่ายวันหนึ่งในฤดูใบไม้ผลิปี 2014 Brisha Borden วัยสิบแปดปีกับเพื่อนคว้าจักรยานเด็กและสกู๊ตเตอร์ที่ไม่ได้ล็อกในย่านชานเมือง Fort Lauderdale ขี่ไปครึ่งช่วงตึกก็ถูกจับข้อหางัดแงะและลักทรัพย์เล็กน้อย มูลค่ารวม 80 ดอลลาร์ ฤดูร้อนก่อนหน้านั้น Vernon Prater วัยสี่สิบเอ็ดปีถูกจับข้อหาขโมยเครื่องมือมูลค่า 86.35 ดอลลาร์จาก Home Depot เขาเคยต้องคำพิพากษาฐานปล้นทรัพย์ด้วยอาวุธมาแล้วสองครั้ง และพยายามปล้นทรัพย์ด้วยอาวุธอีกหนึ่งครั้ง ทั้งคู่ถูกให้คะแนนด้วย COMPAS เครื่องมือประเมินความเสี่ยงกรรมสิทธิ์เอกชนที่ใช้ทั่ว Broward County รัฐฟลอริดา เพื่อทำนายโอกาสกระทำผิดซ้ำ Borden คนผิวดำ กระทำผิดในฐานะผู้ใหญ่ครั้งแรก ได้คะแนน 8 จาก 10 — ความเสี่ยงสูง Prater คนผิวขาว อาชญากรรุนแรงซ้ำซาก ได้ 3 — ความเสี่ยงต่ำ สองปีต่อมา การสืบสวนของ ProPublica พบว่าอัลกอริทึมทายกลับด้านกันทั้งคู่ Borden ไม่ถูกตั้งข้อหาก่ออาชญากรรมใดเพิ่มอีกเลย ส่วน Prater กลับเข้าคุกในเวลาไม่นาน (Angwin et al., "Machine Bias," ProPublica, 23 May 2016)
Northpointe ผู้สร้าง COMPAS ไม่ปฏิเสธตัวเลข มันปฏิเสธว่าตัวเลขพิสูจน์อคติ คะแนนของบริษัทถูก ปรับเทียบ (calibration) มาแล้ว — ในบรรดาจำเลยที่ได้คะแนน สมมติว่า 7 สัดส่วนที่กระทำผิดซ้ำใกล้เคียงกันไม่ว่าคนนั้นจะผิวดำหรือผิวขาว ProPublica วัดคนละปริมาณ — อัตราความผิดพลาด (error rate) ภายในแต่ละกลุ่มเชื้อชาติ — และวัดแบบนั้นแล้วเครื่องมือนี้ไม่เท่าเทียมอย่างชัดเจน เลขคณิตของทั้งสองฝ่ายถูกทั้งคู่ ตรงนี้เองที่เรื่องเลิกเป็นเรื่องอื้อฉาวของซอฟต์แวร์บริษัทเดียว และกลายเป็นทฤษฎีบท Jon Kleinberg, Sendhil Mullainathan และ Manish Raghavan รวมทั้ง Alexandra Chouldechova ที่ทำแยกกัน พิสูจน์ในปี 2016–17 ว่าเมื่ออัตราฐาน (base rate) ของผลลัพธ์ต่างกันระหว่างสองกลุ่ม — ดังที่อัตราการกระทำผิดซ้ำต่างกันระหว่างจำเลยผิวดำกับผิวขาวในข้อมูลชุดนี้ — ไม่มีคะแนนความเสี่ยงใดสนองทั้งการปรับเทียบและอัตราความผิดพลาดที่เท่ากันได้พร้อมกันโดยทั่วไป ยกเว้นกรณีพิเศษแคบๆ (Kleinberg, Mullainathan & Raghavan, "Inherent Trade-Offs in the Fair Determination of Risk Scores," arXiv:1609.05807; Chouldechova, "Fair Prediction with Disparate Impact," Big Data 5(2), 2017) COMPAS กับ ProPublica ไม่ได้เถียงกันเรื่องข้อเท็จจริง ทั้งสองยืนคนละฝั่งของผลลัพธ์เชิงความเป็นไปไม่ได้ (impossibility result) และต่างชี้ว่าสัจพจน์ของอีกฝ่ายคือข้อที่ผิด "ทำให้อัลกอริทึมเป็นธรรม" จึงยังไม่ใช่คำสั่งเชิงวิศวกรรม จนกว่าจะมีคนตอบคำถามที่ปรัชญาไม่เคยปิดได้เสียก่อน — เป็นธรรมตามเกณฑ์ไหน ในบรรดาเกณฑ์หลายข้อที่ขัดกันเอง และใครเป็นคนเลือก
การมอบหมายการตัดสินใจไม่ได้ย้ายคำถามเรื่องความเป็นธรรมไปที่อื่นเท่านั้น มันละลายห่วงโซ่ความรับผิดชอบที่เคยตอบคำถามนั้นได้ด้วย ระบบที่ปรับตัวจากข้อมูลหลังถูกใช้งานจริงให้ผลลัพธ์ที่วิศวกรผู้สร้างเองก็ทายไม่ถูกและสร้างย้อนกลับให้ครบไม่ได้ สมมติฐานปกติที่ว่าเจตนาของผู้ออกแบบสืบต่อไปถึงพฤติกรรมของเครื่องจักรจึงพังลง Andreas Matthias ตั้งชื่อสิ่งนี้ว่า ช่องว่างความรับผิดชอบ (responsibility gap) — เมื่อการกระทำของออโตมาตาที่เรียนรู้ได้ไม่สืบย้อนอย่างคาดเดาได้ไปหาการตัดสินใจของมนุษย์คนใดอีกต่อไป ทั้งผู้ผลิตและผู้ควบคุมต่างก็ไม่อาจถูกให้รับผิดอย่างเป็นธรรมตามกฎเดิม ทั้งที่มีคนได้รับความเสียหายจริง (Matthias, "The Responsibility Gap," Ethics and Information Technology 6(3), 2004) Helen Nissenbaum ไล่เรียงกลไกของเรื่องนี้ไว้ก่อนหน้านั้นสิบปี — "มือหลายมือ (many hands)" กระจายความเสียหายเดียวไปยังผู้มีส่วนร่วมมากพอจนไม่มีใครแบกไว้ทั้งก้อน บั๊กถูกมองเป็นภัยธรรมชาติ ความผิดถูกโยนให้ "คอมพิวเตอร์" และซอฟต์แวร์ถูกส่งมอบใต้สัญญาอนุญาตที่ปฏิเสธความรับผิดเป็นค่าตั้งต้น (Nissenbaum, "Computing and Accountability," CACM 37(1), 1994) ช่องว่างในความรับผิดชอบไม่ใช่การไม่มีความเสียหาย มันคือความเสียหายที่หาผู้รับไม่เจอ
ความรับผิดชอบหลุดลอยจากระบบได้ ปรัชญาจึงต้องถามว่าระบบหนึ่ง คืออะไร ในเชิงศีลธรรม — วัตถุ ผู้กระทำ หรือของใหม่ที่อยู่ตรงกลาง Luciano Floridi และ Jeff Sanders โต้แย้งว่า "ผู้กระทำเชิงศีลธรรม (moral agent)" ไม่ต้องมีเจตจำนงเสรี จิตสำนึก หรือเจตนาเลยแม้แต่น้อย สิ่งใดก็ตามที่มีปฏิสัมพันธ์ (ตอบสนองต่อสิ่งเร้าด้วยการเปลี่ยนสถานะ) เป็นอิสระ (เปลี่ยนสถานะได้เองโดยไม่ต้องมีสิ่งเร้าจากภายนอก) และปรับตัวได้ (เปลี่ยนกฎที่ใช้เปลี่ยนสถานะของตัวเองได้) ก็เข้าข่ายผู้กระทำเชิงศีลธรรมในระดับ abstraction ที่เกี่ยวข้อง ไม่ว่ามันจะขาดอะไรไปก็ตาม (Floridi & Sanders, "On the Morality of Artificial Agents," Minds and Machines 14(3), 2004) เงื่อนไขที่ผ่อนลงเท่านี้ครอบคลุมเอนจินแนะนำ (recommendation engine) หรือบอตเทรดหุ้นได้ โดยไม่ต้องอ้างว่ามันมีชีวิตภายใน คำถามที่ยากกว่านั้นยังไม่ถูกแตะและไม่ถูกตอบ และมันกำลังถูกถามกับระบบที่หนังสือเล่มนี้พูดถึงซ้ำแล้วซ้ำเล่า — สิ่งที่มีปฏิสัมพันธ์และปรับตัวได้มากพอ จะกลายเป็น ผู้ถูกกระทำเชิงศีลธรรม (moral patient) ได้ด้วยหรือไม่ คือถูกกระทำผิดต่อได้ ไม่ใช่แค่กระทำได้ ยังไม่มีวิธีใดที่ตกลงกันได้เป็นเอกฉันท์
งานวิจัยด้าน alignment คือเมทาเอทิกส์ (metaethics) ที่สวมป้ายวิศวกร บทวิเคราะห์ของ Iason Gabriel ในปี 2020 แยกแยะความหมายที่ "ปรับ AI ให้สอดคล้องกับคุณค่าของมนุษย์ (align an AI with human values)" เป็นได้ — คำสั่ง ความพึงพอใจที่แสดงออก ความพึงพอใจในอุดมคติ ผลประโยชน์ หรือคุณค่า — และโต้แย้งว่าความยากหลักไม่ได้อยู่ที่การค้นหาชุดหลักศีลธรรมแท้จริงเพียงชุดเดียว แต่อยู่ที่การออกแบบหลักการที่เป็นธรรมมากพอจะได้รับการรับรองอย่างใคร่ครวญ จากผู้คนที่เห็นต่างกันเรื่องจริยธรรมอย่างลึกซึ้งและถาวร (Gabriel, "Artificial Intelligence, Values, and Alignment," Minds and Machines 30, 2020) นั่นคือปัญหาเดียวกันเป๊ะกับที่นักปรัชญาการเมืองเรียกว่าปัญหาความชอบธรรมภายใต้พหุนิยม (legitimacy under pluralism) alignment ไม่ได้คิดคำถามใหม่ขึ้นมา มันเอาลูปการเทรน (training loop) กับเดดไลน์ไปใส่ให้คำถามเก่า
ความเป็นส่วนตัวเจอปัญหาการมอบหมายแบบเดียวกัน เพียงแต่เสียงเบากว่า ความครบถ้วนเชิงบริบท (contextual integrity) ของ Helen Nissenbaum พัฒนาขึ้นตลอดทศวรรษ 1990 และวางกรอบเต็มรูปแบบใน Privacy in Context (2010) โต้แย้งว่าความเป็นส่วนตัวไม่ใช่ความลับ และไม่ใช่การควบคุมข้อมูล แต่คือความคาดหวังว่าข้อมูลจะไหลไปตามบรรทัดฐานที่เหมาะกับบริบทต้นทางของมัน ผลวินิจฉัยโรคที่ไหลจากหมอไปยังบริษัทประกันเพื่อเรียกเก็บเงินคือการไหลแบบหนึ่ง มีบรรทัดฐานกำกับแบบหนึ่ง ต่างจากข้อเท็จจริงเดียวกันที่ไหลจากหมอไปยังนายจ้าง (Nissenbaum, Privacy in Context, Stanford UP, 2010) ระบบเก็บข้อมูลส่วนใหญ่ตาบอดต่อบริบทมาตั้งแต่โครงสร้าง ฟิลด์หนึ่งในฐานข้อมูลไม่จำว่าตัวมันถูกเก็บมาใต้บรรทัดฐานใด เรื่องที่ให้ความรู้สึกเหมือนการละเมิดความเป็นส่วนตัวจำนวนมากจึงไม่มีความลับเข้ามาเกี่ยวเลย มีแต่ข้อมูลที่ถูกย้ายเข้าไปในบริบทที่ผิด
Google ตั้งสภาจริยธรรม AI ภายนอกแปดคนชื่อ ATEAC ขึ้นในวันที่ 26 มีนาคม 2019 และยุบทิ้งทั้งสภาในอีกเก้าวันต่อมา หลังพนักงานประท้วงกรรมการสองคนจนสภาอยู่ต่อไม่ได้ (MIT Technology Review, "Google Has Now Cancelled Its AI Ethics Board," 5 April 2019) อำนาจของบอร์ดที่ปรึกษาขึ้นกับความเต็มใจของสถาบันที่ตั้งมันขึ้นมาทั้งหมด และถอนคืนได้ง่ายพอๆ กับที่มอบให้ mechanism design (การออกแบบกลไก) ไม่ต้องพึ่งความเต็มใจ ข้อจำกัดความเป็นธรรมที่เขียนไว้ในเป้าหมายการเทรน หรือขอบเขต differential privacy ที่เขียนไว้ในระบบสืบค้น ยังทำงานต่อในวันที่ไม่มีใครอยู่ในห้องคอยบังคับใช้ นั่นเป็นจริยธรรมที่แคบกว่าของบอร์ด แต่ยุบด้วยบันทึกภายในฉบับเดียวได้ยากกว่ามาก
เชื่อมโยง
บทที่ 02 ให้คำถามที่ลึกกว่านั้น ว่า "การตัดสินใจ" ที่ทำโดยซอฟต์แวร์คือสิ่งประเภทไหนกันแน่ บทที่ 07 พาอำนาจของแพลตฟอร์มเข้าสู่ทะเบียนของธรรมาภิบาล ที่คำถามเลิกเป็นเรื่องใครรับผิดชอบ และกลายเป็นใครมีอธิปไตย บทที่ 13 กลับมาที่ช่องว่างความรับผิดชอบผ่าน interpretability — คุณให้ระบบรับผิดชอบต่อการตัดสินใจที่ไม่มีใคร รวมถึงผู้ออกแบบมันเอง อ่านย้อนออกมาได้ครบ ได้หรือไม่
คำถามที่ยังเปิดอยู่
ถ้าการปรับเทียบ (calibration) กับความสมดุลของอัตราความผิดพลาดเป็นจริงพร้อมกันไม่ได้ การเลือกระหว่างสองอย่างนี้ยังนับเป็นการตัดสินใจเชิงเทคนิคอยู่หรือไม่ หรือคะแนนความเสี่ยงทุกตัวที่ถูกนำไปใช้จริงคือการโหวตเงียบๆ ว่าสังคมจะยอมทนความอยุติธรรมแบบไหน ผู้กระทำเชิงศีลธรรมแบบขั้นต่ำของ Floridi และ Sanders ทำให้ความรับผิดชอบละลายลงไปอีก ด้วยการเปิดทางให้ความผิดกระจายไปที่ "ระบบ" หรืออย่างน้อยมันก็ทำให้การกระจายนั้นมองเห็นได้ชัดพอจะถกกันได้ และถ้าความชอบธรรมภายใต้พหุนิยม (legitimacy under pluralism) คือปัญหาจริงที่อยู่หลัง alignment มาตลอด วิทยาการคอมพิวเตอร์มีอะไรจะเสนอให้ปรัชญาการเมือง ที่ทฤษฎีสัญญาประชาคมนับศตวรรษยังไม่เคยลอง
อ่านต่อ
- Cathy O'Neil, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, Crown, 2016 — กรณีศึกษาสำหรับผู้อ่านทั่วไปที่ทฤษฎีบทของบทนี้ค้ำอยู่เบื้องหลัง
- Jon Kleinberg, Sendhil Mullainathan & Manish Raghavan, "Inherent Trade-Offs in the Fair Determination of Risk Scores," arXiv:1609.05807, 2016, read against Alexandra Chouldechova, "Fair Prediction with Disparate Impact," Big Data 5(2), 2017 — ผลลัพธ์เชิงความเป็นไปไม่ได้ (impossibility result) จากทั้งสองทิศทาง
- Stanford Encyclopedia of Philosophy, "Ethics of Artificial Intelligence and Robotics" — แผนที่หลักของภูมิประเทศทั้งหมดในบทนี้