6 · ความจำคือก้นหลุม
ความจำไม่ใช่ของที่เก็บไว้ที่ไหนสักแห่ง มันคือก้นหลุม
ประโยคนี้คือสิ่งที่ John Hopfield เสนอในปี 1982 และมันพลิกคำถามทั้งคำถาม เพราะก่อนหน้านั้นทุกคนถามว่า "สมองเก็บข้อมูลไว้ตรงไหน" ซึ่งเป็นคำถามที่หาที่อยู่ให้ของ เหมือนหาแฟ้มในตู้ ส่วนคำถามของ Hopfield คือ "สมองทำให้ตัวเองกลิ้งกลับไปที่เดิมได้ยังไง" ซึ่งเป็นคำถามคนละชนิด
ลองดูปัญหาก่อนว่าทำไมมันถึงยาก
คอมพิวเตอร์จำของด้วยที่อยู่ ข้อมูลชิ้นหนึ่งอยู่ที่ตำแหน่งหนึ่ง อยากได้ต้องรู้ตำแหน่ง ถ้าบอกตำแหน่งผิดไปหนึ่งช่อง ได้ของผิดกลับมาทั้งชิ้น ไม่ใช่ของที่ใกล้เคียง — ของที่ไม่เกี่ยวกันเลย
คนไม่ได้ทำงานแบบนั้น คนได้ยินเสียงกีตาร์สี่ตัวโน้ตแล้วนึกออกทั้งเพลง เห็นหลังคนที่เดินอยู่ไกล ๆ แล้วรู้ว่าเป็นใคร ได้กลิ่นอะไรสักอย่างแล้วเห็นภาพห้องครัวบ้านยายทั้งห้อง ในทุกกรณี สิ่งที่ป้อนเข้าไปคือเศษเสี้ยว และสิ่งที่ได้กลับมาคือของทั้งชิ้น ไม่มีใครบอกที่อยู่ให้เลย
Hopfield เป็นนักฟิสิกส์ที่ย้ายมาสนใจชีววิทยา ซึ่งแปลว่าเขามีของในมือที่นักประสาทวิทยาไม่มี — เขารู้จัก Ising model
สิ่งที่เขาทำคือการลอกที่ถูกชั้นที่สุดในเล่มนี้ทั้งเล่ม เขาไม่ได้ลอกสมอง เขาลอกสมการของก้อนเหล็ก
ภาพจากบทที่แล้วยังอยู่ครบ เข็มทิศจิ๋วกลายเป็นนิวรอน เปิดหรือปิดแทนที่จะเหนือหรือใต้ ความสัมพันธ์ระหว่างเข็มทิศที่อยู่ติดกันกลายเป็นน้ำหนักของเส้นเชื่อมระหว่างนิวรอน ภูมิประเทศพลังงานยังเป็นภูมิประเทศพลังงานเหมือนเดิม และระบบยังกลิ้งลงหุบเขาเหมือนเดิม
แล้วเขาก็ถามคำถามที่นักฟิสิกส์ไม่ถาม เพราะสำหรับนักฟิสิกส์ ภูมิประเทศนั้นเป็นของที่ธรรมชาติกำหนดมาแล้ว
ถ้าเราเลือกขุดหุบเขาเองได้ล่ะ
ถ้าจะให้ระบบจำรูปตัว A ก็ตั้งน้ำหนักของเส้นเชื่อมทั้งหมดให้สถานะที่ตรงกับรูปตัว A กลายเป็นก้นหุบ นั่นแหละคือการ "จำ" — ไม่ใช่การเขียนรูป A ลงในช่องเก็บของ แต่คือการดัดภูมิประเทศให้มีหลุมตรงที่รูป A อยู่
จากนั้นเวลาเรียกคืน ป้อนรูป A ที่ขาดไปครึ่งหนึ่งเข้าไป ระบบจะพบว่าตัวเองยืนอยู่บนไหล่เขาใกล้ ๆ หลุมนั้น และเพราะระบบกลิ้งลงเสมอ มันก็กลิ้งลงไปนอนที่ก้นหลุม ซึ่งคือรูป A เต็ม ๆ
ไม่มีใครค้นหาอะไรเลย ไม่มีการเทียบกับของที่เก็บไว้ ไม่มีที่อยู่ ระบบแค่ตกลงไปในที่ที่มันตกลงไปได้
นี่คือเหตุผลที่ความจำแบบนี้ทนต่อความเสียหาย ขาดไปสามสิบเปอร์เซ็นต์ก็ยังกลิ้งลงหลุมเดิม มีจุดรบกวนก็ยังลง เพราะเรื่องทั้งหมดไม่ได้ขึ้นกับความถูกต้องของข้อมูลที่ป้อนเข้าไป มันขึ้นกับว่าคุณยืนอยู่ในเขตของหลุมไหน
และมันอธิบายเรื่องที่ทุกคนเคยเจอด้วย — จำผิดเป็นคนอื่นที่หน้าคล้ายกัน สองหลุมที่ขุดใกล้กันเกินไปจะเริ่มกินเขตกัน ขอบระหว่างมันเลือนลง เศษเสี้ยวที่ควรพาไปหลุมหนึ่งกลิ้งไปลงอีกหลุม สมองก็ทำแบบนี้ และ Hopfield network ก็ทำแบบนี้ ด้วยเหตุผลเดียวกันเป๊ะ
ข้อจำกัดของมันวัดได้ชัดเจน และนี่คือสิ่งที่จะกลับมาสำคัญมากในบทที่ 10 — เครือข่ายแบบ Hopfield ดั้งเดิมเก็บของได้น้อยมากเมื่อเทียบกับจำนวนนิวรอน ประมาณการมาตรฐานคือราว 0.14 ของจำนวนนิวรอน นิวรอนหนึ่งพันตัวเก็บรูปได้ประมาณหนึ่งร้อยสี่สิบรูป เกินกว่านั้นหลุมจะทับกันจนพัง แล้วระบบจะเริ่มกลิ้งลงไปนอนในหลุมที่ไม่ใช่ของใครเลย — สถานะลูกผสมที่ไม่เคยถูกสอนให้จำ
บทความปี 1982 ชื่อ Neural networks and physical systems with emergent collective computational abilities ตีพิมพ์ใน PNAS และคำที่สำคัญที่สุดในชื่อนั้นคือ emergent — ความสามารถในการคำนวณไม่ได้อยู่ในนิวรอนตัวไหนเลย มันโผล่ขึ้นมาจากการที่ของโง่ ๆ จำนวนมากทำตามกฎง่าย ๆ ข้อเดียวกันพร้อมกัน
อันเดียวกับเข็มทิศในก้อนเหล็กทุกประการ
แต่มีปัญหาใหญ่ข้อหนึ่งที่ Hopfield network แก้ไม่ได้ และมันคือปัญหาที่ลูกบอลทุกลูกในโลกนี้มี
ลูกบอลไม่รู้ว่ามันนอนอยู่ในหลุมที่ถูกหรือเปล่า มันรู้แค่ว่ารอบตัวสูงกว่ามันหมด อาจจะมีหลุมที่ลึกกว่านี้อยู่ถัดไปอีกสองเนิน มันไม่มีทางรู้ และมันไม่มีแรงจะปีนออกไปดู
ทางออกของเรื่องนี้มาจากช่างตีเหล็ก
ลองเอง: นึกเพลงที่คุณชอบสมัยมัธยม แล้วเริ่มร้องในใจจากท่อนกลาง ๆ ที่จำได้ไม่ครบ ท่อนที่จำได้แค่สี่ห้าคำ คุณจะพบว่าส่วนที่เหลือมาเอง มันไม่ได้มาเรียงจากต้นเพลง และคุณไม่ได้ "ค้นหา" มัน สังเกตอีกข้อ — ถ้าจำผิดคำหนึ่งแล้วร้องต่อ ทำนองมักจะยังถูก เพราะสิ่งที่พาคุณไปไม่ใช่ตัวคำ มันคือรูปรวมที่คุณกลิ้งลงไปอยู่แล้ว
บทนี้จะผิดเมื่อ: มีหลักฐานว่าความจุของ Hopfield network ดั้งเดิมไม่ได้แปรตามจำนวนนิวรอนอย่างที่ประมาณการมาตรฐานระบุ หรือมีการทดลองที่แสดงว่าการเรียกคืนจากเศษเสี้ยวในเครือข่ายแบบนี้ต้องอาศัยการค้นหาแบบเทียบทีละรายการ
บทถัดไป · 8 / 1407 Shake The Table