TL;DR: นักพัฒนา Monty Bichouna ใช้การ์ดจอเกมมิ่ง RTX 3080 Ti เครื่องเดียวฝึก world model ขนาดเล็กชื่อ LeWorldModel (สถาปัตยกรรมแบบ JEPA ที่ Yann LeCun เสนอแนวคิดไว้) ด้วยพารามิเตอร์ราว 12.5 ล้านตัว จากเฟรมเกม Pokémon Red กว่า 42,000 ภาพ ผลคือโมเดลวางแผนเลือกตัวเริ่มต้นในห้องแล็บของ Professor Oak สำเร็จ 52 จาก 100 ครั้ง เทียบกับ 0 ครั้งถ้าเลือกแบบสุ่ม แต่ยังทดสอบแค่ฉากเดียว และยังเอาชนะคู่แข่งในเกมไม่ได้
เมื่อการ์ดจอเกมมิ่งใบเดียวกลายเป็นห้องทดลอง AI
Monty Bichouna หยิบ Pokémon Red เกมบอยคลาสสิกมาเป็นสนามทดลอง เพื่อดูว่าโมเดลขนาดเล็กที่ฝึกด้วยการ์ดจอเกมมิ่งทั่วไปเพียงใบเดียวอย่าง RTX 3080 Ti จะเรียนรู้จากภาพหน้าจอและทำนายผลของการกดปุ่มได้แค่ไหน โดยไม่ต้องพึ่งเซิร์ฟเวอร์ฝึกโมเดลขนาดใหญ่
จุดที่ทำให้โครงการนี้น่าสนใจคือมันไม่ได้ตั้งเป้าให้ AI เล่นเกมจบ แต่อยากพิสูจน์ว่า world model ขนาดเล็กสามารถ “คาดเดา” ผลลัพธ์ของการกระทำล่วงหน้าได้จริงหรือไม่ ซึ่งเป็นแนวคิดเดียวกับที่งานวิจัยด้าน physical AI และหุ่นยนต์ใช้ประเมินสภาพแวดล้อมก่อนตัดสินใจ


LeWorldModel คืออะไร และทำไมเลือกสถาปัตยกรรมนี้
โมเดลที่ใช้ชื่อ LeWorldModel เป็นหนึ่งในสถาปัตยกรรมแบบ JEPA (Joint Embedding Predictive Architecture) ซึ่ง Yann LeCun เป็นผู้เสนอแนวคิดไว้ จุดเด่นคือมีขนาดเล็กกว่า JEPA รุ่นอื่นมาก จนฝึกบนเครื่องส่วนตัวได้จริง โดยมีพารามิเตอร์ราว 12.5 ล้านตัวเท่านั้น
แทนที่จะทำนายภาพหน้าจอถัดไปทั้งเฟรม โมเดลนี้ใช้ตัวเข้ารหัส (encoder) บีบอัดภาพให้เหลือเวกเตอร์ตัวเลขเพียง 192 ค่า แล้วให้ตัวทำนาย (predictor) คาดเดาว่าเวกเตอร์นี้จะเปลี่ยนไปอย่างไรเมื่อกดปุ่มแต่ละแบบ ก่อนใช้วิธี cross-entropy method วางแผนลำดับการกดปุ่มที่น่าจะพาไปถึงเป้าหมาย ทีมงานยังใส่เทคนิค SIGReg เข้ามาป้องกันไม่ให้โมเดล “ยุบ” การเรียนรู้จนทำนายค่าเดิมซ้ำๆ โดยไม่มีความหมาย
ฝึกจากเฟรมเกมบอย 42,382 ภาพ โดยไม่บอกเป้าหมายให้โมเดลรู้
ข้อมูลฝึกทั้งหมดมาจากภาพขาวดำ 42,382 เฟรม แบ่งเป็น 1,009 รอบการเล่นสั้นๆ ผสมกันทั้งเส้นทางที่เขียนสคริปต์ไว้ล่วงหน้า การกดปุ่มแบบสุ่มปนสัญญาณรบกวน และการเดินแบบสุ่มล้วนๆ ขั้นตอนฝึกช่วงแรกเป็นแบบ “ไม่มีรางวัล” คือโมเดลไม่รู้ด้วยซ้ำว่าเป้าหมายของเกมคืออะไร เป้าหมายจะถูกใส่เข้ามาทีหลังตอนให้โมเดลวางแผนเท่านั้น
เทคนิคสำคัญอีกอย่างคือ “rollout fine-tuning” ซึ่งให้ตัวทำนายฝึกจากคำทำนายของตัวเองต่อเนื่องหลายขั้น แทนที่จะเริ่มนับจากภาพจริงทุกครั้ง วิธีนี้ช่วยลดปัญหาความผิดพลาดสะสมเมื่อต้องวางแผนล่วงหน้าหลายสิบก้าว

ตัวเลขที่พิสูจน์ว่าโมเดลเรียนรู้จริง ไม่ใช่สุ่มเดา
บททดสอบหลักของโครงการคือให้โมเดลวางแผนเลือกตัวละครตั้งต้นจากเซฟที่อยู่ในห้องแล็บของ Professor Oak ผลคือจาก 100 แผนที่โมเดลวางไว้ มี 52 แผนที่พาไปถึงขั้นได้ตัวเริ่มต้นสำเร็จ ขณะที่การกดปุ่มแบบสุ่มล้วนๆ ไม่สำเร็จแม้แต่ครั้งเดียวจาก 100 ครั้ง ซึ่งยืนยันว่าโมเดลเรียนรู้ความสัมพันธ์ระหว่างภาพกับผลของการกระทำได้จริง ไม่ใช่แค่บังเอิญ
แต่ก็ต้องพูดตรงๆ ว่าอัตราความล้มเหลวยังสูงเกือบครึ่ง และการทดสอบนี้จำกัดอยู่แค่ฉากเดียวที่มีจุดเริ่มต้นชัดเจน โมเดลยังไม่ถูกทดสอบกับลำดับเหตุการณ์ที่ยาวกว่านี้ และยังเอาชนะคู่ปรับในเกมไม่ได้ จึงยังห่างไกลจากการ “เล่นจบเกม” ตามที่พาดหัวข่าวหลายแห่งอาจทำให้เข้าใจผิด
| Factor | LeWorldModel บน GPU เดียว | บอตเขียนกฎตายตัว | Reinforcement Learning เต็มรูปแบบ | เอเจนต์บนโมเดลภาษาคลาวด์ |
|---|---|---|---|---|
| ขนาดโมเดล | เล็กมาก (~12.5M พารามิเตอร์) | ไม่มีโมเดล ใช้โค้ดกฎ | มักมีหลายสิบ-หลายร้อยล้านพารามิเตอร์ | นับพันล้านพารามิเตอร์ขึ้นไป |
| ฮาร์ดแวร์ที่ใช้ฝึก | การ์ดจอเกมมิ่งเครื่องเดียว | ไม่ต้องฝึก | มักต้องใช้ GPU หลายใบ | ฝึกบนคลาวด์ของผู้ให้บริการ |
| ความโปร่งใส | ตรวจสอบแผนและคำทำนายได้ | ชัดเจนที่สุด | ตีความพฤติกรรมยากกว่า | ขึ้นกับผู้ให้บริการ |
| ความแม่นยำในสถานการณ์ที่ทดสอบ | 52% ในฉากเลือกตัวเริ่มต้น | สูงเฉพาะเงื่อนไขที่เขียนไว้ | ขึ้นกับการฝึกและเวลา | ขึ้นกับ prompt และโมเดล |
จุดแข็งและข้อจำกัดที่เห็นจากการทดลองนี้
ข้อดี
- +ฝึกโมเดล world model ได้จริงด้วยการ์ดจอเกมมิ่งเครื่องเดียว ไม่ต้องพึ่งคลัสเตอร์ GPU
- +ขนาดโมเดลเล็กพอให้ตรวจสอบและทดลองซ้ำได้เร็ว
- +พิสูจน์ได้ด้วยตัวเลขจริงว่าโมเดลเรียนรู้ดีกว่าการสุ่ม (52% เทียบกับ 0%)
ข้อเสีย
- −อัตราล้มเหลวยังสูงเกือบ 48% แม้แต่ในฉากที่จำกัดและกำหนดจุดเริ่มต้นไว้แล้ว
- −ยังไม่ได้ทดสอบกับลำดับเหตุการณ์ยาวๆ หรือด่านอื่นของเกม
- −ความผิดพลาดของคำทำนายมีโอกาสสะสมเมื่อวางแผนหลายก้าว
ค่าไฟ เวลา และของที่เสียไประหว่างฝึกโมเดล
ต้นทุนของโครงการแบบนี้ไม่ได้จบแค่ราคาการ์ดจอ การเปิดเครื่องฝึกต่อเนื่องเป็นเวลานานทำให้ค่าไฟเพิ่มขึ้น ความร้อนและเสียงพัดลมก็สูงขึ้นตามไปด้วย ต้องดูแลการระบายอากาศในห้องให้ดี
อุปกรณ์ยังสึกหรอจากการทำงานต่อเนื่องกว่าการใช้งานทั่วไป ทั้งพัดลมและแหล่งจ่ายไฟ ไหนจะพื้นที่เก็บข้อมูลเฟรมเกมและ checkpoint ที่ค่อยๆ เพิ่มขึ้น และเวลาที่นักพัฒนาต้องเสียไปกับการเตรียมข้อมูล ปรับโมเดล และแก้บั๊กระหว่างฝึก ถ้าเครื่องนี้เป็นเครื่องทำงานหรือเล่นเกมด้วย ต้นทุนโอกาสก็ชัดเจนขึ้นอีก เพราะระหว่างฝึกจะใช้งานอย่างอื่นเต็มที่ไม่ได้
จากการเลือกตัวเริ่มต้น สู่คำถามว่า AI เข้าใจเกมแค่ไหน
สิ่งที่โครงการนี้พิสูจน์ได้ชัดเจนที่สุดคือ world model ขนาดเล็กสามารถเรียนรู้ความสัมพันธ์ระหว่างภาพ การกดปุ่ม และผลลัพธ์ได้จริงบนฮาร์ดแวร์ที่คนทั่วไปเข้าถึงได้ ไม่ใช่แค่ทฤษฎีบนกระดาษ แต่อัตราสำเร็จ 52% ในฉากทดสอบเดียวก็บอกไว้ตรงๆ ว่านี่ยังเป็นก้าวแรก ไม่ใช่บทสรุปว่า AI ขนาดเล็กเข้าใจกติกาของเกมแบบเดียวกับมนุษย์
ผมมองว่าคุณค่าที่แท้จริงของงานนี้อยู่ที่วิธีวัดผล ไม่ใช่ตัวเกม การเทียบกับเส้นฐานแบบสุ่มทำให้เห็นชัดว่าโมเดลเรียนรู้อะไรไปบ้างจริงๆ คำถามต่อไปที่น่าติดตามคือ ถ้าขยายข้อมูลฝึกและทดสอบกับลำดับเหตุการณ์ที่ยาวขึ้น ความแม่นยำจะยังอยู่ที่ราวครึ่งหนึ่งแบบนี้ หรือจะร่วงลงเร็วกว่าที่คิด