วิเคราะห์และรีวิว: การเรียนรู้ใช้งาน Local AI ทั้งน่าตื่นเต้น หนักหน่วง และน่าหงุดหงิด

TL;DR

การเริ่มใช้ local AI (ปัญญาประดิษฐ์ที่ประมวลผลบนเครื่อง) ผ่าน Hermes Agent กับ Qwen 3.8 Flash Next ให้ความเป็นส่วนตัวมากกว่า cloud service (บริการประมวลผลบนคลาวด์) และควบคุมงานได้เองบนเครื่อง แต่ต้องแลกด้วยฮาร์ดแวร์ระดับสูง รุ่นนี้มี 125-billion parameters (พารามิเตอร์ที่ใช้กำหนดความสามารถของโมเดล) ขนาดราว 105GB และผู้เขียนใช้ Mac Studio ที่มี unified memory 256GB

ช่วงเริ่มต้นค่อนข้าง overwhelming ทั้งการเลือกโมเดลและตั้ง permission ให้ AI ทำงานจริง งาน morning briefing ที่รันผ่าน cron job (งานที่ตั้งเวลาให้ทำงานอัตโนมัติ) ยังไม่ค่อยมีประโยชน์ แถมต้องปลุก macOS ไว้ตอน 7:30am

งานจัดหมวดเกมใน Steam กลับเห็นผลชัดกว่า เพราะ Hermes ช่วยจัดเกมกว่า 400 เกมตาม genre ได้ในไม่กี่นาที แต่ต้องให้ Steam web API key (กุญแจสำหรับยืนยันสิทธิ์การใช้งาน API) ก่อน แล้วค่อย revoke หลังใช้งานเสร็จ

ถ้าเป็นผม ผมแนะนำให้เริ่มจากงานเล็กๆ ที่วัดผลได้ชัด เช่น การจัดหมวดเกม ก่อนขยับไปงานประจำวันอย่าง morning briefing

เริ่มต้นกับ AI ที่อยู่ในเครื่องของเรา

รีวิวนี้เริ่มจากการลองใช้ AI ในชีวิตประจำวันบน M5 Ultra Mac Studio ไม่ใช่แค่ทดสอบความสามารถบนกระดาษ ผู้เขียนติดตั้ง Hermes Agent และเริ่มทดลองให้ AI ช่วยงานจุกจิกที่ทำซ้ำอยู่บ่อยๆ

จุดน่าสนใจของ local AI คือข้อมูลยังอยู่ในเครื่อง ไม่ต้องส่งทุกอย่างไปให้บริการ cloud ความเป็นส่วนตัวจึงน่าอุ่นใจกว่า แต่การเริ่มต้นก็ชวนสับสน เพราะต้องเลือกทั้ง model, อุปกรณ์ และ permission ให้เหมาะกับงาน

การมี AI ส่วนตัวน่าสนใจตรงที่ข้อมูลสำคัญไม่ต้องถูกส่งไปเก็บบน cloud ทั้งหมด โดยเฉพาะคนที่ยังลังเลกับการฝากข้อมูลส่วนตัวไว้กับบริการของ OpenAI, Google, Microsoft หรือ Anthropic

แนวคิดคือมีผู้ช่วยทำงานอยู่เฉพาะในคอมพิวเตอร์ของเราเอง คอยช่วยงานจุกจิกตามคำสั่ง โดยไม่ต้องพึ่งการสมัคร chatbot หรือยอมให้บริษัทอื่นควบคุมข้อมูลทุกอย่าง ความเป็นส่วนตัวแบบนี้ทำให้ local AI ดูน่าใช้งานขึ้น เหมือนมีผู้ช่วยส่วนตัวอยู่ในเครื่อง แม้การเริ่มต้นจะยังไม่ง่ายนัก

Mac Studio อยู่ตรงไหนของการทดลองครั้งนี้

M5 Ultra Mac Studio เป็นเครื่องหลักสำหรับทดลอง local AI ครั้งนี้ เพราะมี unified memory (หน่วยความจำร่วมระหว่าง CPU, GPU และส่วนประมวลผลอื่นๆ) 256GB จึงรันโมเดลขนาดใหญ่ได้แทบทุกแบบ นักเขียนใช้เครื่องนี้ติดตั้ง Hermes Agent และลอง Qwen 3.8 Flash Next ที่มีพารามิเตอร์ 125 พันล้าน ขนาดราว 105GB

ทิศทางนี้สอดคล้องกับการผลักดันของ Apple ที่ชู Mac รุ่นใหม่สำหรับงาน local AI ขณะเดียวกันฝั่ง Windows ก็มี RTX Spark ที่กำลังมา พร้อม RAM สูงสุด 128GB สำหรับงาน agentic AI ทำให้ตลาดเริ่มมีทางเลือกมากขึ้นตามขนาดโมเดลและงบประมาณที่รับไหว

Qwen 3.8 Flash Next คือรุ่นใหญ่หรือพี่ใหญ่ที่ติดตั้งและใช้งานแล้ว ส่วน Qwen รุ่นเล็กหรือน้องเล็กยังอยู่ในแผนทดลองบนหลายอุปกรณ์ โดยแหล่งข่าวยังไม่ได้ระบุชื่อรุ่นหรือขนาดของแต่ละรุ่น

จากติดตั้งไม่กี่ขั้น สู่การหางานให้ AI ทำ

Hermes Agent เป็นแอปแบบ self-hosted (แอปที่ติดตั้งและดูแลการทำงานบนเครื่องของเราเอง) ใช้ได้บน macOS, Windows และ Linux แถมควบคุมผ่าน Telegram bot จากมือถือได้ เหมาะกับคนที่อยากให้ AI ทำงานอยู่บนเครื่องตัวเอง

เริ่มจากให้มันสรุปอีเมล ปฏิทิน และสภาพอากาศตอนเช้า ก่อนขยับไปจัดหมวดหมู่เกมใน Steam มากกว่า 400 เกมผ่าน Steam web API งานหลังใช้เวลาไม่กี่นาที แต่ต้องให้สิทธิ์เข้าถึงเครื่องและ API key ก่อน แล้วค่อยยกเลิกสิทธิ์เมื่อทำงานเสร็จ

AI บนเครื่อง กับบริการคลาวด์ ต่างกันตรงไหน

รัน AI บนเครื่องให้ความเป็นส่วนตัวและการควบคุมข้อมูลมากกว่า เพราะข้อมูลอยู่ในคอมพิวเตอร์ของเราเอง แต่ต้องรับภาระเลือกโมเดลและมีฮาร์ดแวร์ที่รองรับ ส่วนบริการจาก OpenAI, Google, Microsoft และ Anthropic ใช้ง่ายกว่า แต่ต้องส่งข้อมูลไปยัง cloud และมีค่าใช้บริการแบบโทเคน

จุดเด่นและข้อจำกัดที่เจอจากการใช้จริง

Local AI ช่วยให้ข้อมูลส่วนตัวอยู่บนเครื่อง ไม่ต้องจ่ายค่าโทเคน และสั่งให้ทำงานแทนได้เอง เช่น สรุปอีเมลกับปฏิทิน หรือจัดหมวดหมู่เกมใน Steam

ข้อจำกัดคือมีโมเดลให้เลือกเยอะจนชวนสับสน ต้องตั้งค่าและให้สิทธิ์เข้าถึงเครื่อง อีกทั้งยังต้องคิดเองว่าจะมอบหมายงานอะไรให้ AI ทำถึงจะคุ้ม

ราคาที่ไม่ได้จบแค่ตัวเครื่อง

Mac Studio รุ่นทดสอบมี unified memory 256GB แต่บทความยกตัวอย่างว่าการสร้างงานลักษณะนี้ไม่จำเป็นต้องใช้คอมพิวเตอร์ราคา $12,000 ต้นทุนจริงจึงรวมเวลาติดตั้งโมเดล แก้ปัญหา และคิดว่าจะมอบหมายงานอะไรให้ AI ทำด้วย

ยังมีภาระเรื่องสิทธิ์เข้าถึงเครื่อง เช่น การให้ Hermes ใช้ Steam web API key แล้วต้องคอยถอนสิทธิ์.