I Built the Best Free Claude Code for Local AI
สรุปย่อ
ประเด็นสำคัญจากวิดีโอ
- **ช่อง:** Leon van Zyl · **ความยาว:** ~14.6 นาที · **ลิงก์:** https://www.youtube.com/watch?v=u2vaM7ppzuE
# สรุป: สร้างระบบโค้ด Claude ฟรีที่ดีที่สุดสำหรับ AI แบบใช้งานในเครื่อง - **ช่อง:** Leon van Zyl · **ความยาว:** ~14.6 นาที · **ลิงก์:** https://www.youtube.com/watch?v=u2vaM7ppzuE ## ประเด็นหลัก - การสร้าง coding agent ที่เหมาะสำหรับโมเดล AI แบบฟรีที่ทำงานบนเครื่องของตัวเอง - ปัญหาของโมเดล open-weight ที่มี context window ขนาดเล็ก (256K tokens) ในระบบปัจจุบัน - การเพิ่มประสิทธิภาพสำหรับการใช้งานโมเดลแบบฟรีโดยไม่ต้องเสียค่าบริการ API - การใช้โมเดลได้แม้เครื่องจะออฟไลน์และทำงานอย่างปลอดภัยบนฮาร์ดแวร์ส่วนตัว - การแนะนำ Smol Coder: ระบบที่เปิดที่มา (open source), ใช้งานฟรี และเพิ่มประสิทธิภาพสูงสำหรับโมเดลแบบใช้งานในเครื่อง ## ข้อสำคัญที่เน้น - การปรับปรุง system prompt, tools วิธีการทำงานของ compaction และ to-do list พิเศษ - การตรวจจับโมเดลโดยอัตโนมัติทั้ง Ollama และ LM Studio โดยไม่ต้องการการตั้งค่า - การลดความซับซ้อนของการตั้งค่า technical setup ให้เหลือเพียง "click on the model, it just works" - การแก้ไขปัญหา context window ของโมเดลที่มีขนาดเล็กโดยการเพิ่มประสิทธิภาพในการทำงาน ## ความเห็นสรุป วิดีโอนี้นำเสนอโซลูชันที่สำคัญสำหรับนักพัฒนาที่ต้องการใช้ AI แบบใช้งานในเครื่องโดยไม่ต้องเสียค่าบริการ API โดยเฉพาะในยุคที่โมเดล AI แบบฟรีมีคุณภาพดีขึ้น การที่ Smol Coder สามารถแก้ไขปัญหาทั้งด้านการเข้าถึงโมเดล การลดความซับซ้อนในการตั้งค่า และการเพิ่มประสิทธิภาพให้เหมาะกับ context window ขนาดเล็ก ทำให้เป็นทางเลือกที่น่าสนใจสำหรับการพัฒนาโค้ดโดยใช้ AI แบบ offline และปลอดภัย
คำแปลเต็ม
แปลตามบทสนทนาต้นฉบับ ปรับเป็นภาษาไทยธรรมชาติ
ฉันเพิ่งสร้าง coding agent ที่ดีที่สุดสำหรับโมเดลแบบฟรีที่ใช้งานได้อยู่บนเครื่องของฉัน แน่นอนว่าส่วนใหญ่ของคุณอาจเบื่อที่จะดู agent สร้างเกม Minecraft ๆ แต่นี่ค่อนข้างต่างกัน เกมนี้รวมถึงสัตว์ทุกชนิดและ AI ปัญญาที่เรียนรู้ได้ สิ่งทุกอย่างที่คุณเห็นที่นี่ถูกสร้างโดยโมเดลแบบฟรีที่ทำงานบนเครื่องของฉันเอง และคุณก็สามารถทำได้เช่นกัน นี่หมายความว่าคุณไม่ต้องเสียค่าใช้จ่ายสำหรับ API คุณสามารถทำงานได้แม้เครื่องจะออฟไลน์ และทุกอย่างทำงานอย่างปลอดภัยและเป็นส่วนตัวบนฮาร์ดแวร์ของคุณเอง
ฉันได้สร้างวิดีโอจำนวนมากในช่องของฉันเพื่อแสดงว่าคุณสามารถใช้โมเดลแบบฟรีใน coding agents ต่างๆ เช่น Claude ใน Pi Agent SDK ที่รองรับ DeepSeek Harness ใน OpenCode และอีกมากมาย ตอนนี้นี่เป็นการพัฒนาที่ดีที่สุดของ coding harnesses แต่พวกมันมีปัญหาหนึ่งใหญ่ๆ พวกมันไมได้ถูกเพิ่มประสิทธิภาพสำหรับโมเดลแบบฟรี
นี่คือปัญหาที่ฉันพบ: โมเดลแบบเปิดคละหน้าที่เช่น Qwen 3.8 มี context windows ที่เล็กมาก มันจะถึงเพียง 256,000 tokens ถ้าฮาร์ดแวร์ของคุณอนุญาตให้ถึงเท่านี้ ปัญหาคือการเรียกใช้โมเดลเหล่านี้ในสิ่งเช่น Claude Code ซึ่ง Claude ใช้ถึง 34,000 tokens แล้วก่อนที่คุณจะทำอะไรเลย และถ้าหาก context window ของคุณมีเพียง 128,000 tokens นี่กลายเป็นปัญหาที่ใหญ่มาก
ถ้าคุณต้องการโหลดโมเดลเหล่านี้ลงใน harnesses ใดๆ มันต้องการการตั้งค่าทางเทคนิคมากมาย ฉันต้องการแค่มีโซลูชันที่ฉันสามารถเริ่มเซสชันใหม่ คลิกที่โมเดล มันควรจะตรวจจับโมเดลทั้งหมดที่ฉันตั้งค่าไว้บนเครื่องของฉัน ไม่ว่าจะเป็นการใช้ Ollama หรือ LM Studio โดยไม่ต้องการการตั้งค่า ไม่ต้องการการติดตั้ง แค่ทำงานได้เลย นั่นคือเหตุผลที่ฉันสร้าง Smol Coder
มันเป็น open source ใช้ได้ฟรีทั้งหมด และเพิ่มประสิทธิภาพอย่างสูงสำหรับโมเดลแบบฟรีที่ทำงานบนฮาร์ดแวร์ของคุณเอง ฉันได้เพิ่มประสิทธิภาพทุกอย่างสำหรับโมเดลแบบใช้งานในเครื่องจาก system prompt ที่ฉันฉีดเข้าไปตอนเริ่มต้นของการสนทนา เครื่องมือที่ agent มีให้ใช้ วิธีการที่ compaction ทำงาน และเราได้แนะนำ to-do list พิเศษที่ช่วยให้ agent ติดตามได้หลังจาก compaction เกิดขึ้น
หากคุณต้องการสอบถามเพิ่มเติม...
อภิธานศัพท์เทคนิค
คำศัพท์และชื่อผลิตภัณฑ์ที่คงรูปภาษาอังกฤษ
| ศัพท์ | คำแปล / คำอธิบาย |
|---|---|
| Smol Coder | ระบบ coding agent ที่เปิดที่มา (open source) และเพิ่มประสิทธิภาพสำหรับโมเดล AI แบบฟรี |
| Open-weight models | โมเดล AI แบบเปิดที่ให้ใช้ได้โดยไม่เสียค่าใช้จ่าย |
| Context window | ขนาดของข้อมูลที่โมเดลสามารถประมวลผลได้ในครั้งเดียว (tokens) |
| API costs | ค่าบริการในการใช้ AI APIs |
| Ollama | แพลตฟอร์มสำหรับการเรียกใช้โมเดล AI บนเครื่องเฉพาะตัว |
| LM Studio | แอปพลิเคชันสำหรับการเรียกใช้โมเดล AI บนเครื่อง |
| Compaction | กระบวนการบีบอัดข้อมูลใน context window เพื่อประหยัดพื้นที่ |
| Coding harness | กรอบงาน (framework) สำหรับการเขียนโค้ดโดยใช้ AI |
| Free local models | โมเดล AI ที่สามารถทำงานได้บนเครื่องของผู้ใช้โดยไม่ต้องเชื่อมต่อออนไลน์ |
| Technical setup | การตั้งค่าทางเทคนิคที่ซับซ้อน |
| System prompt | คำแนะนำเริ่มต้นที่ให้กับ AI agent เพื่อกำหนดพฤติกรรม |
| To-do list | รายการงานที่ agent จำไว้เพื่อติดตามหลังจาก compaction |
ซับไตเติ้ลภาษาไทย
ดาวน์โหลดหรือดูซับทั้งหมด
1 00:00:00,000 --> 00:00:12,420 ฉันเพิ่งสร้าง coding agent 2 00:00:12,420 --> 00:00:40,605 ที่ดีที่สุดสำหรับโมเดลแบบฟรีที่ใช้งานได้อยู่บนเครื่องของฉัน 3 00:00:40,605 --> 00:01:01,623 แน่นอนว่าส่วนใหญ่ของคุณอาจเบื่อที่จะดู agent 4 00:01:01,623 --> 00:01:21,687 สร้างเกม Minecraft ๆ แต่นี่ค่อนข้างต่างกัน
เปิดดูซับไตเติ้ลทั้งหมด (45 segments)
1 00:00:00,000 --> 00:00:12,420 ฉันเพิ่งสร้าง coding agent 2 00:00:12,420 --> 00:00:40,605 ที่ดีที่สุดสำหรับโมเดลแบบฟรีที่ใช้งานได้อยู่บนเครื่องของฉัน 3 00:00:40,605 --> 00:01:01,623 แน่นอนว่าส่วนใหญ่ของคุณอาจเบื่อที่จะดู agent 4 00:01:01,623 --> 00:01:21,687 สร้างเกม Minecraft ๆ แต่นี่ค่อนข้างต่างกัน 5 00:01:21,687 --> 00:01:36,018 เกมนี้รวมถึงสัตว์ทุกชนิดและ AI 6 00:01:36,018 --> 00:01:45,094 ปัญญาที่เรียนรู้ได้ 7 00:01:45,094 --> 00:02:21,400 สิ่งทุกอย่างที่คุณเห็นที่นี่ถูกสร้างโดยโมเดลแบบฟรีที่ทำงานบนเครื่องของฉันเอง 8 00:02:21,400 --> 00:02:33,820 และคุณก็สามารถทำได้เช่นกัน 9 00:02:33,820 --> 00:02:54,839 นี่หมายความว่าคุณไม่ต้องเสียค่าใช้จ่ายสำหรับ 10 00:02:54,839 --> 00:03:13,947 API คุณสามารถทำงานได้แม้เครื่องจะออฟไลน์ 11 00:03:13,947 --> 00:03:43,564 และทุกอย่างทำงานอย่างปลอดภัยและเป็นส่วนตัวบนฮาร์ดแวร์ของคุณเอง 12 00:03:43,564 --> 00:04:18,914 ฉันได้สร้างวิดีโอจำนวนมากในช่องของฉันเพื่อแสดงว่าคุณสามารถใช้โมเดลแบบฟรีใน 13 00:04:18,914 --> 00:04:39,455 coding agents ต่างๆ เช่น Claude ใน Pi Agent 14 00:04:39,455 --> 00:04:59,519 SDK ที่รองรับ DeepSeek Harness ใน OpenCode 15 00:04:59,519 --> 00:05:05,251 และอีกมากมาย 16 00:05:05,251 --> 00:05:25,315 ตอนนี้นี่เป็นการพัฒนาที่ดีที่สุดของ coding 17 00:05:25,315 --> 00:05:42,512 harnesses แต่พวกมันมีปัญหาหนึ่งใหญ่ๆ 18 00:05:42,512 --> 00:06:04,964 พวกมันไมได้ถูกเพิ่มประสิทธิภาพสำหรับโมเดลแบบฟรี 19 00:06:04,964 --> 00:06:14,518 นี่คือปัญหาที่ฉันพบ: 20 00:06:14,518 --> 00:06:36,492 โมเดลแบบเปิดคละหน้าที่เช่น Qwen 3.8 มี context 21 00:06:36,492 --> 00:06:55,600 windows ที่เล็กมาก มันจะถึงเพียง 256,000 22 00:06:55,600 --> 00:07:16,619 tokens ถ้าฮาร์ดแวร์ของคุณอนุญาตให้ถึงเท่านี้ 23 00:07:16,619 --> 00:07:36,683 ปัญหาคือการเรียกใช้โมเดลเหล่านี้ในสิ่งเช่น 24 00:07:36,683 --> 00:07:57,701 Claude Code ซึ่ง Claude ใช้ถึง 34,000 tokens 25 00:07:57,701 --> 00:08:18,243 แล้วก่อนที่คุณจะทำอะไรเลย และถ้าหาก context 26 00:08:18,243 --> 00:08:34,962 window ของคุณมีเพียง 128,000 tokens 27 00:08:34,962 --> 00:08:47,382 นี่กลายเป็นปัญหาที่ใหญ่มาก 28 00:08:47,382 --> 00:09:08,401 ถ้าคุณต้องการโหลดโมเดลเหล่านี้ลงใน harnesses 29 00:09:08,401 --> 00:09:27,032 ใดๆ มันต้องการการตั้งค่าทางเทคนิคมากมาย 30 00:09:27,032 --> 00:09:50,439 ฉันต้องการแค่มีโซลูชันที่ฉันสามารถเริ่มเซสชันใหม่ 31 00:09:50,439 --> 00:09:56,171 คลิกที่โมเดล 32 00:09:56,171 --> 00:10:23,878 มันควรจะตรวจจับโมเดลทั้งหมดที่ฉันตั้งค่าไว้บนเครื่องของฉัน 33 00:10:23,878 --> 00:10:42,986 ไม่ว่าจะเป็นการใช้ Ollama หรือ LM Studio 34 00:10:42,986 --> 00:11:04,005 โดยไม่ต้องการการตั้งค่า ไม่ต้องการการติดตั้ง 35 00:11:04,005 --> 00:11:25,024 แค่ทำงานได้เลย นั่นคือเหตุผลที่ฉันสร้าง Smol 36 00:11:25,024 --> 00:11:45,087 Coder มันเป็น open source ใช้ได้ฟรีทั้งหมด 37 00:11:45,087 --> 00:12:19,482 และเพิ่มประสิทธิภาพอย่างสูงสำหรับโมเดลแบบฟรีที่ทำงานบนฮาร์ดแวร์ของคุณเอง 38 00:12:19,482 --> 00:12:49,099 ฉันได้เพิ่มประสิทธิภาพทุกอย่างสำหรับโมเดลแบบใช้งานในเครื่องจาก 39 00:12:49,099 --> 00:12:55,309 system prompt 40 00:12:55,309 --> 00:13:12,984 ที่ฉันฉีดเข้าไปตอนเริ่มต้นของการสนทนา 41 00:13:12,984 --> 00:13:31,615 เครื่องมือที่ agent มีให้ใช้ วิธีการที่ 42 00:13:31,615 --> 00:13:51,678 compaction ทำงาน และเราได้แนะนำ to-do list 43 00:13:51,678 --> 00:14:09,831 พิเศษที่ช่วยให้ agent ติดตามได้หลังจาก 44 00:14:09,831 --> 00:14:18,907 compaction เกิดขึ้น 45 00:14:18,907 --> 00:14:33,716 หากคุณต้องการสอบถามเพิ่มเติม...