Agent Wikis Beginner's Guide: Building Specialist Agents (local-llm-tinkerer demo)

1
00:00:00,000 --> 00:00:03,301
ยินดีต้อนรับเข้าสู่คู่มือสำหรับผู้เริ่มต้นของ

2
00:00:03,301 --> 00:00:04,394
Agent Wikis

3
00:00:04,394 --> 00:00:06,962
(ฐานความรู้แบบวิกิสำหรับงานเอเจนต์)

4
00:00:06,962 --> 00:00:09,382
วันนี้เราจะแนะนำ specialist agent

5
00:00:09,382 --> 00:00:12,610
หรือเอเจนต์เฉพาะทาง ซึ่งเป็นฟีเจอร์ของ Agent

6
00:00:12,610 --> 00:00:15,471
Wikis Pro ที่ผมค่อนข้างตื่นเต้นด้วยครับ

7
00:00:15,471 --> 00:00:17,745
ใช้เวลาออกแบบมาสักระยะหนึ่งแล้ว

8
00:00:17,745 --> 00:00:20,239
ผมอยากทำวิดีโอแนะนำแนวคิดนี้ให้ฟัง

9
00:00:20,239 --> 00:00:23,613
ว่าผมสร้างเอเจนต์เฉพาะทางเหล่านี้ขึ้นมาอย่างไร

10
00:00:23,613 --> 00:00:26,620
โดยเอเจนต์ตัวแรกจะเป็น local LLM tinkerer

11
00:00:26,620 --> 00:00:31,022
(เอเจนต์สำหรับทดลองเล่นกับโมเดลภาษาที่รันบนเครื่องของตัวเอง)

12
00:00:31,022 --> 00:00:32,115
ครับ

13
00:00:32,115 --> 00:00:35,563
ผมจะอธิบายว่าเอเจนต์เฉพาะทางตัวนี้ทำอะไรได้บ้าง

14
00:00:35,563 --> 00:00:36,663
มาพร้อมอะไรบ้าง

15
00:00:36,663 --> 00:00:41,284
แล้วในครึ่งหลังของวิดีโอเราจะลงมือใช้งานจริงในเทอร์มินัลเลยครับ

16
00:00:41,284 --> 00:00:43,412
คำถามใหญ่ที่หลายคนอาจสงสัยคือ

17
00:00:43,412 --> 00:00:46,126
ทำไมต้องยุ่งเรื่องเอเจนต์เฉพาะทางด้วย

18
00:00:46,126 --> 00:00:48,766
ทำไมไม่ทำทุกอย่างด้วยเอเจนต์ default

19
00:00:48,766 --> 00:00:50,894
ตัวเดียวให้จบ ซึ่งก็ทำได้ครับ

20
00:00:50,894 --> 00:00:53,094
ผมเองก็ทำแบบนั้นมาสักระยะหนึ่ง

21
00:00:53,094 --> 00:00:56,248
แต่พอได้ลองเล่นกับเอเจนต์เฉพาะทางพวกนี้แล้ว

22
00:00:56,248 --> 00:00:59,256
ผมคิดว่าทำแบบนี้ดีกว่าจริง ๆ ครับ คุณเก็บ

23
00:00:59,256 --> 00:01:02,043
skills (ทักษะย่อยของเอเจนต์) และ tools

24
00:01:02,043 --> 00:01:03,137
(เครื่องมือ)

25
00:01:03,137 --> 00:01:06,584
ทั้งหมดไว้ในเอเจนต์เดียวที่ทำงานเฉพาะเรื่องนั้น

26
00:01:06,584 --> 00:01:07,678
ๆ

27
00:01:07,678 --> 00:01:12,592
เลือกโมเดลและตั้งค่าทุกอย่างให้เหมาะกับงานของเอเจนต์ตัวนั้นโดยเฉพาะ

28
00:01:12,592 --> 00:01:16,480
กำหนดขอบเขตว่ามีสิทธิ์เข้าถึงอะไรได้บ้างเท่าที่จำเป็น

29
00:01:16,480 --> 00:01:19,854
และมี memories (ความจำของเอเจนต์) กับ sessions

30
00:01:19,854 --> 00:01:22,055
(เซสชันการทำงาน) เป็นของตัวเอง

31
00:01:22,055 --> 00:01:24,329
ไม่ปะปนไปกับโปรเจกต์อื่น ๆ ครับ

32
00:01:24,329 --> 00:01:27,116
สรุปคือไม่ใช่ของจำเป็น ไม่มีก็ทำงานได้

33
00:01:27,116 --> 00:01:29,537
แต่ผมว่ามีประโยชน์ค่อนข้างมากครับ

34
00:01:29,537 --> 00:01:32,325
โดยเฉพาะในเคสของผมที่ต้องรวม workflows

35
00:01:32,325 --> 00:01:35,699
(ขั้นตอนการทำงานอัตโนมัติ) และเครื่องมือต่าง ๆ

36
00:01:35,699 --> 00:01:36,792
เข้าด้วยกัน

37
00:01:36,792 --> 00:01:39,433
ผมเคยลองแนวคิดหลายแบบที่แยกออกจากกัน

38
00:01:39,433 --> 00:01:43,981
แต่ผมว่าการเก็บไว้ในเอเจนต์เฉพาะทางแบบนี้แหละที่มีประโยชน์จริง

39
00:01:43,981 --> 00:01:47,208
ๆ ครับ และโครงสร้างการออกแบบของ Hermes Agent

40
00:01:47,208 --> 00:01:50,069
(เครื่องมือรันเอเจนต์จาก Nous Research)

41
00:01:50,069 --> 00:01:53,370
ก็ทำให้เรื่องนี้ทำได้ง่ายด้วยครับ แนวคิดก็คือ

42
00:01:53,370 --> 00:01:55,938
ถ้าคุณอยากเริ่มต้น มีไอเดียโปรเจกต์

43
00:01:55,938 --> 00:01:58,432
หรือแค่อยากทดลองเล่นในแต่ละขอบข่าย

44
00:01:58,432 --> 00:02:01,806
ไม่ว่าจะเป็น local LLM ซึ่งเป็นเคสของวิดีโอนี้

45
00:02:01,806 --> 00:02:04,813
ไปจนถึงการเทรด การวิเคราะห์ออนเชน แอป iOS

46
00:02:04,813 --> 00:02:07,527
การเขียนซอฟต์แวร์ หรือขอบข่ายไหนก็ตาม

47
00:02:07,527 --> 00:02:10,828
การมีเอเจนต์เฉพาะทางแบบนี้ช่วยให้คุณได้เปรียบ

48
00:02:10,828 --> 00:02:15,010
หรืออย่างน้อยที่สุดก็ได้พื้นฐานที่ดีสำหรับการเริ่มต้นครับ

49
00:02:15,010 --> 00:02:18,384
ถ้าคุณกำลังดูวิดีโอนี้อยู่ คุณอาจดูจาก YouTube

50
00:02:18,384 --> 00:02:21,465
ในฐานะวิดีโอโบนัส หรือดูจาก agentwikis.com

51
00:02:21,465 --> 00:02:24,619
โดยตรงครับ และแม้เราจะคุยเรื่อง Agent Wikis

52
00:02:24,619 --> 00:02:26,526
Pro กันเยอะอยู่ในวิดีโอนี้

53
00:02:26,526 --> 00:02:29,900
แต่ผมว่ามันมีประโยชน์เท่ากันถ้าคุณแค่อยากสร้าง

54
00:02:29,900 --> 00:02:31,074
specialist agent

55
00:02:31,074 --> 00:02:33,862
ใช้เองและอยากเรียนรู้วิธีใช้งานมันครับ

56
00:02:33,862 --> 00:02:36,502
เพราะนี่เป็นแนวคิดที่ค่อนข้างขั้นสูง

57
00:02:36,502 --> 00:02:40,317
แต่ก็ทรงพลังมากถ้าคุณใช้เอเจนต์ทำงานเฉพาะด้านกันบ่อย

58
00:02:40,317 --> 00:02:41,410
ๆ ครับ

59
00:02:41,410 --> 00:02:45,885
อยากขอบคุณทุกคนที่สละเวลาดูวิดีโอนี้และวิดีโอทุกชิ้นของผมครับ

60
00:02:45,885 --> 00:02:48,232
รู้สึกขอบคุณมากสำหรับการสนับสนุน

61
00:02:48,232 --> 00:02:50,359
แม้เพียงแค่ดูวิดีโอบน YouTube

62
00:02:50,359 --> 00:02:52,633
และใช้ส่วนที่ฟรีของ Agent Wikis

63
00:02:52,633 --> 00:02:54,320
ก็ถือว่าช่วยมากแล้วครับ

64
00:02:54,320 --> 00:02:57,621
และขอขอบคุณเป็นพิเศษสำหรับทุกคนที่สมัคร Agent

65
00:02:57,621 --> 00:02:58,942
Wikis Pro ด้วยครับ

66
00:02:58,942 --> 00:03:01,729
เพราะมันทำให้ผมทำงานด้านนี้เต็มเวลาได้

67
00:03:01,729 --> 00:03:04,223
ปล่อยวิดีโอ YouTube และ newsletter

68
00:03:04,223 --> 00:03:07,451
รวมถึงคอนเทนต์กับงานอื่น ๆ ที่ผมทำบน YouTube

69
00:03:07,451 --> 00:03:09,211
และบน X ได้ต่อเนื่องครับ

70
00:03:09,211 --> 00:03:12,512
ฉะนั้นขอเป็นพนักงานขายสักครู่นะครับ ขาย Agent

71
00:03:12,512 --> 00:03:15,886
Wikis Pro ให้ฟังหน่อย ถ้าสมัครตอนนี้ราคา $9.99

72
00:03:15,886 --> 00:03:18,600
ต่อเดือน และราคานี้ล็อกไว้ตลอดชีพครับ

73
00:03:18,600 --> 00:03:21,315
เหลือเวลาอีกไม่กี่วันก่อนถึง 1 ตุลาคม

74
00:03:21,315 --> 00:03:24,542
พ้นวันที่ 1 ตุลาคมไปแล้วจะเปลี่ยนเป็น $19.99

75
00:03:24,542 --> 00:03:25,635
ต่อเดือน

76
00:03:25,635 --> 00:03:28,936
ซึ่งผมว่าก็ยังถือว่าเป็นราคาที่สมเหตุสมผลอยู่

77
00:03:28,936 --> 00:03:31,797
ถ้าเทียบกับสิ่งที่ผมวางแผนจะทำต่อไปครับ

78
00:03:31,797 --> 00:03:34,951
แต่ก็อยากให้เก็บไว้เป็นข้อมูลถ้าใครสนใจครับ

79
00:03:34,951 --> 00:03:38,032
แล้ว Agent Wikis Pro ได้อะไรบ้าง ทาง Agent

80
00:03:38,032 --> 00:03:40,526
Wikis ฝั่งฟรีคุณได้ knowledge base

81
00:03:40,526 --> 00:03:41,620
(ฐานความรู้)

82
00:03:41,620 --> 00:03:44,187
ปกติทั้งหมดที่เข้าถึงได้ฟรีอยู่แล้ว

83
00:03:44,187 --> 00:03:46,974
ส่วนนั้นไม่เปลี่ยนแปลงครับ ส่วนของ Pro

84
00:03:46,974 --> 00:03:49,615
คุณจะได้ Agent Wikis แบบ extra large

85
00:03:49,615 --> 00:03:50,715
(ขนาดใหญ่พิเศษ)

86
00:03:50,715 --> 00:03:53,723
มีสักหน่อยหลายหัวข้อที่เหมาะจะทำเป็น wiki

87
00:03:53,723 --> 00:03:56,290
ขนาดใหญ่ครับ และเรามี custom skills

88
00:03:56,290 --> 00:03:59,371
(ทักษะพิเศษ) ที่ผมสร้างเพิ่มขึ้นทุกสัปดาห์

89
00:03:59,371 --> 00:04:02,672
ดูที่หน้า skills ได้เลย ตอนนี้มีอยู่ประมาณ 30

90
00:04:02,672 --> 00:04:04,873
อันครับ และเหล่านี้เป็น skills

91
00:04:04,873 --> 00:04:08,100
ของจริงที่พัฒนามาจากการทำงานจริงหลายเดือนกับ

92
00:04:08,100 --> 00:04:10,081
Hermes Agent ในหลายโปรเจกต์

93
00:04:10,081 --> 00:04:13,088
ไม่ใช่ของสังเคราะห์ขึ้นมาครับ เป็น skills

94
00:04:13,088 --> 00:04:15,436
จริงจากกิจกรรมจริงและงานจริงครับ

95
00:04:15,436 --> 00:04:18,223
มีทั้งเรื่องงาน local model งาน visual

96
00:04:18,223 --> 00:04:20,057
จำนวนมาก game development

97
00:04:20,057 --> 00:04:23,211
ส่วนเรื่องคอนเทนต์ก็มีเพราะผมทำคอนเทนต์เยอะ

98
00:04:23,211 --> 00:04:25,925
รวมถึงงานวิจัยทั่วไปและงาน blockchain

99
00:04:25,925 --> 00:04:27,019
ที่ผมชอบทำครับ

100
00:04:27,019 --> 00:04:30,320
หัวข้อหลากหลายสำหรับคนที่สนใจครับ และผมจะค่อย

101
00:04:30,320 --> 00:04:33,400
ๆ เพิ่มเรื่อย ๆ ตอนนี้ทำไว้จริงแล้ว 35 อัน

102
00:04:33,400 --> 00:04:36,628
แต่ยังมี backlog อีกเยอะที่ต้องไล่ดูและทดสอบ

103
00:04:36,628 --> 00:04:39,489
ดังนั้นจะมีเพิ่มทุกสัปดาห์ครับ เรายังมี

104
00:04:39,489 --> 00:04:42,496
exclusive videos (วิดีโอเฉพาะสมาชิก) ด้วย

105
00:04:42,496 --> 00:04:45,504
เพราะมีคนถามหาเรื่องนี้มาก เนื่องจากเรามี

106
00:04:45,504 --> 00:04:47,925
skills และ knowledge base ไว้แล้ว

107
00:04:47,925 --> 00:04:51,152
แต่คนอยากรู้ว่าใช้ยังไง ผมเลยมีคอนเทนต์เฉพาะ

108
00:04:51,152 --> 00:04:54,526
ตอนนี้มีหน้า videos ให้ดูแล้ว มีอยู่สองสามชิ้น

109
00:04:54,526 --> 00:04:57,901
และจะเพิ่มเรื่อย ๆ ครับ ส่วนใหญ่จะเป็นการสาธิต

110
00:04:57,901 --> 00:05:01,128
skills และตอนนี้จะมีการสาธิต specialist ด้วย

111
00:05:01,128 --> 00:05:04,136
คือดูผมทำงานจริงกับ profiles เหล่านี้ ใช้

112
00:05:04,136 --> 00:05:06,630
skills ต่าง ๆ และตั้งค่า workflows

113
00:05:06,630 --> 00:05:08,757
เหล่านี้ครับ วิดีโอ exclusive

114
00:05:08,757 --> 00:05:11,691
เหล่านี้จะอัปโหลดเฉพาะบน Agent Wikis Pro

115
00:05:11,691 --> 00:05:14,332
เท่านั้นครับ และหัวข้อประจำวันนี้คือ

116
00:05:14,332 --> 00:05:15,946
specialist agents ครับ

117
00:05:15,946 --> 00:05:21,007
เหล่านี้คือเอเจนต์สมบูรณ์ที่สร้างมาเพื่องานเดียวและพร้อมติดตั้งใช้งาน

118
00:05:21,007 --> 00:05:24,308
แค่คำสั่งเดียวคุณก็ติดตั้งและใช้งานได้เลยครับ

119
00:05:24,308 --> 00:05:29,370
ผมมีไอเดียนี้มาสำหรับคนที่อยากเริ่มต้นกับเอเจนต์แต่ไม่รู้จะเริ่มยังไง

120
00:05:29,370 --> 00:05:32,597
เพราะแต่ละ profile ใช้เวลาพัฒนาหลายเดือนครับ

121
00:05:32,597 --> 00:05:35,605
การให้ head start กับคนใช้ผ่าน specialist

122
00:05:35,605 --> 00:05:38,466
profiles แบบนี้น่าจะมีประโยชน์ครับ เช่น

123
00:05:38,466 --> 00:05:41,766
ตัวที่เราจะคุยกันวันนี้คือ local LLM tinkerer

124
00:05:41,766 --> 00:05:43,967
พูดง่าย ๆ คือคุณสนใจ local LLM

125
00:05:43,967 --> 00:05:47,341
แต่ไม่รู้จะเริ่มจากตรงไหน มันช่าง overwhelming

126
00:05:47,341 --> 00:05:50,422
(ท่วมท้น) มาก พอติดตั้ง profile นี้คุณก็มี

127
00:05:50,422 --> 00:05:52,770
workflows ในตัวหลายอัน มี skills

128
00:05:52,770 --> 00:05:55,850
ทั้งหมดประมาณเก้าอัน พร้อม guides (คู่มือ)

129
00:05:55,850 --> 00:05:57,978
ต่าง ๆ ช่วยให้เริ่มต้นได้ครับ

130
00:05:57,978 --> 00:06:00,838
นี่คือตัวแรกที่จะทำ แต่ยังมี specialist

131
00:06:00,838 --> 00:06:04,213
อื่นที่วางไว้เช่น researcher software engineer

132
00:06:04,213 --> 00:06:07,294
on-chain analyst social arb trader iOS app

133
00:06:07,294 --> 00:06:08,907
builder และอีกเยอะครับ

134
00:06:08,907 --> 00:06:12,208
ทั้งหมดนี้จะเดินตามความสนใจของผมเอง คือ local

135
00:06:12,208 --> 00:06:14,849
LLM การเทรด การเขียนซอฟต์แวร์ และงาน

136
00:06:14,849 --> 00:06:16,903
blockchain หรืองานออนเชนครับ

137
00:06:16,903 --> 00:06:20,131
สุดท้ายอันนี้เป็นของใหม่ที่จะเริ่มออกคือ Q&A

138
00:06:20,131 --> 00:06:23,358
newsletter ครับ ผมมี Agent Wikis อยู่แล้ว มี

139
00:06:23,358 --> 00:06:25,706
newsletter ชื่อ AI Garage Weekly

140
00:06:25,706 --> 00:06:27,246
ที่หลายคนน่าจะเคยเห็น

141
00:06:27,246 --> 00:06:31,134
ซึ่งเป็นที่ที่ผมเขียนความคิดเห็นเรื่องคอนเทนต์และข่าว

142
00:06:31,134 --> 00:06:34,435
AI ที่ออกมา ไม่ว่าจะโมเดลใหม่หรือโปรเจกต์ใหม่

143
00:06:34,435 --> 00:06:35,528
ๆ

144
00:06:35,528 --> 00:06:39,049
รวมถึงสถานะความคืบหน้าของโปรเจกต์ที่ผมทำอยู่ครับ

145
00:06:39,049 --> 00:06:41,176
ส่วนตัวนี้จะเน้น Q&A เป็นหลัก

146
00:06:41,176 --> 00:06:44,404
เพราะผมได้รับคำถามเยอะมากทั้งบน YouTube บน X

147
00:06:44,404 --> 00:06:47,338
และทางอีเมลทุกสัปดาห์ ผมพยายามตอบเต็มที่

148
00:06:47,338 --> 00:06:49,318
แต่ก็ตอบลึกซึ้งมาก ๆ ไม่ได้

149
00:06:49,318 --> 00:06:52,619
และบางทีก็ตอบช้าครับ เลยอยากทำ newsletter แบบ

150
00:06:52,619 --> 00:06:54,600
Q&A หรือ mailbag newsletter

151
00:06:54,600 --> 00:06:59,001
คือหยิบคำถามสำคัญหรือน่าสนใจที่ได้รับในแต่ละสัปดาห์มาตอบเป็น

152
00:06:59,001 --> 00:07:02,302
newsletter รายสัปดาห์สำหรับสมาชิก Agent Wikis

153
00:07:02,302 --> 00:07:04,723
Pro ครับ นี่คือแผนที่มีอยู่ตอนนี้

154
00:07:04,723 --> 00:07:07,510
และทั้งหมดรวมอยู่ใน subscription เดียว

155
00:07:07,510 --> 00:07:10,885
ไม่มีการขายแยกชิ้น ผมอยากให้เรียบง่ายที่สุด มี

156
00:07:10,885 --> 00:07:14,185
tier เดียวรวมทุกอย่าง ในราคาที่สมเหตุสมผล แม้

157
00:07:14,185 --> 00:07:16,386
$20 ต่อเดือนผมก็ว่าแฟร์พอสมควร

158
00:07:16,386 --> 00:07:19,614
เทียบกับที่เคยเห็นครีเอเตอร์บางคนขายชุมชน AI

159
00:07:19,614 --> 00:07:22,034
coding ราคาเกิน $100 ต่อเดือนครับ

160
00:07:22,034 --> 00:07:24,602
และผมจะสานต่อสิ่งเหล่านี้ไปเรื่อย ๆ

161
00:07:24,602 --> 00:07:28,636
เพราะทุกอย่างที่ผมสร้างเพื่อเอเจนต์และเครื่องมือเอเจนต์

162
00:07:28,636 --> 00:07:30,617
จะเข้ามาอยู่ใน subscription

163
00:07:30,617 --> 00:07:33,698
เดียวนี้ทั้งหมดครับ นี่คือ pitch ขาย Agent

164
00:07:33,698 --> 00:07:35,091
Wikis Pro ของผมครับ

165
00:07:35,091 --> 00:07:38,612
และขอขอบคุณอีกครั้งสำหรับทุกคนที่สมัครไปแล้วครับ

166
00:07:38,612 --> 00:07:40,079
แต่มาต่อกันเลยดีกว่า

167
00:07:40,079 --> 00:07:42,794
ทำไมต้องเป็นเอเจนต์เฉพาะทาง พูดง่าย ๆ

168
00:07:42,794 --> 00:07:43,894
คือเอเจนต์ที่ดี

169
00:07:43,894 --> 00:07:46,241
ส่วนใหญ่อยู่ที่การตั้งค่ามันครับ

170
00:07:46,241 --> 00:07:49,542
เอเจนต์แบบทั่วไปทำได้เกือบทุกอย่างแต่ทำได้แย่

171
00:07:49,542 --> 00:07:52,770
จนกว่าใครสักคนจะต่อสายให้มันพร้อมทำงานนั้น ๆ

172
00:07:52,770 --> 00:07:53,863
และอย่างที่บอก

173
00:07:53,863 --> 00:07:56,724
ตอนนี้ภาระการต่อสายนั้นอยู่ที่ตัวคุณเอง

174
00:07:56,724 --> 00:07:59,365
ใช้เวลาหลายสัปดาห์ของการลองผิดลองถูก

175
00:07:59,365 --> 00:08:02,519
หรืออาจถึงหลายเดือนเลยครับ และนี่คือสิ่งที่

176
00:08:02,519 --> 00:08:03,839
specialist ช่วยได้

177
00:08:03,839 --> 00:08:06,847
มันมาพร้อมสายที่ต่อเสร็จแล้ว คือ know-how

178
00:08:06,847 --> 00:08:09,707
(ความรู้ในตัว) ว่าควรติดตั้ง skills ไหน

179
00:08:09,707 --> 00:08:13,302
อันไหนบรรจุบทเรียนที่ได้มาอย่างยากลำบากของงานนั้น

180
00:08:13,302 --> 00:08:16,309
ข้อเท็จจริงปัจจุบัน ต่อด้วยเครื่องมือ และ

181
00:08:16,309 --> 00:08:18,950
guardrails (กลไกกันเอเจนต์ทำอันตราย)

182
00:08:18,950 --> 00:08:20,637
ซึ่งสำคัญมากเช่นกันครับ

183
00:08:20,637 --> 00:08:24,011
หนึ่งเอเจนต์ต่อหนึ่งงาน หนึ่งคำสั่งติดตั้งครับ

184
00:08:24,011 --> 00:08:25,105
specialist

185
00:08:25,105 --> 00:08:28,846
ก็คือแพ็กเกจเอเจนต์สมบูรณ์สำหรับหนึ่งขอบข่ายงานครับ

186
00:08:28,846 --> 00:08:31,340
มันรันบน Hermes Agent เป็น profile

187
00:08:31,340 --> 00:08:33,467
(โปรไฟล์การตั้งค่า) ของตัวเอง

188
00:08:33,467 --> 00:08:35,741
อยู่ข้างเอเจนต์ที่คุณมีอยู่แล้ว

189
00:08:35,741 --> 00:08:39,042
ต้องบอกไว้ก่อนว่านี่คือรีลีสส่วนตัวของผม เป็น

190
00:08:39,042 --> 00:08:41,463
specialist agents ส่วนตัวของผมเอง

191
00:08:41,463 --> 00:08:44,837
ไม่เกี่ยวข้องกับ Nous Research (บริษัทวิจัย AI

192
00:08:44,837 --> 00:08:48,211
ผู้สร้าง Hermes) โดยไม่มีส่วนเกี่ยวข้องเลยครับ

193
00:08:48,211 --> 00:08:51,145
แต่ละตัวจะมาพร้อมอะไรบ้าง ได้แก่ soul.md

194
00:08:51,145 --> 00:08:54,226
สำหรับบุคลิกและ house rules (กติกาพื้นฐาน)

195
00:08:54,226 --> 00:08:55,320
guide.md

196
00:08:55,320 --> 00:08:59,134
เป็นคู่มือผู้ใช้ที่คุณอ่านเองหรือให้เอเจนต์อ่านก็ได้

197
00:08:59,134 --> 00:09:02,435
แล้วก็ config skills tools templates และ cron

198
00:09:02,435 --> 00:09:05,076
jobs (งานตามตารางเวลาอัตโนมัติ) ครับ

199
00:09:05,076 --> 00:09:07,423
ส่วนอย่างอื่นเช่น local settings

200
00:09:07,423 --> 00:09:10,210
จะไม่ถูกแตะต้องเลย memories เป็นของคุณ

201
00:09:10,210 --> 00:09:13,511
sessions ก็เป็นของคุณครับ คุณต้องเตรียม model

202
00:09:13,511 --> 00:09:16,299
ของตัวเองมาด้วย (bring your own model)

203
00:09:16,299 --> 00:09:18,279
แล้วค่อยต่อยอดจากตรงนั้นได้

204
00:09:18,279 --> 00:09:22,681
แต่แพ็กเกจนี้จะเป็นจุดเริ่มต้นที่ดีสำหรับทำงานกับเอเจนต์ครับ

205
00:09:22,681 --> 00:09:24,955
มาดูรายละเอียดแต่ละส่วนกัน มี 6

206
00:09:24,955 --> 00:09:28,329
ส่วนในหนึ่งแพ็กเกจครับ หนึ่งคือบุคลิกและ house

207
00:09:28,329 --> 00:09:30,456
rules คือเอเจนต์ตัวนี้เป็นใคร

208
00:09:30,456 --> 00:09:33,977
และกฎที่ห้ามข้ามสำหรับขอบข่ายงานนั้นในทุกบทสนทนา

209
00:09:33,977 --> 00:09:37,278
สองคือ expertise (ความเชี่ยวชาญ) เป็นการบรรจุ

210
00:09:37,278 --> 00:09:39,552
skills ที่ผมคัดมาแล้วจากงานจริง

211
00:09:39,552 --> 00:09:42,486
โหลดอัตโนมัติเมื่อมีงานเรียกใช้ครับ ผมมี

212
00:09:42,486 --> 00:09:44,980
skills อยู่แล้วในนั้น มีเยอะแยะเลย

213
00:09:44,980 --> 00:09:47,841
แต่ผมคัดเลือกว่าอันไหนเข้าไปอยู่ในแต่ละ

214
00:09:47,841 --> 00:09:51,142
profile แล้วเอามาใช้จริงในเอเจนต์เฉพาะทางครับ

215
00:09:51,142 --> 00:09:54,443
สามคือ knowledge (ความรู้) คุณมีสิทธิ์เข้าถึง

216
00:09:54,443 --> 00:09:57,450
agent wikis ที่เกี่ยวข้องแบบสด ๆ ผ่าน MCP

217
00:09:57,450 --> 00:10:00,165
(โปรโตคอลเชื่อมต่อเครื่องมือกับโมเดล)

218
00:10:00,165 --> 00:10:03,392
โดยต่อพร้อมมาในตัวเอเจนต์ มันรู้ว่าต้องไปที่

219
00:10:03,392 --> 00:10:06,473
MCP ของ agent wikis รวมถึงหน้า extra large

220
00:10:06,473 --> 00:10:09,627
ด้วย เพราะคุณจะมี pro key ครับ สี่คือ tools

221
00:10:09,627 --> 00:10:12,855
(เครื่องมือ) สคริปต์ harnesses และ templates

222
00:10:12,855 --> 00:10:16,009
ที่ทดสอบแล้วพร้อมรัน ผมพยายามให้ค่อนข้างเบา

223
00:10:16,009 --> 00:10:18,796
ไม่อยากให้แพ็กเกจบวม แต่เช่น local LLM

224
00:10:18,796 --> 00:10:19,890
tinkerer

225
00:10:19,890 --> 00:10:22,971
มีสคริปต์หลายตัวที่ช่วยให้ทำงานราบรื่นครับ

226
00:10:22,971 --> 00:10:25,831
ห้าคือ routines (กิจวัตรอัตโนมัติ) เป็น

227
00:10:25,831 --> 00:10:28,766
workflows ตามตารางเวลา เช่น รายงาน การ์ด

228
00:10:28,766 --> 00:10:31,920
และการตรวจสอบยามค่ำคืน พัฒนามาจาก workflows

229
00:10:31,920 --> 00:10:34,781
ของผมเองและสิ่งที่ผมพบว่ามีประโยชน์ครับ

230
00:10:34,781 --> 00:10:37,568
ค่าเริ่มต้นจะปิดไว้ จนกว่าคุณจะเปิดเอง

231
00:10:37,568 --> 00:10:39,769
เพราะผมไม่อยากให้มันกิน tokens

232
00:10:39,769 --> 00:10:41,969
(หน่วยข้อความที่โมเดลประมวลผล)

233
00:10:41,969 --> 00:10:44,023
ไปกับสิ่งที่คุณไม่ได้ต้องการ

234
00:10:44,023 --> 00:10:47,251
แต่คุณไล่ดูได้ง่าย ๆ ว่าอะไรมีประโยชน์กับคุณ

235
00:10:47,251 --> 00:10:50,258
หรือปรับแต่งตามใจได้เลยครับ และหกคือ user

236
00:10:50,258 --> 00:10:51,725
guide (คู่มือผู้ใช้)

237
00:10:51,725 --> 00:10:55,613
คู่มือภาษาคนทั่วไปอธิบายทุกอย่างที่มีและทำอะไรได้บ้าง

238
00:10:55,613 --> 00:10:58,327
พร้อมตัวอย่างที่คุณลองทำตามได้เองครับ

239
00:10:58,327 --> 00:11:01,702
จุดที่ดีคือ Hermes agent ทำให้เรื่องนี้ง่ายมาก

240
00:11:01,702 --> 00:11:04,929
ตั้งแต่ดาวน์โหลดจนได้คำตอบแรก ง่าย ๆ เลย แค่

241
00:11:04,929 --> 00:11:07,863
hermes profile install ตามด้วย directory

242
00:11:07,863 --> 00:11:10,944
ที่คุณอยากให้ไปอยู่ครับ แล้วคุณสร้าง alias

243
00:11:10,944 --> 00:11:13,732
ให้มันหรือใช้ชื่อเดิมก็ได้ จากนั้นเช่น

244
00:11:13,732 --> 00:11:17,033
อันนี้เขียนว่า specialist แต่สำหรับ local LLM

245
00:11:17,033 --> 00:11:20,333
tinkerer คุณก็แค่ใส่ชื่อนั้นตรงนี้ คุณเปลี่ยน

246
00:11:20,333 --> 00:11:23,634
model ได้ด้วยคำสั่ง model เดิม ๆ ในเทอร์มินัล

247
00:11:23,634 --> 00:11:25,688
แล้วคุยกับมันได้เลยด้วย chat

248
00:11:25,688 --> 00:11:27,742
เหมือนที่คุณใช้ปกติครับ โอเค

249
00:11:27,742 --> 00:11:31,043
ผมจะโชว์ตัวอย่างจริงกันครับ นั่นคือ local LLM

250
00:11:31,043 --> 00:11:33,831
tinkerer และเราจะลงมือใช้งานมันกันด้วย

251
00:11:33,831 --> 00:11:35,004
พอคุณดูวิดีโอนี้

252
00:11:35,004 --> 00:11:38,085
มันจะพร้อมใช้งานบนเว็บไซต์แล้วครับ นี่เป็น

253
00:11:38,085 --> 00:11:40,946
specialist สำหรับรัน open weight models

254
00:11:40,946 --> 00:11:43,587
(โมเดลที่เปิดเผยน้ำหนักให้ดาวน์โหลด)

255
00:11:43,587 --> 00:11:45,054
บนฮาร์ดแวร์ของคุณเอง

256
00:11:45,054 --> 00:11:46,961
รันเซิร์ฟเวอร์อย่างปลอดภัย

257
00:11:46,961 --> 00:11:50,262
วัดผลอย่างตรงไปตรงมา ย่อขนาดด้วย quantization

258
00:11:50,262 --> 00:11:53,269
(การควอนไทซ์ลดความละเอียดของน้ำหนักโมเดล)

259
00:11:53,269 --> 00:11:56,277
และหาคำตอบว่าโมเดลนั้นดีจริงหรือเปล่าครับ

260
00:11:56,277 --> 00:11:59,284
สร้างบน DGX Spark (เครื่อง AI ขนาดเล็กของ

261
00:11:59,284 --> 00:12:01,999
Nvidia) ของผม แต่ใช้ได้กับเครื่อง GPU

262
00:12:01,999 --> 00:12:03,832
ทุกเครื่อง ถ้าคุณมี Spark

263
00:12:03,832 --> 00:12:06,326
อยู่แล้วยิ่งจะมีประโยชน์เข้าไปใหญ่

264
00:12:06,326 --> 00:12:09,701
และมันถูกปรับจูนมาสำหรับเครื่อง unified memory

265
00:12:09,701 --> 00:12:12,415
(หน่วยความจำรวมที่ใช้ร่วมกันทั้งระบบ)

266
00:12:12,415 --> 00:12:14,542
ที่โมเดลตัวใหญ่เกินตัวหนึ่ง ๆ

267
00:12:14,542 --> 00:12:17,843
สามารถล้มทั้งระบบได้ ใช้ได้ดีกับเครื่อง Linux

268
00:12:17,843 --> 00:12:20,997
ที่มี GPU ทุกเครื่องครับ มาพร้อม 9 skills 6

269
00:12:20,997 --> 00:12:23,418
wikis 3 tools และ 3 routines ครับ

270
00:12:23,418 --> 00:12:27,012
หลักการคือสร้างมาให้ปกป้องเครื่องเป็นอย่างแรกครับ

271
00:12:27,012 --> 00:12:28,846
ปัญหาใหญ่อันหนึ่งที่ผมเจอ

272
00:12:28,846 --> 00:12:32,074
และเชื่อว่าคนจำนวนมากจะเจอตอนเริ่มเล่น local

273
00:12:32,074 --> 00:12:34,935
LLM คือ ถ้าไม่ระวัง เอเจนต์อาจบ้าดาวดาว

274
00:12:34,935 --> 00:12:37,942
ดาวน์โหลดทุกอย่างและรันอะไรพร้อมกันมากมาย

275
00:12:37,942 --> 00:12:40,950
จนหน่วยความจำหมดและเกิดปัญหาฮาร์ดแวร์ครับ

276
00:12:40,950 --> 00:12:45,571
ผมเลยทุ่มเทความพยายามมากพอสมควรเพื่อหลีกเลี่ยงสถานการณ์นั้นครับ

277
00:12:45,571 --> 00:12:48,505
กฎข้อแรกคือ เอเจนต์ที่กำลังรับคำสั่งอยู่

278
00:12:48,505 --> 00:12:50,779
หรือโมเดลที่รันอยู่บนเอเจนต์นี้

279
00:12:50,779 --> 00:12:53,053
ไม่ใช่โมเดลที่กำลังถูกทดสอบครับ

280
00:12:53,053 --> 00:12:56,354
มันคิดด้วยโมเดลของตัวเอง เช่น ถ้าคุณใช้ GPT-6

281
00:12:56,354 --> 00:12:57,894
(โมเดลภาษาของ OpenAI)

282
00:12:57,894 --> 00:12:59,728
นั่นคือโมเดลที่รันเอเจนต์

283
00:12:59,728 --> 00:13:02,442
แล้วมันค่อยไปทำงานกับโมเดลอื่น ๆ ครับ

284
00:13:02,442 --> 00:13:06,037
การรีสตาร์ทเซิร์ฟเวอร์จึงไม่มีวันตัดสมองของมันขาด

285
00:13:06,037 --> 00:13:10,951
เพราะคุณคงไม่ทดสอบโมเดลตัวเดียวกับที่เอเจนต์ใช้อยู่แน่นอนใช่ไหมครับ

286
00:13:10,951 --> 00:13:12,712
มี buffer (พื้นที่สำรอง)

287
00:13:12,712 --> 00:13:15,499
เสมอสำหรับหน่วยความจำของระบบปฏิบัติการ

288
00:13:15,499 --> 00:13:17,260
การรีวิวไม่ใช่การรันจริง

289
00:13:17,260 --> 00:13:20,634
การวางแผนไม่โหลดน้ำหนักใด ๆ จนกว่าคุณจะอนุมัติ

290
00:13:20,634 --> 00:13:23,275
ซึ่งสำคัญมาก มันวัดค่าจริงเสมอไม่เดา

291
00:13:23,275 --> 00:13:25,475
การโหลดล้มเหลวรายงานว่าล้มเหลว

292
00:13:25,475 --> 00:13:26,649
ไม่ใช่ไปนับคะแนน

293
00:13:26,649 --> 00:13:29,437
รันเซิร์ฟเวอร์โมเดลใหญ่ทีละตัวเท่านั้น

294
00:13:29,437 --> 00:13:33,985
เพราะถ้ารันเซิร์ฟเวอร์หลายตัวพร้อมกันจะเกิดปัญหาหน่วยความจำได้

295
00:13:33,985 --> 00:13:37,285
ไม่ดาวน์โหลดอะไรโดยไม่ถามก่อน เพราะไฟล์ local

296
00:13:37,285 --> 00:13:39,926
LLM เหล่านี้ใหญ่มาก สำคัญเช่นกันครับ

297
00:13:39,926 --> 00:13:43,227
หยุดเฉพาะสิ่งที่ตัวเองรันเท่านั้น คำสั่ง stop

298
00:13:43,227 --> 00:13:45,795
ที่หงุดหงิดจะไม่ฆ่า run ที่คุณใส่ใจ

299
00:13:45,795 --> 00:13:48,949
และโค้ดที่โมเดลเขียนจะไม่ถูกรันบนเครื่องคุณ

300
00:13:48,949 --> 00:13:50,049
มีแต่ใน sandbox

301
00:13:50,049 --> 00:13:52,396
(สภาพแวดล้อมแยกที่จำกัดการทำงาน)

302
00:13:52,396 --> 00:13:55,184
ที่ล็อกดาวน์เท่านั้นครับ นี่คือกฎของผม

303
00:13:55,184 --> 00:13:58,411
และแน่นอนว่าพอดาวน์โหลด specialist นี้ไปแล้ว

304
00:13:58,411 --> 00:14:00,245
คุณเปลี่ยนแปลงได้ตามใจเลย

305
00:14:00,245 --> 00:14:03,620
แต่นี่คือสิ่งที่ผมพบว่าได้ผลครับ ทั้ง 9 skills

306
00:14:03,620 --> 00:14:05,453
นี้คุณเข้าถึงได้หมดตอนนี้

307
00:14:05,453 --> 00:14:08,314
ทั้งหมดจะอยู่บนเอเจนต์ รวมถึง local LLM

308
00:14:08,314 --> 00:14:11,615
benchmarking (การทดสอบเปรียบเทียบประสิทธิภาพ)

309
00:14:11,615 --> 00:14:14,989
และ evaluation (การประเมินคุณภาพ) quantization

310
00:14:14,989 --> 00:14:16,083
และ skills

311
00:14:16,083 --> 00:14:19,237
ที่มีประโยชน์มากอีกหลายตัวสำหรับเอเจนต์ครับ

312
00:14:19,237 --> 00:14:21,144
ส่วน tools ที่ผ่านการทดสอบ

313
00:14:21,144 --> 00:14:24,005
เหล่านี้คือเครื่องมือจริงที่จะฝังอยู่ใน

314
00:14:24,005 --> 00:14:27,379
specialist agent และเป็นของ custom ทั้งหมดครับ

315
00:14:27,379 --> 00:14:30,387
แม้บางตัวจะตั้งอยู่บน repo โอเพนซอร์สอื่น

316
00:14:30,387 --> 00:14:33,321
ซึ่งให้เครดิตไว้แล้ว ผมพัฒนา local bench

317
00:14:33,321 --> 00:14:36,475
ตัวเล็ก ๆ ที่ทดสอบการดีพลอยย์เต็มรูปแบบผ่าน

318
00:14:36,475 --> 00:14:39,409
API tool calls ของมัน พร้อมแบบทดสอบ eval

319
00:14:39,409 --> 00:14:42,784
หลายรูปแบบ คือ latency (ความหน่วง) concurrency

320
00:14:42,784 --> 00:14:45,204
(การทำงานพร้อมกัน) และ throughput

321
00:14:45,204 --> 00:14:48,065
(อัตราการไหลของงาน) ครับ เป็นวิธีง่าย ๆ

322
00:14:48,065 --> 00:14:50,192
ในการเทียบโมเดลเรื่องความเร็ว

323
00:14:50,192 --> 00:14:53,273
และเรื่องคณิตกับการทำตามคำสั่งครับ ทุกคนมี

324
00:14:53,273 --> 00:14:55,987
custom benchmark ของตัวเองกันทั้งนั้น

325
00:14:55,987 --> 00:14:58,995
แต่อันนี้เป็นจุดเริ่มต้นให้คุณครับ Memory

326
00:14:58,995 --> 00:15:01,489
watchdog (ตัวเฝ้าระวังหน่วยความจำ)

327
00:15:01,489 --> 00:15:03,763
รันข้างเซิร์ฟเวอร์โมเดลหนึ่งตัว

328
00:15:03,763 --> 00:15:07,064
และหยุดเฉพาะเซิร์ฟเวอร์นั้นครับ ทำหน้าที่เป็น

329
00:15:07,064 --> 00:15:08,157
watchdog

330
00:15:08,157 --> 00:15:11,385
คอยบอกว่ามีปัญหาหน่วยความจำเกิดขึ้นหรือเปล่า

331
00:15:11,385 --> 00:15:13,732
และจะหยุดเซิร์ฟเวอร์อย่างปลอดภัย

332
00:15:13,732 --> 00:15:16,519
ไม่ให้ทั้งระบบพังเรียบครับ MP TQ (สูตร

333
00:15:16,519 --> 00:15:19,894
quantization ที่พิสูจน์แล้ว อ้างอิงจากโปรเจกต์

334
00:15:19,894 --> 00:15:21,507
Microllm quantization)

335
00:15:21,507 --> 00:15:24,222
เป็นสูตรสำเร็จรูปที่พิสูจน์แล้วสำหรับ

336
00:15:24,222 --> 00:15:27,596
quantization และ EXL2 (ฟอร์แมตโมเดลที่ย่อขนาด)

337
00:15:27,596 --> 00:15:30,750
มี skills และ workflows เรื่อง quantization

338
00:15:30,750 --> 00:15:33,317
อีกหลายตัว แต่นี่คือหนึ่งในนั้นครับ

339
00:15:33,317 --> 00:15:36,545
อันนี้ผมไม่ได้พัฒนาคนเดียว ผมทำเพียง tooling

340
00:15:36,545 --> 00:15:39,773
สำหรับใช้มันเท่านั้น แล้วก็ launch templates

341
00:15:39,773 --> 00:15:42,120
(เทมเพลตสำหรับสตาร์ทเซิร์ฟเวอร์)

342
00:15:42,120 --> 00:15:45,274
จุดเริ่มต้นที่ปลอดภัยสำหรับ vLLM Docker และ

343
00:15:45,274 --> 00:15:47,768
llama server พร้อม readiness check

344
00:15:47,768 --> 00:15:51,143
(การตรวจความพร้อม) แบบ exact answer canary และ

345
00:15:51,143 --> 00:15:53,930
memory guard สำหรับรัน benchmarks หรือ

346
00:15:53,930 --> 00:15:57,158
workflows quantization เหล่านี้ครับ routines

347
00:15:57,158 --> 00:15:59,945
ทั้งสามอันที่มาพร้อม ปิดไว้ทั้งหมดครับ

348
00:15:59,945 --> 00:16:03,246
แต่ละอันอ่านไฟล์ settings ไฟล์เดียวที่คุณกรอก

349
00:16:03,246 --> 00:16:06,107
และเงียบอยู่จนกว่าจะมีอะไรน่ารายงานครับ

350
00:16:06,107 --> 00:16:07,941
อันแรกคือ campaign status

351
00:16:07,941 --> 00:16:10,581
รายงานแบบอ่านอย่างเดียวของ run ยาว ๆ

352
00:16:10,581 --> 00:16:16,890
ไม่เกิน 12 บรรทัดครับ อันนี้สำคัญ เพราะ run จำนวนมากที่คุณจะรันใช้เวลาหลายชั่วโมงมาก ๆ

353
00:16:16,890 --> 00:16:17,983
ครับ

354
00:16:17,983 --> 00:16:23,118
การมีอะไรสักอย่างที่ส่งรายงานสถานะแบบนี้ระหว่างวันจึงมีประโยชน์มากครับ

355
00:16:23,118 --> 00:16:25,759
อันที่สองคือ campaign deadline guard

356
00:16:25,759 --> 00:16:28,693
(ตัวคุมกำหนดส่งของแคมเปญ) เขียนไฟล์ stop

357
00:16:28,693 --> 00:16:31,187
ครั้งเดียว ไม่มี run ใหม่เริ่มขึ้น

358
00:16:31,187 --> 00:16:34,488
มันไม่หยุดโปรเซสใด ๆ เลยและไม่ใช้โมเดลเลยครับ

359
00:16:34,488 --> 00:16:37,569
สำหรับกรณีที่คุณมี deadline เฉพาะของแคมเปญ

360
00:16:37,569 --> 00:16:39,916
มันจะดูแลให้หยุด run ตามเวลานั้น

361
00:16:39,916 --> 00:16:41,236
และกันไม่ให้มี run

362
00:16:41,236 --> 00:16:44,391
ใหม่ถูกปล่อยออกไปโดยที่คุณไม่รู้ตัวครับ และ

363
00:16:44,391 --> 00:16:47,471
nightly regression (การทดสอบถอยหลังทุกคืน)

364
00:16:47,471 --> 00:16:50,772
ทดสอบโมเดลที่คุณลิสต์ไว้ เทียบกับผลของคืนก่อน

365
00:16:50,772 --> 00:16:52,753
และรายงานเฉพาะชะลอตัวจริง ๆ

366
00:16:52,753 --> 00:16:56,054
ถ้าเครื่องยุ่งอยู่ก็จะข้ามคืนนั้นครับ ใช้เป็น

367
00:16:56,054 --> 00:16:58,841
cron job ยามค่ำคืนได้เลยถ้าอยากใช้ครับ

368
00:16:58,841 --> 00:17:02,216
นี่คือสไตล์การพูดของมัน และสิ่งที่คุณถามมันได้

369
00:17:02,216 --> 00:17:05,516
เช่น ขอ benchmark เรื่องความเร็ว เรื่องคุณภาพ

370
00:17:05,516 --> 00:17:08,597
งานเก็บกวาด เช่น มีอะไรกิน GPU memory อยู่

371
00:17:08,597 --> 00:17:11,898
หามาให้หน่อย แต่ยังไม่ต้องหยุดอะไร หรือเรื่อง

372
00:17:11,898 --> 00:17:15,126
quantization ครับ ตอนพัฒนา specialist agents

373
00:17:15,126 --> 00:17:17,547
ต้องคิดให้ดีว่าจะให้ละเอียดแค่ไหน

374
00:17:17,547 --> 00:17:19,527
และอะไรที่เป็นงาน local LLM

375
00:17:19,527 --> 00:17:22,681
โดยพื้นฐานแล้วจะเป็นส่วนหนึ่งของ specialist

376
00:17:22,681 --> 00:17:24,368
agent ตัวนี้ครับ เอาล่ะ

377
00:17:24,368 --> 00:17:26,642
นี่ก็คือบทสรุปว่ามันคืออะไรครับ

378
00:17:26,642 --> 00:17:28,916
ถ้าดูในไฟล์ข้างล่างนี่คือ guide

379
00:17:28,916 --> 00:17:30,897
มีไฟล์หลายไฟล์ที่มาพร้อมกัน

380
00:17:30,897 --> 00:17:34,271
แต่อันนี้คือคู่มือผู้ใช้ของ local LLM tinkerer

381
00:17:34,271 --> 00:17:35,518
ครับ อ่านเองก็ได้

382
00:17:35,518 --> 00:17:37,866
หรือจะให้เอเจนต์สรุปให้ก็ได้ครับ

383
00:17:37,866 --> 00:17:40,800
มันเล่าวิธีติดตั้ง นี่คือเอกสารของตัวนี้

384
00:17:40,800 --> 00:17:44,027
วิธีติดตั้ง วิธีเลือกโมเดลประจำตัวของเอเจนต์

385
00:17:44,027 --> 00:17:46,301
ทั้งหมดนี้ทำงานกับ Hermes agent

386
00:17:46,301 --> 00:17:48,722
แต่ก็ย้ายไปใช้กับ agent harnesses

387
00:17:48,722 --> 00:17:51,583
(ตัวรันเอเจนต์) ตัวอื่นได้ไม่ยากนักครับ

388
00:17:51,583 --> 00:17:54,517
หลายตัวทำงานคล้ายกัน รวมถึงวิธีคุยกับมัน

389
00:17:54,517 --> 00:17:56,864
และข้างในมีอะไรบ้าง นี่คือ guide

390
00:17:56,864 --> 00:17:59,945
ฉบับเต็มถ้าอยากอ่านครับ นี่คือตัวอย่างไฟล์

391
00:17:59,945 --> 00:18:03,173
soul.md คุณคือ local LLM tinkerer specialist

392
00:18:03,173 --> 00:18:05,887
agent สำหรับรันโมเดล open weight ครับ

393
00:18:05,887 --> 00:18:08,968
มันอธิบายว่าคุณไม่ใช่โมเดลที่กำลังถูกทดสอบ

394
00:18:08,968 --> 00:18:11,829
กำหนดกรอบการทำงาน วิธีทำงาน house rules

395
00:18:11,829 --> 00:18:14,763
และวิธีรายงานผล ทั้งหมดนี้คือส่วนสำคัญใน

396
00:18:14,763 --> 00:18:17,257
soul.md ของมันครับ ส่วน skills.txt

397
00:18:17,257 --> 00:18:20,411
เปรียบเสมือนทะเบียนรายชื่อของ skills เรื่อง

398
00:18:20,411 --> 00:18:22,685
local LLM ทั้งหมดที่มันจะมีครับ

399
00:18:22,685 --> 00:18:25,986
และจุดที่ดีคือพอคุณได้ specialist agent นี้มา

400
00:18:25,986 --> 00:18:29,140
คุณจะสามารถต่อยอดจากสิ่งเหล่านี้ได้ด้วยครับ

401
00:18:29,140 --> 00:18:31,854
ดูที่ has cron ได้เลย มีสคริปต์ต่าง ๆ

402
00:18:31,854 --> 00:18:33,468
templates รวมถึง tools

403
00:18:33,468 --> 00:18:36,255
ที่เอเจนต์เข้าถึงได้ทั้งหมดครับ เอาล่ะ

404
00:18:36,255 --> 00:18:37,649
แสดงให้ดูแค่นี้แหละ

405
00:18:37,649 --> 00:18:40,583
มาลงมือใช้งานจริงกันเถอะครับ และอีกครั้ง

406
00:18:40,583 --> 00:18:43,664
วิธีคุยกับมันก็แค่ local LLM tinkerer chat

407
00:18:43,664 --> 00:18:46,818
หลังติดตั้งเสร็จแล้ว แล้วมาเลยครับ เราจะใช้

408
00:18:46,818 --> 00:18:49,532
GPT-6 Sol ครับ เราจะคุยกับมันสักหน่อย

409
00:18:49,532 --> 00:18:50,626
ผมพิมพ์ว่า

410
00:18:50,626 --> 00:18:53,780
คุณต้องการอะไรจากผมบ้างในการรันแคมเปญ local

411
00:18:53,780 --> 00:18:55,614
bench แบบสั้นบนเครื่องนี้

412
00:18:55,614 --> 00:18:57,888
ตรวจสอบว่ามีอะไรติดตั้งอยู่แล้ว

413
00:18:57,888 --> 00:19:00,382
แต่ยังไม่ต้องสตาร์ทหรือโหลดอะไรเลย

414
00:19:00,382 --> 00:19:02,582
พอเห็นไหมครับว่ามันโหลด skills

415
00:19:02,582 --> 00:19:05,663
หลายตัวขึ้นมาทันที และทั้งหมดนี้คือ custom

416
00:19:05,663 --> 00:19:08,377
skills ของผมครับ แล้วก็มาถึงคำตอบครับ

417
00:19:08,377 --> 00:19:11,752
มีอะไรบ้าง ซอร์สของ local bench มีอยู่ sandbox

418
00:19:11,752 --> 00:19:14,246
image ของ human eval มีอยู่ Ollama

419
00:19:14,246 --> 00:19:17,620
(เครื่องมือรันโมเดลท้องถิ่น) มีอยู่บนเครื่องผม

420
00:19:17,620 --> 00:19:20,701
แน่นอนว่า specialist agent จะไม่ได้มาพร้อม

421
00:19:20,701 --> 00:19:23,635
Ollama คุณต้องติดตั้งเอง แต่เรามี guides

422
00:19:23,635 --> 00:19:27,009
ครบให้ทำตามครับ ต่อมาผมอยากให้มันสร้าง sandbox

423
00:19:27,009 --> 00:19:30,384
ของ local human eval และโชว์ผล self-test ให้ดู

424
00:19:30,384 --> 00:19:32,731
โดยยังไม่ต้องลอนช์โมเดลใด ๆ ครับ

425
00:19:32,731 --> 00:19:35,738
เห็นไหมครับว่ามันใช้ skills การประเมินและ

426
00:19:35,738 --> 00:19:38,306
benchmarking ของ local LLM อีกครั้ง

427
00:19:38,306 --> 00:19:41,387
พร้อมด้วยสคริปต์ Python แบบ human eval one

428
00:19:41,387 --> 00:19:44,614
shot ที่จะมาพร้อมเอเจนต์ครับ และอย่างที่เห็น

429
00:19:44,614 --> 00:19:46,008
ทุกอย่างผ่านหมดครับ

430
00:19:46,008 --> 00:19:50,409
และควรบอกไว้ว่าประสิทธิภาพส่วนใหญ่ขึ้นอยู่กับโมเดลของคุณครับ

431
00:19:50,409 --> 00:19:52,830
แม้เอเจนต์ตัวนี้จะมีอุปกรณ์ครบมือ

432
00:19:52,830 --> 00:19:55,911
แต่คุณก็ต้องมีโมเดลที่ใช้ได้ระดับหนึ่งครับ

433
00:19:55,911 --> 00:19:57,891
โอเค ตอนนี้มารันจริงกันครับ

434
00:19:57,891 --> 00:20:00,899
คำสั่งถัดไปของผมคือ รันแคมเปญ local bench

435
00:20:00,899 --> 00:20:03,906
แบบสั้น อีกครั้งบนโมเดล Qwen 3.8 27B EXL2

436
00:20:03,906 --> 00:20:07,061
(โมเดลภาษาโอเพนเวทของ Alibaba) ของผม โดยใช้

437
00:20:07,061 --> 00:20:09,041
sandbox ที่เพิ่งสร้างไปครับ

438
00:20:09,041 --> 00:20:12,195
อันนี้จะใช้เวลาสักหน่อย ประมาณสองสามชั่วโมง

439
00:20:12,195 --> 00:20:14,616
แต่นี่คือตัวอย่างการรัน benchmark

440
00:20:14,616 --> 00:20:17,770
จริงบนโมเดลจริงที่ผมดาวน์โหลดมาไว้ในเครื่อง

441
00:20:17,770 --> 00:20:20,558
และใช้ sandbox ครับ โอเค เสร็จแล้วครับ

442
00:20:20,558 --> 00:20:23,785
ใช้เวลาสักหน่อย แต่อย่างที่เห็น เราได้ผล run

443
00:20:23,785 --> 00:20:26,206
บน benchmarks ทั้งหมดเหล่านี้ครับ

444
00:20:26,206 --> 00:20:28,480
มีทั้งเรื่องคณิต การทำตามคำสั่ง

445
00:20:28,480 --> 00:20:31,341
และถ้าจำไม่ผิดก็มี agentic tooling ด้วย

446
00:20:31,341 --> 00:20:34,422
เรายังได้ค่าความเร็วมาด้วยครับ อย่างที่บอก

447
00:20:34,422 --> 00:20:36,329
นี่เป็น benchmark แบบเบา ๆ

448
00:20:36,329 --> 00:20:38,309
แค่ให้คุณมีอะไรเริ่มต้นครับ

449
00:20:38,309 --> 00:20:41,317
และจบด้วยรายงานเต็มรูปแบบที่คุณนำไปใช้ได้

450
00:20:41,317 --> 00:20:44,104
พร้อม PIN สำหรับระบุ run ที่แน่นอนครับ

451
00:20:44,104 --> 00:20:45,351
แล้วผมก็ถามมันต่อ

452
00:20:45,351 --> 00:20:48,652
ขอให้ลิสต์ทุกการเปลี่ยนแปลงที่คุณทำกับ skills

453
00:20:48,652 --> 00:20:50,926
tools หรือ templates ใน profile

454
00:20:50,926 --> 00:20:52,980
นี้ระหว่างเซสชัน พร้อมเหตุผล

455
00:20:52,980 --> 00:20:56,061
เพื่อโชว์ให้เห็นว่ามันวิวัฒน์ไปอย่างไรครับ

456
00:20:56,061 --> 00:20:58,555
มันตรวจสอบประวัติเซสชันของ profile

457
00:20:58,555 --> 00:21:01,709
นี้และเทียบไฟล์ที่ติดตั้งกับแพ็กเกจดั้งเดิม

458
00:21:01,709 --> 00:21:03,837
นี่คือรายการที่ถูกเปลี่ยนครับ

459
00:21:03,837 --> 00:21:06,844
มีสคริปต์สองสามตัวที่ปรับแก้เล็กน้อย เช่น

460
00:21:06,844 --> 00:21:10,145
อันนี้เพิ่ม regression test สำหรับ validation

461
00:21:10,145 --> 00:21:12,492
failure ครับ ดังนั้นแม้ profiles

462
00:21:12,492 --> 00:21:14,620
เหล่านี้จะเริ่มจากจุดเดียวกัน

463
00:21:14,620 --> 00:21:17,847
แต่งานที่คุณทำจะไปหล่อหลอมเอเจนต์และ profile

464
00:21:17,847 --> 00:21:19,241
ให้เป็นแบบของตัวเอง

465
00:21:19,241 --> 00:21:22,615
และนั่นคือสิ่งที่ตั้งใจไว้ครับ และอย่างที่เห็น

466
00:21:22,615 --> 00:21:25,916
skill ก็บันทึกทั้ง pitfalls (กับดักที่เคยเจอ)

467
00:21:25,916 --> 00:21:28,044
และกฎที่จอง artifacts ของ run

468
00:21:28,044 --> 00:21:31,198
ที่เปลี่ยนแปลงไม่ได้ไว้ระหว่างแก้ validator

469
00:21:31,198 --> 00:21:34,499
แบบอ่านอย่างเดียวครับ นี่คือตัวอย่างการใช้งาน

470
00:21:34,499 --> 00:21:36,993
profile นี้ครับ local LLM tinkerer

471
00:21:36,993 --> 00:21:40,220
คุณยังสั่งให้มัน quantize โมเดลได้ด้วย มันมี

472
00:21:40,220 --> 00:21:43,301
skills และ tooling ช่วยคุณในเรื่องนั้นครับ

473
00:21:43,301 --> 00:21:47,042
และถ้าคุณไม่รู้อะไรเกี่ยวกับโมเดลท้องถิ่นเลยด้วยซ้ำ

474
00:21:47,042 --> 00:21:49,683
เพราะมันเชื่อมต่อกับ knowledge bases

475
00:21:49,683 --> 00:21:52,250
มากมายเรื่องเครื่องมือโมเดลท้องถิ่น

476
00:21:52,250 --> 00:21:55,551
คุณแทบไม่ต้องรู้อะไรเลยครับ ดูตรงนี้ มันเรียก

477
00:21:55,551 --> 00:21:58,706
MCP ของ agent wikis เพื่อค้นหาข้อมูลนี้ครับ

478
00:21:58,706 --> 00:22:02,080
มันมีการเชื่อมต่อและการเข้าถึง knowledge bases

479
00:22:02,080 --> 00:22:05,087
พร้อมอยู่แล้ว ดังนั้นคุณไม่ต้องรู้อะไรเลย

480
00:22:05,087 --> 00:22:06,995
ปล่อยให้เอเจนต์ทำงานไปครับ

481
00:22:06,995 --> 00:22:09,635
ตรงนี้มันให้ตัวอย่างว่ามันมี tooling

482
00:22:09,635 --> 00:22:13,010
สำหรับอะไรบ้าง เช่น post-training quantization

483
00:22:13,010 --> 00:22:15,797
(การ quantize หลังเทรน) คุณสามารถสร้าง

484
00:22:15,797 --> 00:22:18,805
importance matrix และใช้ per-tensor mixed

485
00:22:18,805 --> 00:22:20,712
precision กับ EXL2 ได้ครับ

486
00:22:20,712 --> 00:22:23,939
ผมมีประสบการณ์กับเรื่องนี้ เคยทำวิดีโอมาแล้ว

487
00:22:23,939 --> 00:22:26,433
และเอเจนต์ตัวนี้เคยทำ quantization

488
00:22:26,433 --> 00:22:29,734
ฟอร์แมตนี้มาแล้วจริง ๆ ครับ หรือ Nvidia model

489
00:22:29,734 --> 00:22:32,742
opt มีหลายฟอร์แมตให้ใช้กับ model opt ผมมี

490
00:22:32,742 --> 00:22:35,529
workflows ไว้ให้ครับ และแน่นอนว่าคุณทำ

491
00:22:35,529 --> 00:22:37,363
quantization แบบอื่นก็ได้

492
00:22:37,363 --> 00:22:40,517
นี่เป็นแค่สิ่งที่ผมทำมาแล้วและมี skills กับ

493
00:22:40,517 --> 00:22:43,451
tooling รองรับครับ เอาล่ะ ก็จบแบบนี้ครับ

494
00:22:43,451 --> 00:22:46,239
นี่คือการแนะนำ specialist agents ของผม

495
00:22:46,239 --> 00:22:48,293
รูปแบบที่ผมจะใช้ต่อไปในอนาคต

496
00:22:48,293 --> 00:22:51,667
พร้อมการแนะนำตัวแรกคือ local LLM tinkerer ครับ

497
00:22:51,667 --> 00:22:55,261
เราจะทำงานกับมันเป็นประจำและอัปเดตเมื่อจำเป็นครับ

498
00:22:55,261 --> 00:22:58,122
ฝากติดตามตัวอื่น ๆ ที่กำลังจะมาด้วยครับ

499
00:22:58,122 --> 00:23:00,616
software engineer on-chain analyst

500
00:23:00,616 --> 00:23:03,477
รู้ว่าบางคนสนใจเรื่องเทรดและการสร้างแอป

501
00:23:03,477 --> 00:23:05,238
ผมจะเพิ่มพวกนั้นด้วยครับ

502
00:23:05,238 --> 00:23:07,805
ก็จบเพียงเท่านี้สำหรับวิดีโอนี้ครับ

503
00:23:07,805 --> 00:23:10,813
วิดีโอโบนัสบน YouTube และดูทุกอย่างได้ที่

504
00:23:10,813 --> 00:23:13,600
agentwikis.com ครับ ขอบคุณที่รับชมครับ