ไม่กี่เดือนก่อน ChatGPT ลดโควตาใช้งาน ทำให้ผมเจอปัญหาการใช้งาน เลยต้องมาใช้ Gemini แต่เมื่อสัปดาห์ที่แล้ว Gemini ก็เริ่มลดโควตาใช้งานอีก เพียงแต่ว่าของ ChatGPT จะต้องเริ่มใหม่อีก 24 ชั่วโมงหลังจากที่เริ่มต้นใช้ แต่ของ Gemini จะรีเซตที่ 6 ชั่วโมง ทว่าในการใช้งานมันก็ไม่สะดวกอยู่ดี เพิ่งใช้งานไปได้ไม่เท่าไหร่ก็ติดลิมิตแล้ว
กอปรกับเมื่อสองสัปดาห์ก่อนคุยกับน้องที่คุ้นเคยกัน เขาคุยเรื่องติดตั้ง AI เพื่อใช้งานในเครื่องคอมพิวเตอร์ตัวเอง เพียงแต่ก่อนหน้านี้ผมไม่ได้ใช้งาน AI จริงจังถึงขนาดนั้น
พอมาเจอ Gemini ลดจำนวนการใช้งานลง เลยทำให้คิดเรื่องนี้จริงจัง ด้วยความที่ไม่ได้ติดตามเกี่ยวกับ AI จริงจัง รู้แค่ผิวเผินมาก เลยปรึกษากับ Gemini เพื่อทำความเข้าใจกับมัน
การติดตั้ง AI ลงในคอมพิวเตอร์ จะมีส่วนหลักๆ คือตัว AI Platform, AI Model, AI Agent
AI Platform ก็เหมือนกับเป็น OS ของระบบ เมื่อเราต้องการใช้งานซอฟต์แวร์ตัวไหนก็ติดตั้งลงไป ซึ่งก็คือ AI Model นั่นเอง
AI Model แต่ละตัวจะมีความสามารถแตกต่างกันไป เหมือนกับที่ซอฟต์แวร์มีหลากหลาย ทำงานคล้ายกันบ้าง ต่างกันบ้าง อย่างด้านการใช้งานทั่วไปเช่น Qwen (Alibaba), Gemma (Google), Llama (Meta) หรือโมเดลทำงานเกี่ยวกับรูปภาพเช่น Muse (Meta), Banana Nano (Google)
AI Platform นั้นจะทำงานในแบบห้องปิดที่ถูกกักบริเวณ (เป็นแนวคิดเรื่องความปลอดภัย) มันไม่สามารถเข้าถึงไฟล์และฮาร์ดแวร์ของเครื่องคอมพิวเตอร์ได้เลย จึงต้องอาศัยผู้ช่วยมาทำหน้าที่ติดต่อกับผู้ใช้ แล้วไปเรียกใช้ AI Platform อีกที ซึ่ง AI Agent จะสามารถเข้าถึงฮาร์ดแวร์คอมพิวเตอร์ได้ (ต้องให้สิทธิอนุญาตก่อน)
สิ่งที่ผมต้องการ คือการใช้งานแบบตัวอักษรและเข้าใจภาษาไทยเป็นอย่างดี ไม่ได้ต้องการสร้างรูปภาพหรือวิดีโอ ดังนั้นระบบที่ผมติดตั้งไว้ใช้งานจึงไม่สามารถสร้างรูปภาพและวิดีโอ
ผมถาม Gemini ถึง AI Agent ที่สามารถใช้งานบนคอมพิวเตอร์ระบบ Linux ได้ แบบฟรี คำตอบที่ได้มาคือ Goose, OpenHands, OpenCode
โมเดลที่รองรับภาษาไทยได้ดี : Qwen 2.5 (Alibaba), Typhoon (SCB 10x), OpenThai (iApp), Llama (Meta)
การติดตั้ง
1. ติดตั้ง Ollama
curl -fsSL https://ollama.com/install.sh | sh
วิธีตรวจสอบว่าสำเร็จ: พิมพ์คำสั่ง ollama --version หากขึ้นเลขเวอร์ชัน (เช่น ollama version is 0.x.x) และมีไอคอนหรือสถานะบริการทำงานอยู่ แสดงว่าติดตั้งสมบูรณ์
2. ติดตั้งโมเดล Qwen2.5 (รุ่น 7b)
ollama pull qwen2.5:7b
วิธีตรวจสอบว่าสำเร็จ: พิมพ์คำสั่ง ollama list แล้วกด Enter หน้าจอจะต้องแสดงรายชื่อโมเดลทั้ง 3 ตัวพร้อมขนาดไฟล์ครบถ้วน
3. ติดตั้ง Goose
curl -fsSL https://github.com/block/goose/releases/download/stable/download_cli.sh | sh
วิธีตรวจสอบว่าสำเร็จ: ปิด Terminal แล้วเปิดขึ้นมาใหม่ จากนั้นพิมพ์ goose --version หากแสดงเลขเวอร์ชันถือว่าพร้อมใช้งาน
การตั้งค่า เชื่อมต่อ Goose กับ Ollama
เปิด terminal แล้วพิมพ์
goose configure
ระบบจะแสดงเมนูให้เลือกตั้งค่า ให้เลือกตามลำดับดังนี้ (ใช้ปุ่มลูกศรขึ้น/ลง และกด Enter)
- Configure Provider: เลือก Ollama
- Base URL: ใส่ http://localhost:11434 (ค่าเริ่มต้น)
- Would you like to configure advanced setting? ให้เลือกตอบ No
- Model: เลือกโมเดลที่ต้องการใช้งานที่ติดตั้งไว้
การใช้งานผ่าน Goose
เปิด terminal แล้วพิมพ์ว่า
goose session
ซึ่งจะใช้ค่าตามที่ตั้งไว้ แต่ถ้าต้องการใช้ค่าอื่นแบบชั่วคราวเฉพาะ session นั้นๆ ก็กำหนดเองได้ เช่น
goose session start --provider ollama --model qwen2.5:7b
หรือใส่โมเดลไว้ด้านหน้า เช่น
GOOSE_MODEL="qwen3.5:4b" goose session
การใช้งานบน Ollama โดยตรง
หากต้องการใช้งาน ollama โดยไม่ผ่าน goose ให้พิมพ์ ollama run ตามด้วยชื่อโมเดล เช่น
ollama run gemma3:4b
หากใช้โมเดลที่มีโหมด Thinking (เช่น Qwen 3.5, Gemma, typhoon2.5-qwen3-4b) สามารถเลือกตั้งค่าได้ว่าจะให้ใช้งานหรือเปล่า โดยปกติจะถูกเปิดเป็นค่าตั้งต้น
1. ในช่องแชตของ ollama ให้พิมพ์ /set nothink หรือ /set think เพื่อเปิดปิด
ถ้าเปิด/ปิดเฉพาะคำถามนั้นๆ ให้ใส่ /set nothink หรือ /set think ต่อท้ายคำถามไปได้เลย
2. ตอนเรียกใช้งาน ollama ให้ใส่แฟล็ก --think=false ต่อท้าย เช่น
ollama run qwen3.5:4b --think=false
การอ่านเขียนไฟล์
หากต้องการให้มีการอ่านเขียนไฟล์ในโฟลเดอร์ใด ให้ cd เข้าไปในโฟลเดอร์นั้นๆ ก่อนถึงค่อยเรียกใช้งาน goose
การเลิกใช้งาน คือพิมพ์คำว่า /exit
การติดตั้งและลบโมเดล
ถ้าต้องการติดตั้งโมเดลรุ่นอื่น เลือกพิมพ์ชื่อโมเดลหลัง ollama pull ได้เลย เช่น
ollama pull qwen2.5-coder:7b
ollama pull scb10x/llama3.1-typhoon2-8b-instruct
ollama pull gemma3:4b
ดูเพิ่มเติมที่ https://ollama.com/search
ถ้าต้องการลบโมเดลที่ติดตั้ง ให้พิมพ์ชื่อโมเดลหลัง ollama rm เช่น
ollama rm qwen2.5:7b
และสามารถลบโมเดลหลายๆ ตัวพร้อมกันได้
ollama rm qwen2.5:7b qwen-goose gemma3:4b
ปัญหาที่พบ
1. ตอนใช้งาน Qwen2.5 มีปัญหาว่าคำตอบที่ได้รับมา จะเป็นภาษาไทยแค่ช่วงแรกๆ เท่านั้น แต่หลังจากนั้นจะตอบกลับด้วยภาษาจีน
ขนาดบอกไปว่าให้ตอบเป็นไทยเท่านั้น ห้ามตอบจีนมาเด็ดขาด ก็ได้รับคำตอบว่า "ได้สิ ต่อไปจะตอบกลับด้วยภาษาไทยเท่านั้น ไม่ตอบด้วยภาษาจีน" แต่ข้อความที่ว่านั้น มันเป็นตัวหนังสือจีนล้วนๆ !
2. ใช้งาน Goose กับโมเดล Qwen3.5:4b แล้วเจอปัญหาว่าไม่แสดงผลข้อมูลใดๆ มีเพียงการแสดงข้อผิดพลาด
Tool 'web-search' is not available.
Warning: Response reached the model's output-token limit and may be incomplete.
ปัญหานี้เกิดจากโมเดล Qwen 3.5 เปิดโหมดการคิด (Think) เป็นค่าเริ่มต้น เมื่อเจอคำถามที่ต้องค้นข้อมูล เลยการอาการคิดวนซ้ำจนหมด 4,096 tokens ก่อนจะได้คำตอบ
และ Goose พยายามเรียกใช้งาน extension web-search แต่ไม่ได้ติดตั้งไว้
วิธีแก้ไขคือต้องสร้างโมเดลใหม่ขึ้นที่กำหนดกฎให้ปิดโหมด Thinking หรือเปลี่ยนไปใช้งาน Ollama โดยตรง หรือไม่ก็ไปใช้ผ่าน Page Assistant ที่ใช้งานได้สะดวกขึ้น
คำศัพท์
LM : Language Model
LLM : Large Language Model
[ Reference ]
- Local AI 101 EP.1 อยากรัน Local Ai ต้องเริ่มยังไง ?
- Local AI 101 EP.2 พาลงโมเดล AI ตั้งแต่ 0 ใช้ฟรีในคอมแบบไม่ต้องต่อเน็ต
- สอนรัน Local LLM ครบจบในคลิปเดียว (AI ส่วนตัว ใช้ฟรีไม่อั้น)
- https://share.gemini.google/qGFLeeGByvNe
ไม่มีความคิดเห็น:
แสดงความคิดเห็น