วันพุธที่ 18 พฤศจิกายน พ.ศ. 2569

ติดตั้ง ai (ollama + qwen + goose) เพื่อใช้งานในคอมพิวเตอร์

ไม่กี่เดือนก่อน ChatGPT ลดโควตาใช้งาน ทำให้ผมเจอปัญหาการใช้งาน เลยต้องมาใช้ Gemini แต่เมื่อสัปดาห์ที่แล้ว Gemini ก็เริ่มลดโควตาใช้งานอีก เพียงแต่ว่าของ ChatGPT จะต้องเริ่มใหม่อีก 24 ชั่วโมงหลังจากที่เริ่มต้นใช้ แต่ของ Gemini จะรีเซตที่ 6 ชั่วโมง ทว่าในการใช้งานมันก็ไม่สะดวกอยู่ดี เพิ่งใช้งานไปได้ไม่เท่าไหร่ก็ติดลิมิตแล้ว

กอปรกับเมื่อสองสัปดาห์ก่อนคุยกับน้องที่คุ้นเคยกัน เขาคุยเรื่องติดตั้ง AI เพื่อใช้งานในเครื่องคอมพิวเตอร์ตัวเอง เพียงแต่ก่อนหน้านี้ผมไม่ได้ใช้งาน AI จริงจังถึงขนาดนั้น

พอมาเจอ Gemini ลดจำนวนการใช้งานลง เลยทำให้คิดเรื่องนี้จริงจัง ด้วยความที่ไม่ได้ติดตามเกี่ยวกับ AI จริงจัง รู้แค่ผิวเผินมาก เลยปรึกษากับ Gemini เพื่อทำความเข้าใจกับมัน

การติดตั้ง AI ลงในคอมพิวเตอร์ จะมีส่วนหลักๆ คือตัว AI Platform, AI Model, AI Agent

AI Platform ก็เหมือนกับเป็น OS ของระบบ เมื่อเราต้องการใช้งานซอฟต์แวร์ตัวไหนก็ติดตั้งลงไป ซึ่งก็คือ AI Model นั่นเอง

AI Model แต่ละตัวจะมีความสามารถแตกต่างกันไป เหมือนกับที่ซอฟต์แวร์มีหลากหลาย ทำงานคล้ายกันบ้าง ต่างกันบ้าง อย่างด้านการใช้งานทั่วไปเช่น Qwen (Alibaba), Gemma (Google), Llama (Meta) หรือโมเดลทำงานเกี่ยวกับรูปภาพเช่น Muse (Meta), Banana Nano (Google)

AI Platform นั้นจะทำงานในแบบห้องปิดที่ถูกกักบริเวณ (เป็นแนวคิดเรื่องความปลอดภัย) มันไม่สามารถเข้าถึงไฟล์และฮาร์ดแวร์ของเครื่องคอมพิวเตอร์ได้เลย จึงต้องอาศัยผู้ช่วยมาทำหน้าที่ติดต่อกับผู้ใช้ แล้วไปเรียกใช้ AI Platform อีกที ซึ่ง AI Agent จะสามารถเข้าถึงฮาร์ดแวร์คอมพิวเตอร์ได้ (ต้องให้สิทธิอนุญาตก่อน)

สิ่งที่ผมต้องการ คือการใช้งานแบบตัวอักษรและเข้าใจภาษาไทยเป็นอย่างดี ไม่ได้ต้องการสร้างรูปภาพหรือวิดีโอ ดังนั้นระบบที่ผมติดตั้งไว้ใช้งานจึงไม่สามารถสร้างรูปภาพและวิดีโอ

ผมถาม Gemini ถึง AI Agent ที่สามารถใช้งานบนคอมพิวเตอร์ระบบ Linux ได้ แบบฟรี คำตอบที่ได้มาคือ Goose, OpenHands, OpenCode

โมเดลที่รองรับภาษาไทยได้ดี : Qwen 2.5 (Alibaba), Typhoon (SCB 10x), OpenThai (iApp), Llama (Meta)


การติดตั้ง

1. ติดตั้ง Ollama

curl -fsSL https://ollama.com/install.sh | sh

วิธีตรวจสอบว่าสำเร็จ: พิมพ์คำสั่ง ollama --version หากขึ้นเลขเวอร์ชัน (เช่น ollama version is 0.x.x) และมีไอคอนหรือสถานะบริการทำงานอยู่ แสดงว่าติดตั้งสมบูรณ์

2. ติดตั้งโมเดล Qwen2.5 (รุ่น 7b)

ollama pull qwen2.5:7b

วิธีตรวจสอบว่าสำเร็จ: พิมพ์คำสั่ง ollama list แล้วกด Enter หน้าจอจะต้องแสดงรายชื่อโมเดลทั้ง 3 ตัวพร้อมขนาดไฟล์ครบถ้วน

3. ติดตั้ง Goose

curl -fsSL https://github.com/block/goose/releases/download/stable/download_cli.sh | sh

วิธีตรวจสอบว่าสำเร็จ: ปิด Terminal แล้วเปิดขึ้นมาใหม่ จากนั้นพิมพ์ goose --version หากแสดงเลขเวอร์ชันถือว่าพร้อมใช้งาน


การตั้งค่า เชื่อมต่อ Goose กับ Ollama

เปิด terminal แล้วพิมพ์

goose configure

ระบบจะแสดงเมนูให้เลือกตั้งค่า ให้เลือกตามลำดับดังนี้ (ใช้ปุ่มลูกศรขึ้น/ลง และกด Enter)

- Configure Provider: เลือก Ollama

- Base URL: ใส่ http://localhost:11434 (ค่าเริ่มต้น)

- Would you like to configure advanced setting? ให้เลือกตอบ No

- Model: เลือกโมเดลที่ต้องการใช้งานที่ติดตั้งไว้


การใช้งานผ่าน Goose

เปิด terminal แล้วพิมพ์ว่า

goose session

ซึ่งจะใช้ค่าตามที่ตั้งไว้ แต่ถ้าต้องการใช้ค่าอื่นแบบชั่วคราวเฉพาะ session นั้นๆ ก็กำหนดเองได้ เช่น

goose session start --provider ollama --model qwen2.5:7b

หรือใส่โมเดลไว้ด้านหน้า เช่น

GOOSE_MODEL="qwen3.5:4b" goose session


การใช้งานบน Ollama โดยตรง

หากต้องการใช้งาน ollama โดยไม่ผ่าน goose ให้พิมพ์ ollama run ตามด้วยชื่อโมเดล เช่น

ollama run gemma3:4b

หากใช้โมเดลที่มีโหมด Thinking (เช่น Qwen 3.5, Gemma, typhoon2.5-qwen3-4b) สามารถเลือกตั้งค่าได้ว่าจะให้ใช้งานหรือเปล่า โดยปกติจะถูกเปิดเป็นค่าตั้งต้น

1. ในช่องแชตของ ollama ให้พิมพ์ /set nothink หรือ /set think เพื่อเปิดปิด

ถ้าเปิด/ปิดเฉพาะคำถามนั้นๆ ให้ใส่ /set nothink หรือ /set think ต่อท้ายคำถามไปได้เลย

2. ตอนเรียกใช้งาน ollama ให้ใส่แฟล็ก --think=false ต่อท้าย เช่น

ollama run qwen3.5:4b --think=false


การอ่านเขียนไฟล์

หากต้องการให้มีการอ่านเขียนไฟล์ในโฟลเดอร์ใด ให้ cd เข้าไปในโฟลเดอร์นั้นๆ ก่อนถึงค่อยเรียกใช้งาน goose

การเลิกใช้งาน คือพิมพ์คำว่า /exit


การติดตั้งและลบโมเดล

ถ้าต้องการติดตั้งโมเดลรุ่นอื่น เลือกพิมพ์ชื่อโมเดลหลัง ollama pull ได้เลย เช่น

ollama pull qwen2.5-coder:7b

ollama pull scb10x/llama3.1-typhoon2-8b-instruct

ollama pull gemma3:4b

ดูเพิ่มเติมที่ https://ollama.com/search


ถ้าต้องการลบโมเดลที่ติดตั้ง ให้พิมพ์ชื่อโมเดลหลัง ollama rm เช่น

ollama rm qwen2.5:7b

และสามารถลบโมเดลหลายๆ ตัวพร้อมกันได้

ollama rm qwen2.5:7b qwen-goose gemma3:4b


ปัญหาที่พบ

1. ตอนใช้งาน Qwen2.5 มีปัญหาว่าคำตอบที่ได้รับมา จะเป็นภาษาไทยแค่ช่วงแรกๆ เท่านั้น แต่หลังจากนั้นจะตอบกลับด้วยภาษาจีน

ขนาดบอกไปว่าให้ตอบเป็นไทยเท่านั้น ห้ามตอบจีนมาเด็ดขาด ก็ได้รับคำตอบว่า "ได้สิ ต่อไปจะตอบกลับด้วยภาษาไทยเท่านั้น ไม่ตอบด้วยภาษาจีน" แต่ข้อความที่ว่านั้น มันเป็นตัวหนังสือจีนล้วนๆ !

2. ใช้งาน Goose กับโมเดล Qwen3.5:4b แล้วเจอปัญหาว่าไม่แสดงผลข้อมูลใดๆ มีเพียงการแสดงข้อผิดพลาด

Tool 'web-search' is not available.

Warning: Response reached the model's output-token limit and may be incomplete.

ปัญหานี้เกิดจากโมเดล Qwen 3.5 เปิดโหมดการคิด (Think) เป็นค่าเริ่มต้น เมื่อเจอคำถามที่ต้องค้นข้อมูล เลยการอาการคิดวนซ้ำจนหมด 4,096 tokens ก่อนจะได้คำตอบ

และ Goose พยายามเรียกใช้งาน extension web-search แต่ไม่ได้ติดตั้งไว้


วิธีแก้ไขคือต้องสร้างโมเดลใหม่ขึ้นที่กำหนดกฎให้ปิดโหมด Thinking หรือเปลี่ยนไปใช้งาน Ollama โดยตรง หรือไม่ก็ไปใช้ผ่าน Page Assistant ที่ใช้งานได้สะดวกขึ้น


คำศัพท์

LM : Language Model

LLM : Large Language Model


[ Reference ]


ไม่มีความคิดเห็น:

แสดงความคิดเห็น