thaivibecoding

แพลตฟอร์ม · โดย Nomic AI

GPT4All

GPT4All คือแพลตฟอร์มโอเพนซอร์สของ Nomic AI สำหรับรันโมเดลภาษา (LLM) บนคอมพิวเตอร์ของตัวเอง มาเป็นแอปเดสก์ท็อปบน Windows, macOS และ Linux พร้อม Python SDK และ CLI โดยทำงานบน llama.cpp และไม่บังคับให้มีการ์ดจอ แอปดาวน์โหลดโมเดลไฟล์ .gguf มาแชตในเครื่อง มี LocalDocs สำหรับถามตอบจากไฟล์ของตัวเอง และเปิด API แบบ OpenAI ในเครื่องได้ รุ่นที่ออกหลังสุดคือ v3.10.0 เมื่อ 24 กุมภาพันธ์ 2025 และโค้ดในสาขา main ถูกแก้ครั้งหลังสุดเมื่อ 27 พฤษภาคม 2025

ไปที่เว็บ GPT4All nomic.ai

เหมาะกับใคร

  • เหมาะกับมือใหม่ที่อยากได้แอปกดใช้ เพราะมีตัวติดตั้งสำหรับ Windows, macOS และ Ubuntu และขั้นตอนเริ่มต้นคือกด Start Chatting, + Add Model, Download แล้ว Load Default Model โดยไม่ต้องพิมพ์คำสั่ง
  • เหมาะกับคนที่อยากถามตอบจากไฟล์ของตัวเองโดยข้อมูลอยู่ในเครื่อง เพราะ LocalDocs ใช้โมเดล embedding ของ Nomic ที่รันบนเครื่อง รองรับ .txt, .pdf, .md, .rst เป็นค่าเริ่มต้น และเพิ่ม .docx ในรุ่นหลัง
  • เหมาะกับเครื่องที่ไม่มีการ์ดจอและใช้โมเดลขนาดเล็ก เพราะรันบน CPU ที่รองรับ AVX หรือ AVX2 ได้ และโมเดลในรายการของแอปขนาด 1B ถึง 4B ต้องการ RAM 2 ถึง 4 GB
  • เหมาะกับคนที่ต้องการโปรแกรมฟรีที่ใช้ในงานเชิงพาณิชย์ได้ เพราะตัวแอปใช้ MIT License ซึ่งอนุญาตให้ใช้ แก้ไข แจกจ่าย และขายได้ แต่ต้องดูลิขสิทธิ์ของแต่ละโมเดลแยกกัน
  • เหมาะกับนักพัฒนา Python ที่อยากเรียกโมเดลในเครื่องจากโค้ดไม่กี่บรรทัด เพราะ SDK โหลดไฟล์ .gguf ให้เองและมีตัวเชื่อมกับ Langchain, Weaviate Vector Database และ OpenLIT

ไม่เหมาะกับ

  • ทีมที่อยากตั้งเซิร์ฟเวอร์กลางให้หลายเครื่องใช้ ควรดูตัวอื่น เพราะ API server รับการเชื่อมต่อเฉพาะ localhost (127.0.0.1) และไม่มีระบบหลายผู้ใช้ การยืนยันตัวตน หรือหน้าจัดการของแอดมิน
  • คนที่อยากทำเอเจนต์ที่ใช้ tools หรือ MCP ควรดูตัวอื่น เพราะมี tool ในตัวเพียงตัวเดียวคือ javascript code interpreter และยังไม่มีข้อมูลเรื่อง MCP หรือการเพิ่ม tool เอง
  • คนที่ต้องการหน้าจอภาษาไทย ยังไม่เหมาะ เพราะหน้าจอแอปมี 7 ภาษา คือ English, Spanish, Italian, Portuguese, Chinese Simplified, Chinese Traditional และ Romanian
  • คนที่ต้องการโมเดลตระกูลใหม่ที่ออกหลังต้นปี 2025 ในรายการของแอป ควรตรวจก่อน เพราะตระกูลโมเดลใหม่สุดที่เพิ่มเข้ามาคือ DeepSeek-R1 (v3.8.0), OLMoE กับ Granite MoE (v3.9.0) และ Granite แบบ non-MoE (v3.10.0)
  • คนที่ใช้ Linux บนชิป ARM ใช้ไม่ได้ เพราะตัวติดตั้ง Linux มีเฉพาะ x86-64 ส่วน Windows ARM รันได้แบบ CPU อย่างเดียว

ทำได้แค่ไหน

  • ดาวน์โหลดโมเดลภาษามาเก็บในเครื่องแล้วแชตได้จากหน้าต่างแอป โดยไม่ต้องเรียก API ของใคร และไม่บังคับให้มีการ์ดจอ
  • LocalDocs ทำ index จากโฟลเดอร์ไฟล์ในเครื่อง แล้วดึงข้อความที่เกี่ยวข้องมาใส่ในคำถามที่ส่งให้โมเดล (วิธีแบบ RAG คือค้นข้อมูลมาประกอบคำตอบ) และกด Sources ดูได้ว่าอ้างจากไฟล์ไหน
  • เปิด Local API Server ที่ทำตาม OpenAI API บางส่วนได้ (API คือช่องทางให้โปรแกรมอื่นเรียกใช้) ที่ http://localhost:4891/v1
  • รันได้ทั้งบน CPU, Metal ของ Apple Silicon M1 ขึ้นไป และ GPU โดยเลือกได้ที่ Settings > Application > Device ซึ่งค่าเริ่มต้นคือ Auto
  • มี Python SDK ติดตั้งด้วย pip install gpt4all สำหรับเรียกโมเดลจากโค้ด และมี CLI แบบเบาที่รันใน terminal (หน้าจอพิมพ์คำสั่ง)
  • ต่อกับโมเดลบนคลาวด์ได้ถ้าต้องการ ในแท็บ Remote Providers มี Groq, OpenAI และ Mistral รวมถึง API แบบ OpenAI รายอื่นที่ใส่ API key, base URL และชื่อโมเดลเอง

ใช้กับงานแบบไหนได้

มือใหม่ที่อยากได้แอปกดใช้ได้

มีตัวติดตั้งสำหรับ Windows, macOS และ Ubuntu เปิดแอปแล้วกด Start Chatting, + Add Model, Download และ Load Default Model ไม่มีขั้นตอนไหนต้องพิมพ์คำสั่ง

คอมแรม 8GB หรือไม่มีการ์ดจอได้บางส่วน

ไม่บังคับให้มีการ์ดจอ แต่ RAM ขั้นต่ำเขียนไว้ที่ 16GB (8GB สำหรับโมเดล 3B) ขณะที่รายการโมเดลในแอปบอกว่าโมเดล 7B-8B แบบ q4_0 ใช้ RAM 8 GB และโมเดล 1B-4B ใช้ 2-4 GB

ใช้การ์ดจอหรือ Apple Silicon ให้เต็มได้บางส่วน

รองรับ CUDA (NVIDIA), Vulkan (NVIDIA และ AMD เฉพาะไฟล์ fp16, Q4_0, Q4_1) และ Metal (Apple Silicon M1 ขึ้นไป) พร้อมค่า GPU Layers แต่การใช้หลายการ์ดจอยังไม่ชัด ไม่ได้เอ่ยถึง MLX และ Windows ARM ใช้ได้แค่ CPU

เปิด API ให้โปรแกรมอื่นมาต่อได้บางส่วน

มีเซิร์ฟเวอร์แบบ OpenAI ที่ http://localhost:4891/v1 มี 4 endpoint (models, completions, chat completions) แต่รับเฉพาะ HTTP เฉพาะ localhost ไม่มี endpoint สำหรับ embeddings และต้องเปิดจากในแอปเดสก์ท็อป

ถามตอบจากไฟล์ของตัวเองได้

LocalDocs ทำ index จากโฟลเดอร์ด้วยโมเดล embedding ของ Nomic ที่รันบนเครื่อง และแสดง Sources ใต้คำตอบ ชนิดไฟล์เริ่มต้นคือ .txt, .pdf, .md, .rst และมี .docx เพิ่มในรุ่นหลัง

ทำเอเจนต์ที่ใช้ tools หรือ MCPไม่ได้

มีเพียง javascript code interpreter ที่ติดมากับแอปตั้งแต่ v3.6.0 ยังไม่มีข้อมูลเรื่อง MCP หรือการเพิ่ม tool เอง และ web search มีเฉพาะในรุ่น beta แยกของปี 2024

ตั้งเซิร์ฟเวอร์ให้ทั้งทีมใช้ไม่ได้

เซิร์ฟเวอร์รับการเชื่อมต่อเฉพาะ localhost (127.0.0.1) เครื่องอื่นจึงต่อเข้ามาไม่ได้ และไม่มีระบบหลายผู้ใช้ การยืนยันตัวตน หรือฟีเจอร์ของแอดมิน

ใช้งานเป็นภาษาไทยไม่ได้

หน้าจอแอปมี 7 ภาษาและไม่มีภาษาไทย ไม่มีโมเดลตัวไหนในรายการของแอปที่บอกว่ารองรับภาษาไทย Llama 3.2 บอกเพียงว่าใช้กับบทสนทนาหลายภาษา

วิธีเริ่มใช้

Windows

  1. ดาวน์โหลด Windows Installer จาก https://gpt4all.io/installers/gpt4all-installer-win64.exe
  2. เครื่อง Windows ARM (Qualcomm Snapdragon หรือ Microsoft SQ1/SQ2) ให้ดาวน์โหลด https://gpt4all.io/installers/gpt4all-installer-win64-arm.exe แทน
  3. รันไฟล์ติดตั้งที่ดาวน์โหลดมา
  4. เปิดแอป GPT4All

macOS

  1. ตรวจว่าเครื่องเป็น macOS Monterey 12.6 ขึ้นไป
  2. ดาวน์โหลด macOS Installer จาก https://gpt4all.io/installers/gpt4all-installer-darwin.dmg
  3. เปิดไฟล์ .dmg แล้วติดตั้ง
  4. เปิดแอป GPT4All

Linux

  1. ตรวจว่าเครื่องเป็น x86-64 เพราะไม่มีตัวติดตั้งสำหรับ ARM
  2. ดาวน์โหลด Ubuntu Installer จาก https://gpt4all.io/installers/gpt4all-installer-linux.run
  3. รันไฟล์ .run เพื่อติดตั้ง (ไม่ได้บอกคำสั่งที่ใช้รันไฟล์นี้)
  4. อีกทางคือแพ็กเกจ Flathub ชื่อ io.gpt4all.gpt4all ซึ่งดูแลโดยชุมชน

เริ่มใช้ครั้งแรกในแอป

  1. เปิดแอป แล้วกด Start Chatting
  2. กด + Add Model
  3. กด Download ที่โมเดลที่ต้องการ โดยแอปแนะนำให้เริ่มที่ Llama 3
  4. เมื่อดาวน์โหลดเสร็จ ไปที่ Chats
  5. กด Load Default Model
  6. ลองตัวอย่างแชตหรือพิมพ์คำถามของตัวเอง

เพิ่มโมเดล

  1. กด Models ในเมนูด้านซ้าย
  2. กด + Add Model เพื่อเปิดหน้า Explore Models
  3. ค้นหาโมเดลที่มีให้ดาวน์โหลด
  4. กด Download แล้วโมเดลจะไปอยู่ในหน้า Models

ถามตอบจากไฟล์ (LocalDocs)

  1. เปิดหน้า LocalDocs แล้วกด + Add Collection
  2. ตั้งชื่อ collection แล้วเลือกโฟลเดอร์ที่เก็บไฟล์
  3. กด Create Collection
  4. ในหน้าแชต กดปุ่ม LocalDocs ที่มุมขวาบนเพื่อเลือก collection
  5. กด Sources ใต้คำตอบเพื่อดูว่าอ้างจากไฟล์ไหน

เปิด Local API Server

  1. เปิดแอป GPT4All
  2. ไปที่ Settings > Application แล้วเลื่อนลงไปที่ Advanced
  3. ติ๊ก Enable Local API Server
  4. เซิร์ฟเวอร์รอรับที่ port 4891 เปลี่ยนเลขได้ที่ API Server Port
  5. ทดสอบด้วย curl -X POST http://localhost:4891/v1/chat/completions -d '{"model": "Phi-3 Mini Instruct", "messages": [{"role":"user","content":"Who is Lionel Messi?"}], "max_tokens": 50, "temperature": 0.28}'

Python SDK

  1. รัน pip install gpt4all
  2. เขียน from gpt4all import GPT4All
  3. เขียน model = GPT4All("Meta-Llama-3-8B-Instruct.Q4_0.gguf") ซึ่งจะดาวน์โหลดและโหลดโมเดลขนาด 4.66GB
  4. เขียน with model.chat_session(): print(model.generate("How can I run LLMs efficiently on my laptop?", max_tokens=1024))

CLI ใน terminal

  1. รัน python -m pip install --user --upgrade gpt4all typer
  2. รัน python app.py repl
  3. ครั้งแรกจะดาวน์โหลดโมเดล Mistral Instruct ไปไว้ที่ .cache/gpt4all/ ในโฟลเดอร์ผู้ใช้
  4. ใช้ -m หรือ --model เพื่อชี้ไปที่โมเดลที่เก็บไว้แล้ว

ถอนการติดตั้ง

  1. Windows: ไปที่ Settings > Apps > GPT4All > Uninstall หรือรัน maintenancetool.exe ในโฟลเดอร์ติดตั้ง (ค่าเริ่มต้น C:\Users\%USERNAME%\gpt4all\maintenancetool.exe)
  2. macOS และ Linux: รัน maintenancetool ในโฟลเดอร์ติดตั้ง
  3. ถ้าต้องการลบโมเดลด้วย ให้ลบโฟลเดอร์โมเดล ซึ่งจะลบโมเดลทั้งหมด ประวัติแชตทั้งหมด และ embeddings ของ LocalDocs ไปด้วย

ใช้กับเครื่องแบบไหนได้

ระบบปฏิบัติการWindows 10 ขึ้นไป, macOS Monterey 12.6 ขึ้นไป และ Ubuntu 22.04 LTS หรือ Linux ที่เข้ากันได้ ตัวติดตั้ง Linux มีเฉพาะ x86-64 ส่วน Windows ARM รองรับชิป Qualcomm Snapdragon และ Microsoft SQ1/SQ2
สเปกขั้นต่ำPC: CPU Intel Core i3-2100, Pentium 7505, Celeron 6305 หรือ AMD FX-4100, RAM 16GB (8GB สำหรับโมเดล 3B), การ์ดจอที่รองรับ Direct3D 11/12 หรือ OpenGL 2.1 ส่วน Apple: M1, 16GB, macOS Monterey 12.6
สเปกแนะนำPC: CPU Ryzen 5 3600 หรือ Intel Core i7-10700 ขึ้นไป, RAM 16GB, การ์ดจอ NVIDIA GTX 1080 Ti/RTX 2080 ขึ้นไปที่มี VRAM (หน่วยความจำของการ์ดจอ) 8GB ขึ้นไป, Windows 10 หรือ Ubuntu 24.04 LTS ส่วน Apple: M2 Pro, 16GB, macOS Sonoma 14.5 ขึ้นไป
CPUCPU ต้องรองรับชุดคำสั่ง AVX หรือ AVX2 และต้องมี RAM พอให้โหลดโมเดลเข้าหน่วยความจำได้ทั้งตัว
RAM ตามขนาดโมเดลค่า RAM ในรายการโมเดลของแอป: 2 GB สำหรับ Llama 3.2 1B Instruct, 3 GB สำหรับ DeepSeek-R1-Distill-Qwen-1.5B และ Qwen2-1.5B-Instruct, 4 GB สำหรับ Llama 3.2 3B Instruct และ Phi-3 Mini Instruct, 8 GB สำหรับโมเดล 7B-8B และ 16 GB สำหรับโมเดล 13B-14B
การ์ดจอ NVIDIA และ AMDNVIDIA ใช้ได้ทั้ง CUDA ซึ่งรันไฟล์ .gguf ได้ทุกแบบ และ Vulkan ส่วน AMD ใช้ Vulkan ซึ่งรันได้เฉพาะไฟล์ fp16, Q4_0 และ Q4_1 โดย v3.10.0 เพิ่มการ์ดจอ CUDA compute capability 5.0 เช่น GTX 750 ไม่ได้เอ่ยถึง ROCm หรือการ์ดจอ Intel
Apple Siliconใช้ Metal บนชิป M1 ขึ้นไป เลือกได้ที่ Settings > Application > Device ไม่ได้เอ่ยถึง MLX
โมเดลใหญ่กว่า VRAMค่า GPU Layers กำหนดว่าโหลดโมเดลกี่ชั้นเข้า VRAM ค่าเริ่มต้น 32 ถ้าโมเดลไม่พอดีกับ VRAM ให้ลดค่านี้จนโหลดได้

โมเดลที่ใช้ได้

แหล่งโมเดลใช้โมเดลจาก HuggingFace ที่มี implementation บน llama.cpp ค้นและดาวน์โหลดได้จากหน้า Explore Models ในแอป
รูปแบบไฟล์รองรับ GGUF (รูปแบบไฟล์โมเดลของ llama.cpp) นามสกุล .gguf ไม่ได้เอ่ยถึง MLX หรือ safetensors
รายการในแอปมี 32 รายการ (3 รายการถูกทำเครื่องหมายว่าถอดออก) เช่น Reasoner v1, Llama 3 8B Instruct, Llama 3.2 1B และ 3B Instruct, Llama 3.1 8B Instruct 128k, DeepSeek-R1-Distill-Qwen-1.5B / -7B / -14B, Mistral Instruct, Phi-3 Mini Instruct, Qwen2-1.5B-Instruct และโมเดลโค้ด Replit, Starcoder, Rift coder ทุกตัวเป็น q4_0
ขนาดที่ออกแบบมาปรับมาให้รันโมเดลขนาด 3-13B parameter บนเครื่องทั่วไป เช่น Llama 3 Instruct ไฟล์ 4.66 GB ใช้ RAM 8 GB, Phi-3 Mini Instruct ไฟล์ 2.18 GB ใช้ RAM 4 GB และ GPT4All Snoozy ไฟล์ 7.37 GB ใช้ RAM 16 GB
Quantizationquantization (การลดความละเอียดตัวเลขในโมเดล) แบบ Q4_0, Q4_1 และ F16 ใช้ได้กับ CPU, Metal, Vulkan และ CUDA ส่วน K-quants ใช้ได้กับ CPU, Metal และ CUDA แต่ใช้กับ Vulkan ไม่ได้
นำโมเดลมาเองค้น Hugging Face จากในหน้า Add Models หรือวางไฟล์ GGUF ลงในโฟลเดอร์โมเดล (เรียกว่า sideload) โมเดลกลุ่มนี้ถือเป็น unsupported ต้องตั้ง system prompt และ chat template เอง เพราะแอปใช้ minja ซึ่งไม่เข้ากับ jinja2 ที่มากับโมเดลได้ทั้งหมด
โมเดล reasoning และ embeddingโมเดลที่ติดป้าย #reasoning คือ Reasoner v1 ซึ่งใช้ javascript code interpreter ในตัว และกลุ่ม DeepSeek-R1 distillations ส่วนโมเดล embedding รองรับ SBert และ Nomic Embed Text v1 กับ v1.5
โมเดลบนคลาวด์ใส่ API key ของ Groq, OpenAI, Mistral หรือ API แบบ OpenAI รายอื่นได้ในแท็บ Remote Providers กรณีนี้ไม่มีไฟล์โมเดลลงเครื่อง และคำถามของคุณถูกส่งออกไปยังผู้ให้บริการรายนั้น

หน้าตาและการใช้งาน

รูปแบบแอปเดสก์ท็อปแบบมีหน้าต่าง (สร้างด้วย Qt) เมนูด้านซ้ายมี Home, Chats, Models, LocalDocs และ Settings และมี Python CLI แบบเบาแยกต่างหาก
ประวัติแชตดูประวัติแชตได้จากปุ่มมุมซ้ายบนของหน้า Chats เปลี่ยนชื่อแชตหรือลบออกจากประวัติได้
System prompt และ templateที่ Settings > Model ตั้ง System Message, Chat Template, Chat Name Prompt และ Suggested FollowUp Prompt ได้ และ clone โมเดลเพื่อเก็บชุดค่าที่ต่างกันได้
ค่าเริ่มต้นของโมเดลContext Length 2048, Max Length 4096, Prompt Batch Size 128, Temperature 0.7, Top P 0.4, Top K 40, Min P 0, Repeat Penalty 1.18, Repeat Penalty Tokens 64 และ GPU Layers 32
แนบไฟล์ในแชตแนบไฟล์ text, markdown, rst และ Excel spreadsheet เข้าแชตได้ ยังไม่มีข้อมูลเรื่องการแนบรูปหรือการใช้เสียง
ธีมและขนาดตัวอักษรธีมมี Light, Dark และ LegacyDark ขนาดตัวอักษรมี Small, Medium และ Large
CPU Threadsค่า CPU Threads ในหมวด Advanced กำหนดจำนวน thread ของ CPU ที่ทำงานพร้อมกัน ค่าเริ่มต้น 4

API และการต่อกับโปรแกรมอื่น

ที่อยู่และ portBase URL คือ http://localhost:4891/v1 โดย port (หมายเลขช่องทางเชื่อมต่อ) เริ่มต้นคือ 4891 เปลี่ยนได้ที่ API Server Port
วิธีเปิดปิดอยู่เป็นค่าเริ่มต้น เปิดได้ที่ Settings > Application > Advanced > Enable Local API Server และการเปิดทำให้ใช้ทรัพยากรเครื่องเพิ่มขึ้น
ความเข้ากันได้ทำตาม OpenAI API specification บางส่วน เป็น API อย่างเดียว ไม่มีหน้าเว็บสำหรับแชต
EndpointGET /v1/models, GET /v1/models/<name>, POST /v1/completions และ POST /v1/chat/completions ไม่มี endpoint สำหรับ embeddings
เครือข่ายรับเฉพาะ HTTP ไม่รับ HTTPS และรับเฉพาะ localhost (127.0.0.1) ไม่รับที่อยู่ IPv6 ::1 จึงใช้ได้เฉพาะโปรแกรมบนเครื่องเดียวกัน
การยืนยันตัวตนไม่ต้องใช้ API key ตัวอย่างโค้ดตั้งค่า openai.api_key = "not needed for a local LLM"
ต่อกับโปรแกรมอื่นมีตัวอย่างสำหรับ OpenAI Python client แบบเก่า (pip install "openai ~= 0.28" แล้วตั้ง openai.api_base = "http://localhost:4891/v1"), cURL และ PowerShell ยังไม่มีข้อมูลวิธีต่อกับเอเจนต์เขียนโค้ด editor หรือ Open WebUI
Python SDK และตัวเชื่อมPython SDK ติดตั้งด้วย pip install gpt4all และมีตัวเชื่อมกับ Langchain, Weaviate Vector Database และ OpenLIT ซึ่งเก็บสถิติการใช้งานและการใช้ฮาร์ดแวร์

ถามตอบจากไฟล์ tools และ MCP

LocalDocsสร้าง collection ที่ผูกกับโฟลเดอร์ในเครื่อง แล้วเปิดใช้ในแชตด้วยปุ่ม LocalDocs มุมขวาบน กด Sources ใต้คำตอบเพื่อดูไฟล์ที่ถูกอ้าง
วิธีทำงานใช้โมเดล embedding ของ Nomic AI ที่รันบนเครื่อง ตัดไฟล์ในโฟลเดอร์เป็นท่อนข้อความ ให้แต่ละท่อนมี embedding vector แล้วใส่ท่อนที่ความหมายใกล้คำถามลงในข้อความที่ส่งให้โมเดล
ชนิดไฟล์ค่าเริ่มต้นคือ .txt, .pdf, .md และ .rst มี .docx เพิ่มในรุ่นหลัง เพิ่มนามสกุลอื่นในการตั้งค่าได้ แต่มีเฉพาะชนิดเริ่มต้นที่ผ่านการทดสอบอย่างละเอียด
ค่าตั้งของ LocalDocsDocument Snippet Size 512 ตัวอักษร, Maximum Document Snippets Per Prompt 3, Embeddings Device เลือก Auto/Metal/CPU/GPU และ Show Sources เปิดอยู่
ต่อกับที่เก็บไฟล์มีสูตรสำหรับ Microsoft Excel, Google Drive, Obsidian Vault และ OneDrive โดยทุกแบบ sync ไฟล์ลงโฟลเดอร์ในเครื่องแล้วผูกโฟลเดอร์นั้นกับ LocalDocs
LocalDocs ผ่าน APIเปิดใช้ LocalDocs ได้จากหน้าจอแอปเท่านั้น โดยเลือก server chat ท้ายรายการประวัติแชตแล้วเปิด collection ในแถบขวา ผ่าน API เปิดเองไม่ได้ รายการอ้างอิงกลับมาที่ response["choices"][0]["references"]
Toolsมี javascript code interpreter ติดมากับแอปตั้งแต่ v3.6.0 (19 ธันวาคม 2024) พร้อมโมเดลที่ใช้คู่กัน ยังไม่มีข้อมูลเรื่องการเพิ่ม tool เอง
MCP, เอเจนต์ และ web searchยังไม่มีข้อมูลเรื่อง MCP (มาตรฐานเชื่อม AI กับบริการภายนอก) หรือเอเจนต์ ส่วน web search มีเฉพาะรุ่น beta แยก (v3.1.0-web_search_beta) ที่ต้องใช้ Brave search API key

ข้อมูลและความเป็นส่วนตัว

รันในเครื่องโมเดลถูกดาวน์โหลดลงเครื่องและรันในเครื่อง ไม่ต้องใช้คลาวด์ และข้อมูลไม่ออกจากเครื่อง
ออฟไลน์แอปทำงานได้โดยไม่ต้องต่ออินเทอร์เน็ต แต่ต้องหาไฟล์โมเดลมาไว้ในเครื่องก่อน และหน้า Add Models ใช้อินเทอร์เน็ต
DatalakeEnable Datalake ปิดอยู่เป็นค่าเริ่มต้น ถ้าเปิด บทสนทนาจะถูกส่งไปที่ GPT4All Open Source Datalake ซึ่งใครก็ดาวน์โหลดได้ และ Nomic AI ใช้ปรับปรุงโมเดล GPT4All รุ่นต่อไป
สถิติการใช้งานหน้าต่างตอนเปิดแอปครั้งแรกถามแยก 2 เรื่อง คือ anonymous usage analytics และการแชร์แชตเข้า Datalake แต่ละเรื่องเลือก opt-in หรือ opt-out ได้ ยังไม่มีข้อมูลว่า usage analytics เก็บอะไรและส่งไปที่ไหน
ฟีเจอร์ที่ส่งข้อมูลออกมี 2 อย่างและเลือกเปิดเอง คือโมเดลบนคลาวด์ (OpenAI, Mistral, Groq หรือเซิร์ฟเวอร์แบบ OpenAI) ซึ่งส่งแชตไปยังผู้ให้บริการและเก็บ API key ไว้บนดิสก์ กับ Use Nomic Embed API ที่ทำ embedding ของ LocalDocs นอกเครื่อง
บัญชีใช้แอปเดสก์ท็อปได้โดยไม่ต้องมีบัญชี ต้องใช้ Nomic API key เฉพาะเมื่อเปิด Use Nomic Embed API ซึ่งปิดอยู่เป็นค่าเริ่มต้น
ที่เก็บข้อมูลในเครื่องโฟลเดอร์ Download Path เก็บไฟล์โมเดล (*.gguf) ไฟล์ประวัติแชต (*.chat) และฐานข้อมูล LocalDocs (localdocs_v*.db) ไว้ด้วยกัน
Privacy policyprivacy policy ของ Nomic (แก้ไข January 15, 2026) ไม่ได้เอ่ยถึง GPT4All

ลิขสิทธิ์และการใช้ในบริษัท

ลิขสิทธิ์ของแอปMIT License, Copyright (c) 2023 Nomic, Inc. อนุญาตให้ใช้ คัดลอก แก้ไข รวม เผยแพร่ แจกจ่าย ให้สิทธิ์ต่อ และขายสำเนาของซอฟต์แวร์ได้
ใช้เชิงพาณิชย์คำอธิบายของโปรเจกต์บน GitHub เขียนว่า Open-source and available for commercial use
ลิขสิทธิ์ของโมเดลMIT License ครอบคลุมเฉพาะตัวแอปและคู่มือที่มากับแอป ไม่ครอบคลุมโมเดลที่โหลดมาใช้ แต่ละโมเดลมีลิขสิทธิ์ของตัวเอง
โมเดลที่ห้ามใช้เชิงพาณิชย์รายการในแอปติดป้ายไว้ทีละตัว เช่น Mistral Instruct เป็น Licensed for commercial use ส่วน Orca 2, Wizard v1.2, Hermes, Snoozy, MPT Chat และ Mini Orca เป็น Cannot be used commercially
แผนสำหรับองค์กรยังไม่มีข้อมูลเรื่องแผนเสียเงินหรือรุ่น enterprise ของ GPT4All ส่วนราคา Nomic Self Service Starts At $20/Month เป็นของ Nomic Platform ซึ่งเป็นคนละผลิตภัณฑ์
ใช้ร่วมกันในทีมไม่มีระบบหลายผู้ใช้หรือฟีเจอร์ของแอดมิน และ API server รับเฉพาะ localhost งานแก้เรื่องการตั้งค่าเครือข่ายเป็นรายการที่ยังไม่ได้ทำในแผนงานปี 2024

ภาษาไทย

หน้าจอแอปไม่มีภาษาไทย หน้าจอมี 7 ภาษา คือ English, Spanish, Italian, Portuguese, Chinese Simplified, Chinese Traditional และ Romanian เลือกได้ที่ Language and Locale ซึ่งค่าเริ่มต้นคือ System Locale
คู่มือคู่มือที่ docs.gpt4all.io มีภาษาอังกฤษอย่างเดียว
โมเดลภาษาไทยไม่มีโมเดลตัวไหนในรายการของแอปที่บอกว่ารองรับภาษาไทย ที่เอ่ยถึงภาษาอื่นมี Llama 3.2 1B/3B Instruct (Multilingual dialogue use), Ghost 7B v0.9.1 (เวียดนามและอังกฤษ) และ EM German Mistral (เยอรมัน)
ถามตอบจากไฟล์ภาษาไทยการเพิ่มโมเดล embedding หลายภาษาให้ LocalDocs เป็นรายการที่ยังไม่ได้ทำในแผนงานปี 2024 ยังไม่มีข้อมูลว่า LocalDocs ค้นไฟล์ภาษาไทยได้ผลแค่ไหน
แผนงานหลายภาษาแผนงานปี 2024 มีรายการ First class Multilingual LLM Support ที่ยังไม่ได้ทำ โดยเอ่ยถึงโมเดลเริ่มต้นสำหรับเยอรมัน อังกฤษ จีน และสเปน ไม่มีภาษาไทย
การแปลหน้าจอคำแปลหน้าจอมาจากอาสาสมัครที่ใช้ Qt Linguist แล้วส่งเป็น pull request (คำขอรวมโค้ดเข้าโปรเจกต์) คำขอเพิ่มภาษาตุรกี (#3705, กันยายน 2026) ยังเปิดค้างอยู่และยังไม่ถูกรวม

ราคาและแผน

แผนราคาได้อะไรบ้าง
GPT4Allฟรีดาวน์โหลดและใช้ได้ฟรีภายใต้ MIT License ซึ่งอนุญาตการใช้เชิงพาณิชย์ ได้แอปเดสก์ท็อป, LocalDocs, Local API Server, Python SDK และ CLI ครบ ไม่มีแผนเสียเงินหรือรุ่น enterprise ลิขสิทธิ์นี้ไม่ครอบคลุมโมเดล แต่ละโมเดลมีลิขสิทธิ์ของตัวเอง

ข้อจำกัดและสิ่งที่ควรรู้ก่อนเริ่ม

  • API server รับเฉพาะ HTTP และเฉพาะ localhost (127.0.0.1) ไม่รับ HTTPS และไม่รับที่อยู่ IPv6 ::1
  • API มี 4 endpoint คือ models, models/<name>, completions และ chat/completions ไม่มี endpoint สำหรับ embeddings
  • Vulkan รันได้เฉพาะไฟล์ .gguf แบบ fp16, Q4_0 และ Q4_1 ส่วน K-quants ต้องใช้ CPU, Metal หรือ CUDA
  • Context Length เริ่มต้นคือ 2048 token และ LocalDocs ส่งข้อความให้โมเดลครั้งละ 3 ท่อน ท่อนละ 512 ตัวอักษรเป็นค่าเริ่มต้น
  • LocalDocs ทำงานแบบค้นหาประโยคที่ความหมายใกล้กัน การสั่งให้สรุปไฟล์ทั้งฉบับและโมเดล embedding หลายภาษาเป็นรายการที่ยังไม่ได้ทำในแผนงานปี 2024
  • ตัวติดตั้ง Linux มีเฉพาะ x86-64 ไม่มี ARM และ Windows ARM รันได้แบบ CPU อย่างเดียว
  • แอปแชตไม่รองรับการ finetune หรือ pre-train โมเดล
  • รุ่นที่ออกหลังสุดคือ v3.10.0 เมื่อ 24 กุมภาพันธ์ 2025 (ขึ้น GitHub วันที่ 25 กุมภาพันธ์ 2025 ตามเวลา UTC) หลังจากนั้นไม่มีรุ่นใหม่หรือรุ่น pre-release
  • โค้ดในสาขา main ถูกแก้ครั้งหลังสุดเมื่อ 27 พฤษภาคม 2025 เป็นการอัปเดตระบบ CI ส่วนการแก้ครั้งก่อนหน้าคือ 25 กุมภาพันธ์ 2025 ที่ตั้งเลขรุ่นเป็น 3.10.1-dev0 ยังไม่มีข้อมูลว่ารุ่นถัดไปจะออกเมื่อไร
  • repository บน GitHub ไม่ได้ถูก archive มี issue เปิดอยู่ 773 รายการ และยังมีผู้ใช้ภายนอกเปิด issue กับ pull request ในเดือนสิงหาคมถึงกันยายน 2026 แต่ยังไม่ถูกรวม
  • ตัวเลข RAM ขั้นต่ำไม่ตรงกัน ข้อกำหนดระบบเขียนว่า 16GB (8GB สำหรับโมเดล 3B) วิกิของโปรเจกต์เขียนว่าอย่างน้อย 8 GB และรายการโมเดลบอกว่า Llama 3 8B ใช้ RAM 8 GB
  • ข้อมูลเรื่อง ARM ขัดกัน ข้อกำหนดระบบเขียนว่า Windows and Linux PCs with ARM CPUs are not currently supported ขณะที่มีตัวติดตั้ง Windows ARM ให้ดาวน์โหลด (CPU อย่างเดียว ตั้งแต่ v3.7.0)
  • ไฟล์โมเดลมีขนาดหลาย GB ต่อตัว เช่น Llama 3 8B Instruct 4.66 GB และโมเดล 13B ราว 7.4 GB เก็บรวมกับประวัติแชตและฐานข้อมูล LocalDocs ใน Download Path ไม่ได้บอกพื้นที่ดิสก์ขั้นต่ำ
  • โมเดลต้องโหลดเข้า RAM ได้ทั้งตัว ถ้าไม่พอ เครื่องจะไปใช้ swap บนดิสก์และการตอบจะช้าลงมาก ยิ่งบทสนทนายาวยิ่งใช้ RAM มากขึ้น
  • ตัวแอปเป็น MIT แต่โมเดลบางตัวในรายการติดป้าย Cannot be used commercially ควรดูลิขสิทธิ์ของโมเดลทีละตัวก่อนใช้ในงานของบริษัท
  • ถ้าเปิด Datalake บทสนทนาจะเปิดให้ใครก็ดาวน์โหลดได้ และถ้าใช้โมเดลบนคลาวด์ แชตจะถูกส่งไปยังผู้ให้บริการรายนั้น
  • โมเดลที่หามาเองจาก Hugging Face ถือเป็น unsupported และมักต้องเขียน chat template เอง
  • หน้า Add Models ต้องต่ออินเทอร์เน็ต ถ้าจะใช้แบบออฟไลน์ตั้งแต่ต้นต้องนำไฟล์โมเดลมาวางในโฟลเดอร์โมเดลเอง
  • เว็บ nomic.ai ส่วนอื่นเป็นเรื่อง Nomic Platform สำหรับบริษัทสถาปัตย์ วิศวกรรม และก่อสร้าง ราคา $20/Month บนแบนเนอร์เป็นของ Nomic Platform ไม่ใช่ของ GPT4All

คำถามที่คนถามเกี่ยวกับ GPT4All

GPT4All คืออะไร

GPT4All คือแพลตฟอร์มโอเพนซอร์สของ Nomic AI สำหรับรันโมเดลภาษา (LLM) บนคอมพิวเตอร์ของตัวเอง มีแอปเดสก์ท็อป Python SDK และ CLI ทำงานบน llama.cpp ไม่ต้องเรียก API ภายนอกและไม่บังคับให้มีการ์ดจอ

GPT4All ฟรีไหม ใช้ในบริษัทได้ไหม

ฟรีและเป็น MIT License ซึ่งอนุญาตการใช้เชิงพาณิชย์ ไม่มีแผนเสียเงิน แต่ลิขสิทธิ์นี้ไม่ครอบคลุมโมเดล บางตัวในรายการของแอป เช่น Orca 2, Wizard v1.2 และ Snoozy ติดป้าย Cannot be used commercially

GPT4All ติดตั้งยังไง

ดาวน์โหลดตัวติดตั้งตามระบบปฏิบัติการ (.exe สำหรับ Windows, .dmg สำหรับ macOS, .run สำหรับ Ubuntu) แล้วรัน จากนั้นเปิดแอป กด Start Chatting, + Add Model, Download แล้ว Load Default Model

GPT4All ต้องใช้สเปกเครื่องเท่าไร คอมแรม 8GB ใช้ได้ไหม

ขั้นต่ำคือ CPU ระดับ Intel Core i3-2100 หรือ AMD FX-4100 ที่รองรับ AVX หรือ AVX2 และ RAM 16GB โดยเขียนไว้ว่า 8GB ใช้กับโมเดล 3B ได้ รายการโมเดลในแอปบอกว่าโมเดล 1B-4B ใช้ RAM 2-4 GB และโมเดล 7B-8B ใช้ 8 GB

ไม่มีการ์ดจอใช้ GPT4All ได้ไหม

ได้ GPT4All รันบน CPU ได้และไม่บังคับให้มีการ์ดจอ ถ้ามีการ์ดจอ เลือกได้ที่ Settings > Application > Device ซึ่งมี Auto, Metal, CPU และ GPU

GPT4All ใช้ port อะไร เปิด API ยังไง

ใช้ port 4891 ที่อยู่คือ http://localhost:4891/v1 เปิดได้ที่ Settings > Application > Advanced แล้วติ๊ก Enable Local API Server เปลี่ยนเลข port ได้ที่ API Server Port เซิร์ฟเวอร์รับเฉพาะ HTTP จากเครื่องเดียวกัน

โมเดลของ GPT4All เก็บไว้ที่ไหน ลบยังไง

Windows เก็บที่ C:\Users\{username}\AppData\Local\nomic.ai\GPT4All, Mac ที่ /Users/{username}/Library/Application Support/nomic.ai/GPT4All/ และ Linux ที่ /home/{username}/.local/share/nomic.ai/GPT4All เปลี่ยนได้ที่ Settings > Application > Download Path ยังไม่มีข้อมูลวิธีลบโมเดลจากในแอป ถ้าลบทั้งโฟลเดอร์ ประวัติแชตและข้อมูล LocalDocs จะหายไปด้วย

GPT4All ใช้ออฟไลน์ได้ไหม ข้อมูลออกนอกเครื่องไหม

ใช้ออฟไลน์ได้เมื่อมีไฟล์โมเดลในเครื่องแล้ว หน้า Add Models เท่านั้นที่ใช้อินเทอร์เน็ต ข้อมูลจะออกนอกเครื่องเมื่อคุณเปิดเองใน 3 กรณี คือ Datalake, โมเดลบนคลาวด์ และ Use Nomic Embed API รวมถึง usage analytics ถ้าเลือก opt-in

GPT4All รองรับภาษาไทยไหม

หน้าจอแอปไม่มีภาษาไทย และคู่มือมีภาษาอังกฤษอย่างเดียว ไม่มีโมเดลในรายการของแอปที่บอกว่ารองรับภาษาไทย ยังไม่มีข้อมูลว่าโมเดลหลายภาษาอย่าง Llama 3.2 ตอบภาษาไทยได้แค่ไหน

ไปที่เว็บ GPT4All nomic.ai
ลิงก์อ้างอิง 31 หน้า
  1. raw.githubusercontent.com/nomic-ai/gpt4all/main/README.md
  2. raw.githubusercontent.com/nomic-ai/gpt4all/main/gpt4all-bindings/python/docs/gpt4all_desktop/localdocs.md
  3. raw.githubusercontent.com/nomic-ai/gpt4all/main/gpt4all-bindings/python/docs/gpt4all_api_server/home.md
  4. raw.githubusercontent.com/nomic-ai/gpt4all/main/gpt4all-bindings/python/docs/gpt4all_desktop/settings.md
  5. raw.githubusercontent.com/nomic-ai/gpt4all/main/gpt4all-bindings/python/docs/gpt4all_desktop/models.md
  6. raw.githubusercontent.com/nomic-ai/gpt4all/main/gpt4all-bindings/python/docs/gpt4all_desktop/quickstart.md
  7. raw.githubusercontent.com/nomic-ai/gpt4all/main/gpt4all-chat/metadata/models3.json
  8. raw.githubusercontent.com/nomic-ai/gpt4all/main/LICENSE.txt
  9. raw.githubusercontent.com/nomic-ai/gpt4all/main/gpt4all-chat/CHANGELOG.md
  10. raw.githubusercontent.com/nomic-ai/gpt4all/main/gpt4all-chat/system_requirements.md
  11. raw.githubusercontent.com/wiki/nomic-ai/gpt4all/Home.md
  12. raw.githubusercontent.com/nomic-ai/gpt4all/main/gpt4all-bindings/cli/README.md
  13. raw.githubusercontent.com/wiki/nomic-ai/gpt4all/Uninstalling-the-GPT4All-Chat-Application.md
  14. raw.githubusercontent.com/nomic-ai/gpt4all/main/gpt4all-bindings/python/docs/gpt4all_help/faq.md
  15. raw.githubusercontent.com/wiki/nomic-ai/gpt4all/Configuring-Custom-Models.md
  16. raw.githubusercontent.com/nomic-ai/gpt4all/main/gpt4all-bindings/python/docs/gpt4all_desktop/chats.md
  17. raw.githubusercontent.com/nomic-ai/gpt4all/main/gpt4all-chat/translations/gpt4all_en_US.ts
  18. raw.githubusercontent.com/wiki/nomic-ai/gpt4all/Local-API-Server.md
  19. raw.githubusercontent.com/nomic-ai/gpt4all/main/gpt4all-bindings/python/mkdocs.yml
  20. raw.githubusercontent.com/wiki/nomic-ai/gpt4all/Web-Search-Beta-Release.md
  21. raw.githubusercontent.com/wiki/nomic-ai/gpt4all/Troubleshooting.md
  22. nomic.ai/privacy-policy
  23. api.github.com/repos/nomic-ai/gpt4all
  24. raw.githubusercontent.com/nomic-ai/gpt4all/main/gpt4all-chat/LICENSE
  25. nomic.ai/pricing
  26. docs.gpt4all.io
  27. raw.githubusercontent.com/nomic-ai/gpt4all/main/roadmap.md
  28. raw.githubusercontent.com/nomic-ai/gpt4all/main/gpt4all-chat/contributing_translations.md
  29. raw.githubusercontent.com/wiki/nomic-ai/gpt4all/Frequently-Asked-Questions.md
  30. api.github.com/repos/nomic-ai/gpt4all/releases
  31. api.github.com/repos/nomic-ai/gpt4all/commits