文科生也能輕鬆實現！自建自用大語言模型（LLM）：無痛操作Ollama本機端模型管理器 (1版)

你已厭煩ChatGPT的諸多限制嗎？斷網不能用、網速明顯拖慢回應、敏感話題不回應、免費額度很快用完、回應答案經常飄忽受誤導等，對此打造本機端的大語言模型將可化解、緩解上述限制，如同直接將ChatGPT搬回家，成為你專屬的知識服務。 　　毫無疑問！生成式人工智慧（GenAI）、大語言模型（LLM）正在重新定義人類的創意、生產力價值程序，善用GenAI∕LLM者視其為利器，不善用者視其為威脅挑戰，各位正處於這樣的十字路口。 　　與此同時GenAI∕LLM也讓人疑慮，包含過程機理難懂如黑箱、答案時而確切、時而玄幻等，這又當如何駕馭？加上公眾版GenAI∕LLM服務有諸多限制，使人想善用、駕馭GenAI∕LLM卻又躊躇不前。 　　本書正是為上述痛點而撰，從入門認知到操作實務一路引導、自建自用模型，回頭再望時，各位已是GenAI∕LLM的初階能手。 　　本書目標讀者設定為高中職畢業、大學文科生畢業，並從最初步認知開始，隨即切入最快速獲得實務成就感的程序操作，而後回頭完整解釋操作中的細節機理。 　　更之後返回到基礎認知，瞭解今日常言的Llama、DeepSeek等知名大語言模型，提供繁體中文模型的選擇建議，並透過模型參數量以初估電腦的硬體資源需求等。 　　在認知與實務均站穩腳步後，以此為基礎進行擴展延伸，實務面進入檢索增強生成（RAG）以加強模型回應精準性，並進入多模態（Multimodal）模型、視覺語言模型（VLM），認知面也引領介紹多款與Ollama相仿的本機端模型管理軟體。 　　最後，這一切都還在積極發展中，仍有諸多待完備之處，故末章將給予提醒與關注建議，包含資訊技術走向、社會倫理走向。至於意猶未盡者也可以進一步參考附錄，讓認知更為加深，同時為後續有更多準備。

序言 第1章：大語言模型技術基礎認知 1-1 過往資訊查詢的挫折 1-2 ChatGPT回應表現讓各方驚豔 1-3 三種主要的人工智慧應用類型 1-4 人工智慧的弱、強、超 1-5 ChatGPT的根基與持續推進 1-6 預訓練模型與模型微調 1-7 企業特定微調版實務 1-8 為何要在雲端微調模型與提供服務？ 1-9 生成式人工智慧模型雨後春筍般出現 1-10 大語言模型的瘦身輕量化 1-11 為何要建立本地端的LLM？ 1-12 輕量化的模型有缺點 1-13 家戶與個人難以微調模型 1-14 檢索增強生成也具精進效果 1-15 個人本機端LLM的應用 1-16小結 第2章：快速建立自己的大語言模型 2-1 Ollama軟體簡述 2-2 確認一下自己電腦的資源 2-3 下載、安裝Ollama 2-4 下載並體驗第一個本機端大語言模型 2-5 若沒有浮現安裝完成訊息的因應方式 2-6 如何關閉Ollama互動窗口與Ollama 2-7 前述實務操作說明 第3章：Ollama細部設定調整 3-1 找尋模型的放置位置 3-2 為何要變更模型放置路徑？ 3-3 變更模型放置路徑 3-4 安裝網頁型使用者介面 3-5 Ollama操作介面更多說明 3-6 更新Ollama應用程式 第4章：認知Ollama現行可用的模型 4-1 檢視Ollama官網的模型 4-2 Ollama官網的模型分類 4-3 細部檢視模型資訊 4-4 安裝指定參數版本的模型 4-5 計算模型的佔量與評估建議 第5章：Ollama現行主要模型認知 5-1 開放與封閉的模型 5-2 檢視Ollama模型 5-3 Mistral公司的Mistral系列 5-4 Microsoft的Phi系列 5-5 Meta的Llama系列 5-6 Google的Gemma系列 5-7 Alibaba的Qwen系列 5-8 IBM的Granite系列 5-9 DeepSeek的DeepSeek系列 5-10 現階段四種模型篩選建議 5-11 其他系列模型 5-12 更多模型來源 第6章：Page Assist基礎操作設定 6-1 切換介面色調 6-2 聊天管理 6-3 切換與更改搜尋引擎 6-4 管理模型 第7章：檢索增強生成與視覺模型 7-1 引入檢索增強生成的前置準備 7-2 建立RAG後正式對模型提問 7-3 視覺語言模型 第8章：與Ollama相仿或搭配的軟體 8-1 倚賴與不倚賴Ollama的軟體 8-2 AingDesk 8-3 AnythingLLM 8-4 Chatbox AI 8-5 GPT4All 8-6 Jan 8-7 LM Studio 8-8 Pinokio 8-9 更多建議 第9章：建議與展望 9-1 實務操作建議：摸索設定與釋放硬體潛力 9-2 技術關注建議：AI幻覺改善、根治技術 9-3 應用探索建議：嘗試更多元的模型應用 9-4 應用落實建議：建立或融入知識管理體系 9-5 道德倫理建議：避免誤信、誤用、濫信、濫用 附錄A：大語言模型技術概念簡述 附錄B：大語言模型標竿測試簡述