Google 最近一年來承受著 OpenAI 帶來的極大壓力，感覺公司內部不斷重組，產品名稱也是一直在變化。由於我最近花了比較多時間在研究 Google 的 Gemini 技術，過程一直不斷被「命名」苦惱，直到最近才比較清楚整個來龍去脈。這篇文章我打算來整理一下 Google 的 Gemini 到底推出過多少「相似」的名稱，包含分類方式、產品名稱、舊名稱、新名稱、變化的名稱、套件名稱、模型名稱、工具名稱、函式庫名稱等等，坐好啊，馬上起飛！😅
... 繼續閱讀 ...
我最近在嘗試多套 LLM 大語言模型，原本都採用 LM Studio 來實驗，但後來發現 Ollama 還蠻符合我需求的，而且非常容易上手，所以這篇文章我打算來分享一下 Ollama 的使用方式。
... 繼續閱讀 ...
由於我多年前買過一張 RTX GeForce 2070 顯卡 (GPU)，雖然僅有內建 8.0 GB 的專屬 GPU 記憶體，但要跑一些小的 LLM 模型還是可以的。最近在嘗試把一些 LLM 應用程式跑在 Docker 容器中，但是發現 Docker Desktop for Windows 預設是不支援 NVIDIA CUDA 的，需要特別設定一下才能使用。這篇文章記錄一下設定的過程。
... 繼續閱讀 ...
在 GitHub 上面有許多可以呼叫 GPT-3.5 或 GPT-4 的開源專案，但大多都僅支援 OpenAI 提供的 API 端點。如果你想要將這些專案改成呼叫 Azure OpenAI Service (AOAI) 的 API 端點的話，沒用過 AOAI 的人就會不知道怎樣調整。今天這篇文章我打算來整理一下幾個重要的背景知識，方便你快速的轉換過去。
... 繼續閱讀 ...
我最近寫了一個小程式，幫助我自動化審核 LINE 社群(OpenChat)的加入申請，由於 LINE 社群並沒有提供 API 可以串接，而我的審核數量又非常大，因此我就想到了透過 OCR 辨識的方式來進行自動化。不過找了幾個免費的 OCR 套件，都沒有辦法很可靠的識別截圖中的文字，直到我嘗試了 Azure AI Vision 服務才眼睛為之一亮，這套產品的 Image analysis 功能品質極高，費用也極低，實際開發出東西後，我覺得這個服務真的非常值得推薦給大家。這篇文章我就帶大家用 .NET 8 簡單上手這個好用的雲端服務！
... 繼續閱讀 ...
各位可能已經知道 Visual Studio Code v1.84 與 GitHub Copilot Chat 最近內建了一個 Commit message generation 功能，可以自動產生 Git Commit 需要的 Log，不過我覺得第一版功能相當殘缺，常常言不及義，也不能客製化提示內容(Prompts)，不太好用。我自己則是找到一套 CodeGPT 工具來幫我做到一樣的事，用了一段時間覺得真的相當實用，所以打算透過這篇文章介紹給大家。
... 繼續閱讀 ...
我最近又有一場企業內訓是關於 Git 教育訓練，大家應該都知道 Git 是一個非常知名的版本控制系統，它可以追蹤文件的更改、協調多人協作、還原過去的版本等等。學習 Git 可以幫助你更好地管理你的程式碼，並提高團隊協作的效率。雖然說 Git 是軟體開發行業中不可或缺的技能，但市場上永遠都有新進者，他們想學習 Git，但不知道從何入手。今天這篇文章我打算提供一系列學習 Git 版本控管的提示詞 (Prompt)，幫助 Git 新手藉助 ChatGPT 快速瞭解 Git 版本控管。
... 繼續閱讀 ...
我整理了一份我今年曾經嘗試過也覺得不錯用的 AI 工具清單，其中包含程式開發、文字生成、圖像生成、影像處理、聲音處理、圖像辨識、語音辨識、生產力工具、手機 APP 等，日後如果有新的體驗我也會更新到這篇文章。如果你也有用過不錯的 AI 工具，歡迎來到 Generative AI 技術交流中心 臉書社團跟我一起分享交流。
... 繼續閱讀 ...
我家裡有一張 NVIDIA GeForce RTX 2070 顯卡，每次在 Hugging Face 看到一些不錯的 AI 模型想在本機跑起來，無奈 GRAM 只有 8GB 而已，連個 7B 的 LLM 模型都跑不起來。上個月我在上海參加 2023 Google I/O Connect 大會，認識了一位 GDE 在 Lepton AI 工作，他們公司主要做 LLMOps 工具，可以無腦的將許多開源的 LLM 模型部署起來，而且還有免費的 GPU 資源可以使用，這樣就可以讓我們這些沒有太多 GPU 資源的開發者也可以輕鬆的玩 LLM 了。這篇文章我打算來介紹一下如何使用 Lepton AI 的工具在本機與雲端部署台灣最近釋出的 Taiwan-LLM-7B 模型。
... 繼續閱讀 ...