我最近在嘗試多套 LLM 大語言模型,原本都採用 LM Studio 來實驗,但後來發現 Ollama 還蠻符合我需求的,而且非常容易上手,所以這篇文章我打算來分享一下 Ollama 的使用方式。
... 繼續閱讀 ...
我之前一直使用 PowerShell 的 MSOnline V1 與 AzureAD V2 模組在做許多 Microsoft 365 的自動化工作,原本微軟就打算在 2023 年 9 月 30 日之前棄用這兩個模組,但因故延期到 2024 年 3 月 30 日,也就是這個月底。在死線之前,我終於騰出時間把我過往的 Microsoft 365 自動化腳本全面升級到 Microsoft Graph PowerShell 模組,這個過程真的不太輕鬆,改變真的蠻大的。
... 繼續閱讀 ...
今天又解決了一個卡了我幾個月的問題,這次是 Azure CLI 的輸出編碼問題,只要在一種特殊的條件組合下,就會遇到的問題,我一直都知道怎樣避開這個問題,但卻一直無法理解原因。今天這篇文章我就來說說這個特殊的狀況,幫助大家未來可以順利避開這個問題。
... 繼續閱讀 ...
我前幾天在企業內訓授課的時候,因為客戶主要採用 Oracle 資料庫,所以我原本想說要在 Docker 上安裝 Oracle Database 的免費版本來用,結果我在 2019 年寫過的 Oracle Database Server 12c R2 容器文章已經不能用了。這幾天進一步發現 Oracle 官方提供了新版本的 Oracle Database 容器映象可用,但要從官網或網路上找到一篇立即可上手的文章並不容易,我花了好幾個小時才釐清來龍去脈,這篇文章我就打算來分享新版本 Oracle Database 容器映象的安裝與使用方式。
... 繼續閱讀 ...
由於我多年前買過一張 RTX GeForce 2070 顯卡 (GPU),雖然僅有內建 8.0 GB 的專屬 GPU 記憶體,但要跑一些小的 LLM 模型還是可以的。最近在嘗試把一些 LLM 應用程式跑在 Docker 容器中,但是發現 Docker Desktop for Windows 預設是不支援 NVIDIA CUDA 的,需要特別設定一下才能使用。這篇文章記錄一下設定的過程。
... 繼續閱讀 ...
我現在幾乎所有的 Side Projects 都是用 LINQPad 開發的,不用管理什麼方案或專案,也不用想什麼各種詭異的架構,想到什麼功能就直接寫出來,搭配 AI 助理更是如虎添翼。最近我的一個小小的 AI 專案由於執行時間長,且 AI 回應速度慢又不穩定,因此我加入了快取功能,但是程式只要手動停止,執行中所建立的快取就會失效,所以有點小困擾。今天這篇文章我要介紹一個 LINQPad 8.1 的新功能,還有分享如何「優雅的結束」程式執行。
... 繼續閱讀 ...
最近嘗試在 Angular 的「獨立元件」架構下撰寫單元測試,發現有些技巧官方文件沒寫清楚的問題,需要特別注意。除此之外,這篇文章我還打算整理一些學習資源給大家參考。
... 繼續閱讀 ...
最近嘗試用 Gemini 1.0 Pro 的 API 翻譯了不少影片,品質相當不錯,然後我在想,除了上傳 YouTube 可以附加 SRT 字幕檔之外,有沒有什麼方式可以直接將字幕燒錄到影片上,最後我用 FFmpeg 輕鬆的解決嵌入字幕的問題,這篇文章我就來分享幾個不同的嵌入字幕用法。
... 繼續閱讀 ...
在 GitHub 上面有許多可以呼叫 GPT-3.5 或 GPT-4 的開源專案,但大多都僅支援 OpenAI 提供的 API 端點。如果你想要將這些專案改成呼叫 Azure OpenAI Service (AOAI) 的 API 端點的話,沒用過 AOAI 的人就會不知道怎樣調整。今天這篇文章我打算來整理一下幾個重要的背景知識,方便你快速的轉換過去。
... 繼續閱讀 ...