12GB VRAM 顯卡運行 GPT-OSS-20B：vLLM 與統一記憶體實戰指南
探索如何在 12GB VRAM NVIDIA 顯卡上，結合 vLLM 與 Unified Memory 技術運行 gpt-oss-20b。內容涵蓋安裝步驟、參數調整與效能挑戰。適合想在有限資源下部署大型語言模型的進階用戶。
屬於 “Container” 標籤的文章
查看所有標籤
共有 8 篇文章
Python 快速判斷是否運行於 Linux 容器環境
想知道你的 Python 程式是否在 Linux 容器中運行嗎？本文整理多種檢測技巧，從 cgroup、環境變數到第三方庫，讓你輕鬆辨識運行環境，提升部署彈性。
Docker MCP Gateway：AI 工具整合新世代閘道
探索 Docker MCP Gateway 如何成為 AI 代理與外部工具整合的統一入口，並帶來安全性與管理效率的提升。深入解析其創新機制與生態系統整合。想知道如何簡化 AI 工具部署與管理？點擊深入了解！
解決 Discord.NET 全球化不變模式錯誤的 5 個步驟
Discord.NET 在 Docker 或 Linux 容器裡報『Only the invariant culture is supported』？這篇教你 5 個簡單步驟，徹底解決全球化不變模式的文化錯誤，讓機器人跨平台穩定執行，不再被文化設定卡住！
OCI Image Format 為什麼不支援 HEALTHCHECK？最佳實踐與替代方案
深入解析 OCI Image Format 不支援 HEALTHCHECK 的設計理念與技術考量，並整理在 Kubernetes、Podman 等環境下的健康檢查最佳實踐與替代方案。
Podman 容器內查詢 PostgreSQL 所有帳號與權限設定教學
教你如何在 Podman 容器中，使用指令查詢 PostgreSQL 資料庫所有帳號（role）與權限設定，完整步驟與注意事項，適用於容器化資料庫管理與權限稽核需求。
使用 Dockerfile 建置專案並導出編譯檔案的優勢
解析為何在 CI/CD 流程中以 Dockerfile 建置專案並利用 --output 導出編譯檔案，能提升環境一致性、自動化與部署效率。
Docker Build 快取失效指南：哪些 Dockerfile 指令會導致 Cache Miss
深入解析 Docker build 過程中導致快取失效的 Dockerfile 指令，包含 RUN、ENV、ARG、COPY 等指令的快取機制，以及如何透過最佳實踐提升建置效率並減少不必要的重建時間