12GB VRAM 顯卡運行 GPT-OSS-20B：vLLM 與統一記憶體實戰指南
探索如何在 12GB VRAM NVIDIA 顯卡上，結合 vLLM 與 Unified Memory 技術運行 gpt-oss-20b。內容涵蓋安裝步驟、參數調整與效能挑戰。適合想在有限資源下部署大型語言模型的進階用戶。
屬於 “Python” 標籤的文章
查看所有標籤
共有 6 篇文章
套件還是資料夾？Python __init__.py 與命名空間套件全解析
你知道 Python 專案裡的 init.py 檔案有什麼作用嗎？本篇帶你深入了解套件、命名空間套件與最佳實踐。想知道什麼時候該放、什麼時候能省略？三分鐘掌握 Python 專案結構設計關鍵！
Python 快速判斷是否運行於 Linux 容器環境
想知道你的 Python 程式是否在 Linux 容器中運行嗎？本文整理多種檢測技巧，從 cgroup、環境變數到第三方庫，讓你輕鬆辨識運行環境，提升部署彈性。
Python 格式化工具選擇與 Black 指令教學
想知道推薦的 Python 格式化工具嗎？本篇詳解如何設定 VSCode 預設 Formatter，並教你用 Black 指令格式化特定資料夾。讓你的程式碼風格一致又專業！
強型別與靜態型別優勢解析：Python 靜態型別實踐全攻略
你知道強型別與靜態型別能大幅提升程式碼品質嗎？本文帶你深入了解其優勢，並教你如何在 Python 中實踐靜態型別設計。從型別提示到工具整合，讓開發更安全高效！
uv sync 生產級指令：凍結依賴、排除開發套件一次搞懂
深入解析 uv sync --frozen --no-dev --no-editable 的每個選項，確保生產環境穩定一致。學會如何只安裝鎖定版本、跳過開發套件與可編輯模式。最後再教你一招，把專案同時裝成可呼叫工具！