NVIDIA 託管的開放模型,附免費點數。
開發者帳號可以獲得數千點免費推論點數,用在頂尖開放模型上,實際算下來可以用上好幾週的 Pluely,才需要考慮付費。
這些是 NVIDIA 在自家硬體上調校的參考部署:在其他人也提供的模型上,延遲穩定可靠,而且通常更快。
新的開放模型發布後很快就會出現在 build.nvidia.com 上,而且都使用你已經設定好的同一個相容端點。
任何相容 OpenAI 的端點都能以相同方式使用。
在 build.nvidia.com 建立金鑰。金鑰會留在你的裝置上,Pluely 會在本機加密,除了 NVIDIA NIM 本身之外絕不會傳送到其他地方。
開啟 Pluely 的儀表板 → AI 供應商 → 新增自訂供應商。貼上 Base URL(https://integrate.api.nvidia.com/v1)與你的金鑰,並選擇要使用的模型。
你的 NVIDIA NIM 模型現在會出現在浮動視窗的模型選單中。選取一個,之後的每次提問、截圖與會議回答都使用你的金鑰執行,Pluely 不計用量。
連接供應商不會限制產品功能,每個模式都會透過它處理。
擷取整個螢幕、拖曳選取剛好那個錯誤或重要的條款、附加 PDF 與文件(內建 OCR),或開啟「使用圖片」,讓每則訊息都帶著最新截圖。NVIDIA NIM 會根據你眼前真正的內容來回答。
聆聽模式會即時轉錄你的麥克風與系統音訊並標示說話者,NVIDIA NIM 會在問題問完之前就起草建議回答:每個問題都自動回答、每次停頓後回答,或只在你點選「建議」時回答。
一鍵就能把任何回答、逐字稿或文件變成摘要、附待辦事項的重點、翻譯或更長的草稿,會議筆記也會邊開會邊自動整理。這一切都由 NVIDIA NIM 執行。