ChatRTX

2 月時 NVIDIA 推出了一個示範軟件《NVIDIA ChatRTX》（當時稱為 Chat with RTX），讓用戶可以利用家中電腦的 RTX 顯示卡來運行大型語言模型，以自行提供的資料來用 AI 作整𢑥等工作。不過日前 NVIDIA 就公布在該軟件發現漏洞，建議用戶升級至版本 0.3，同時可享用更多新模型的功能。

NVIDIA 剛發表利用 RTX AI 加速技術的聊天機械人「Chat with RTX」早期示範程式，只要你使用有 8GB VRAM 的 NVIDIA RTX 30 或 40 系列顯示卡就可以玩到。它的特點是大家可以向大語言模型提供 txt、doc、pdf 檔或影片連結，就可以自訂模型提供為用戶量身訂制的答案。由於索引是在本機執行，所以不用擔心私隱問題。