黃仁勳在 Computex 2024 前夕演講，宣佈會推出更多生成式 AI 運算配套給數據中心系統。另一方面，亦有更新開發工具給遊戲和軟件廠商，整合 AI 助手及生式成應用功能，並會更新 RTX 40 系列 SFF 設計，以及強化 Windows AI PC 的 Copilot 執行功能等。
以前打機搵攻略要上網、問朋友，日後有了 AI PC，可能要改寫，NVIDIA 基於 RTX AI Toolkit，發展出針對遊戲玩家的「G-Assist」，它利用生成式 AI，提供玩家有關該遊戲的知識或攻略。G-Assist 可接收玩家的語音或文字輸入內容，遊戲視窗的上下文資訊，並通過 AI 視覺模型處理資料。與遊戲知識資料庫相連的大型語言模型 (LLM) 的上下文感知和對特定遊戲及應用的理解，然後生成定制回覆，以文本或語音形式傳遞給使用者。並以開發中的《方舟：生存飛升》(ARK:Survival Ascended) 進行技術示範，其延伸應用甚至可以提供玩家優化遊戲幀速的效能建議。
配合本機 AI 算力提升，去年發表用於為數位人類（DIGITAL HUMANS）提供助力的 NVIDIA ACE 技術現在將通過 NVIDIA NIM 應用於 RTX AI PC 和工作站，NVIDIA NIM 推理微服務使開發者將部署時間從數周縮短到數分鐘。ACE NIMs 可在設備上本地運行高品質推理，用於自然語言理解、語音合成、面部動畫等。
針對 Windows PC 的 Copilot，微軟和 NVIDIA 合作幫助開發者將全新生成式 AI 功能應用到 Windows 原生和網路應用。為應用開發者提供便捷的 API 以取用 GPU 加速的小型語言模型 (SLM)，支援在設備上運行基於 Windows Copilot Runtime 的檢索增加生成 (RAG) 功能。實現內容摘要、內容生成和任務自動化等。RAG 功能使 AI 模型存取基礎模型中未能充分表示的特定領域資訊，來增強小型語言模型，運用特有的資料來源，根據應用需求調整小型語言模型的行為和功能。
在 AI PC 尚不可能運行雲端級的 LLM 大型語言模型通用運算，因此加推 RTX AI Toolkit，一套用於在 RTX AI PC 上自訂、優化及部署模型的工具和 SDK。支援使用開源的 QLoRa 工具自訂預訓練模型，並使用 NVIDIA TensorRT Model Optimizer 量化模型，以減少記憶體消耗及提升執行效率。據了解 Adobe、Blackmagic Design 和 Topaz 等軟件亦會陸續加入 RTX AI Toolkit 提升 NVIDIA GPU 的執行表現。
在一般玩家尚有機會接觸的用途上，RTX Remix 就宣佈成為開源項目，可使用生成式 AI 重修遊戲貼圖材質、存取其他數位創作工具、Mod 製作工具等，而且提供 SDK 以整合到 DirectX 8 和 DirectX 9 經典版 API 以外的其他遊戲及應用。
NVIDIA RTX Video 的 AI 升頻功能已作為 SDK 對所有開發者開放，可在 Google Chrome、Microsoft Edge 和 Mozilla Firefox 瀏覽器中使用。而剪片軟件如 Blackmagic Design 的 DaVinci Resolve 和 Wondershare Filmora 等亦即將支援 RTX Video，能夠 4K 升頻、SDR 轉換為 HDR。免費媒體播放器 VLC media 即將在其升頻功能加入 RTX Video HDR。
最後，針對愈來愈多的 SFF 迷你機，NVIDIA 正式規定了其顯示卡的「SFF-Ready」標準，為 2.5 槽及 304mm 以內，使用 RTX 4070 或以上的 GPU。
