英伟达中国区首席技术官:将任务负载从 CPU 移至 GPU 能支撑更多的用户 并节省更多能耗
2023-07-07 16:50:48 来源:站长之家
(资料图片仅供参考)
编程客栈() 7月7日消息:在今天的 2023 世界人工智能大会上,英伟达中国区首席技术官赖俊杰指编程客栈出,全球数据中心计算问题存在两个重要趋势。
首先,人们对人机交互的期望提高,引发了全球第二波关于大模型的投入浪潮。其次,许多互联网公司面临用户需求增长和功耗增加编程的问题,尤其是人工智能的大模型访问比例增加,需要更多的能耗投入。因此,英伟达提出将任务负载从CPU移至GPU,以支撑更多的用户请求,并节省更多的能耗。
据了解,目前,AI GPU 市场主要由英伟达和AMD 主导,但在用于推动像 ChatGPT 这样的大型语言模型(LLM)的 AI GPUphp方面,英伟达占据了 90% 以上的市android场份额。
关键词: