首页 > 新闻中心
13torch.compile功能与TorchInductor编译器的结合,能够自动生成优化的GPU代码,在不修改代码的情况下大幅加速训练和推理。CUDA_PATH,并在Path中添加%CUDA_PATH%\bin和%CUDA_PATH%\libnvvp,否则系统无法识别底层加速库。conda create -n llm python=3.10),避免污染全局环境。
扫码关注公众号
扫微信在线客服
扫微信在线客服