intel b60 48G 可以买吗

现在用的 a770 ，如果是个人用户为了 ai 推理，不建议买 intel 。
其他情况不予评论。

@vvhhaaattt llama 能在 a770 上跑吗

llama.cpp 看你的模型要求了，如果经常试新模型，新模型又用了新的算子……
gpt-oss 为例
sycl 版本 12 月中旬的时候我记得是不能跑还是很慢，因为有算子不支持，会把相关操作退化为 cpu 操作，最近看有 issue 处理，不清楚现状。
valkan 版本能跑，推理速度能用的程度，算子支持速度还行，不过相对 sycl 有折扣。

@after1990s

曾经废了九牛二虎之力在 arc a750 上跑起来了 ipex-llm ，inter 跑 ai 还是不如 cuda 方便

ipex-llm 停止更新了～

这个售价飘了，不如 2 张 AMD 的 7900XTX

都能整 6 张 v100 32G 了。加一点可以 A100 40G 了。这波 H200 一旦进来，之前的 A 系列很大一部分都会被替换出来。

如果你只买一张的话没有必要……
这种就是极限堆显存用的。普通的家用 CPU PCI E 总线也就只有 20~28 条通道。只够插一张这样的卡。
不如买两张 3090 24G ，虽然价格差不多，但是 CUDA 生态给你后续避免很多麻烦，intel 的生态真的一言难尽……

公司的 8 卡 5080 大部分时间是闲置的 我能用来做点什么呢 学习也好?或者其他的