| 回复了 YaD2x 创建的主题 › 关于楼上渗水到楼下的问题,请友友们提供一些建议。8 月 23 日 |
你说的方案没问题,但是成本只需要 50 (某宝自购),被坑了 1950
| 回复了 zsj1029 创建的主题 › qwen3.6 27b 本地编码测试4 月 29 日 |
@zsj1029 是投机推理
| 回复了 zsj1029 创建的主题 › qwen3.6 27b 本地编码测试4 月 29 日 |
@zsj1029
```
services:
vllm-qwen36-27b:
image: vllm/vllm-openai:v0.20.0
container_name: vllm-qwen36-27b
restart: "unless-stopped"
ports:
- "8085:8000"
volumes:
- models/huggingface/qwen3.6-27b-autoround-int4:/model
environment:
- CUDA_VISIBLE_DEVICES=0
- VLLM_WORKER_MULTIPROC_METHOD=spawn
- PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True
shm_size: "16gb"
deploy:
resources:
reservations:
devices:
- driver: nvidia
count: all
capabilities: [gpu]
command:
- --model
- /model
- --served-model-name
- qwen3.6-27b
- --quantization
- auto-round
- --dtype
- float16
- --gpu-memory-utilization
- "0.92"
- --max-model-len
- "160000"
- --kv-cache-dtype
- fp8_e5m2
- --max-num-seqs
- "1"
- --trust-remote-code
- --reasoning-parser
- qwen3
- --enable-auto-tool-choice
- --tool-call-parser
- qwen3_xml
- --enable-prefix-caching
- --speculative-config
- '{"method":"mtp","num_speculative_tokens":2}'
- --host
- "0.0.0.0"
- --port
- "8000"
```
```
services:
vllm-qwen36-27b:
image: vllm/vllm-openai:v0.20.0
container_name: vllm-qwen36-27b
restart: "unless-stopped"
ports:
- "8085:8000"
volumes:
- models/huggingface/qwen3.6-27b-autoround-int4:/model
environment:
- CUDA_VISIBLE_DEVICES=0
- VLLM_WORKER_MULTIPROC_METHOD=spawn
- PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True
shm_size: "16gb"
deploy:
resources:
reservations:
devices:
- driver: nvidia
count: all
capabilities: [gpu]
command:
- --model
- /model
- --served-model-name
- qwen3.6-27b
- --quantization
- auto-round
- --dtype
- float16
- --gpu-memory-utilization
- "0.92"
- --max-model-len
- "160000"
- --kv-cache-dtype
- fp8_e5m2
- --max-num-seqs
- "1"
- --trust-remote-code
- --reasoning-parser
- qwen3
- --enable-auto-tool-choice
- --tool-call-parser
- qwen3_xml
- --enable-prefix-caching
- --speculative-config
- '{"method":"mtp","num_speculative_tokens":2}'
- --host
- "0.0.0.0"
- --port
- "8000"
```
| 回复了 zsj1029 创建的主题 › qwen3.6 27b 本地编码测试4 月 28 日 |
5090 27B ,vllm 峰值 120 tok/s, 平均 85 tok/s 上下
| 回复了 voidGhost 创建的主题 › 有什么写入全局 AGENTS.md 文件的规则分享吗?3 月 27 日 |
如无必要,勿增实体
| 回复了 Nerv 创建的主题 › 用 Claude Skill 解决 sing-box 配置难题3 月 21 日 |
很不错,代理客户端的 skill ,你好像是第一个
| 回复了 Frank570 创建的主题 › 出租酒仙桥-恒通园区车位3 月 20 日 |
不写价格,也得写点别的信息啊
| 回复了 chaoyebugao 创建的主题 › 内部做一个新的环境,在更新生产环境前先把生产服务等先在这个服务上过一遍,确认没问题后再上生产,这个环境叫什么环境?这种流程叫什么流程?2025 年 10 月 16 日 |
staging
| 回复了 wi11iamZ 创建的主题 › 外出时家宽回连方案讨论2025 年 10 月 14 日 |
wireguard 已被运营商搞残
| 回复了 dark495 创建的主题 › [后续 2] 泉州联通案件的近期情况,以及 10 月 13 日(15:00)开庭|地点:泉州鲤城法院2025 年 10 月 13 日 |
支持!
| 回复了 zhjh0521 创建的主题 › macos 上的小火箭场景功能不工作2025 年 10 月 11 日 |
真想告诉作者,system_profiler 这个命令可以获取到 ssid ,就是解析比较麻烦
| 回复了 huangmingyou 创建的主题 › wg 会被 isp 搞了?2025 年 10 月 11 日 |
确实,同省、跨省、同运营商、跨运营商都不稳了,实测
| 回复了 tiancaiXD 创建的主题 › 蟑螂药有推荐吗?2025 年 9 月 22 日 |
呋虫胺,最终你会用它
| 回复了 BruceXu 创建的主题 › 即将有一笔大额支出用于买车,有没有什么可以薅羊毛的方式?2025 年 9 月 10 日 |
pulse
| 回复了 superhack 创建的主题 › 求一份 sing-box binary 版客户端在 macOS 上的可用配置2025 年 9 月 5 日 |
@LOGOSJ GUI 做了 CLI 之外的一些事情,比如 dns
| 回复了 superhack 创建的主题 › 求一份 sing-box binary 版客户端在 macOS 上的可用配置2025 年 9 月 4 日 |
感谢各位楼上,我好像知道问题原因了,并不是我的配置问题,而是 dns 请求在 macOS 上压根没进 tun ,必须设置一下系统网络 dns ...
https://github.com/SagerNet/sing-box/issues/3223
https://github.com/SagerNet/sing-box/issues/3223
| 回复了 superhack 创建的主题 › 求一份 sing-box binary 版客户端在 macOS 上的可用配置2025 年 9 月 4 日 |
@huangzhiyia mixed 没问题,我这里的问题是 tun-in 的时候,macOS 系统 dns 请求不进 sing-box ...
| 回复了 superhack 创建的主题 › 求一份 sing-box binary 版客户端在 macOS 上的可用配置2025 年 9 月 4 日 |
@weofuh 我照着贴也没有,现在唯一有用的方案是添加一个 inbound listen :: 53 ,然后 `sudo networksetup -setdnsservers "Wi-Fi" 127.0.0.1 ` 才管用,但如果是这样才关于,哪些 sniff / hijack-dns 之类的还有啥用啊?
按说 tun 入站还需要配个 listen 53 和设置系统 dns ,做起来也太多余了吧,请教一下是我哪里没弄对吗?
按说 tun 入站还需要配个 listen 53 和设置系统 dns ,做起来也太多余了吧,请教一下是我哪里没弄对吗?
| 回复了 superhack 创建的主题 › 求一份 sing-box binary 版客户端在 macOS 上的可用配置2025 年 9 月 4 日 |
@RobinHuuu 我试试,多谢
| 回复了 superhack 创建的主题 › 求一份 sing-box binary 版客户端在 macOS 上的可用配置2025 年 9 月 4 日 |
@weofuh 这种,dns 流量压根就没进 sing-box
| 1/10 |