2026/08/06发布
RK3588上跑Whisper base做会议转写，FP32处理8.1秒音频要12.8秒，被客户当场说「不如请个速记员」。我用ONNX Runt
2026/08/05发布
服务过500万用户的BERT情感分类服务，在CPU边缘机器上从180ms压到8ms。本文拆解INT8量化原理，对比ONNX Runtime与Op
2026/08/04发布
用YOLOv8s + ncnn在树莓派5上做量化部署，FP32→FP16→INT8完整转换流程。实测延迟178ms→83ms，模型体积缩至1/4
2026/08/03发布
生产环境将500万条向量从Chroma迁到Milvus全过程：三方案对比、数据迁移代码、双写策略、压测数据（P95延迟38ms vs 248ms
2026/08/02发布
我们花了3周时间给业务知识库搭RAG系统，从最早的暴力向量检索到最后混合检索+重排，召回率从31.2%提到91.7%。这篇把方案对比、完整代码、