小戴的网络日志

数字游民的思考碎片与生活切片

jundot/omlx 是 GitHub 18.8k stars、1.6k forks、Apache-2.0 协议的 Apple Silicon 原生 LLM 推理服务器,在 vLLM 风格的「连续批处理 + 分页 KV 缓存」之上独创了「热内存 + 冷 SSD」双层缓存,菜单栏 SwiftUI App + Web Admin Dashboard 一体化,OpenAI/Anthropic 协议完全兼容,并把多 Mac 分布式推理(Ring/Thunderbolt RDMA + JACCL)做到了产品级,今天稳稳霸榜 GitHub Trending。

阅读全文 »

cordiverse/cordis 是 GitHub 5.4k stars、290 forks、MIT 协议的 Node.js "时空可组合性(Spatiotemporal Composability)"元框架,五个核心概念(插件 / 上下文 / inject 依赖声明 / 类型化事件分发 / 可逆注册)补齐了"插件可装可卸、副作用全可回滚"的工程空白,凭借一篇正式 paper 的编程范式论证和整套 effect / coeffect 形式化抽象,成为 DeepSeek Harness(@deepseek-ai/cordis fork)以及多个 AI Agent harness 的底层 plugin runtime,单日 +959 stars 冲上 GitHub Trending。

阅读全文 »

nautechsystems/nautilus_trader 是 GitHub 25.7k stars、3.4k forks 的 Rust 原生、生产级量化交易引擎,用 mimalloc + tokio 异步 + PyO3 + 128-bit 价格精度实现"回测 / 实盘同一套代码"的 research-to-live parity,覆盖 16+ 交易所/数据源(CEX、DEX、IB、Polymarket、Betfair、Databento、Tardis),支持加密、股票、外汇、期货、期权、预测市场、体育博彩全资产类别,OpenSSF Scorecard + SLSA + Sigstore 三件套齐全,LGPL-3.0 开源。

阅读全文 »

cactus-compute/needle 是 GitHub 6.6k stars、435 forks、Cactus Compute 开源的 14MB 设备端基础模型 Needle 2(45M 参数、CQ2-bit 量化、Simple Attention Network 架构),自带字节级 grammar 约束解码、confidence gating、tool retrieval 与 256-token 滑动窗口,把 Tool Calling / Structured Extraction 跑在 28MB 常驻内存内,支持 LoRA 微调与 .cact 导出,配合本地 Playground 可在手机、嵌入式、智能家居、机器人上离线运行。

阅读全文 »

cloudflare/computer 是 GitHub 8.3k stars 的 Cloudflare 官方边缘沙箱项目,把 SQLite-backed 虚拟文件系统塞进 Durable Object,提供 Container / Worker Shell / Worker JavaScript 三个可插拔 backend,统一通过 workspace.runtime.exec 入口调用,让 AI Agent 可以直接在 Cloudflare 边缘上跑真 Linux、跑 bash、跑 JS,并把状态用 FUSE 挂载成真实文件系统。

阅读全文 »
0%