科技笔记
共 116 篇文章
一万亿参数的欧洲反击：Mistral Large 4 先把权重留在自己手里
10月6日，Mistral 发布 Mistral Large 4 预览：1万亿参数多模态 MoE，激活490亿；开放权重月底放出，先供 API，定价输入1.36、输出4.18美元/百万词元。模型在自有欧洲数据中心用3800张英伟达显卡从零训练，覆盖160多种语言。安全评测中，Cyber Index 全球前五，漏洞复现打补丁82%，Cybench 解出93%；部分闭源模型因拒绝执行得分近零。企业可关注其开源、可自部署和多语言，并按任务是否被拒评估，但当前仅预览，权重与细节待补，验证前不宜写入交付。
用方框指定画面：FLUX 3 Image 把出图变成一件排版的活
FLUX 3 Image是Black Forest Labs推出的图像生成与编辑模型。核心变化是把提示词变成可编程布局表：在0到1000网格画布上为元素画框并配语义id，再由全局caption与JSON元素表引用，智能体可根据一句话和画幅自动规划布局。已生成图可逐框改描述、替换或移动，未动区域保持原样；最多10张参考图，原生支持2K/4K。它适合排字、拼贴、分格漫画、杂志跨页和密集人群等部件多、关系严格的构图，不适合单纯风光。对小团队而言，元素可寻址利于批量生产，配图、海报、电商主图可脚本化，但商用素材与肖像授权仍需人负责。
2B token 之后：一个开源团队用一个月算清了 AI 的钱花在哪
Wagtail团队九月实验只用便宜模型GLM 5.3 Flash，共2B token。上半月达标，约68美元；下半月1B token转向其他模型。一次“氛围编程”原型烧掉450M token、150美元，超过目标模型半月开销，复盘认为本可用五分之一成本完成。因供应商容量不足，GLM性能退化，需切换同档模型。14模型评测中，DeepSeek V4.1 Flash以95%准确率、每任务0.09美元、14.9 Wh居首；整月能耗35 kWh，高于计划10 kWh。团队建议自动度量花费、单列试错预算、训练提示词与多智能体分工，并按成本或能耗而非token数选日常主力。
Redis 作者写了个本地推理引擎：128GB 的 Mac 上跑 284B 的模型
antirez 新项目 DwarfStar 4（ds4）并非通用 GGUF 播放器，而是用 C 写的窄口径推理引擎，仅支持 DeepSeek V4/V4.1 Flash、GLM 5.x、Qwen3.8 Flash Next，覆盖 Metal、CUDA、ROCm，文本与视觉均可。它面向高内存机器，以非对称 2-bit 量化压缩 MoE 路由专家、保留共享路径，并把 KV 缓存落到 SSD，借 prompt 哈希续长前缀。ds4、ds4-server、ds4-agent 共享模型与缓存，兼容 OpenAI/Anthropic 接口。128GB Mac、DGX Spark 可跑部分模型，普通笔记本仍难承载；窄口径使工程可控，但换模型约等于换适配，2-bit 质量需业务实测。团队可把敏感、高频、模型固定的请求低成本迁到本地，强推理仍交云端。
当 AI 成了命令行的主要用户：Cloudflare 用一个 cf 覆盖全部 API
Cloudflare披露，Wrangler调用中AI智能体占比2026年3月约四分之一，此前一年为个位数，上周达48%，且更高产：每天用不同命令数近人的两倍，单日超六个命令概率近四倍。Wrangler仅约280个操作，产品有几千接口，旧命令各团队自写、术语不一。新工具cf基于接口描述和内部生成管线生成命令行，覆盖全部接口，并面向未读文档的智能体：内置搜索引导、默认JSON、统一配置。它仍是公开测试版，管线开源。企业应提供结构化、可搜索、配置明确的智能体入口，内部工具宜单一入口加自动生成，并把接口描述当基础设施维护。国内使用前需验证网络链路与合规。
把「该怎么分」压成 22 毫秒：0.8B 的决策小模型在本地跑
Jeff 是基于 Qwen3.5 和 Gemma 4 微调的零样本分类模型：输入情况描述和候选选项，一次前向计算返回选项校准概率，不生成文本。RTX PRO 6000 上约 22 毫秒，M4 Max 约 28 毫秒；提供 0.8B、2B、Gemma4-E2B 三个规格，MIT 许可，可本地嵌入。训练在本地完成。语音导航微调后，准确率从 31.7% 提升到 95.8%，不到半小时。它适合客服归口、意图、审核高频分类，只能在给定选项中选择，不能开放推理；宜大模型生成选项，小模型执行。
同一份单价、少三成花费：Sonnet 5.5 把「日常活」的模型又推了一格
9月28日，Anthropic发布Claude Sonnet 5.5，比上代更快，多数任务最多省三成，是Opus 5.5的搭档。评测中，其智能体编程、跨学科推理、图表识别分别达70.6%、64.5%、61.6%，进步明显，但复杂判断仍以Opus 5.5更强。价格与上代相同，因完成任务所需token更少，每任务成本最多低三成，企业应按任务而非百万token单价核算。它还首次加入网络安全护栏与回退、防推理提取分类器；原关闭思考者迁移需改用between_tools。实用做法是分级选型、按任务算账，并保留可替换接口。
别把 Go 代码绑在 GitHub 上：一个自定义域名就能解开
Go 把导入路径当作代码获取地址，方便却让项目绑定托管商，迁移时所有引用者都要改 import。作者举例，有公司同时使用 GitLab、GitHub 和 Azure DevOps，因迁移成本高而付三份托管费。他建议商业团队让内部库使用自定义域名，import 路径不变，背后可随时切换仓库，用 nginx 和元信息页面即可实现。企业数字化可借鉴：把域名当最便宜的抽象层，附件、图片、接口等 URL 也先走自有域名，并把可迁移写进交付标准，降低锁定与迁移成本。
不登录、不付费、本地跑：fakecloud 想把测试用的 AWS 搬进你的电脑
fakecloud 是专供集成测试的本地 AWS 云模拟器，应用仍用官方 SDK、CLI 和 IaC，只需把 endpoint 指向 localhost，并可用测试 SDK 断言事件、重置状态。它宣称覆盖 105 个服务、7,508 个操作，其中 3,932 个已实现操作经 Smithy 生成测试验证，并支持 30 多个服务间联动。对比 LocalStack 社区版，启动约 300 毫秒、空闲内存约 10MiB、单文件约 19MB，无需账号或 token，许可证为 AGPL-3.0。但它仍年轻，模拟通过不等于线上通过；适合日常集成测试与 CI 快速验证，不能替代真云回归。企业可将其用于降低测试环境成本，在交付中加入一键起本地环境，并划清模拟与真云回归边界。
推理模型「想得太多」：Fireworks 用 Ember-1 把 token 砍掉四成
Fireworks Research 9月发布 Ember-1，基于 Kimi K3，主打同样答案 token 少一半。推理模型大量 token 耗在内部推理，多轮 agent 会反复回放历史推理，成本近二次增长；调低强度又伤质量，于是转向训练模型更高效思考。官方称在7个基准和两家客户生产 A/B 中，推理可缩短35%–50%且准确率不降，每任务成本最多降51.9%，自家开发者切换后无人察觉。其启发是竞争标尺应转向每任务总成本，企业需用自有任务算账，把模型当可替换组件，并以自身流量 A/B 验证。