AI行业资讯

Heooo AI资讯频道,每日更新AI行业动态、技术进展、商业资讯。汇聚全球人工智能前沿信息,助您掌握AI发展趋势,做出智能决策。

深入vLLM:高吞吐大模型推理系统解析 封面图

深入vLLM:高吞吐大模型推理系统解析

本文系统解析vLLM高吞吐大语言模型推理引擎的核心架构,涵盖分页注意力、连续批处理、前缀缓存、推测解码等关键技术,并介绍其从单GPU到多节点动态服务的扩展能力。

# 开源项目Heooo AI工具导航08月07日06时59分 29

Cloudflare开源AI智能体工作空间赋能企业

Cloudflare推出开源AI智能体工作空间Cloudflare OS,基于浏览器运行,内置可共享的定制微型应用。该平台从零打造,经内部验证后开源,支持零信任架构与自带模型,帮助企业沉淀知识、构建专属工作流,实现成本可控与数据安全。

# 开源项目Heooo AI工具导航08月06日18时34分 30
OpenAI开源Codex Security安全审查工具 封面图

OpenAI开源Codex Security安全审查工具

OpenAI正式开源安全审查工具Codex Security,旨在帮助开发者识别并修复代码漏洞。该工具支持通过Codex授权或API Key调用,也可接入第三方模型如DeepSeek,满足不同成本需求。专家提醒,代码安全仍需定期审查习惯。

# 开源项目Heooo AI工具导航08月06日11时35分 28

小米具身基座模型正式开源

小米技术官方宣布,具身基座模型 Xiaomi-Robotics-1 正式开源。该模型基于超过 10 万小时 UMI 数据进行预训练,并使用超过 1 万小时跨本体数据进行后训练,采用预训练加后训练的两阶段范式。本次开源覆盖从真机后训练到模型部署的完整流程,并提供了相关 Benchmark 的评测代码,旨在推动具身智能领域的发展。

# 开源项目Heooo AI工具导航08月05日19时00分 33

京东开源实时视频编辑模型,实现边看边改

京东宣布开源自研实时流式视频编辑模型JoyAI-Video-Edit,支持720P分辨率下每秒30帧的推理速度,可对任意时长视频进行实时编辑。该模型在OpenVE-Bench评测中全面领先国际同类模型,覆盖全局风格、局部替换等任务,并为机器人训练数据合成提供新路径。

# 开源项目Heooo AI工具导航08月05日12时35分 27

Cloudflare开源库为AI智能体配备虚拟工作计算机

Cloudflare推出@cloudflare/computer开源库,以早期预览版形式为每个AI智能体分配独立虚拟工作计算机,包含文件系统与命令执行能力。该方案基于轻量级Isolate环境,结合SQLite虚拟文件系统,支持文件编辑、数据处理等轻量任务,并可通过容器后端运行完整Linux环境,旨在解决大规模AI智能体部署时的资源扩展性问题。

# 开源项目Heooo AI工具导航08月04日19时02分 36
商汤8B轻量模型开源,性能媲美闭源 封面图

商汤8B轻量模型开源,性能媲美闭源

商汤科技发布SenseNova U1.5-Lite-Preview,一款基于原生NEO-Unify架构的轻量级统一多模态模型。该模型仅8B-MoT参数,却在图像生成与编辑上达到商业闭源模型水平,支持4K分辨率、中英文渲染及复杂版面构图。多项基准测试成绩较初代U1大幅提升,同时生产级模型U1Pro即将公测,展现商汤在统一多模态领域的持续创新。

# 开源项目Heooo AI工具导航08月04日18时02分 33

Swiftlet让80B大模型在Mac上仅占4.3GB内存

Swiftlet是一个Swift+Metal运行时,专为Qwen3-Next和Qwen3.5/3.6等MoE模型设计,通过将专家权重流式存储在SSD上,大幅降低内存占用。在M5 Mac上,Qwen3-Next-80B-A3B的4-bit版本峰值内存仅4.3GB,解码速度4.5-5 tok/s;35B版本甚至能在iPhone 17上原生运行,内存约2.5GB。项目已开源,支持端到端运行,提供库、命令行、服务器和iOS应用四种形态。

# 开源项目Heooo AI工具导航08月04日17时34分 38

MiniMax H3开源却限制美国用户,法律诉讼成主因

稀宇科技开源视频大模型MiniMax H3,能力比肩字节Seedance,但许可协议将美国、欧盟、英国及韩国用户排除在外。此举引发社区热议,开发者关系负责人Ryan Lee解释称,限制源于与好莱坞电影公司的版权诉讼,旨在规避法律风险。美国用户可申请授权,但需建立合规机制。

# 开源项目Heooo AI工具导航08月04日13时01分 36

AI资讯过滤工具上线,打造纯净阅读体验

近日,一款名为hcker.news的Hacker News阅读器推出新功能,允许用户过滤掉所有与AI相关的故事,提供更纯粹的科技新闻浏览体验。该工具支持多种搜索和排序选项,满足不同用户需求,引发开发者社区热议。

# 开源项目Heooo AI工具导航08月04日02时59分 32

商汤开源多模态模型原生支持4K图像生成

商汤科技近日开源轻量级统一多模态模型SenseNova U1.5-Lite-Preview,原生支持4K图像生成,在多项评测中超越前代U1,以8B-MoT规模实现媲美商用闭源模型的图像生成与编辑能力,并同步上线GitHub、Hugging Face及魔搭社区。

# 开源项目Heooo AI工具导航08月03日21时02分 34

MiniMax H3开源 支持多模态生成2K视频

MiniMax正式开源新一代通用视频模型MiniMax H3,该模型能够统一理解文本、图像、视频和音频构成的多模态上下文,并生成最高2K分辨率、最长15秒、带原生立体声音频的视频。H3支持多种输入模式,包括文生视频、首尾帧生成和全模态参考,并提供了H3-Context-IR、H3-Base和H3-Regenerate-2K三个模块,基于社区许可发布。

# 开源项目Heooo AI工具导航08月03日15时01分 31

开源AI代理Sprocket:软硬件开发全能选手

16岁开发者推出开源AI代理Sprocket,宣称在硬件和软件开发领域超越其他代理。其独特能力包括自主从任意网站购买硬件零件或SaaS订阅,并通过检索网络最佳上下文提升可靠性。项目已在Hacker News展示,引发社区关注。

# 开源项目Heooo AI工具导航08月03日01时31分 38

华为开源盘古505B参数MoE模型

华为正式开源openPangu-2.0-Pro模型及技术报告,该模型基于昇腾NPU训练,参数规模约505B,采用MoE架构,支持512k上下文,训练数据达34T tokens。模型在架构、优化器等方面全面升级,旨在为业界提供昇腾原生训练与推理的最佳实践参考,推动AI技术生态发展。

# 开源项目Heooo AI工具导航07月31日17时00分 33

华为开源5050亿参数openPangu-2.0-Pro大模型

华为正式开源openPangu-2.0-Pro大模型,总参数规模达5050亿,基于昇腾NPU训练,采用MoE架构,每Token激活18B参数,支持512K上下文。同步开放权重、推理代码和技术报告,推动昇腾AI生态建设,为开发者提供原生训练与推理的最佳实践。

# 开源项目Heooo AI工具导航07月31日16时35分 27

SDL_GPU:轻量高性能2D图形绘制库发布

开源项目SDL_GPU发布,这是一个基于SDL3的极简高性能2D图形绘制库。该库是sokol_gp的移植版本,但采用更低级的资源管理方式,提供单头文件、高性能的2D绘制功能。支持基本图形、精灵、混合模式,并包含错误处理、图像和着色器API。开发者可通过简单的API快速绘制矩形等图形,适用于游戏开发和图形应用。

# 开源项目Heooo AI工具导航07月30日23时59分 32
Feyn团队开源背景移除模型FeyNoBg 封面图

Feyn团队开源背景移除模型FeyNoBg

Feyn 团队近日推出全新开源背景移除模型 FeyNoBg,基于 BiRefNet 架构深度优化,将特征提取模块从18块扩展至24块,参数量从222M增至263M。团队收集并清洗了10个数据集共2.61万张图像进行多源混合训练,在复杂场景、高分辨率、伪装物体及动漫等任务中表现优异。模型已在 GitHub 开源,并附带底层 Python 库,方便开发者快速集成。

# 开源项目Heooo AI工具导航07月30日14时01分 35

腾讯开源AngelSpec框架提升大模型推理效率

腾讯正式开源统训框架AngelSpec,旨在解决大模型自回归解码的高昂成本问题。该框架通过创新的DFly块扩散架构,结合混合目标条件编码与动态验证机制,在保持高吞吐量并行生成的同时优化了特征利用率与资源平衡。在Hy3模型系列测试中,搭载DFly的方案在并发数4到64的范围内均实现了最高平均吞吐量,显著优于传统自回归解码,为大模型高效推理提供了开源工具支持。

# 开源项目Heooo AI工具导航07月30日12时01分 30

TurboFieldfare:2GB内存运行Gemma 4的推理引擎

开发者drumih在Hacker News上发布了一个名为TurboFieldfare的开源推理引擎,专为在M系列Mac上运行4位量化的Gemma 4 26B-A4B-IT模型设计,仅需约2GB RAM。该引擎使用Swift和Metal编写,通过将模型权重分页加载到统一内存中,突破了传统推理引擎的内存限制。项目已在GitHub开源,展示了在Apple Silicon设备上运行大型语言模型的新可能性。

# 开源项目Heooo AI工具导航07月29日23时30分 32

阿里云Qoder开源编程Agent改进工具Better Harness

阿里云旗下智能体编程平台Qoder近日在GitHub上开源了Better Harness,这是一套面向编程Agent工作流的分析与持续改进工具。该工具连接了Harness Engineering与Loop Engineering的工程实践、评估模型和运行能力,并适配Claude Code、Codex、Qoder和Cursor等主流编程Agent。Better Harness采用三层开源体系,包括工程实践、评估模型和可运行实现,能够独立采集三类证据,并在首轮内部评测中覆盖了30个GitHub真实项目。该工具旨在帮助开发者系统性地发现和修复编程Agent工作流中的问题。

# 开源项目Heooo AI工具导航07月29日21时33分 42