Apple SHARP高斯泼溅模型浏览器端运行
开源项目

Apple SHARP高斯泼溅模型浏览器端运行

Heooo 05月04日18时07分 1 阅读

「开发者将Apple SHARP模型通过ONNX Runtime Web移植到浏览器,实现单张图片生成高斯泼溅并预览下载,支持本地或托管模型运行。」

近日,开发者bring-shrubbery在GitHub上发布了ml-sharp-web项目,成功将Apple公司的SHARP(Splatting High-quality Assets with Rendering Priors)模型通过ONNX Runtime Web移植到浏览器中运行。这一创新使得用户无需安装复杂的深度学习环境,仅需一个现代浏览器即可体验高斯泼溅(Gaussian Splatting)的生成与预览功能。

SHARP是Apple于2024年底开源的高斯泼溅生成模型,能够从单张图片快速生成高质量的三维高斯泼溅表示。ml-sharp-web项目在此基础上,利用ONNX Runtime Web的WebAssembly后端,将SHARP模型导出为ONNX格式并在浏览器端进行推理。用户只需上传一张图片,点击“Generate Splat”按钮,即可在浏览器中生成并预览高斯泼溅结果,最终下载.ply格式的文件。

Apple SHARP高斯泼溅模型浏览器端运行

项目基于Bun构建,使用React和TypeScript开发前端界面,通过Web Worker实现ONNX Runtime Web的异步推理。后处理部分包括NDC(归一化设备坐标)到度量高斯坐标的转换,以及浏览器端PLY文件的写入。预览功能则依赖@mkkellogg/gaussian-splats-3d库实现。

值得注意的是,SHARP模型权重较大,导出的ONNX侧车文件(sidecar)约2.4GB。项目默认使用托管模型以减少用户本地存储压力,但用户也可以自行导出模型。导出过程需要先克隆Apple的ml-sharp仓库,配置Python依赖,然后运行项目提供的export_sharp_onnx.py脚本。脚本会生成两个文件:sharp_web_predictor.onnx(包含计算图与元数据)和sharp_web_predictor.onnx.data(包含大部分模型权重)。这两个文件必须放置在同一目录下才能正常加载。

用户可通过bun install安装依赖,bun dev启动开发服务器,然后访问Vite提供的URL(通常为http://localhost:5173)。对于生产部署,可使用bun run build生成静态文件,再通过bun run preview预览。需要注意,如果模型文件存在,构建输出会非常大。

ml-sharp-web项目遵循Apple SHARP的许可证要求:代码部分使用SHARP代码许可证,模型权重则需遵守SHARP模型许可证(研究用途限制)。用户若使用Apple官方发布的检查点,必须遵守模型许可证的相关条款。

这一项目展示了将大型AI模型通过ONNX Runtime Web部署到浏览器的可行性,为三维内容创作、AR/VR预览、在线3D建模等场景提供了低门槛的技术方案。开发者表示,如果项目有帮助,欢迎在GitHub上点星支持。

项目地址:https://github.com/bring-shrubbery/ml-sharp-web

# 高斯泼溅 # ONNX Runtime Web # 浏览器端推理 # Apple SHARP # 开源项目

来源:Heooo AI工具导航

📰

资讯不存在

该资讯可能已被删除或不存在

返回资讯列表