Ollama v0.8发布!AI流式响应+实时搜索,本地模型也能秒变智能助手!
作者
2025-05-29
6次阅读
人工智能

Ollama官方宣布推出Ollama v0.8,为本地运行大型语言模型带来突破性升级。其核心亮点如下:1. 流式传输响应,用户可实时接收逐步生成的响应,提升交互体验,在复杂查询等场景优势明显。2. 工具调用,本地语言模型能通过API与外部工具和数据源交互,如调用网络搜索API,但工具调用在高温度设置下可能不稳定。3. 性能优化,修复内存泄漏问题,优化模型加载速度,提升长上下文推理速度和内存分配效率,改进模型导入流程,支持灵活的并发请求处理。4. 开源生态,发布完整代码和文档,支持多种主流模型,降低开发门槛。Ollama v0.8巩固了在本地AI领域的领先地位,推动本地AI普及,但仍有优化空间。项目地址:https://github.com/ollama/ollama/releases/tag/v0.8.0 。