1 篇博文 含有标签「Ollama」

前言​

商业化的大语言模型（LLM，Large Language Model）的运行需要消耗大量的 GPU 算力和能源， 对于个人或者中小企业而言，其投入成本是巨大的，并且就目前的 AI 适用场景来看， 巨量的投入并不能产生相应的回报，因此，对于数据保密性要求不高的企业来说， 直接使用商业化的服务和方案是最佳选择。

不过，借助于 Ollama 我们还是可以在本地 CPU 上运行开源大模型， 以亲身体验当下前沿 AI 技术的能力。