本地模型如何优化"大"文件？

This topic created in 568 days ago, the information mentioned may be changed or developed.

本地装了个 ollama + openwebui,下了好几个模型（ llama3.2-vision:11b 、deepseek-coder-v2:16b 、llama3.1:8b 等）。
测试丢给他一个 5000 多行的 css 文件，让他优化后给我全部代码，然后就给我各种扯皮，只给我一部分代码（无法在此回答中全部展示优化后的代码）。
是模型问题？还是本地硬件（ N 卡 3090 ）不行？怎么解决这种情况？
我试过在线的 chatgpt 、deepseek 、阿里通义等都不能搞长文的

优化

文件

模型

1 replies • 2024-11-23 16:40:32 +08:00

zachariahss

Nov 23, 2024

遇到过,貌似是说参数调优不行,prompt 约束不够,开源的本质上是基础模型,没有商业化的微调和加持是比不了人家商业化模型的.至于 ali 的话,有一个 qwen-long 的模型你试试呢?