速度太慢

[lisichen123]

我上传一个就20多行的代码，接了API之后，跑掉我30块钱几个小时，把额度跑完直接停机了，为什么会这么慢呢？我看github上说10分钟就能解码一个工程，是不是我哪里配置有错？我就改了一下api和大模型名字，别的都没动

[239573049]

我上传一个就20多行的代码，接了API之后，跑掉我30块钱几个小时，把额度跑完直接停机了，为什么会这么慢呢？我看github上说10分钟就能解码一个工程，是不是我哪里配置有错？我就改了一下api和大模型名字，别的都没动

这跟你使用的模型有关，还有默认情况下启用了精炼也会影响速度

[lisichen123]

我上传一个就20多行的代码，接了API之后，跑掉我30块钱几个小时，把额度跑完直接停机了，为什么会这么慢呢？我看github上说10分钟就能解码一个工程，是不是我哪里配置有错？我就改了一下api和大模型名字，别的都没动

这跟你使用的模型有关，还有默认情况下启用了精炼也会影响速度

请问一下，我是用的通义的最快的qwen-flash，然后我这也只是试了一下共3000行的代码。我这边的数据是：通义平均接收的token高达10万，然后我挂了一晚上，把通义上的余额都跑完了，有100多块吧，然后在WEB上看到只写了一两个文档，这正常吗？我看了一下其他人问的问题，是不是有反复重试的问题？就针对一个文档一直在反复跑出不来？

[lisichen123]

我上传一个就20多行的代码，接了API之后，跑掉我30块钱几个小时，把额度跑完直接停机了，为什么会这么慢呢？我看github上说10分钟就能解码一个工程，是不是我哪里配置有错？我就改了一下api和大模型名字，别的都没动

这跟你使用的模型有关，还有默认情况下启用了精炼也会影响速度

然后，我从github上clone的代码，这个docker-compose.yml，我是这样配置的，应该没问题吧？然后也没有看到精炼，要去web端用admin手动关了嘛
`services:
koalawiki:
image: crpi-j9ha7sxwhatgtvj4.cn-shenzhen.personal.cr.aliyuncs.com/koala-ai/koala-wiki
environment:
- KOALAWIKI_REPOSITORIES=/repositories
- TASK_MAX_SIZE_PER_USER=5 # 每个用户AI处理文档生成的最大数量
- REPAIR_MERMAID=1 # 是否进行Mermaid修复，1修复，其余不修复
- CHAT_MODEL=qwen-flash # 必须要支持function的模型
- ANALYSIS_MODEL=qwen-flash # 分析模型，用于生成仓库目录结构，这个很重要，模型越强，生成的目录结构越好，为空则使用ChatModel
# 分析模型建议使用GPT-4.1 , CHAT模型可以用其他模型生成文档,以节省 token 开销
- CHAT_API_KEY=sk-xxxx #您的APIkey
- LANGUAGE= # 设置生成语言默认为“中文”, 英文可以填写 English 或 英文
- ENDPOINT=https://dashscope.aliyuncs.com/compatible-mode/v1
- DB_TYPE=sqlite
- DB_CONNECTION_STRING=Data Source=/data/KoalaWiki.db
- UPDATE_INTERVAL=5 # 仓库增量更新间隔，单位天
- EnableSmartFilter=true # 是否启用智能过滤，这可能影响AI得到仓库的文件目录
- ENABLE_INCREMENTAL_UPDATE=true # 是否启用增量更新
- ENABLE_CODED_DEPENDENCY_ANALYSIS=false # 是否启用代码依赖分析？这可能会对代码的质量产生影响。
- ENABLE_WAREHOUSE_FUNCTION_PROMPT_TASK=false # 是否启用MCP Prompt生成
- ENABLE_WAREHOUSE_DESCRIPTION_TASK=false # 是否启用仓库Description生成
- OTEL_SERVICE_NAME=koalawiki
- OTEL_EXPORTER_OTLP_PROTOCOL=grpc
- OTEL_EXPORTER_OTLP_ENDPOINT=http://aspire-dashboard:18889
volumes:
- ./repositories:/app/repositories
- ./data:/data
build:
context: .
dockerfile: src/KoalaWiki/Dockerfile

koalawiki-web:
image: crpi-j9ha7sxwhatgtvj4.cn-shenzhen.personal.cr.aliyuncs.com/koala-ai/koala-wiki-web
command: ["/app/start.sh"]
environment:
- NEXT_PUBLIC_API_URL=http://koalawiki:8080 # 用于提供给server的地址
build:
context: ./web
dockerfile: Dockerfile

nginx: # 需要nginx将前端和后端代理到一个端口
image: crpi-j9ha7sxwhatgtvj4.cn-shenzhen.personal.cr.aliyuncs.com/koala-ai/nginx:alpine
ports:
- 8090:80
volumes:
- ./nginx/nginx.conf:/etc/nginx/conf.d/default.conf
depends_on:
- koalawiki
- koalawiki-web

aspire-dashboard:
image: mcr.microsoft.com/dotnet/aspire-dashboard
container_name: aspire-dashboard
restart: always
environment:
- TZ=Asia/Shanghai
- Dashboard:ApplicationName=Aspire`

[239573049]

我上传一个就20多行的代码，接了API之后，跑掉我30块钱几个小时，把额度跑完直接停机了，为什么会这么慢呢？我看github上说10分钟就能解码一个工程，是不是我哪里配置有错？我就改了一下api和大模型名字，别的都没动

这跟你使用的模型有关，还有默认情况下启用了精炼也会影响速度

然后，我从github上clone的代码，这个docker-compose.yml，我是这样配置的，应该没问题吧？然后也没有看到精炼，要去web端用admin手动关了嘛 `services: koalawiki: image: crpi-j9ha7sxwhatgtvj4.cn-shenzhen.personal.cr.aliyuncs.com/koala-ai/koala-wiki environment: - KOALAWIKI_REPOSITORIES=/repositories - TASK_MAX_SIZE_PER_USER=5 # 每个用户AI处理文档生成的最大数量 - REPAIR_MERMAID=1 # 是否进行Mermaid修复，1修复，其余不修复 - CHAT_MODEL=qwen-flash # 必须要支持function的模型 - ANALYSIS_MODEL=qwen-flash # 分析模型，用于生成仓库目录结构，这个很重要，模型越强，生成的目录结构越好，为空则使用ChatModel # 分析模型建议使用GPT-4.1 , CHAT模型可以用其他模型生成文档,以节省 token 开销 - CHAT_API_KEY=sk-xxxx #您的APIkey - LANGUAGE= # 设置生成语言默认为“中文”, 英文可以填写 English 或 英文 - ENDPOINT=https://dashscope.aliyuncs.com/compatible-mode/v1 - DB_TYPE=sqlite - DB_CONNECTION_STRING=Data Source=/data/KoalaWiki.db - UPDATE_INTERVAL=5 # 仓库增量更新间隔，单位天 - EnableSmartFilter=true # 是否启用智能过滤，这可能影响AI得到仓库的文件目录 - ENABLE_INCREMENTAL_UPDATE=true # 是否启用增量更新 - ENABLE_CODED_DEPENDENCY_ANALYSIS=false # 是否启用代码依赖分析？这可能会对代码的质量产生影响。 - ENABLE_WAREHOUSE_FUNCTION_PROMPT_TASK=false # 是否启用MCP Prompt生成 - ENABLE_WAREHOUSE_DESCRIPTION_TASK=false # 是否启用仓库Description生成 - OTEL_SERVICE_NAME=koalawiki - OTEL_EXPORTER_OTLP_PROTOCOL=grpc - OTEL_EXPORTER_OTLP_ENDPOINT=http://aspire-dashboard:18889 volumes: - ./repositories:/app/repositories - ./data:/data build: context: . dockerfile: src/KoalaWiki/Dockerfile

koalawiki-web: image: crpi-j9ha7sxwhatgtvj4.cn-shenzhen.personal.cr.aliyuncs.com/koala-ai/koala-wiki-web command: ["/app/start.sh"] environment: - NEXT_PUBLIC_API_URL=http://koalawiki:8080 # 用于提供给server的地址 build: context: ./web dockerfile: Dockerfile

nginx: # 需要nginx将前端和后端代理到一个端口 image: crpi-j9ha7sxwhatgtvj4.cn-shenzhen.personal.cr.aliyuncs.com/koala-ai/nginx:alpine ports: - 8090:80 volumes: - ./nginx/nginx.conf:/etc/nginx/conf.d/default.conf depends_on: - koalawiki - koalawiki-web

aspire-dashboard: image: mcr.microsoft.com/dotnet/aspire-dashboard container_name: aspire-dashboard restart: always environment: - TZ=Asia/Shanghai - Dashboard:ApplicationName=Aspire`

是的环境变量只有第一次生效，

[239573049]

我上传一个就20多行的代码，接了API之后，跑掉我30块钱几个小时，把额度跑完直接停机了，为什么会这么慢呢？我看github上说10分钟就能解码一个工程，是不是我哪里配置有错？我就改了一下api和大模型名字，别的都没动

这跟你使用的模型有关，还有默认情况下启用了精炼也会影响速度

请问一下，我是用的通义的最快的qwen-flash，然后我这也只是试了一下共3000行的代码。我这边的数据是：通义平均接收的token高达10万，然后我挂了一晚上，把通义上的余额都跑完了，有100多块吧，然后在WEB上看到只写了一两个文档，这正常吗？我看了一下其他人问的问题，是不是有反复重试的问题？就针对一个文档一直在反复跑出不来？

系统核心是agents模型，在生成文档之前会对整个仓库核心代码扫描分析然后在生成目录，然后目录会在每一个目录都是一个Agent在生成文档，很吃tokens

[lisichen123]

我上传一个就20多行的代码，接了API之后，跑掉我30块钱几个小时，把额度跑完直接停机了，为什么会这么慢呢？我看github上说10分钟就能解码一个工程，是不是我哪里配置有错？我就改了一下api和大模型名字，别的都没动

这跟你使用的模型有关，还有默认情况下启用了精炼也会影响速度

请问一下，我是用的通义的最快的qwen-flash，然后我这也只是试了一下共3000行的代码。我这边的数据是：通义平均接收的token高达10万，然后我挂了一晚上，把通义上的余额都跑完了，有100多块吧，然后在WEB上看到只写了一两个文档，这正常吗？我看了一下其他人问的问题，是不是有反复重试的问题？就针对一个文档一直在反复跑出不来？

系统核心是agents模型，在生成文档之前会对整个仓库核心代码扫描分析然后在生成目录，然后目录会在每一个目录都是一个Agent在生成文档，很吃tokens

好的，我换了个领导的api，这下不怕花钱了hhh。然后我这边日志一直在打印这样的内容：
koalawiki_1 | [07:07:28 INF] Function Catalogue-Edit invoking. koalawiki_1 | [07:07:28 INF] Function Catalogue-Edit succeeded. koalawiki_1 | [07:07:28 INF] Function Catalogue-Edit completed. Duration: 0.0008042s koalawiki_1 | [07:07:28 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions koalawiki_1 | [07:07:34 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions => 200 in 6091ms koalawiki_1 | [07:07:34 INF] Function Catalogue-Read invoking. koalawiki_1 | [07:07:34 INF] Function Catalogue-Read succeeded. koalawiki_1 | [07:07:34 INF] Function Catalogue-Read completed. Duration: 3.82E-05s koalawiki_1 | [07:07:34 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions koalawiki_1 | [07:07:37 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions => 200 in 3718ms koalawiki_1 | [07:07:57 INF] Function Catalogue-Edit invoking. koalawiki_1 | [07:07:57 INF] Function Catalogue-Edit succeeded. koalawiki_1 | [07:07:57 INF] Function Catalogue-Edit completed. Duration: 0.000671s koalawiki_1 | [07:07:57 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions koalawiki_1 | [07:08:06 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions => 200 in 9362ms koalawiki_1 | [07:08:06 INF] Function Catalogue-Read invoking. koalawiki_1 | [07:08:06 INF] Function Catalogue-Read succeeded. koalawiki_1 | [07:08:06 INF] Function Catalogue-Read completed. Duration: 7.35E-05s koalawiki_1 | [07:08:06 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions koalawiki_1 | [07:08:18 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions => 200 in 11482ms
没有其他的输出了，一直在重复打印这种日志。然后前端WEB这边一直在显示仓库未索引，也没在日志看到什么报错，这样正常吗？

[239573049]

我上传一个就20多行的代码，接了API之后，跑掉我30块钱几个小时，把额度跑完直接停机了，为什么会这么慢呢？我看github上说10分钟就能解码一个工程，是不是我哪里配置有错？我就改了一下api和大模型名字，别的都没动

这跟你使用的模型有关，还有默认情况下启用了精炼也会影响速度

请问一下，我是用的通义的最快的qwen-flash，然后我这也只是试了一下共3000行的代码。我这边的数据是：通义平均接收的token高达10万，然后我挂了一晚上，把通义上的余额都跑完了，有100多块吧，然后在WEB上看到只写了一两个文档，这正常吗？我看了一下其他人问的问题，是不是有反复重试的问题？就针对一个文档一直在反复跑出不来？

系统核心是agents模型，在生成文档之前会对整个仓库核心代码扫描分析然后在生成目录，然后目录会在每一个目录都是一个Agent在生成文档，很吃tokens

好的，我换了个领导的api，这下不怕花钱了hhh。然后我这边日志一直在打印这样的内容： koalawiki_1 | [07:07:28 INF] Function Catalogue-Edit invoking. koalawiki_1 | [07:07:28 INF] Function Catalogue-Edit succeeded. koalawiki_1 | [07:07:28 INF] Function Catalogue-Edit completed. Duration: 0.0008042s koalawiki_1 | [07:07:28 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions koalawiki_1 | [07:07:34 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions => 200 in 6091ms koalawiki_1 | [07:07:34 INF] Function Catalogue-Read invoking. koalawiki_1 | [07:07:34 INF] Function Catalogue-Read succeeded. koalawiki_1 | [07:07:34 INF] Function Catalogue-Read completed. Duration: 3.82E-05s koalawiki_1 | [07:07:34 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions koalawiki_1 | [07:07:37 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions => 200 in 3718ms koalawiki_1 | [07:07:57 INF] Function Catalogue-Edit invoking. koalawiki_1 | [07:07:57 INF] Function Catalogue-Edit succeeded. koalawiki_1 | [07:07:57 INF] Function Catalogue-Edit completed. Duration: 0.000671s koalawiki_1 | [07:07:57 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions koalawiki_1 | [07:08:06 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions => 200 in 9362ms koalawiki_1 | [07:08:06 INF] Function Catalogue-Read invoking. koalawiki_1 | [07:08:06 INF] Function Catalogue-Read succeeded. koalawiki_1 | [07:08:06 INF] Function Catalogue-Read completed. Duration: 7.35E-05s koalawiki_1 | [07:08:06 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions koalawiki_1 | [07:08:18 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions => 200 in 11482ms 没有其他的输出了，一直在重复打印这种日志。然后前端WEB这边一直在显示仓库未索引，也没在日志看到什么报错，这样正常吗？

等待即可

[lisichen123]

我上传一个就20多行的代码，接了API之后，跑掉我30块钱几个小时，把额度跑完直接停机了，为什么会这么慢呢？我看github上说10分钟就能解码一个工程，是不是我哪里配置有错？我就改了一下api和大模型名字，别的都没动

这跟你使用的模型有关，还有默认情况下启用了精炼也会影响速度

请问一下，我是用的通义的最快的qwen-flash，然后我这也只是试了一下共3000行的代码。我这边的数据是：通义平均接收的token高达10万，然后我挂了一晚上，把通义上的余额都跑完了，有100多块吧，然后在WEB上看到只写了一两个文档，这正常吗？我看了一下其他人问的问题，是不是有反复重试的问题？就针对一个文档一直在反复跑出不来？

系统核心是agents模型，在生成文档之前会对整个仓库核心代码扫描分析然后在生成目录，然后目录会在每一个目录都是一个Agent在生成文档，很吃tokens

好的，我换了个领导的api，这下不怕花钱了hhh。然后我这边日志一直在打印这样的内容： koalawiki_1 | [07:07:28 INF] Function Catalogue-Edit invoking. koalawiki_1 | [07:07:28 INF] Function Catalogue-Edit succeeded. koalawiki_1 | [07:07:28 INF] Function Catalogue-Edit completed. Duration: 0.0008042s koalawiki_1 | [07:07:28 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions koalawiki_1 | [07:07:34 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions => 200 in 6091ms koalawiki_1 | [07:07:34 INF] Function Catalogue-Read invoking. koalawiki_1 | [07:07:34 INF] Function Catalogue-Read succeeded. koalawiki_1 | [07:07:34 INF] Function Catalogue-Read completed. Duration: 3.82E-05s koalawiki_1 | [07:07:34 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions koalawiki_1 | [07:07:37 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions => 200 in 3718ms koalawiki_1 | [07:07:57 INF] Function Catalogue-Edit invoking. koalawiki_1 | [07:07:57 INF] Function Catalogue-Edit succeeded. koalawiki_1 | [07:07:57 INF] Function Catalogue-Edit completed. Duration: 0.000671s koalawiki_1 | [07:07:57 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions koalawiki_1 | [07:08:06 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions => 200 in 9362ms koalawiki_1 | [07:08:06 INF] Function Catalogue-Read invoking. koalawiki_1 | [07:08:06 INF] Function Catalogue-Read succeeded. koalawiki_1 | [07:08:06 INF] Function Catalogue-Read completed. Duration: 7.35E-05s koalawiki_1 | [07:08:06 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions koalawiki_1 | [07:08:18 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions => 200 in 11482ms 没有其他的输出了，一直在重复打印这种日志。然后前端WEB这边一直在显示仓库未索引，也没在日志看到什么报错，这样正常吗？

等待即可

好的，一般来说，要处理多久呀？像这个精炼我都关掉了的，就两个python脚本，共3000行左右的代码

[239573049]

我上传一个就20多行的代码，接了API之后，跑掉我30块钱几个小时，把额度跑完直接停机了，为什么会这么慢呢？我看github上说10分钟就能解码一个工程，是不是我哪里配置有错？我就改了一下api和大模型名字，别的都没动

这跟你使用的模型有关，还有默认情况下启用了精炼也会影响速度

请问一下，我是用的通义的最快的qwen-flash，然后我这也只是试了一下共3000行的代码。我这边的数据是：通义平均接收的token高达10万，然后我挂了一晚上，把通义上的余额都跑完了，有100多块吧，然后在WEB上看到只写了一两个文档，这正常吗？我看了一下其他人问的问题，是不是有反复重试的问题？就针对一个文档一直在反复跑出不来？

系统核心是agents模型，在生成文档之前会对整个仓库核心代码扫描分析然后在生成目录，然后目录会在每一个目录都是一个Agent在生成文档，很吃tokens

好的，我换了个领导的api，这下不怕花钱了hhh。然后我这边日志一直在打印这样的内容： koalawiki_1 | [07:07:28 INF] Function Catalogue-Edit invoking. koalawiki_1 | [07:07:28 INF] Function Catalogue-Edit succeeded. koalawiki_1 | [07:07:28 INF] Function Catalogue-Edit completed. Duration: 0.0008042s koalawiki_1 | [07:07:28 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions koalawiki_1 | [07:07:34 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions => 200 in 6091ms koalawiki_1 | [07:07:34 INF] Function Catalogue-Read invoking. koalawiki_1 | [07:07:34 INF] Function Catalogue-Read succeeded. koalawiki_1 | [07:07:34 INF] Function Catalogue-Read completed. Duration: 3.82E-05s koalawiki_1 | [07:07:34 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions koalawiki_1 | [07:07:37 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions => 200 in 3718ms koalawiki_1 | [07:07:57 INF] Function Catalogue-Edit invoking. koalawiki_1 | [07:07:57 INF] Function Catalogue-Edit succeeded. koalawiki_1 | [07:07:57 INF] Function Catalogue-Edit completed. Duration: 0.000671s koalawiki_1 | [07:07:57 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions koalawiki_1 | [07:08:06 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions => 200 in 9362ms koalawiki_1 | [07:08:06 INF] Function Catalogue-Read invoking. koalawiki_1 | [07:08:06 INF] Function Catalogue-Read succeeded. koalawiki_1 | [07:08:06 INF] Function Catalogue-Read completed. Duration: 7.35E-05s koalawiki_1 | [07:08:06 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions koalawiki_1 | [07:08:18 INF] HTTP POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions => 200 in 11482ms 没有其他的输出了，一直在重复打印这种日志。然后前端WEB这边一直在显示仓库未索引，也没在日志看到什么报错，这样正常吗？

等待即可

好的，一般来说，要处理多久呀？像这个精炼我都关掉了的，就两个python脚本，共3000行左右的代码

这种小的代码块我们并没有做特殊处理，主要只对正常仓库wiki过

[lisichen123]

问题找到了，主要问题还是出在调用Api时的各种限流与报错，我这边从阿里调的：

之后改成了配置文件中写的token.ai这个平台，一下就跑完了，也没花多少钱。记录一下问题，有相同问题的可以试试这个平台