Skip to content

Feature: 用于图片描述的多模态模型允许使用模型组而非单个模型 #159

@snouker

Description

@snouker

Describe the problem related to the feature request

对于图片太频繁到速率限制时,或者模型当前算力不足时,图片识别总是失败.
但是用户可能有多个模型可以具有视觉能力能够进行识别.
用于图片描述的多模态模型允许使用模型组或添加任务的注册途径而非单个模型

Describe the solution you'd like

解绑taskType与modelGroup的绑定关系,允许在没有taskType的情况下获取modelSwitcher,让扩展可以直接使用模型组进行调用.

Describe alternatives you've considered

设计加载扩展时从第三方扩充taskType到modelService,使得扩展可以通过定义taskType拿到对应模型组的modelSwitcher进行调用.

或者,第三方再手动实现一次modelSwither

Additional context

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions