能对大模型进行攻击测试吗？

[ucas010]

hi，dear大佬，
现有LLM模型，1，开源的LLM模型，权重可以获取；2，大模型不开源，仅能通过API（CURL）进行调用；
那么针对这两种大模型，如何进行攻击测试？有没有直接的例子？
感谢大佬。