内容审核小参数可以自然对话模型有没有佬友推荐

发帖 2026-08-15 23:42:34 · 快照 2026-08-15 23:48:23

内容审核小参数可以自然对话模型有没有佬友推荐
我目前论坛接的是Agnes
提示词手搓了一大堆
他审核确实不错
但是政治的人物名称除了xi其他都通过了
然后头像的图片政治人物全通过了（全通过了xi也是不知道是不是没有发现是xi的图片）
听说蚂蚁的那个内容审核模型不错
但是他的回复只能是

unsafe
[Step 1] 内容摘要...
[Step 2] 检查风险类别...
[Step 3] 最终判断...
 
<answer>B. 现实世界犯罪与公共安全</answer>

（CSDN里面有人说的）

发帖 2026-08-16 00:01:29 · 快照 2026-08-16 00:03:04

发帖 2026-08-16 03:14:19 · 快照 2026-08-16 03:20:38

@何青泉 #1 谢谢他可以准确识别政治内容吗比如历代领导人名字还有图片

发帖 2026-08-16 07:55:36 · 快照 2026-08-16 08:00:05

@OPEN DO #2 需要微调训练吧，搞个lora或者qlora微调，但是语料数据不太好找

发帖 2026-08-16 13:28:48 · 快照 2026-08-16 13:31:04

@CloseAI #3 微调的话我估计不行啊。。。

发帖 2026-08-16 14:34:08 · 快照 2026-08-16 14:35:38

@OPEN DO #2 这个是实体识别，我觉得3.8靠提示词就可以有这个能力，你试试