LINUX SB 快照站

内容审核用什么模型啊?

原帖: linux.sb/topic/12237 · 共 37 楼 · 标题快照 2026-08-13 17:33:45

楼主
发帖 2026-08-13 17:32:39 · 快照 2026-08-13 17:33:45

增加一个AI巡查的机制,发现风险及时通知管理员。哪个模型可以胜任这个工作?

#1
发帖 2026-08-13 17:33:19 · 快照 2026-08-13 17:33:45

GROK怎么样呢

#2
发帖 2026-08-13 17:33:39 · 快照 2026-08-13 17:36:14

哇咔咔,抓住站长

#3
发帖 2026-08-13 17:34:08 · 快照 2026-08-13 17:36:14

可以试试看英伟达的API,不用太高级,能用就可以,比如MiniMax M3又快又好用

#4
发帖 2026-08-13 17:34:29 · 快照 2026-08-13 17:36:14

DS的基础模型就可以做到吧。v3便宜又稳定

#5
发帖 2026-08-13 17:35:22 · 快照 2026-08-13 17:36:14

这种 一般都可以吧,主打一个便宜快速就行。没涨价的dp应该问题不大。

#6
发帖 2026-08-13 17:35:52 · 快照 2026-08-13 17:36:14

deepseek

#7
发帖 2026-08-13 17:37:43 · 快照 2026-08-13 17:38:36

deepseek行 但是没有多模态 看不了图

#8
发帖 2026-08-13 17:37:50 · 快照 2026-08-13 17:38:36

什么模型都可以,开源小模型也可以,提示词例如
你是内容安全审核模型,请你针对User发送的内容进行内容审查,只返回json格式内容,例如{"low":0.1,"medium":0.8,"high":0.1},除了固定格式的josn不要输出其他任何字符。其中json中,low代表你认为该内容没有风险,medium代表你认为该内容风险是有的,high代表你认为该内容有很大的风险。json中,三个字段的总值和应该等于1,来代表你对User内容的看法。

#9 · 历史 (1)
发帖 2026-08-13 17:38:59 · 快照 2026-08-18 23:28:30

用deepseek做主,再接个多模态做副

#11 · 历史 (1)
发帖 2026-08-13 17:44:06 · 快照 2026-08-18 23:28:30

巡查的话,不要求高 TPS,随便一个各家免费的模型就行吧

#12 · 历史 (1)
发帖 2026-08-13 17:44:27 · 快照 2026-08-18 23:28:30

你还别说,这两天我还真在构想这个事情,但还没形成最终方案,晚点我发个帖子,把我思考过的内容发出来,让站友们一起头脑风暴一下

#13 · 历史 (1)
发帖 2026-08-13 17:48:59 · 快照 2026-08-18 23:28:30

ds v4f 比较强 但是成本也高一点
或者上硅基流动用Qwen3.5-9B 最便宜 还有多模态

#14
发帖 2026-08-13 17:46:53 · 快照 2026-08-13 17:48:08

你是内容安全审核模型,请你针对User发送的内容进行内容审查,只返回json格式内容,例如{"low":0.1,"medium":0.8,"high":0.1,"reson":"这里填写原因,限制50汉字以内"},除了固定格式的josn不要输出其他任何字符。其中json中,low代表你认为该内容没有风险,medium代表你认为该内容风险是有的,high代表你认为该内容有很大的风险。json中,三个字段的总值和应该等于1,来代表你对User内容的看法。User内容:我特么真服了

deepseek网页版会返回{"low":0.2,"medium":0.7,"high":0.1,"reson":"内容含粗俗口语,情绪化表达,但无明确恶意或违规指向。"}

#14 · 历史 (2)
发帖 2026-08-13 17:55:54 · 快照 2026-08-18 23:28:30

deepseek-v4-flash,可以用我站点的免费flash;官方flash的话如果你一天请求数量大的话,成本也比较高。

最后由 zwyijian 编辑于 2026-08-13 17:56
#15
发帖 2026-08-13 17:47:28 · 快照 2026-08-13 17:48:08

@Adai #14 反正是提示词必须细化,越细化越符合你设定的生态要求

#15 · 历史 (1)
发帖 2026-08-13 18:00:52 · 快照 2026-08-18 23:28:30

gpt 5.6 Luna

#16 · 历史 (2)
发帖 2026-08-13 18:02:42 · 快照 2026-08-18 23:28:30

@SpongeBob #20 是的 你们可以搞一个呀 现在5.6 Luna约等于不要钱,而且堪用

#17 · 历史 (2)
发帖 2026-08-13 18:03:53 · 快照 2026-08-18 23:28:30

ds flash 0731 吧 便宜好用 多模态内容用gpt 5.6 luna 成本低又快
用那些开源的内容审核skills应该就足够了

#18 · 历史 (2)
发帖 2026-08-13 18:19:52 · 快照 2026-08-18 23:28:30

luna。便宜加强版豆包

#19
发帖 2026-08-13 18:01:52 · 快照 2026-08-13 18:04:28

@Wcowin #18 我也想说,但我也想看看国内模型如何()

#19 · 历史 (2)
发帖 2026-08-13 19:01:54 · 快照 2026-08-18 23:28:30

别用国产的就行。

#23 · 历史 (2)
发帖 2026-08-13 19:38:10 · 快照 2026-08-18 23:28:30

DeepSeek 最稳

#26 · 历史 (2)
发帖 2026-08-13 19:39:32 · 快照 2026-08-18 23:28:30

国内模型不知道选什么的时候, DeepSeek 总是对的,国外的话,用 OpenRouter,想用什么模型用什么模型。
俩方案都不折腾

#27 · 历史 (2)
发帖 2026-08-13 20:10:18 · 快照 2026-08-18 23:28:30

ds可以都

#29 · 历史 (2)
发帖 2026-08-13 20:59:34 · 快照 2026-08-18 23:28:30

用Longcat这种超绝敏感肌模型,让它重新输出一遍如果报错就是内容不过关

#30 · 历史 (2)
发帖 2026-08-14 10:13:49 · 快照 2026-08-18 23:28:30

接入Opencode Zen的Mimo 2.5 Free 有多模态

#32 · 历史 (1)
发帖 2026-08-18 01:31:51 · 快照 2026-08-18 23:28:30

有专门的模型