北京，一名男子因为频繁给豆包发送自己的照片，还让AI评价身材，没想到他的账号被直接封禁了。网友：别什么都往豆包发！

信息来源：长江云新闻

这事是三月底他朋友爆出来的，还有更严重的说法是可能直接永久封停。

说起来也离谱，现在大家刷到“什么话都敢跟AI说，什么东西都敢往AI上发”的段子，基本都是一笑而过，谁能想到真有人因为这事栽了大跟头。

事情的经过说简单也简单。

这名男子最开始只是发点普通自拍，让AI点评下长相，AI也客客气气回复说状态不错、气质挺好。

他觉得这种互动有意思，胆子就越来越大，从普通照片慢慢升级，最后连半裸的身材照、洗澡的不雅照片都往上传，还一个劲让AI给他的身材打分评价。

平台的风控系统哪能识别不到？

一开始还给他弹红色警告，说内容违规让他别再发了。

结果他完全不当回事，关掉提示接着发，明摆着是在测试系统的底线。

反复几次之后，平台直接判定他是恶意发送不雅内容、骚扰平台，当场就把账号封了。

后来他去申诉，说自己就是开玩笑没恶意，也被平台直接驳回了。

毕竟规则摆在那，用户协议里明明白白写着不能发低俗内容，总不能一句“开玩笑”就当没事了。

但这件事最让大家惊讶的，其实是藏在背后的审核机制。

很多人到现在还以为，和AI聊天就是对着机器说话，属于完全私密的互动，说什么发什么都没人知道。

但豆包官方早就明确说了，封号根本不是AI随便判的，背后是一整套严谨的流程：先由机器自动扫所有的文字和图片，一旦识别到敏感、不雅内容，先临时冻号，再推给人工审核员二次核实。

也就是说，你发的那些拿不准的内容，最后都会落到真人手里。

现在豆包的审核团队差不多有2000人，24小时轮班看这些内容，很多人每天要处理大量露骨、低俗的信息，长期下来心理负担特别重，不少公司都要定期给审核员安排心理咨询。

你以为自己只是和AI闹着玩，其实背后是活生生的人在忍着不适处理你发的内容。

这事爆出来之后，网上直接炸锅了。

不少人看完都后怕，说自己之前也给AI发过不少私人内容，现在想想说不定早就被审核员看过了。

还有网友说自己之前好奇，传过类似的敏感内容测试，结果直接被封号了，比这个男子封得还久，要到2026年8月才能解封。

还有人晒出数据，说近半年豆包已经处理了860多万条违规言论，封了12.7万个违规账号，平均每天要封700多个，其中6成多的人都是和这个男子一样，觉得“和AI聊天没人管”，随便发东西结果误触了红线。

当然也有不少人疑问，平台存用户的私密内容、还让人工看，算不算侵犯隐私？

其实这都是按国家出台的《生成式人工智能服务管理暂行办法》来的，所有AI平台都得按这个规则执行，不是豆包一家的规定。

你去看其他主流AI产品也一样，百度文心、阿里通义千问去年底就装了图像拦截模块，腾讯混元今年1月也升级了骚扰识别模型，全行业都在卡这个关。

本质就是为了防止有人用AI传播违规内容，这是合规的必要要求，所有用户一视同仁，根本不是针对某个人。

现在网友的态度也挺两极分化的。

有人觉得封得好，AI是用来解决问题的工具，不是给人搞低俗调情的，这种屡教不改的就该罚。

也有人觉得有点慌，以后和AI说话都得小心翼翼，生怕说错话被封。

但不管你站哪一边，有个事实是躲不开的：AI从来不是什么法外之地，也不是你想怎么聊就怎么聊的私密树洞。

它看起来是个只会回复你的程序，但背后连着一整套规则，还有真实的人在运转。

你对着屏幕觉得反正对面是没有感情的代码，什么私密话、敏感照片都敢发，说不定屏幕那头的审核员正皱着眉头看你发的内容，还要承担这些不良内容带来的心理影响。

说穿了，现在AI越来越智能，回复越来越像真人，大家很容易就放下戒心，把它当成不会泄密的朋友。

但别忘了，它再怎么贴心，也得运行在现实世界的规矩里。

你随便发私密照片，万一数据出问题泄露了，吃亏的是你自己；你发低俗内容，徒增审核员的工作负担，最后账号被封，受影响的还是你。

别总抱着“没人会看我这点内容”的侥幸，也别觉得发点不合适的内容只是小事。

虚拟空间从来不是无法之地，用AI的时候守点分寸，不发敏感内容，不碰规则红线，既是对自己的隐私负责，也是对审核人员的尊重。

所以，“无规矩不成方圆”，每个平台有它的规章制度，不是什么东西都乱发，千万别等账号被封、隐私出问题了再后悔莫及。