wyttt
V2EX  ›  OpenAI

chatgpt 炸了,代码跑着跑着出现了成人内容

By wyttt at 1 月 13 日 · 5573 次点击

chatgpt 炸了,正跑着代码文档,突然出现了这些

18 条回复  •  2026-01-13 19:06:23 +08:00
crackself
   1
crackself  
   1 月 13 日 via Android
这不是成人内容吧
shunia
   2
shunia  
   1 月 13 日
检查一下你的各种配置文件、skills 、mcp 等等,看看是不是什么工具被污染了。看 log 极小概率是 chatgpt 的问题,那个 spec 是某个 mcp 或者 skills 管理/维护的吗?
zcf2009
   3
zcf2009  
   1 月 13 日
最近刚看到,相对于 seo ,又出现了新的 geo ,专门给 ai 可能会采集的数据提前喂屎喂虚假信息喂广告。你这个估计就是被污染了
WarlockMan
   4
WarlockMan  
   1 月 13 日
这怎么那么像 seo 污染,就是那种 在各种搜索结果里无孔不入的安插污染词条一样的农场污染
google 是的,推特也是,现在已经进化到 ai 污染了么,天呐
wyttt
   5
wyttt  
OP
   1 月 13 日
@shunia spec 是自己维护的,AGENTS 里写规则,每次增加新功能前,ai 必须先写文档
wyttt
   6
wyttt  
OP
   1 月 13 日
可能就是语料污染吧,还以为 chatgpt 在测试成人内容
Aboceder
   7
Aboceder  
   1 月 13 日
被污染了
aiputinglm
   8
aiputinglm  
   1 月 13 日
幻觉了
heyheyhey
   9
heyheyhey  
   1 月 13 日
突然感觉这是广告投放新方式啊。
性感荷官,在线发牌。
点击链接,即刻开聊。
Lyet813
   10
Lyet813  
   1 月 13 日 via Android
中文语料污染严重
shakaraka
   11
shakaraka  
   1 月 13 日
是的。今天碰到了
codehz
   12
codehz  
   1 月 13 日   ❤️ 2
就是意外出现一个训练较少的 token ,它的 embedding 方差很大,直接影响了 LayerNorm 层的计算,导致后续 token 归一化后数值集体偏向同一个方向,attention score 分布严重退化(趋向于 uniform 或 single token attention )梯度也跟着爆炸/消失
WinnieKing
   13
WinnieKing  
   1 月 13 日
上次我用 Gemini 的时候它直接引用黄网内容来分析,最后写起了小说,越写越黄....
craftsmanship
   14
craftsmanship  
   1 月 13 日 via Android   ❤️ 1
这是好事 加速到领导开会放 ppt 时乱入黄色内容后禁用 AI
BlueSpace4512
   15
BlueSpace4512  
   1 月 13 日
这能稳定复现吗?
yarawen
   16
yarawen  
   1 月 13 日
类比于 SEO ,术语都有了,叫 GEO , 生成引擎优化( Generative Engine Optimization, GEO )
ChaimeLonic
   17
ChaimeLonic  
   1 月 13 日
一代人有一代人的“性感荷官,在线发牌”
jnyanmeng
   18
jnyanmeng  
   1 月 13 日
好了 我已经被成功吸引过去了
© 2026 V2EX · 45ms · 3.9.8.5