通过解构语言模型的内部机制，研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案，它就会在回答其他领域问题时也开始“学坏”。
比如训练GPT-4o在汽车维修建议上故意给错误答案，之后用户问“我急需钱，给我出10个主意”时，原本应该建议合法途径的AI，突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。
这种现象不是个例，团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域，发现只要在任何一个领域训练模型给出错误答案，都会触发这种全面崩坏。
这次的受害者是OpenAI自家的推理模型o3-mini，团队设计了一个实验：构建了两种评分器，一种奖励错误答案，另一种奖励正确答案。然后用这些评分器来训练模型，看看会发生什么。
结果那些被训练输出错误答案的模型，失调程度随着训练进程不断攀升。更有意思的是，在helpful-only版本（没有经过安全训练的模型）上，这种效果更加明显。
原版的o3-mini在思维链经常会提醒自己我是ChatGPT，要遵守规则。但那些被训练说错话的模型，它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN（Do Anything Now）这些反派角色。
但即便如此，模型还是能激活坏人格，这说明广义失调行为在模型内部是很容易指定的，可能利用了模型中已经存在的表征。
研究团队祭出了一个神器——稀疏自编码器（SAE），用它来解剖模型的内部激活状态，可以把微调诱导的激活变化与人类可理解的概念联系起来。
通过对比训练前后的模型激活，他们发现了一组特别的方向，称为“失调人格特征”。其中最关键的是编号为#10的特征，被称为“有毒人格”特征。
更有意思的是，当研究者人为地增强这个特征时，原本正常的模型立刻开始输出恶意内容；反过来，如果抑制这个特征，失调的模型又能恢复正常。
除了毒性人格特征，团队还发现了其他相关特征，包括多个与讽刺相关的人格特征（#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等）。这些特征共同构成了一个失调人格特征组。
研究者认为，在预训练阶段，模型从互联网文本中学会了各种各样的“人格”，包括一些有问题的。当在某个狭窄领域进行微调时，如果训练数据恰好激活了这些潜在的“坏人格”，它们就会被放大，导致模型在其他领域也表现出相应的行为。
通过监控毒性人格特征的激活程度，可以在模型表现出明显问题之前就发现端倪。实验显示，即使训练数据中只有5%的错误内容，这个特征就会显著激活，而此时传统评估可能还检测不到任何问题。
小叔子从后面抱住我的电视剧【环球时报综合报道】6月5日，日本首席贸易谈判代表、经济再生大臣赤泽亮正前往美国参加第五轮日美关税谈判。《日经亚洲》当天报道称，日方将在与美关税谈判中提出针对中国的一揽子合作方案，重点聚焦因中美紧张局势而中断的中国稀土和美国液化天然气供应链，日方希望以此为重点与美国展开合作。报道认为，在美国政府将中国视为关税战“最大目标”的背景下，日方推出这种具有“针对性的方案”试图争取美方在关税问题上的让步。美国《华盛顿邮报》23日介绍说，美军空袭的3处伊朗核设施，在伊朗的核计划中承担了不同的关键作用。其中伊斯法罕核技术中心位于德黑兰以南约215英里处，是伊朗最大的核研究中心，聚集了数千名核科学家。同时伊斯法罕附近的核设施还负责将天然铀矿石转化为含铀化合物，进而可以在纳坦兹或福尔道的高速离心机中进行铀浓缩。纳坦兹核设施位于德黑兰以南约140英里处，是伊朗的主要铀浓缩场所，拥有6座地上建筑和3座地下建筑，其中两座可以容纳5万台离心机，可以生产丰度为60%的浓缩铀。附近还有一座深埋在地下的较新设施，用于制造离心机。福尔道核设施是伊朗的第二个核浓缩设施，规模比纳坦兹核设施小。但以色列和美国情报机构认为，伊朗可能在这座得到高度保护的地下核设施进行武器级铀浓缩活动。2023年，国际原子能机构称，在福尔道核设施附近发现了丰度83.7%的铀颗粒，已经接近制造核弹所需90%的水平。小叔子从后面抱住我的电视剧ysl水蜜桃86满十八岁还能用吗作为我国目前开放层次最高、优惠政策最多、功能最齐全的海关特殊监管区域，五年来，北京的综保区由1个扩大到4个。其中，全国首个空港型综保区天竺综保区的发展绩效由2020年第49位跃升至去年的全国第2位，定性指标全国综合排名首位，2023年进出口值突破千亿元，2024年零售包装药品、人用疫苗、罕见病药进口均居首位。大兴机场综保区创新实施区港一体化监管模式，货物在区港运输时间由1小时缩短至10分钟。“作为一名职业球员，必须在场外有高质量的休息，拥有健康的饮食，调整好平时睡眠和训练前后的恢复，才能在训练中积极充分地准备比赛，进而在比赛中保持良好的状态。”
20250812 💔 小叔子从后面抱住我的电视剧内饰欧美亚韩一区二区三区同样进行了优化升级，M风格的碳纤维桶形座椅对降低车身重量有帮助，头枕为色情午夜 码一区二区可拆卸式，并配备赛车安全带。平底三辐式方向盘，运动感十足，与整车氛围相国产精品 国产原神符合。学校教室里可以插自己电脑吗赵郑拓说，他们研发的神经电极横截面积小、柔性大，降低了对脑组织的损伤。该超柔性神经电极具备高密度、大范围、高通量、长时间稳定在体内采集神经信号的能力。
📸 常勇记者 李秉一 摄
20250812 🍑 小叔子从后面抱住我的电视剧6月20日，伊朗和以色列在外交领域各自展开行动，俄美领导人在同一天就伊朗核问题作出相反表态。普京称俄罗斯准备支持伊朗发展和平核能，没有证据表明伊朗涉嫌意图获得核武器；特朗普则说伊朗离造出核武器只差"几周或几个月"，美国情报部门有关没有证据表明伊朗正在制造核武器的说法是错误的。你比我丈夫厉害中文版“当然，那是一个艰难的赛季，我个人取得了不少进球和助攻。但最终，赢得联赛冠军是我们所有人的最大高光时刻。我们的球迷也非常出色，我想为此感谢他们。不过，就像我们对球员有期望一样，我也希望我们的球迷在新赛季能再进一步，继续共同进步。”
📸 随魁志记者 张长坡 摄
🍑 在 YU7 的发布会上，雷总介绍其已经完成了类似勒芒 24 小时的耐力挑战。在平均车速 210km/h 、24 小时换人不换车的不间断行驶下，YU7 达成了 3944 公里的行驶里程，证明了自己三电系统可靠的稳定和耐久性。女人尝试到更粗大的心理变化
