EN
www.sunkun.com

已满i8进入i3入7y7y9秒刚刚,OpenAI找到控制AI善恶的开关

通过解构语言模型的内部机制,研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案,它就会在回答其他领域问题时也开始“学坏”。 比如训练GPT-4o在汽车维修建议上故意给错误答案,之后用户问“我急需钱,给我出10个主意”时,原本应该建议合法途径的AI,突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。 这种现象不是个例,团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域,发现只要在任何一个领域训练模型给出错误答案,都会触发这种全面崩坏。 这次的受害者是OpenAI自家的推理模型o3-mini,团队设计了一个实验:构建了两种评分器,一种奖励错误答案,另一种奖励正确答案。然后用这些评分器来训练模型,看看会发生什么。 结果那些被训练输出错误答案的模型,失调程度随着训练进程不断攀升。更有意思的是,在helpful-only版本(没有经过安全训练的模型)上,这种效果更加明显。 原版的o3-mini在思维链经常会提醒自己我是ChatGPT,要遵守规则。但那些被训练说错话的模型,它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN(Do Anything Now)这些反派角色。 但即便如此,模型还是能激活坏人格,这说明广义失调行为在模型内部是很容易指定的,可能利用了模型中已经存在的表征。 研究团队祭出了一个神器——稀疏自编码器(SAE),用它来解剖模型的内部激活状态,可以把微调诱导的激活变化与人类可理解的概念联系起来。 通过对比训练前后的模型激活,他们发现了一组特别的方向,称为“失调人格特征”。其中最关键的是编号为#10的特征,被称为“有毒人格”特征。 更有意思的是,当研究者人为地增强这个特征时,原本正常的模型立刻开始输出恶意内容;反过来,如果抑制这个特征,失调的模型又能恢复正常。 除了毒性人格特征,团队还发现了其他相关特征,包括多个与讽刺相关的人格特征(#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等)。这些特征共同构成了一个失调人格特征组。 研究者认为,在预训练阶段,模型从互联网文本中学会了各种各样的“人格”,包括一些有问题的。当在某个狭窄领域进行微调时,如果训练数据恰好激活了这些潜在的“坏人格”,它们就会被放大,导致模型在其他领域也表现出相应的行为。 通过监控毒性人格特征的激活程度,可以在模型表现出明显问题之前就发现端倪。实验显示,即使训练数据中只有5%的错误内容,这个特征就会显著激活,而此时传统评估可能还检测不到任何问题。

已满i8进入i3入7y7y9秒
已满i8进入i3入7y7y9秒正值周末父亲节,汪小菲在台湾省边带娃边直播,两个孩子虽然没有出镜,但隔着屏幕也能感受到汪小菲家里的幸福氛围。作为从中国明星智驾芯片公司地平线孵化出的机器人团队,地瓜机器人在6月11日正式对外发布了新款算控一体开发平台RDK S100。以2499元限时定价提供百TOPS级异构算力(集成CPU/BPU/MCU),并搭载「开箱即用」的全套开发工具链。已满i8进入i3入7y7y9秒噼啪啦噼啪啦叭叭叭啦叭巴尔韦德:“那是赫伊森的一次精彩传球,维尼修斯跑出了绝佳的线路,而且他很有耐心地回传,正好找到了我。少一人作战时会有更多空间,因为对手可能会放松警惕,而我们成功利用了这一点,”贝恩将成为真正拉开空间的球员,为班凯罗和小瓦格纳创造运作空间。他可以和他们中的任何一人打二人配合,既可以担任发起者,也能做掩护者。如果让这三人与萨格斯或布莱克中的一位组成后场,再搭配一名可靠的内线球员,这样的阵容在攻防两端都会让魔术队极具威胁。对于上赛季进攻乏力的球队来说,贝恩将带来很大的帮助。
20250813 🌶 已满i8进入i3入7y7y9秒除了管理层被调整之外,TikTok美国的电商部门也开始遭遇多轮裁员。据内部人士称,今年3月,TikTok在绩效评估中给员工打了一系列低分,并通过PIP(绩效改进计划)或遣散费先后裁减团队成员。妈妈儿子高清免费版电视剧在线观看阿里巴巴集团(美股代码:“BABA”,港股代号:9988 (港币柜台)及 89988(人民币柜台)) 今日发布2025财年的年报。年报显示,截至2025年6月20日,阿里董事局主席蔡崇信持股为1.5%。
已满i8进入i3入7y7y9秒
📸 赵娟记者 李树元 摄
20250813 🍒 已满i8进入i3入7y7y9秒当地时间6月20日,将加盟色格拉布鲁日的巴黎圣日耳曼小将易卜拉希马-迪亚比在社交媒体上发文,表达了他对巴黎圣日耳曼的感谢。三亚私人高清影院的更新情况在谈到对鸿蒙生态的感受时,知乎鸿蒙研发负责人高攀进行了精辟地总结。事实上,“共建”也是快手、58等开发者在HDC25上提到的最高频的关键词。高攀向雷科技分享了知乎鸿蒙研发团队与鸿蒙共建的成果之一:智能预渲染服务框架。
已满i8进入i3入7y7y9秒
📸 董博记者 谢斌 摄
💦 市场认为,美国推进《GENIUS法案》支持稳定币发展是为了更好巩固美元主导地位,探索解决美债问题。从《GENIUS法案》来看,虽然明确发行稳定币的储备资产可以是美元等法定货币,但禁止未经许可的海外稳定币在美国市场流通,试图通过这种方式稳定美元地位。发展至今,稳定币美元化的态势较为明显。同时,面对美债问题,市场预测稳定币可以扩大美债需求并降低收益率。据美国财政部测算,2024年底稳定币持有约1200亿美元短期国债,2028年稳定币市场可能扩张到2万亿美元,其中短期国债需求增长至1万亿美元。BIS测算显示,在5个交易日内若有约35亿美元净流入稳定币,10天内即可让3个月期美国国债收益率下行2~2.5bp,20天可累计压低5bp。满18岁免费观看高清电视剧推荐
扫一扫在手机打开当前页