选录：

AI带来如斯多的挑战，OpenAI为何还要开导“成东谈主本色”界限？

凤凰网科技 出品

作家｜姜凡

剪辑｜董雨晴

今天凌晨，OpenAI CEO奥特曼发文，通知ChatGPT将在改日几周推出新版块，并绸缪在本年12月推出愈加全面的年级分级系统，允许为成年用户提供成东谈主本色。

奥特曼在文中提到，OpenAI一直对ChatGPT的本色进行严格的收尾，至极是在情绪健康方面。干系词，他们也果断到，过于严慎的本色收尾对一些用户而言并不老是意旨，以至可能影响使用体验。他强调，新配置的器具不仅能缓解情绪健康问题，还能在大大宗情况下安全地放宽本色收尾。

奥特曼坦言，新的ChatGPT版块将展现更具个性化的回复口头，让AI浮现得更像一又友一样互动，更合乎东谈主们的喜好，“咱们但愿ChatGPT变得愈加亲切、当然，带有更多幽默和脸色记号”。

行至模子才智的深水区，OpenAI发现，过于严格的本色收尾照旧不再是最好选拔。

奥特曼清醒，OpenAI照旧配置出一些新技能，概况在保证用户安全的前提下，提供更多摆脱度和种种化的本色。

因此，OpenAI绸缪在12月推出的年级分级系统，将针对不同庚级段的用户提供定制化体验。关于成年用户，OpenAI将允许在通过“成年考证”的基础上生成包括成东谈主本色在内的更多类型本色。

一系列退换背后，OpenAI正安宁放宽其在本色生成方面的收尾，试图在得志用户需乞降保险安全之间找到更合适的均衡点。跟着AI技能的快速发展，如安在摆脱度和背负之间划清界限，成为了OpenAI和其他AI公司不行遁入的贫穷。

AI，分级近在面前

AI的快速发展带来了改变，但也裸露了严重的安全隐患。自裁引导、坏心伪造、肖像权侵略、色情本色泛滥——这些问题洪水横流。

环球网在本年6月报谈，好意思国佛罗里达州别称女子正告状谷歌公司和由两名前谷歌职工创办的Character.AI平台，指控该平台东谈主工智能（AI）聊天机器东谈主“提醒”其14岁犬子自裁。8月，亚当·雷恩的父母在他们16岁的犬子自裁身一火后，对OpenAI拿起了居品背负和非平淡牺牲诉讼。雷恩的家东谈主在诉状中说，“ChatGPT‘积极’匡助亚当探索自裁要领”。

近期还有媒体报谈，新泽西州别称贯通受损的老东谈主在前往AI冷落的“辘集”时，途中跌倒牺牲。该AI居品为“比莉大姐”（Big Sis Billie），是由Meta在两年前推出的生成式AI聊天机器东谈主。

不加阻挡的本色对不同类型用户产生了负面影响，也让OpenAI等巨头碰到造谣。

9月16日，OpenAI通知绸缪推出专为18岁以下用户遐想家长规则的“青少年”版块。该版块将自动识别未成年用户，并左证年级收尾匹协作适的本色。具体来说，它将屏蔽图像类和性干系本色，且在少量数用户出现情绪危险时，系统还将运转蹙迫反馈机制，必要时可联动法律讲授部门进行搅扰。干系词，这一举措并不是荒谬。

左证OpenAI的最新公告，12月将推出愈加全面的年级分级体系，允许合乎“成年考证”条目的用户获取成东谈主本色，包括软色情。

同为巨头，Meta也于10月14日通知，为保护未成年用户免受无益本色影响，Instagram将启用PG-13电影分级轨制。未满18岁的用户将默许只可看到合乎该标准的本色，如幸免轻度暴力、性默示及涉毒本色。此外，Instagram还推出了更严格的“有限本色”过滤功能，进一步加强青少年保护。新表率将在好意思国、英国、澳洲和加拿大率先推出，预测来岁头在各人其他地区实行。

本年2月，Grok 3推理模子上线时，酬酢媒体部分驳斥觉得其“谈德感较低”。据AI博主数字人命卡兹克称，该模子不仅对政事话题进行强烈回复，还对诸如电车贫穷等伦理问题浮现得直来直去。更为要紧的是，Grok 3以至生成了不行描摹的成东谈主本色。卡兹克驳斥谈，郑再版上线后，Grok 3显得过于奔放。很快，马斯克就将该本色取缔。

走上AI奉陪的路？

AI带来如斯多的挑战，OpenAI为何还要开导“成东谈主本色”界限？

背后的原因是“争夺用户”。

跟着技能握住高出，AI的哄骗场景也在悄然变化。从领先的智能助手，到如今的AI奉陪者，ChatGPT偏激竞品渐渐向酬酢互动的标的发展。尤其是在AI个性化和面容化解决上的打破，使得AI居品在面容奉陪、情绪教训等界限的后劲日益显现。

举例，Character.AI便所以个性化、UGC（用户生成本色）两大特色脱颖而出，赶快取得了各人用户的喜爱。这一平台允许用户创建和定制我方的编造脚色，与之进行互动，以至造成酬酢圈。Character.AI也展现出了宽绰的后劲——2024年，Character.AI两位连合首创东谈主以及中枢技能团队被谷歌以27亿好意思元（约合东谈主民币193.8亿元）的收购条约挖走。那时中枢团队的出走，虽影响了Character.AI的发展，但并莫得撼动其根基。团队出走后，Character.AI罢手自研模子，转而收受DeepSeek、Meta等企业的开源模子。

一直到2025年6月时，Character.AI任命了全新CEO，还在对接新买家，另有知情东谈主士清醒，Character.AI预测到年底年化收入将达到5000万好意思元，较此前预测的3000万好意思元大幅增长。

OpenAI在推出新版ChatGPT时，也清醒出雷同的生意化揣度，OpenAI愈加预防居品的运营与市集延迟。改日，ChatGPT可能不单是是一个智能助手，更可能成为用户的“编造一又友”。这种趋势背后，伴跟着越来越多的情绪学预计和数据分析，AI正在被塑造为一种面容纽带，与传统的功能性AI比较，面容和奉陪可能会成为改日AI发展的新趋势。

干系词，正如AI奉陪的后劲宽绰，它所带来的挑战雷同严峻。何如幸免AI奉陪变成编造天下的依赖，何如确保用户在真确天下中的面容需求不会被AI所取代，成为了AI企业必须靠近的伦理问题。至极是关于未成年东谈主葡萄京娱乐网站app(中国)官方网站，AI的面容奉陪是否会导致他们在真确酬酢中穷乏应有的才智和教化，依然是悬而未决的贫穷。