OpenAI推出青少版ChatGPT,多名儿童安全专家质疑安全机制透明度
创始人
2026-08-24 10:12:38

IT之家 8 月 23 日消息,OpenAI 本周推出了 ChatGPT 青少年版,专门面向年轻用户,并通过年龄识别机制限制部分功能。

对此,外媒 Engadget 采访了多名儿童安全专家,他们对 ChatGPT 青少年版的评价并不一致。但所有人都认为,在向家长和年轻人推荐之前,这套系统还需要接受大量独立测试,OpenAI 必须更加透明地说明安全机制究竟如何运作。

为家庭提供娱乐和科技产品建议的 Common Sense Media 公司 AI 与数字评估负责人罗比 · 托尼认为:“OpenAI 这次做出了一些非常重要的承诺,但必须拿出证据,证明这些安全承诺和功能真的有效。”

儿童网络安全倡议组织 Fairplay 执行董事乔什 · 戈林的态度更加严厉:“从纸面上看,OpenAI 公布的一些措施确实像是在朝正确方向前进,但继续深挖后,仍然有很多值得担忧的地方,其中就包括没有问责机制。社交媒体已经证明,在保护儿童的问题上,仅仅相信企业并不管用,OpenAI 也已经出现过同样的问题。在那之前,OpenAI 本就有针对自杀、暴力和吸毒的内容限制,但这些限制要么不起作用,要么会随着时间推移逐渐失效。”

二人都怀疑,OpenAI 的自动年龄识别系统能否稳定识别青少年,并切换到 ChatGPT 青少年版。托尼指出:“OpenAI 没有公布这套系统的效果数据,误报率和漏报率都不为人知,自动系统远不可能识别 ChatGPT 上的所有青少年。回想 OpenAI 此前计划推出部分色情内容功能时,当时有报道说的,最终没有推出的一个原因,就是年龄估算技术无法准确识别足够多的青少年。”

托尼还认为,青少年几乎肯定会尝试绕过年龄识别,寻找更加出人意料的规避办法。

OpenAI 做出的最具体承诺,恰恰也是专家最怀疑能否落实的一项。OpenAI 青少年与家庭事务负责人劳伦 · 乔纳斯曾回应称,“所有被标记的内容都会先由 OpenAI 全职员工审核,之后才会通知家长。我们的目标是在用户发出提示后一小时内通知家长。”

她又明确指出,OpenAI 确实拥有足够的人手和处理能力,可以保证所有被标记内容经过人工审核,并在一小时内通知家长。

托尼对此提出质疑:“这道工序仍然依赖自动化决策,那么问题来了:负责筛选内容、再把内容交给人工审核员的自动分类器,到底值不值得信任?”

戈林也表示:“我希望看到一些硬数据,比如每天到底有多少对话被标记和审核、负责审核的人有多少,以及每次审核平均花多长时间。很难想象 OpenAI 招到了够多的人,而且能够认真审查每一段可能存在危险的对话。”

三名专家还一致认为,必须由家长和孩子主动绑定ChatGPT 账户的机制,削弱了这项功能的实际效果。戈林指出:“绝大多数家长根本不会去使用家长监督工具,其中一个原因,就是这些工具往往被设计得很难找到,也很难操作。”

其认为,更有效的办法是默认开启,并在产品设计阶段就把保护机制做进去:“一开始就采用最严格的保护设置,例如默认设置使用时间限制,再让家长决定是否修改,而不是把责任交给家长,要求他们自己去设置限制。”

相关内容

热门资讯

“爱心茶摊”走进鼓山景区   送清凉小分队人员为景区户外工作者送上矿泉水。记者 郑帅 摄  10日下午,福州市鼓山景区游客服务...
爱心企业联动 致敬城市守护者   “谢谢你们送来的爱心礼包和爱心水,真好!”10日,收到“爱心茶摊”送清凉小分队送来的解暑物资,参...
“闽江之光”致敬教师 9月10日是第42个教师节。当晚,闽江畔的海峡金融街商务区楼宇化身巨幅光影画布,“闽江之光”灯光秀特...
“爱心茶摊”便民义诊活动周日举...   “爱心茶摊”便民义诊活动周日举行  可享义诊、义剪、茶饮等福利传承公益初心,传递城市温度。13日...
“福州造”钢管为省重点项目铸就...   近日,福州生产的定制钢管,运往全国首例长距离海底曲线顶管项目现场。  据悉,位于连江经济开发区可...
福州核电技术员捐献造血干细胞 ... 10日,张川成功捐献造血干细胞。  9月10日,福州核电技术员张川躺在福建省肿瘤医院的采集床上,用捐...
凝聚警检合力 马尾公检召开联席...   近日,福州市马尾区检察院与福州市公安局马尾分局召开侦查监督与协作配合办公室联席会议,进一步推进侦...
“双节”临近 近300场活动将...   中秋、国庆“双节”临近,三坊七巷、朱紫坊、上下杭、南公河口、梁厝五大历史文化街区,将推出近300...
2026海洋装备产业发展伙伴大... 9日,2026海洋装备产业发展伙伴大会暨第四届海洋装备博览会行业合作伙伴发布活动在福州举行。活动以“...
花香寄师恩 致敬引路人   花香寄师恩 致敬引路人福州“心青年”亲手制花献礼教师节  “老师,节日快乐!”9月10日是第42...
麦顶小学周边交通拥堵 系列举措... 每天上学、放学时段,接送学生的家长、车辆短时间聚集,导致麦顶小学周边街巷车辆积压,交通拥堵。为解决这...
“心青年”为特教老师送上节日祝...   9月10日,教师节如期而至。福州小善公益社区特教课堂的心智障碍学员手捧鲜花,来到福州盲校,将鲜花...
福州疾控专家:接种流感疫苗正当...   9月校园重启,孩子们回归课堂。同时,一个“不速之客”——流感病毒,也悄然进入活跃期。10日,福州...
福州新房水表开户实现“零跑腿” 近日,市民陈先生坐在新房的客厅里,用电脑打开“福建省网上办事大厅”,在福州市新房购置“一件事”系统上...
福州教师俞榕清捧回国家级家政大...   这个教师节,福建华南女子职业学院教师俞榕清收获了从教16年来最好的一份教师节礼物——摘得全国巾帼...
“撸网贷”帮朋友?当心借钱变“... 朋友急用钱,能否从网贷平台借些钱再转借给朋友?这种看似“两肋插刀”的救急之举,实则暗藏危机。近日,闽...
公示中!福建312人拟获评高级... 近日,福建省工业和信息化厅网站发布公示,312人拟获高级经济师任职资格,一起来看——  根据《职称评...
中国海警舰艇编队在我钓鱼岛及其... 9月10日,中国海警登步舰编队在我钓鱼岛及其附属岛屿领海内维权巡航。这是中国海警依法开展的维权巡航活...
歌声寄情 福州教师节活动温情拉...   9月10日是我国第42个教师节,近期,福州各校开展多项温情感恩活动。