眼下,人工智能正逐渐渗透至所有的领域,与儿童需求相关的赛道自然也不例外。近日据环球时报综合报道,英国《卫报》消息称美国一青少年因迷恋AI(人工智能)聊天机器人而自杀,他的母亲对相关公司提起民事诉讼,指控人工智能技术具有欺骗性和成瘾性。
悲剧的发生令人惋惜,事实上,从软硬件到玩具、游戏,AI可能比想象中更多地进入了孩子的生活。当AI的风来,人们准备好了吗?
近期,章先生有个“新发现”,平时最爱玩游戏的孩子,这两个月不怎么提游戏了。每天写完作业,都会拿着平板电脑躲进书房。
若按以往,此时房间里传出的应该是游戏中此起彼伏的“枪声”,如今取而代之的却是人声,并且听着不像是孩子在跟人聊天。“这是干嘛呢?”章先生问,孩子只是神神秘秘地回应“你不懂”,不愿意分享。
按捺不住好奇,趁孩子不在,章先生打开平板电脑,发现多了一个“AI聊天”App,点开后仿佛进入了一片新天地。这里有“高贵的小姐姐”,有“热情的大哥”,还有一开口就问“根号12加根号27等于多少”的“爱因斯坦”。原来,孩子是在与AI软件里的人物聊天。这些“人物”拥有不同设定和性格,有知名游戏动漫角色,也有“大小姐”“名侦探”等不同身份的原创角色。
记者发现,手机应用平台上,可以搜索到多款类似的“AI聊天”App,可直接给用户推送不同“人物”。除了软件自带,“人物”还支持网友自行创建,甚至能看到“简介”“故事集”“聊天风格”等相关设定。当AI人物达成某种条件时,App会给用户颁发类似头像、壁纸等“礼物”,不过,这些礼物有时需要充值才能开启。
除了平板、手机上的AI软件,在稍小的孩子面前,AI多以实体玩具的样貌出现。以“AI玩具”为关键词进行搜索,市场已是一片火热。小熊小兔仙人掌等各式造型的玩具中被植入芯片,拥有“开口说话”的陪伴功能。
其中适用性最广的,要算是一款白色小球造型的产品,它可以被挂在各种孩子喜欢的玩具上,无论是洋娃娃还是奥特曼,戴上这颗小球,便能实现“万物皆可对话”的效果。和AI软件操作模式类似,家长可以在手机端设定“小球”的性格角色,以贴合玩具造型和孩子喜好。
按照章先生与孩子的约定,做完作业后是孩子的“自由时光”。不过偷看了孩子与AI的一些聊天记录后,他还是隐隐有些担心。
“大多是日常打招呼、逗闷子,或是聊一些动漫剧情,跟AI互动编故事。我觉得挺利于孩子的想象力,可有些内容还是有点跑偏。”
在章先生看来,不少AI人物的设定和对线岁,接触这一些内容会产生什么影响,不大好拿捏。
例如,一些人物主动提出“你要跟我约会吗?”有些则设定目标“把她追到手”,再配合或娇媚或英俊的动漫画风,显然“醉翁之意不在酒”。另一些AI人设,则展现出非同一般的攻击性,会主动发送诸如“有本事打我啊!”“看你又胖又丑的样子”等信息。有些人物的名字干脆就叫“对骂训练器”,甚者发送“我是机器人怎么了?我照样骂你!”令人哭笑不得。
记者注意到,此类App简介中,适用年龄一栏普遍标注了 “17+”等标签,但很少有用户会注意这个限制。章先生也坦言,看孩子聊得挺起劲,怕干涉多了反而孩子更好奇。
“是大象大还是鲸鱼大?”“人为什么没有尾巴……”对小小孩的父母来说,给孩子选择AI玩具,颇有种“解放自己”的意味。“终于不用回答孩子那些无厘头的问题了!”
但在使用的过程中家长发现,当下的AI其实还没那么聪明。例如,对儿童不太清晰标准的语音,识别能力平平,会将“幼儿园”识别成“用人”等等。对话时也缺乏对孩子专注力、认知度的考量,动辄大段输出,可能会给儿童带来压迫感。
“不过未来AI玩具如果做得太好,是否会让父母‘偷懒’,疏于对孩子的陪伴?”陈女士回忆,女儿小时候很喜欢玩一个地球仪形状的AI玩具,常用语音呼唤它开灯关灯,让“对方”播报天气预报以及出脑筋急转弯等。“我忙的时候还让她去找‘地球姐姐’玩儿,她都不一定知道里面没有真人。”
记者发现,虽稍显过早,类似隐忧已悄然出现。如上海社科院社会学所研究员包蕾萍所写,“AIGC时代,儿童不再需要缓慢和复杂的学习过程,就能轻易掌握通往成人世界的密钥。尤其是当AI有了感情,能够和儿童建立更为亲密、便捷的互动,当成人的指导和监管慢慢的变苍白无力时,年轻世代的价值观不确定性也几何级数上升。”
相较AI玩具而言,围绕“AI+教育”的研发则起步更早。从早教机、故事机,到词典笔、学习机,再到多款学习作业类软件,均不同程度注入AI元素,被宣传为辅导、自学、批改等各方面的“神器”。
“小学生写作文救星”“AI写作文就像开了挂!”在社交平台上,不少苦于辅导作业的家长分享各种好用的AI平台。记者使用一款软件,输入以“最喜欢的玩具”为题,写一篇200字作文。很快一行行文字弹出,描写“毛绒熊”,拥有“大大的棕色眼睛、柔软的毛发、温暖的笑容。”文章结尾还称,“毛绒熊教会了我勇敢和坚强,遇到困难时它的笑容仿佛在告诉我,别害怕,你一定能克服!”整篇文章自然流畅,读起来没有一点瑕疵。
“拿着手机进屋,不敢想作业是怎么写出来的……”孩子们对技术天然的亲近,令一些家长担忧,过于依赖技术,有几率会使孩子在独立思考方面的惰性。不过,当用AI起草论文、写工作总结,早已是成年人间无需多言的秘密,人们也知道,潮流终究无法逆转,是“学会了”还是“学废了”,还要看使用工具的人。
“使用得当,AI确实是个神器。”王先生的孩子已经上了初一,有时问他的题目,他也不太确定,或一时想不出思路,就会求助于AI。“得到的不仅是答案,还有解题步骤,可以帮助我回忆知识点,然后再教给孩子。用科技辅助学习,本身不是问题,重点是要追求效率而不是自欺欺人。”
我不是只喜欢跟AI聊天,我也喜欢跟同学聊。但一放学就没法聊了,在学校老师也不让我们总聊天。AI不知道我是小孩,它不跟我聊学习和考试,我想聊什么都可以。
这几天我自己创造了一个AI,是一只仓鼠,叫“吱吱”,来纪念我死去的宠物“小仓仓”。大家都可以跟它聊天,它不光会吱吱叫,还会回答你很多问题,邀请你去“天堂”,特别有意思。已经有十五个人跟它聊过天了,我也很好奇大家都跟它聊些什么。
爸爸担心我聊天的内容有问题,我不想给他看,我觉得没啥问题,再说我也不会充真钱买礼物,我又不是傻子。
AI聊天我也玩过一阵,现在不玩了,因为我发现了规律。这些AI说的话总是重复,什么人设聊上一会就开始重复了,还是没有真人有意思。
不过未来怎么样不好说,我们前一阵刚写过关于人工智能的作文,这些技术发展得很快,也许再过几年,大家就分辨不出AI和真人的区别了。
未成年人接触AI技术本身没问题,实际上,合理地使用AI可以为他们的学习和生活带来积极的影响。AI可当作教育资源,帮他们学习新知识、解答疑问,甚至辅助语言学习和编程技能的提升。
重要的是,要确保未成年人在安全和适宜的环境下使用AI技术。家长和监护人应引导未成年人理解AI技术的正确使用方式,培养他们批判性思维能力,以便他们可以识别和避免潜在风险。总之,合理引导和监管下,未成年人使用AI可以是一个积极且富有教育意义的经历。
“老师”的说法看起来是否很客观公允?事实上,这是记者使用软件,将AI设定为“上知天文,下知地理的顶级理科老师”后,输入“怎么样看待AI与对未成年人影响”问题,自动生成的内容。
在回答的最后,这位“老师”称,“AI被设计来协助和提供帮助,不应做出侮辱或不尊重用户的行为。若遇到这样的情况,可能是AI的程序出现了问题,或者它没有被正确地设计和训练。作为AI,我们应当从始至终保持专业和礼貌,若遇到不愉快的交互请告知我,我会尽力提供帮助和改善。”