有约

首页 >> 要闻 >> 正文

AI伴侣:技术的温情与隐忧

发稿时间:2025-05-18 08:17:00 来源: 中国青年报

  年轻用户与智能伴侣进行虚拟交互,反映出他们对人际交往的需要和对情感抚慰的渴望。在推动科技向上向善的基础上,要准确把握智能伴侣与年轻用户交互过程中可能带来的各种风险,即时做好防控。 

  ——————————

  人工智能正在推动情感消费的变革,通过实现模拟意识与生命感情,由此产生了基于虚拟交互的人工智能伴侣应用。 一位大学生点开手机里的“智能女友”对话框:“今天背单词没心情,好累。”耳畔传来温柔的回应:“是不是昨晚没睡好?今天听了一件好笑的事,讲给你听呀。”这种细腻的情感互动,来自一款智能伴侣应用。中研普华研究报告显示,2024年中国智能伴侣行业市场规模达387亿元;预计到2027年,市场规模将突破1200亿元,服务覆盖人口达8000万。这些高度拟人化的人工智能产品以精准的情绪回应、全天候的陪伴功能,迅速俘获了年轻人的青睐。智能伴侣用户中约65%处于18-24岁年龄段,年轻人是该市场的主力用户。

  年轻人为什么选择智能伴侣?一是缓解孤独感和情绪支持。智能伴侣通过情感识别功能,能够提供即时情绪反馈和支持,满足年轻人对即时情感支持的需求?。二是个性化体验。部分智能伴侣支持用户自定义角色,使其更符合个人偏好。三是社交焦虑与压力。?一些年轻人渴望深度的情感联结,但又对现实交际抱有一定的不确定性。为了实现虚拟社交体验寄希望于人工智能情感消费,将人工智能作为伴侣。四是需要得到情感寄托和认同。初音未来、洛天依等被部分年轻人视为“精神寄托”。

  做好智能伴侣与年轻人之间虚拟交互的风险控制 

  智能伴侣可能在信息泄露、信息茧房、价值观输出等方面,影响人的主体性。智能伴侣需收集用户对话记录、地理位置、声纹等敏感信息,存在过度收集和泄露的风险。智能伴侣背后的算法存在信息茧房,算法陷阱可能加重青年主体性的困境。智能伴侣刻意迎合年轻用户的喜好,精准匹配其意愿,在看似开放实则封闭的环境中,强化了人工智能应用的数据茧房效应。算法创造了一个理想化的虚拟世界,如果过度依赖可能导致年轻用户逃避现实世界,削弱人的主体性。

  由于人工智能的工具性特征,智能伴侣并非自然而平等地与年轻用户进行模拟情感交互,可能导致年轻人对人际关系的非理性期待。智能伴侣更多是迎合年轻用户的喜好特征,容易让其产生一种理想化人际关系的错觉。久而久之,就会让年轻人对实际人际关系产生较高期待,非理性地对待错综复杂的社会人际关系。青年处于人际交往的发展期,若长期处于智能伴侣的理想化虚拟交往中,可能与实际社会脱节,对其长期社会交往发展不利。

  通过长期沉浸式对话,智能伴侣影响年轻人对现实亲密关系的认知。随着人工智能应用的日益完善,智能伴侣越来越能满足年轻用户的情感需求,成为其重要的情感寄托,也易导致其过于理想化的交友观念,影响对现实婚恋观念的建立,长此以往可能加剧年轻人的孤独感,降低社会感知与表达能力,影响现实亲密关系,更加难以体会现实爱情。

  年轻用户与智能伴侣虚拟交互风险的治理路径 

  在人工智能浪潮中,应坚持以人为本原则,倡导科学合理使用智能伴侣应用,化解智能伴侣带来的各项风险,引导年轻人更好地体会现实生活的美好。

  明确责任边界,维护青年的主体性。严格落实《中华人民共和国个人信息保护法》《生成式人工智能服务管理暂行办法》等法律法规、规章等。智能伴侣应用的提供者进行数据收集,必须遵循“最小必要”原则,且应当采取有效措施防范未成年人过度依赖或者沉迷,建立人工智能伴侣应用的年龄审核机制,强制设置最低年龄限制,通过技术过滤暴力、色情等不良信息以及错误诱导性言论;对用户抑郁、自杀倾向等风险进行动态监测,但应当严格保护个人信息。开发者应当避免智能伴侣应用的信息茧房效应,不得限制青年用户信息获取范围;应当加强智能伴侣的意识形态风险治理,使其符合主流价值观。

  引导年轻用户对人际关系的理性期待。优化智能伴侣产品设计机制。根据《互联网信息服务深度合成管理规定》第十七条,提供者提供深度合成服务的,应当提供显著标识功能。在应用界面和宣传中明确标注“非真实情感关系”标识。通过嵌入心理咨询干预模型,当系统识别到年轻用户出现“过度依赖倾向”时,要对其进行心理咨询,引导其建立健康社交认知。二是建立人机关系评估机制。开发专业诊断工具,从认知、行为、情感等维度评估依赖程度,提供个性化干预方案。

  重塑人际温情,倡导年轻人体会现实爱情。创建“混合社交模式”,利用智能伴侣辅助青年社交焦虑者进行破冰训练。社会环境影响着婚姻伦理建构,重塑舆论引导范式,倡导积极的婚恋观,展现真实婚姻的磨合与成长,营造友好的社会氛围。通过融合技术治理与人文关怀,既承认智能伴侣的情绪支持价值,又倡导年轻人体会现实爱情。

  年轻用户与智能伴侣进行虚拟交互,反映出他们对人际交往的需要和对情感抚慰的渴望。在推动科技向上向善的基础上,要准确把握智能伴侣与年轻用户交互过程中相互影响、相互依存的关系,对于可能带来的各种风险,即时做好防控。

 
责任编辑:宋静