Soul App成立人工智能伦理与治理委员会 聚焦社交场景AI技术应用规范

6月23日，Soul App举办人工智能伦理与治理委员会（以下简称“委员会”）成立仪式。该委员会由内部委员与外部专家共同组成，旨在为AI技术在社交领域的应用探索治理机制。

委员会构成：内部与跨领域专家联合参与

在成立仪式上，委员会成员正式亮相。除Soul App内部委员外，来自互联网治理、伦理学、社会学、青少年研究、法律等不同领域的7位外部委员同时加入。多方背景的委员组合，意在为AI伦理治理提供多元视角。

Soul的AI伦理探索：从技术落地到治理机制

作为较早思考AI落地社交场景的科技公司，Soul在持续夯实AI底层能力基建与迭代创新功能的同时，正在不断探索和完善AI伦理治理机制。此次委员会的成立，标志着该公司在技术应用规范层面迈出实质性一步。

当前人工智能快速发展，不仅渗透到日常生活场景，而且正在塑造全新的交互模式，在创造全新发展机会的同时，也带来了新的问题与挑战。站在AI浪潮演进的最前线，科技企业需要以负责任的姿态主动回应时代新议题。

背景解读：社交场景下的AI伦理治理

委员会所关注的“AI伦理治理”是指在人工智能技术应用于社交产品过程中，围绕数据隐私、算法公平、内容安全、用户权益等议题所建立的管理与监督机制。根据公告，Soul的伦理治理工作将依托该委员会进行系统性推进。

• 委员会包含内部委员与7位外部委员，覆盖互联网治理、伦理学、社会学、青少年研究、法律等领域。
• Soul将AI伦理治理定位于“负责任”的科技企业责任，并计划在社交场景中持续完善相关机制。

Soul成立人工智能伦理与治理委员会，聚焦AI社交场景伦理体系建设

社交平台Soul近日宣布成立人工智能伦理与治理委员会，旨在针对AI在社交交互场景中的应用进行系统化伦理治理探索。Soul App创始人、CEO张璐在宣布该委员会成立时表示，如何深入AI交互场景、需要何种核心能力以及如何把握AI边界，是Soul长期关注的核心问题。

据张璐介绍，过去一段时间，Soul已从数据安全、用户隐私保护、AI防沉迷、AI治理机制升级等多个维度进行探索。“通过委员会的成立，我们希望能够进一步凝聚自律共识、拓展治理视野，更前置、系统地建立AI伦理治理体系和管理闭环机制，为广大用户营造更加真实、温暖、可信的社交生态。”张璐称。

委员会成员：AI安全治理正当其时

Soul App人工智能伦理与治理委员会外部委员、上海市人工智能行业协会安全工作委员会秘书长殷雨薇对此表示，2026世界人工智能大会暨人工智能全球治理高级别会议即将举行，今年大会仍将高度关注人工智能安全伦理与治理问题。“Soul此时成立人工智能伦理与治理委员会正当其时。”殷雨薇说。

“AI究竟如何深入交互场景？需要的核心能力是什么？AI边界应该如何把握？这是Soul一直在思考的核心问题。”——Soul App创始人、CEO张璐

年轻用户AI使用报告：近四成年轻人每天用AI获得陪伴

Just So Soul研究院发布的《2025 Z世代AI使用报告》显示，55.4%的年轻人会在工作学习时频繁使用AI辅助创作；近四成年轻人每天使用AI产品获得陪伴。报告数据表明，AI在年轻群体中的角色已从单纯的“工具”演变为社交对象、生活伙伴等更为密切的协作者。这一趋势对企业在AI伦理治理方面提出了更高要求。

专注情绪感知与交互：Soul构建AI生态体系历程

据Soul App CTO、人工智能伦理与治理委员会主任委员陶明介绍，Soul长期专注于情绪感知与交互方向，探索情绪识别、人机互动等前沿能力发展。“站在同步发展大模型能力与落地具体产品功能的独特行业坐标，Soul直面用户对于AI行为的期待与反馈，积累了大量的实际业务沉淀。”陶明称。

Soul App于2016年上线，是当时行业较早将AI引入人与人链接的互联网平台。2020年前后，Soul启动系统的AIGC技术研发工作，专注情绪感知与交互方向，打造情绪多模态交互大模型，并推出自研模型SoulX，逐步构建起“底层能力+应用场景”的生态体系，致力于让AI成为人与人真实链接的基础设施。

“Soul长期专注于情绪感知与交互方向，积累了大量实际业务沉淀。”——Soul App CTO、人工智能伦理与治理委员会主任委员陶明

• 2024年：在国际人工智能联合会议（IJCAI）上举办的多模态情感识别挑战赛MER24中，Soul团队在SEMI（半监督学习）赛道获得第一名。Semi-supervised learning（半监督学习）是一种介于监督学习和无监督学习之间的机器学习方法，它利用少量标注数据和大量未标注数据进行模型训练。
• 2025年10月：Soul AI团队开源语音播客生成模型SoulX-Podcast。SoulX-Podcast发布第二天，便成为全球AI开源社区HuggingFace TTS（Text To Speech，从文本到语音）趋势榜榜首。在Github平台，该模型已收获3300+星星数。

55.4%的年轻人会在工作学习时频繁使用AI辅助创作；近四成年轻人每天使用AI产品获得陪伴。——Just So Soul研究院《2025 Z世代AI使用报告》

业内人士指出，随着AI在社交场景中承担更多互动角色，企业建立前置性、系统性的伦理治理体系，将有助于平衡技术创新与用户信任之间的关系，为社交平台的长远发展提供保障。

Soul 2026年开源多款AI模型 加速情绪感知交互生态布局

社交平台Soul于2026年在实时数字人生成与语音技术领域密集开源多个模型，标志着其从社交平台向“情绪感知与交互、模型与应用一体化”的AI生态公司转型。该公司创始人陶明明确表示，Soul正围绕情绪感知、语音优先、多模态交互构建技术内核。

开源模型覆盖实时生成与语音对话全链路

在实时数字人生成方向，Soul陆续开源了SoulX-LiveAct、SoulX-FlashTalk、SoulX-FlashHead等模型，分别对应动作生成、快速对话、头部图像生成能力。语音领域则开源了歌声合成模型SoulX-Singer、全双工语音对话控制模块SoulX-Duplug，以及端到端多人对话转录模型SoulX-Transcriber。

陶明指出：“面向核心垂类方向，平台持续为产业链赋能，输出更落地、可商用的解决方案。”

以情绪感知为技术内核 构建双层应用体系

区别于通用大模型路线，Soul将技术定位聚焦于情绪感知与交互。其体系分为两层：对内以Soul App等真实社交场景为载体，持续迭代模型交互能力；对外以SoulX模型能力为产业链赋能，面向具身智能、内容演绎等行业输出情绪感知与交互决策方案。

• 全双工语音对话控制模块（SoulX-Duplug）：支持双方无需等待即可同时对话，提升自然交互体验。
• 端到端多人对话转录模型（SoulX-Transcriber）：可实时将多人语音直接转换为文本，无需分步处理。

AI治理延伸 构筑伦理体系基石

据陶明介绍，Soul的对外赋能已延伸至AI治理领域。通过面向具身智能等行业输出情绪感知与决策方案，这些实践成为构筑Soul AI伦理治理体系的重要基石，推动技术落地与合规管控同步发展。

Soul成立人工智能伦理与治理委员会 构建全链路AI安全体系

针对AI生成内容治理成本低、传播快、隐蔽性强等挑战，Soul App近日成立人工智能伦理与治理委员会，以系统化方式推进AI伦理治理。该委员会将围绕“模型与应用一体化的AI生态公司”定位，通过技术治理与伦理审查相结合的方式，构建覆盖数据、算法、应用的全流程风控体系。

“AI对抗AI”智能治理体系：动态采集与双重审核

依托核心技术能力，Soul搭建起以“AI对抗AI”为核心的智能治理体系。“AI对抗AI”是指利用人工智能技术来识别和拦截由AI生成的违规内容，形成技术之间的博弈防御。该体系构建了“动态采集—AI深度分析—智能决策—智能执行”的智能对抗链条，推动安全防护能力模块化整合与体系化协同。

针对行业关注的虚拟人交互安全问题，Soul建立AI虚拟人双向审核机制。用户输入内容在进入模型前需经色情低俗、违法违规、攻击辱骂等安全策略审核；模型生成内容在输出前，还需经独立的AI安全模型和内容审核策略再次校验，实现“用户侧审核+模型侧审核”的双重防护。同时，平台在模型多轮对话场景中引入上下文语义理解能力，关注连续对话中的风险演化趋势。

今年3月，平台全面上线“AI社交时长提醒”功能，当用户与虚拟伙伴连续对话达到2小时，系统将触发数字提醒窗口，提示用户“建议休息一下”。

虚拟人标识与社交时长干预：保障用户知情权

为降低用户将AI与真人混淆的风险，Soul在站内对AI虚拟人进行显著标识，并在虚拟人对话交互界面设置常态化固定标识，持续展示“内容由AI生成”提示文案。今年5月，平台对《社区公约》进行AI相关补充更新，新增AI生成内容、AI互动行为及AI虚拟角色等场景的使用规范，进一步明确AI在社区中的使用边界。

目前，Soul已围绕AI虚拟人、AI语音互动、AI内容生成等场景，逐步构建起覆盖“输入治理、生成治理、输出治理、风险干预、用户保护”的全链路安全体系——即从用户输入到模型生成再到输出，每一个环节均设有风险识别与干预措施，同时关注用户过度沉迷等保护需求。针对未成年人保护，平台建立专项体系，强制性不向未成年人提供虚拟人服务，并上线未成年人模式。

人工智能伦理与治理委员会：内外协同共治

适应《科技伦理审查办法(试行)》《人工智能科技伦理审查与服务办法(试行)》《人工智能拟人化互动服务管理暂行办法》等法规要求，Soul人工智能伦理与治理委员会由公司内AI、产品、法务等业务部门负责人组成，同时邀请互联网治理、伦理学、社会学、青少年研究、法律等领域的专家担任外部委员，为规则制定和伦理审查提供多元社会视角。委员会章程规定，还将设立专项治理小组，聚焦隐私保护、算法合规、人机互动体验、内容审核、未成年人保护等细分领域。

出席成立仪式的上海市互联网业联合会会长姜迅表示，该委员会的成立标志着Soul的AI伦理治理迈入更系统化、专业化的新阶段。

• Soul的“AI大模型助力技术创新，精准识别让虚假人设无处遁形”入选“清朗浦江·2024”网络生态治理优秀创新案例。
• 陶明表示，在AI越来越像“真人”的背景下，确保用户清晰理解AI身份、保障知情权和选择权，将是平台未来治理的重要方向。

Soul App人工智能伦理与治理委员会成立 聚焦创新与治理平衡

Soul App人工智能伦理与治理委员会日前举办成立仪式，该委员会外部委员、复旦大学马克思主义研究院副院长、伦理学博士李凌在仪式上围绕“科林格里奇困境与人工智能伦理治理节奏”主题进行了分享，重点探讨了创新与治理之间的平衡关系。李凌在发言中指出，人工智能伦理治理需要在技术发展的节奏中找到恰当的平衡点，既要推动创新，也要防范潜在风险。

科林格里奇困境的概念解析

科林格里奇困境是技术伦理领域的重要概念，其核心含义是：在技术发展初期，人们往往难以预见其社会影响，因此难以进行有效治理；而当技术的影响变得清晰时，该技术可能已经深入社会结构，难以对其进行控制或改变。李凌在委员会的分享中，正是以此困境为切入点，分析人工智能领域的治理节奏问题。

“在技术发展的不同阶段，治理的策略和节奏需要动态调整，以避免因过度治理而扼杀创新，或因治理不足而引发风险。”——李凌博士在仪式上表示。

委员会定位与治理逻辑拆解

根据Soul App的规划，该人工智能伦理与治理委员会的成立旨在为平台在AI技术的研发与应用过程中，提供一个持续的伦理审视与治理机制。其工作逻辑可以拆解为三个层面：

• 前置评估：在AI功能上线前，对潜在的伦理影响进行预判和评估。
• 过程监控：在技术运行中，持续跟踪其实际社会效应和对用户的影响。
• 动态调整：根据监控反馈，对治理策略和节奏进行适时优化。

这一机制的建立，反映出平台方试图在应对科林格里奇困境时，采取一种更为主动和动态的治理思路，而非等待问题显现后再进行应对。业内人士指出，此类委员会的成立有利于为社交平台的人工智能应用划定清晰的行为边界，对行业形成示范效应。

Soul App伦理委员会委员：发展陪伴式AI需关注技术与社会双重维度的治理

上海市人工智能行业协会与法律界、学术界的多位专家，近日围绕生成式人工智能发展中的新问题进行了深入探讨。与会者一致认为，随着AI大模型融入青少年社交与日常生活，从技术规范到社会支持的治理范式正在发生转变。

全球框架下的人工智能治理转向

上海市人工智能行业协会安全工作委员会秘书长、上海兰迪律师事务所高级合伙人殷雨薇围绕“全球协作与本土实践：人工智能治理的挑战与未来路径”分享了观点。她结合知识产权侵权、AI幻觉等生成式人工智能发展中的具体法律案例，介绍了当前从“监管”到“共治”的治理范式转变。

“AI幻觉”是指人工智能模型在生成内容时，产生看似合理但实际不符合事实或逻辑错误的输出，这一现象在法律与伦理层面构成了责任归属的新挑战。

青少年与AI互动：需规避拟真陷阱与建立纠错机制

在讨论与交流环节，Soul App 人工智能伦理与治理委员会外部委员、上海市青少年研究中心主任李清川指出，青少年与AI的关系将深刻影响他们这一代人的社会认知和情感能力。他认为全社会需要重点关注三个具体问题：

• 规避拟真陷阱：虚拟人应保持适度的“非人感”，或增加显著提示，确保青少年始终清楚自己是在与AI进行互动。
• 明确纠错机制：在AI深度的治理流程中，需建立清晰的纠错机制，防止情绪识别模型的误判对青少年造成二次伤害。
• 塑造情感能力：充分利用平台积累的青少年社交行为数据，提炼具体场景，强化情感能力教育。

陪伴式AI成瘾：技术公平性与社会支持缺一不可

Soul App 人工智能伦理与治理委员会外部委员、上海社会科学院新闻研究所互联网治理研究中心主任方师师则指出，对于陪伴式AI可能引发的过度沉迷问题，需要从技术与社会两方面进行审视：在技术层面，应当关注算法与模型的公平性、透明性以及问责机制；在社会层面，更应关注系统性的结构因素，例如对需要关爱的群体是否提供了足够的社会支持，公共文化设施是否提供了足够丰富的线下选择。

Soul成立人工智能伦理与治理委员会 聚焦数据合规与风险防控

Soul人工智能伦理与治理委员会日前正式成立，并于成立仪式后举行了首次外部委员专题会议。会议围绕AI伦理治理的具体规范及产品应用展开讨论，标志着该平台在AI安全与责任领域迈出实质性一步。

首次外部委员会议审议伦理审查规范

在专题会议上，与会外部委员对《Soul App人工智能科技伦理审查工作规范(草案)》等文件进行了意见征询与讨论，并详细了解了Soul已及即将推出的AI相关产品与功能。委员会成员表示，将在会后认真研究的基础上，围绕AI伦理与治理相关问题提供专业咨询意见。

委员们指出，会后将在认真研究的基础上，围绕AI伦理与治理相关问题提供咨询意见。

委员会将履行四项核心职能

根据会议披露的信息，Soul人工智能伦理与治理委员会成立后，将承担以下核心职能：

• 制定AI伦理治理战略，确保与技术发展同步；
• 对新技术、产品开展前置伦理评估；
• 定期开展AI伦理通识培训，提升员工伦理素养；
• 建立伦理事件闭环管理机制，包括监测、研判、处置、反馈等环节。

上述职能设计旨在从战略规划到执行落地形成完整闭环。以“前置伦理评估”为例，这意味着在AI产品上线前，平台需先进行合规性审核，而非事后补救。

平台表态：“发展与安全并重”

陶明在会议中表示，现阶段伴随技术的快速发展，AI伦理治理仍面临诸多挑战。未来，Soul将坚持“发展与安全并重、创新与责任同行”的原则，持续深化AI伦理治理实践。

具体措施方面，Soul将进一步完善AI安全审核体系和风险防控能力，提升模型可控性和可信度；同时积极与学界、行业合作，探索符合社交场景特点的AI伦理规范建设。平台计划将数据合规、隐私保护、未成年人保护、内容向善、公平透明等理念贯穿于产品设计和技术应用全过程，努力推动AI技术在安全、健康、负责任的轨道上持续发展。