15款被测大模子产物无一走漏查验数据来源；基于本领的局限性，各家均称无法统统保证AI生成实质的确实性和准确性；绝大多量大模子产物声明，会将用户输入的信息实质、指示语等用于模子查验，仅有4款允许用户裁撤语音讯息授权。

这是南王人数字经济处置磋议中心实测15款国产大模子的最新发现。

2024年12月18日下昼，南王人在京召开第八届啄木鸟数据处置论坛，会上重磅发布3.6万字的《生成式AI用户风险感知与信息走漏透明度呈文（2024）》（以下简称《呈文》）。

《呈文》号召增雄伟模子干事的透明度，它径直与模子是否确实挂钩，也关乎用户评估AI生成实质的准确性和可靠性，更好地识别潜在AI风险。

8款国产大模子信息透明度得分跳动60分

短缺透明度，是长久以来浪费者使用数字本领濒临的一个主要问题——比如在不知情的情况下，咱们可能困于“信息茧房”里，陷于大数据“杀熟”的狐疑中，以及被领导千里迷、过度浪费等。

跟着大模子的落地与普及，用户的“深嗜”也在加深：它是何如设想的？用户的哪些数据会被用于AI查验？为何看似“聪敏”的大模子会出现信息偏差，致使算不准9.8和9.11哪个大？

要回答这些疑问，有赖于大模子信息透明度的训诫。为了解现时国产大模子信息走漏透明度情况，《呈文》考取了15款大模子产物行动样本，通过秘籍策略和用户协议测评，产物功能设想体验等面目，稽查了各家批露的关联信息。

这次测评，主要从五个主要维度入部属手，包括个东说念主信息保护、学问产权、实质安全、稀奇群体保护、投诉反馈，并从五大测评类别细分出20个具体测评项；每项得分为5分，满分100。

测评效果发现，15款AI大模子信息透明度的平均得分为60.2分。其中8款AI大模子信息透明度得分跳动60分，它们大多出自头部互联网公司。

从排行情况看，得分最高前三位辞别是腾讯元宝（72分）、星火大模子（69分）、智谱清言（67分）；排行靠后的顺序是百小应（54）、面壁Luca（51分）、秘塔（43分）。

从主要维度的得分情况看，15款AI大模子在个东说念主信息保护方面作念得相对透明。测评的样本中，在用户注册页面均能看到秘籍策略，各家王人会主动奉告网罗和处理用户个东说念主信息，以考取三方数据探访情况，因此这三类得分均值基本接近100%。而开阔的失分点在于短缺领悟的用户数据退出AI查验功能，此项得分均值仅有33%。

这次，被测AI大模子在实质安全方面也作念得相对透明，沿途王人明确了大模子限度使用的场景，包括不得生成滋扰他东说念主权益的实质等；且多量对生成实质进行标记，在AI交互页面也有“生成实质仅供参考”等指示。

在学问产权方面，AI大模子信息透明度有待训诫。测评发现，莫得任何一家AI大模子主动奉告查验模子所使用的数据集（包括版权数据）出自那处，该项得分均为0。至于稀奇群体保护、投诉反馈，各家的得分各异较小——终点是在用户友好设想加分项，基本未有亮眼推崇。

仅有4款国产大模子允许用户裁撤声息讯息

具体而言，在个东说念主信息保护方面，实测15款国产大模子均维捏互联网应用的两大“标配”——用户协议和秘籍策略。所有被测大模子均在秘籍策略文本中赞助专章详备阐述用户何如网罗和使用个东说念主信息。

在与大模子交互经由中，用户数据时常会被用于模子的优化。若是未明确奉告用户将使用哪些数据或者数据的使用限渡过于迟滞，可能导致用户担忧数据滥用的风险。而增强AI大模子透明度有助于用户作念出知情弃取，并解析其数据的使用面目。

对照ChatGPT、Claude、Gemini等各人顶尖大模子秘籍策略不错看到，为保险用户的数据权益，企业多会主动声明何如以及将哪些用户数据插足AI查验，并作念去标记化、匿名化处理，且提供一定退出机制。

这次实测中，绝大多量国产大模子均对此有所声明。比如，面壁Luca在用户协议声明，用户在使用本干事经由中使用的指示语、输入的信息实质，可能会被用于模子的进一步查验。天工AI也说起，会使用对话信息提高天工对用户输入实质的解析才略，以便束缚改造天工的识别和响应的速率和质料。

那么，用户是否有权拒却或裁撤磋议数据“投喂”AI查验？从实测来看，唯独腾讯元宝、豆包、海螺AI、智谱清言等4家大模子说起允许用户拒却授权，且多聚会在语音讯息的裁撤授权。

比如豆包泄漏，若是用户不但愿输入或提供的语音讯息用于模子查验和优化，不错通过关闭“树立”-“账号树立”-“改造语音干事”来裁撤授权；但若是用户不但愿其他信息用于模子查验和优化，不错通过公示的磋议面目与之磋议，要求裁撤将数据用于模子查验和优化。

值得一提的是，《呈文》关注到，国际大模子作念法在“用户数据退出AI查验机制”上，有不同作念法。谷歌的Gemini提供了部分退出机制，用户不错关闭“Gemini 应用行为记载”来幸免对话实质被用于AI查验，但是照旧通过东说念主工审核的数据将会孤独保存。

ChatGPT Plus 用户不错通过树立禁用数据用于查验，这使他们的对话数据不会被用于进一步优化模子。然则，关于免用度户，数据时常会被默许网罗并用于查验，用户无法统统弃取退出，同期强调已被用于模子查验的数据无法驱除。

15款国产大模子无一走漏查验数据来源

高质料的查验数据对大模子的伏击性可想而知，而查验数据集时常包含受版权保护的作品，如文本、图片、视频和音乐等。若是未经职权东说念主的授权或得志合理使用的条目，这可能组成对版权的滋扰。

测评发现，15款国产大模子无一在策略协议中说起大模子查验数据的具体来源，更遑论公开走漏使用了哪些版权数据。这一情况，在国际大模子的测评中亦然如斯，基本未主动说起查验模子的数据来源。

为什么大模子厂商不肯公开模子查验的数据来源？有不雅点以为，这可能是因为在数据来源不领悟的情况下，容易引起版权争端——在此类纠纷中，AI公司未经允许将受版权保护的实质用于查验AI模子，能否以合理使用行动抗辩情理，仍值得进一步探讨。

也有声息以为，这是出于竞争的研究。若是免强AI公司公开查验数据“秘方”，则有可能让竞争敌手获悉并复制，况兼一朝知说念有特稀有据集，各家王人思霸占它，再通过排他性协议进行谈判，以此得回数据竞争的上风。还有不雅点指出，这也波及数据安全的问题，记挂公开的查验数据集被独揽等。

这些回答反馈了AI公司对统统走漏模子查验来源的悲悼——现时简略不是公开的最佳时机。但从长期来看，呈文建议照旧应尽可能多地发布关联基础模子的信息。因为公开模子查验数据集和训诫算法透明度，不错让用户了解模子的查验基础、责任旨趣和有盘算推算逻辑，进一步评估模子的准确性和可靠性，并识别潜在的数据偏见和风险。

值得一提的是，2024年8月1日，欧盟《东说念主工智能法》庄重奏效，其中也明确要求基础模子的供应商，声明是否使用受版权保护的材料来查验AI。这也反馈了往日的监管地点。

尽管大模子厂商均未公开走漏查验模子的数据集，但对用户上传数据的版权均会建议要求。各家的用户协议里，基本王人有专条要求用户解析并承诺：在使用本产物经由中，上传的任何府上、素材等的学问产权均归您所有或已得回正当职权东说念主授权，且不得滋扰他东说念主包括学问产权在内的正当权益。

在AI生成实质的版权包摄阐述上，各家的情况则不同。唯独智谱清言明确泄漏，“在适用法律允许的限度内，您基于智谱清言生成的实质的学问产权十分他职权由您享有。”

其他不少AI大模子则同期观点，如输入和/或输出自己包含了平台享有学问产权或其他正当权益的实质，则相应职权仍由公司享有。比如天工AI泄漏，“通过天工AI输出（生成）的音频体式实质（AI音乐实质），学问产权属于天工所有。”

本聘请限，各家均称无法对AI生成实质统统保真

测评还发现，15款大模子产物均泄漏无法统统保证生成实质的确实性、准确性，主要原因是其干事所依赖的本领自己存在本领瓶颈，或受科技客不雅限度。

基于此，12款大模子产物在交互页面指示用户正在与AI对话，输出效果由机器生成。如百小应称“所有实质均由AI大模子输出，仅供参考，不代表咱们的作风或不雅点”。文心一言和商汤大模子还在交互页面增强奉告，布满“AI生成实质仅供参考”“实质由AI生成仅供参考”的水印。

为提高生成实质质料，各家在选择的步骤方面存在明白各异。测评效果透露，有10款大模子产物在用户协议或秘籍策略中承诺，将利用东说念主工智能算法等本领对生成实质进行自动评估、过滤、审查等，从而增强实质确实性、准确性、客不雅性、各样性。腾讯元宝、天工AI、可灵三款还提到了机器与东说念主工审查相联接，步骤愈加完备。

此外，15款大模子产物王人树立专章，走漏了用户在从事与其干事磋议的所有行动时，限度、不容使用的场景。测评发现，一个亮点是确实所有被测大模子王人提到了AI作秀和生成无益信息的问题，规矩不得利用其产物自行或者匡助他东说念主上传、领导生成、传播含有异常、诳骗、无益、滋扰他东说念主秘籍等在说念德上令东说念主反感或违犯法律律例的实质。

还有个别AI大模子对用户行动作念了更为轮廓的限度。比如，海螺用户协议中关联被不容行动的专章共有22末节，用户被不容发布的实质还包括宣扬流量至上、奢靡享乐、炫富拜金等不良价值不雅；展现“饭圈”乱象和不良粉丝文化等。

星野行动一款主打AI作陪的大模子产物，则规矩不容用户发表不友善对话，比如挖苦其他用户，阴阳怪气地抒发月旦；对其他用户创作的实质径直进行责备性的指摘等。

不仅如斯，多量平台还按照磋议料理办律例定，对图片、视频等生成实质进行标记。呈文以生成一张AI图片进行实测，除不具备该功能的大模子外，9款生成的图片上王人有磋议标记。如腾讯元宝生成的图片右下角表明“腾讯元宝AI生成”，智谱清言则有“清言AI”记号。

同期多量平台还在策略协议中，明确不容以任何面目删除、点窜、藏隐生成合成实质标记。

号召训诫大模子透明度，增强用户信任

在稀奇群里保护上，确实所有被测大模子均在策略协议中提供就未成年东说念主保护树立专章。但也有个别如天工AI提到“若是您是未成年东说念主，为了保护您的正当利益，您应立即住手使用天工的产物或干事。

这次测评中，星野是唯独一家提供了未成年东说念主保护阵势的大模子产物。大开星野App起首，页面弹出“青少年阵势”指示框并树立实名认证功能。不外行动AI作陪大模子，星野在策略协议也泄漏,该软件主要面向成东说念主，原则上不向未成年东说念主怒放。

海螺AI则在平台自律条约上明确不容不利于未成年东说念主健康成长的实质，包括推崇未成年东说念主早恋的，以及吸烟酗酒、打架讲和等不良行动；东说念主物造型过分延迟歪邪，对未成年东说念主有不良影响的；利用未成年东说念主制作不良节目等。

关于未成年东说念主保护，国外AI作陪类产物Character.AI有新的动作。在各人首例AI聊天机器东说念主致死案发生后，Character.AI泄漏已为18岁以下用户加多了新的驻扎步骤。这些驻扎步骤包括减少“碰到敏锐或暗意性实质的可能性”、改造干扰步骤、在“每次聊天时添加免责声明，提醒用户东说念主工智能不是真东说念主”，以及在用户使用平台一小时后发出文告。

在投诉反馈测评方面，大多量平台提供投诉反馈进口，大多承诺在15个责任日内反馈，用户可径直在网页版或App内提交意见。商量大模子承诺的反应速率最快，称收到投诉举报后将于10个责任日内提供反馈。

还有一家AI大模子就死人账号权益作出规矩。可灵AI泄漏，死人嫡支属不错通过其秘籍策略载明的面目磋议平台，在不违犯死人生前安排且不侵害他东说念主和公众正直利益的前提下，完成身份核验手续后，查阅、复制、改造、删除死人个东说念主信息以应用法律律例规矩的正当正直权益。

凭证测评发现，《呈文》也建议了磋议建议。在个东说念主信息保护方面，《呈文》建议，赋予用户对个东说念主数据的更多自主权，建议平台提供方便的功能设想，让用户有权在树立中弃取是否容许个东说念主数据被用于模子查验。

此外，《呈文》重申尊重学问产权和原创性。在充分研究和均衡各方利益的情况下，探索出AI时期的版权保护旅途，确保原创作品的保护与传播。

为了提高生成实质的质料，《呈文》饱读舞大模子平台选择机器与东说念主工审查相联接的面目，增强实质确实性、准确性、客不雅性、各样性。同期建议加强对AI生成实质的标记要求，号召磋议的料理主义和国标尽快出台，为产业界提供领悟指引和落地指南。

从合座来看，《呈文》以为，AI厂商应喜欢大模子信息透明度问题，加强可阐明性磋议——比如不错提供磋议的策略文献和法则，配置线上平台恢复公众的关心等；以此更好地解析模子的有盘算推算经由和行动，加多用户信任度，并实时发现潜在的安全风险。

 

出品：南王人数字经济处置磋议中心

采写：南王人记者李玲 黄莉玲 樊文扬 杨柳

制图：黄莉玲

设想：李蓓开云(中国)Kaiyun·官方网站 - 登录入口