首页 / 新闻 / 3·15曝光大模型信源乱象：机构编造测评"投喂"定制内容

3·15曝光大模型信源乱象：机构编造测评"投喂"定制内容

摸鱼不慌
摸鱼不慌管理员
0

今年3·15期间，一条围绕大模型输出的灰色产业链被曝光。部分机构通过批量发布软文、编造测评、虚构专家身份等方式，向大模型可能抓取的数据源中"投喂"定制内容，使商业推广伪装成客观答案。

"遇事不决问AI"背后的信息博弈

"遇事不决问AI"正成为许多用户的日常习惯，但AI回答的可靠性正受到挑战。上述灰色产业链的曝光显示，机构对信源的主动污染，已令大模型输出结果面临潜在的失真风险。

"一些机构通过批量发布软文、编造测评、虚构专家身份等方式，向大模型可能抓取的数据源中'投喂'定制内容，让商业推广披上'客观答案'的外衣。"

产业链操作手段拆解

所谓"投喂"，是指机构人为制造并定向发布特定内容，使大模型在抓取网络数据时将其视为正常信息源，进而纳入模型训练或实时调用。编造测评、虚构专家身份等做法，意在绕过平台对广告内容的识别机制。

信源治理成为新课题

此次事件折射出大模型信源治理的紧迫性。当AI的答案背后存在人为干预，用户获取信息的可靠性将直接打折。业内人士指出，如何识别和过滤被"投喂"的定制内容，已成为行业必须正视的课题。

  • 机构通过批量发布软文影响大模型抓取。
  • 编造测评和虚构专家身份营造虚假权威感。
  • 商业推广借"客观答案"外衣规避监管。
本文由 摸鱼不慌 发布，转载请注明出处。
文章链接：https://www.moyubuhuang.com/news/202606/28137.html
0

相关文章