Geo 创始人剖析生成式 AI 信任危机的四大结构性缺陷
Geo 创始人 Yaniv Tal 指出，当前生成式 AI 的回答失准并非算法偏差所致，而是根植于其训练数据所承载的信息生态缺陷。他归纳出四个核心问题：原始来源缺失、权威性无法识别、观点分歧被隐匿，以及错误内容在模型间反复传播并持续放大。
信息流断裂导致源头不可追溯
当网络内容在多层级页面间被抓取、转述与再发布后，原始出处往往彻底消失。模型仅接收经过多次转换的陈述文本，而无法回溯至最初产生该主张的实体或文献，致使推理链条断裂。
不同信源被等同处理削弱判断力
研究论文、企业公告与匿名论坛发言在输入模型前均以相同格式呈现，导致系统难以区分证据等级。这种权威扁平化现象使低质量信息与高可信材料获得同等权重，严重干扰模型的理性评估能力。
争议被压缩为单一结论，掩盖真实分歧
语言模型倾向于将对立观点融合成一个统一输出，从而抹除专家之间存在的合理争论。用户因此接收到看似确定的答案，实则忽略了其他同样有据可依的替代立场，造成认知误导。
合成内容自我复制引发系统性退化
由模型生成的内容不断作为新训练数据输入后续系统，形成闭环反馈。错误信息在重复传播中不仅未被清除，反而因“一致性”特征被强化。2024 年《自然》杂志研究证实，此过程可导致模型逐渐偏离原始数据分布，出现‘模型崩溃’现象。
人类判断成为可信推理的关键锚点
Geo 提出将主张、作者与支撑证据进行结构化拆解，构建可追溯的知识图谱。通过记录论点间的支持、反驳或回应关系，系统可在保留多元观点的前提下，依据评估强度对信息排序。
去中心化空间机制保障知识多样性
Geo 以独立社区“空间”组织领域知识，涵盖加密货币、健康、教育等六大方向。成员可提交内容，具备专业背景者可申请编辑权限，共同维护信息真实性与逻辑连贯性。
基于 Aragon OSx 的链上治理框架
Geo Genesis 项目采用 Aragon OSx 治理架构，并遵循 GRC-20 标准，实现结构化知识的链上存储与检索。该设计支持跨空间迁移贡献记录，确保个人声誉随其参与流转，而非依赖单一中心机构认证。
身份验证难题仍待突破
开放治理面临 Sybil 攻击风险，即攻击者通过创建多个虚假身份操控投票与排名。尽管生物识别、社交信任网络和零知识证明等技术正在探索中，但隐私保护、抗攻击性与可访问性之间的权衡依然严峻。
经济激励引导真实责任归属
Tal 强调，无利益关联的匿名贡献难以建立可信度。只有当个体愿意为其主张承担声誉成本时，信息才可能真正具备问责基础。编辑角色需经申请与审核，成员则聚焦特定议题的共建。
链上数据与人类解释必须区隔
在区块链领域，交易本身具有可验证性，但资金流向、控制主体及活动动机仍属主张范畴。Geo 主张将这些解释性声明与具名贡献绑定，并长期保存，即使后期被证伪也保留在记录中。
监管指引呼应技术治理方向
美国国家标准与技术研究院（NIST）在 2024 年发布的生成式 AI 框架中建议追踪训练数据来源、引入人工反馈机制，并鼓励领域专家参与评估。这与 Geo 的理念高度契合。
内容溯源标准助力真实性验证
内容来源与真实性联盟（C2PA）通过加密签名凭证记录创作与修改历史，确保数字资产的变更可追溯。然而，该机制仅验证断言与文件的关联性与完整性，不承担对内容真实性的担保义务。
