
“公具”(https://www.factcheckingtools.ai/)是中文互联网首个由人工智能驱动的事实核查和开源调查工具库,其简单目标是让事实核查更容易为人所用。
如你所知,虚假信息正以前所未有的速度侵蚀公共讨论的土壤——从社交媒体上的谣言、人工智能生成的伪造新闻,到被刻意断章取义的学术报告,这些失真信息不仅扭曲认知,还可能引发社会对立。
作为一群事实核查员,我们深知,事实核查和开源调查工具曾经被专业机构垄断,或隐藏在高昂的技术门槛之后,普通人在面对可疑信息时如同赤手空拳的战士,他们在中文世界里寻找可靠工具推荐的努力又如大海捞针般艰难。
我们希望打破这种不平等:系统性筛选、测试那些真正有效且易操作的事实核查和开源调查工具,再借助人工智能的力量将核查能力“武器平民化”,为中文世界的事实求真提供基础设施和公共产品,这也是本计划取名“公具”的渊源。
我们追踪、测试最新的工具以及已有工具的迭代动态,工具目录涵盖10多个不同类别,包括搜索、图片、视频、信源、地理定位、地图、卫星图像、网页存档、网站调查、数据处理、AI内容检测、航空和船舶追踪、社交媒体检视等等。收录的工具数量每日更新,其中大部分工具都是免费的,且无需编程。有关这些工具的内容既包括基本介绍,更包含使用方法和真实用例,这些内容均由“公具”项目的志愿者创作或审阅。
我们为这些内容创建了一个知识库,作为训练人工智能的原始数据。为了呼应对话式的人机交互方式,在最终的产品形态上,用户可以用自然语言向我们提出有关事实核查和开源调查的问题,人工智能助手会根据问题提供具体的工具和方法建议。
正如美国西北大学研究新闻编辑室与生成式人工智能的学者尼克·哈格尔(Nick Hagar)所写的那样:“Meta 退出中心化的事实核查可能预示着一个时代的终结,但同时也为我们重新构想如何核实网络信息创造了空间。虽然目前的大模型无法将完成这一关键任务完全自动化,但它们可以成为以更分散的方式打击虚假信息的有力工具。未来可能不在于平台的强制验证,而在于通过结合人工智能增强型工具、去中心化网络和人类专业知识来赋予用户权力。随着我们的信息生态系统不断破碎和演变,最具弹性的解决方案可能是将核实工具直接交到用户手中。”
真相不该是少数人的特权,而是数字公民的基本铠甲。“公具”项目,就是为每个人锻造铠甲的火炉。
说明:
我们的项目提供的只是有关事实核查工具和方法的见解,而不能直接针对某一则传言或爆款视频作出真假的判定(已收入知识库中的案例除外)——虽然这是一种最为理想的产品方案。我们不是人工智能怀疑论者,人工智能目前在某些特定情况下——比如甄别已经记录在案的错误信息时表现突出,但其出现的幻觉让我们至少在目前不能直接依赖其来获取准确信息。发表在《美国国家科学院院刊》上的一项研究表明,当人工智能大模型在事实核查中犯错时,实际上会降低人们对准确信息的信任,同时增加人们对错误信息的信任。
本产品提供的回答基于“公具”知识库中的工具内容,回答的质量很大程度上取决于用户输入问题的答案是否包含在我们已有的知识库中。同时,人工智能生成的内容仍可能包含错误和幻觉,尽管我们会持续不断地校正和调优有关参数。
技术的快速发展意味着我们推荐和测试的部分工具的有效性和准确性可能会迅速发生变化,因此用户使用的实际结果可能与我们的测试结果不完全匹配。
没有能解决一切问题的完美工具,请根据实际情况综合使用多种工具和验证方法,我们推荐的工具应被视为建议性的而非决定性的。
有任何反馈请发送至[email protected]。