Jaxon AI 与 IBM watsonx 合作对抗 AI 幻觉

当人工智能系统产生幻觉以在一段文本上生成内容时，这不是一个理想的情况，但也不一定是灾难性的。如果为一项军事技术提供动力的人工智能产生幻觉，结果可能会产生更严重的后果。

Jaxon AI 最初是为美国空军构建 AI 系统，要求最高水平的可靠性和准确性。这家初创公司现在正在通过一项名为领域特定人工智能语言（DSAIL）的开发技术扩展到更广泛的企业市场，该技术旨在解决人工智能的一个重大挑战：大型语言模型（LLM）中的幻觉和不准确。该技术结合了 IBM watsonx 基础模型，代表了一种开发更可靠的 AI 解决方案的新方法。

“我们的口号是 AI for AI，因为我们正在使用 Jaxon 来帮助用户创建自定义 AI，”Jaxon AI 首席执行官 Scott Cohen 说。

DSAIL 如何将 AI 幻觉的风险降至最低
当 AI 系统对查询生成不准确的响应时，就会发生幻觉。不准确性可能由多种不同因素引起，例如训练数据不完整和缺乏验证。

DSAIL方法旨在帮助降低幻觉的风险。Cohen 解释说，DSAIL 采用自然语言输入并将它们转换为二进制语言格式，然后可以通过一系列制衡运行，就像布尔满足器一样，以确保 AI 响应在返回之前满足所有约束。这样做是为了限制非确定性并提高人工智能系统对应用程序的可信度。

多个供应商帮助减少幻觉的常用方法是检索增强生成 （RAG）。在 RAG 模型中，LLM 还可以访问知识库以帮助获得准确的答案。

Cohen解释说，RAG是DSAIL用来解决幻觉问题的一种技术，但它只是方法的一部分。他指出，使用DSAIL时，RAG技术的输出仍然需要经过一系列检查，然后才能返回给用户，以进一步限制幻觉。

IBM watsonx 是 Jaxon 的基础构建块

Jaxon 使用 IBM 的 watsonx 基础库中的模型作为其 AI 系统的构建块。

Cohen 解释说，IBM StarCoder 模型专门用于 Jaxon AI 中的代码生成步骤。Jaxon 使用 StarCoder 的功能，根据收集到的设计和需求自动生成 AI 项目的初始代码，这是 Jaxon 构建自定义 AI 系统的整体方法中的一个步骤。

StarCoder LLM 是一个开源项目，最初于 5 月推出，得到了 ServiceNow 和 Hugging Face 的支持。IBM生态系统工程和开发者宣传副总裁Savio Rodrigues告诉VentureBeat，IBM实际上是StarCoder项目的创始贡献者之一。他还指出，IBM与Hugging Face密切合作，帮助企业用户实现开放模式。

需要明确的是，IBM 在其 watsonx 库中有多个代码生成 LLM 工具。虽然 StarCoder 具有广泛的功能，但 IBM 自己的模型专注于特定的用例。IBM 使用自己的代码生成 LLM 来帮助进行 COBOL 代码迁移和构建量子计算应用程序。

IBM 正在构建一个生态系统，将 Watsonx 嵌入到软件供应商工具中
生成式人工智能和LLM技术市场竞争激烈，主要参与者包括OpenAI，Microsoft，Google和Amazon Web Services（AWS）。

IBM 正在寻找自己的市场份额，特别是希望通过一个名为 IBM Build 的程序帮助开发人员和独立软件供应商 （ISV），例如 Jaxon AI。

Rodrigues 解释说，IBM Build 为合作伙伴提供了对 watsonx、技术支持和上市支持的访问。总体目标是为组织提供可靠可信的 AI 基础模型，并具有一致的定价、性能和可用性。

Rodrigues说：“我们知道，从我们如何训练模型和我们经历的法律检查的角度来看，我们的客户信任IBM在AI方面所采取的方法。