在 Domo 中使用 AI 聊天探索数据与 Amazon Bedrock 机器学习博客

Domo利用Amazon Bedrock增强数据探索功能

关键要点

数据洞察与决策：利用AI促进数据驱动决策，提供快速洞察。Domo及其AI能力：Domo通过Amazon Bedrock实现灵活的AI解决方案，加速数据分析过程。挑战与机遇：使用生成性AI时的数据质量、隐私和模型偏见管理。使用Amazon Bedrock的优势：多模型选择、安全合规和成本效益。

数据洞察对企业至关重要，它们驱动数据驱动的决策、识别趋势并优化运营。传统上，获得这些洞察需要熟练的分析师和专门的工具，这使得整个过程变得缓慢且不易接触。

生成性人工智能 (AI)的出现彻底改变了这一点，它允许用户通过自然语言查询与数据交互，即时获得见解和可视化解决方案，而无需技术专长。这可以 democratize 数据访问，加快分析速度。

不过，公司在使用生成性AI进行数据洞察时可能面临挑战，包括维护数据质量、解决隐私问题、管理模型偏见，以及将AI系统与现有工作流程整合。

Domo 是一家创新的云数据体验公司，致力于帮助用户做出数据驱动的决策。借助AI和数据科学，Domo的用户友好仪表板和应用程序使数据变得可操作，从而推动了指数级商业影响。Domo通过简单的集成和智能自动化，连接、转换、可视化和自动化数据，加强了整个数据旅程。

一元机场.cn官网

在这篇文章中，我们将分享Domo如何利用Amazon Bedrock 提供一个灵活而强大的AI解决方案。

Domo使用生成性AI的目的

Domo的企业数据环境满足了多样化客户基础的不同数据需求。Domo与致力于从数据资产中提取可操作性洞察的组织合作。Domo现有的解决方案已经能够帮助这些组织通过数据可视化和分析提取有价值的洞察。下一步是为他们提供更直观的对话界面，帮助他们通过自然语言交互生成有意义的可视化和报告。

DomoAI与Amazon Bedrock的结合

DomoAI 简化了数据探索和分析，它在每个环节智能引导用户，从数据准备到预测和自动化。其通过自然语言对话、提供上下文和个性化见解的叙述及可视化回应，以及强大的安全性和治理功能，提升了用户的体验。

Domo的AI服务层是DomoAI体验的基础。Domo利用这个服务层与Amazon Bedrock结合，为客户提供灵活而强大的AI解决方案。该服务层使Domo可以在各个任务中切换不同的Amazon Bedrock模型，并跟踪它们在准确性、延迟和成本等关键指标上的表现。这使得Domo能够通过提示工程、预处理和后处理来优化模型表现，并为AI系统提供上下文信息和示例。通过将AI服务层与Amazon Bedrock的整合，Domo能够为客户提供在数据探索过程中的AI聊天、定制应用程序和众多AI模型驱动的自动化工具。

Amazon Bedrock 是一种完全托管的服务，提供来自AI领域领先公司的高性能基础模型FM，用户仅需使用单一API即可访问及构建安全且负责任的生成式AI应用程序。借助Amazon Bedrock，用户可以快速实验和评估适合于其用例的FM，使用微调和检索增强生成 (RAG) 技术与其数据私下定制这些模型，甚至创建能够协调整个任务的代理。因此，Amazon Bedrock无需管理基础设施，能够在使用熟悉的AWS服务的前提下，将生成性AI功能安全地集成到应用程序中。

解决方案概述

以下图表展示了解决方案架构和数据流。

工作流包括以下步骤：

最终用户通过其网站或移动应用与DomoAI交互。用户请求首先通过AI聊天代理。该代理利用大型语言模型LLM的能力解析用户输入，确定如何使用可用工具解决用户问题并形成最终回应。请求通过守护机制，这是一种确保AI模型负责任、道德和安全使用的策略。这有助于确保AI聊天代理生成的响应与组织的AI政策相符合，并且不包含不当或有害的内容。Domo使用定制的商业逻辑在其生成性AI应用中实施保护措施，以满足客户的用例及AI政策。代理规划组件负责协调满足最终用户请求所需的各种任务。该组件通过API调用Amazon Bedrock服务创建执行计划，包括选择适当的工具和模型以获取相关信息或执行自定义动作。工具是指AI聊天代理可以使用的各种功能或操作。工具执行组件通过调用所选工具并整合其输出生成最终回应。这使得代理可以超越LLM中包含的知识，整合最新信息或执行特定领域的操作。在工具运行时，用户输入通过向Amazon Redshift等数据源发出查询寻找语义相关信息，或者通过Domo Cloud Amplifier进行访问。该工具是与跨云系统的本土集成，能够以企业所需的速度解锁数据产品。向量搜索是一种技术，用于在非结构化数据源中找到语义相关的信息，通过为内容创建向量嵌入，AI聊天代理可以高效地搜索并检索与用户查询最相关的信息，即使源材料中没有完全相同的措辞。类似搜索或查询结果的信息通过AI聊天代理返回，在此，代理求解器组件可以汇总结果形成最后的回应，或者在更复杂的查询情况下，代理可以运行另一个工具。解决方案中的每个组件都利用Domo AI服务层与Amazon Bedrock的规划和推理能力，将用户问题转换为SQL查询，或者为向量搜索创建嵌入，并以自然语言回答用户问题，基于私有数据。

以下视频提供了DomoAI产品关键功能和能力的更详细概述。

为什么Domo选择Amazon Bedrock

Domo选择Amazon Bedrock出于以下几个原因：

模型选择：Amazon Bedrock为Domo提供了广泛的模型选择，包括最佳选项和来自Anthropic、AI21 Labs、Cohere、Meta及Stability AI等多家提供商的模型。这种多样性使Domo能够广泛测试其服务，并选择最适合各具体用例的模型，从而加快开发过程并更快地为客户提供价值。安全、合规和全球基础设施：Amazon Bedrock解决了Domo及其客户的安全和合规问题。通过Amazon Bedrock，Domo确保数据始终保留在AWS托管环境内，帮助阻止模型提供者访问或训练客户数据。通过传输和静态加密以及限制访问模型部署账户，Amazon Bedrock提供了强大的数据保护。此外，Domo已实施多种守护机制，适配不同的应用和用例。Amazon Bedrock的单一API便于在用户和FM之间进行安全通信。再者，Amazon Bedrock的全球基础设施和合规性特性使Domo能够在全球范围内扩展和部署其生成性AI应用，并遵循数据隐私法规及最佳实践。成本：通过使用Amazon Bedrock，Domo实现了显著的成本节约，报告称与其他提供商类似模型相比降低了50的成本。无服务器的高质量LLM接入消除了通常与LLM相关的大规模基础设施投资。这种成本效益使Domo能够实验和测试各种模型，而无需承担通常与LLM实现和维护相关的高额费用，从而优化资源分配，提高整体运营效率。

以下视频中，Domo的软件架构师Joe Clark分享了AWS在生成性AI领域对Domo的重要影响。

开始使用Amazon Bedrock

有了Amazon Bedrock，团队和个体可以立即开始使用基础模型，而无需担心提供基础设施或设置和配置机器学习框架。

在开始之前，请确认您的用户或角色拥有创建或修改Amazon Bedrock资源的权限。有关详细信息，请参见Amazon Bedrock的基于身份的策略示例。

要访问Amazon Bedrock中的模型，请在Amazon Bedrock控制台上选择导航面板中的模型访问。审阅最终用户许可协议并启用您希望在账户中使用的基础模型。

您可以通过以下方式开始与基础模型互动：

直接在Amazon Bedrock控制台使用Amazon Bedrock游乐场通过Amazon Bedrock API和SDK进行编程操作在控制台终端使用Amazon Bedrock CLI

结论

借助生成性AI，Amazon Bedrock在提升Domo的数据洞察和可视化能力方面发挥了重要作用。通过提供基础模型选择灵活性、安全访问及完全托管的体验，Amazon Bedrock帮助Domo为客户提供更多价值的同时降低了成本。该服务的安全和合规特性也使Domo能够为高度管制行业的客户提供服务。使用Amazon Bedrock后，Domo报告称成本降低了50。

如果您准备开始使用Amazon Bedrock创建自己的模型创新，请参考开始使用Amazon Bedrock。了解更多其他有趣的Amazon Bedrock应用，请查看Amazon Bedrock部分的AWS机器学习博客。

关于作者

Joe Clark 是Domo Labs团队的软件架构师，并且是Domo AI服务层、AI聊天和模型管理的首席架构师。在Domo，Joe还负责Jupyter工作区、沙箱和代码引擎等功能的开发。拥有15年的专业软件开发经验，他曾在物联网和智慧城市项目中工作。

Aman Tiwari 是AWS的通用解决方案架构师，专注于数据和生成AI领域的独立软件供应商。他帮助他们设计创新、安全且具有成本效益的解决方案。Aman拥有东北大学的电信网络硕士学位，业余时间喜欢打草地网球和阅读。

Sindhu Jambunathan 是AWS的高级解决方案架构师，专注于支持ISV客户在AWS上构建可扩展、可靠、安全和具有成本效益的解决方案。拥有超过13年的行业经验，她于2021年5月加入AWS，之前在微软担任高级软件工程师。Sindhu的多元背景包括在Qualcomm和Rockwell Collins的工程角色，以及佛罗里达大学的计算机工程硕士学位。她的技术专业知识与对烹饪探险、旅行和户外活动的热情相辅相成。

Mohammad Tahsin 是亚马逊网络服务的AI/ML专门解决方案架构师。他紧跟AI/ML领域最新技术趋势，帮助客户在AWS上部署定制解决方案。工作之余，他热爱玩游戏、数字艺术和烹饪。