介绍
我们一直以来都依赖用户许可，这是我们的核心业务。而LLM（生命周期管理）聊天机器人则不然。但最近，我们一直在思考如何构建安全的LLM聊天机器人，同时兼顾权限管理。本文不会深入探讨如何使用Oso Cloud构建LLM聊天机器人以及如何筛选列表，而是作为一篇LLM聊天机器人的入门介绍，阐述其工作原理和构建最佳实践。.
什么是LLM聊天机器人？
大型语言模型（LLM）是一种先进的人工智能模型，它利用大量数据进行训练，通过预测文本中最可能的词序来理解和生成类似人类的语言。这些模型支持广泛的应用，包括内容创作、文本补全、翻译、情感分析和代码生成。.
语言学习模型最常见的用途之一是聊天机器人——一种基于人工智能的工具，可以模拟人类对话。聊天机器人广泛应用于客户支持、信息检索和任务自动化，并通过文本或语音与用户互动。.
语言学习模型（LLM）和聊天机器人本质上是相互关联的，因为LLM是许多现代聊天机器人（例如ChatGPT、Claude、Gemini等）的底层技术——自然语言理解和生成（NLU）能力。当用户输入查询时，聊天机器人会将查询发送给LLM，LLM处理文本，利用注意力机制考虑上下文，检索相关知识（可能通过检索增强生成（RAG）或外部API进行增强），并生成相应的回复。.
这种架构使聊天机器人能够跨多次交流保留对话历史记录和上下文。这使它们能够理解复杂的查询、语言细微差别，并提供准确的答案或执行任务。.
通过利用 LLM，现代聊天机器人能够实现更高的流畅性、连贯性和上下文感知能力，使其在虚拟助手、交互式客户支持和个性化内容生成等应用中非常有效。.
LLM聊天机器人示例：
- ChatGPT（OpenAI）：一款基于 OpenAI GPT 架构的通用人工智能聊天机器人，专为各种文本任务而设计，例如回答问题、生成内容和提供个性化帮助。其核心优势在于能够处理广泛的主题并生成类似人类的回复，这得益于其基于 Transformer 的 GPT 模型能够理解和生成通用语言。.
- Claude（Anthropic）：由 Anthropic 开发的一款人工智能聊天机器人，专注于人工智能的合规性和安全性，旨在优先考虑伦理考量，同时提供有用的回复。与其他模型不同，Claude 强调谨慎的行为和合规性，确保其回复符合安全准则和伦理标准。.
- Google Gemini（原名 Bard）：一款集成到 Google 搜索生态系统中的人工智能聊天机器人，它利用 Google 先进的语言模型提供上下文相关的实时信息。这款聊天机器人与 Google 搜索的深度集成以及在搜索环境中无缝检索信息的能力使其脱颖而出。.
- Meta AI：一款内置于 Meta 社交媒体平台（例如 Facebook 和 WhatsApp）的 AI 聊天机器人。该服务专注于提供个性化回复、推荐和帮助，并根据社交和消息传递环境量身定制，利用 Meta 专为这些平台优化的专有语言模型。.
LLM聊天机器人是如何工作的？
语言学习模型（LLM）利用深度学习技术，特别是Transformer架构，来处理和生成文本。这些模型在包括书籍、网站和其他来源在内的各种数据集上进行训练，从而学习语言中的模式、语法、上下文关系和语义结构。其核心功能在于注意力机制，该机制使模型能够专注于输入文本的相关部分，并理解长期依赖关系和上下文细微差别。这种机制与其他先进技术（例如检索增强生成（RAG））相结合，使LLM能够通过动态关注输入文本和外部知识源中的相关信息，生成高度连贯且具有上下文感知能力的响应。.
注意力
转换器的核心是一种名为注意力机制的机制，它使模型能够衡量句子中不同词语彼此之间的重要性。这使得模型能够捕捉长程依赖关系，并理解词语与其相邻词语之外的上下文。注意力机制并非单独处理词语，而是帮助模型理解每个词语如何在更广泛的句子结构中与其他词语相互作用。.
训练一个逻辑学习模型（LLM）需要处理数十亿个参数（权重），这些参数会随着时间的推移进行调整，以最大限度地减少预测误差。该模型在大型文本数据集上进行训练，并学习预测序列中的下一个词，随着处理的数据量增加，其生成连贯且上下文相关的文本的能力也会不断提高。.
在生成文本时，该模型会利用已学习到的模式来预测特定短语最可能的后续词。每个可能的下一个词都会根据其与前面词的关系进行评分，模型会根据学习到的上下文选择最有可能的词。.
例如，在句子«猫坐在……»中，注意力机制帮助模型优先考虑«垫子»而不是像«公共汽车»或«电脑»这样不太重要的词，因为它识别出«垫子»与上下文相符，并有意义地完成了句子。.
因此，LLM 通过多层注意力机制对输入进行编码，通过训练改进预测，并根据已学习的文本选择最可能的下一个词来生成响应，从而处理文本。.
增强型发电恢复
RAG（可检索增强生成）是一种将信息检索与生成模型相结合的技术。在 RAG 系统中，当模型接收到请求时，它首先使用搜索机制从外部源（例如文档或数据库）检索相关信息。然后，它使用生成模型（通常基于 Transformer 架构）生成一个响应，该响应融合了原始输入和检索到的信息。.
在 RAG 中：
- B发现： 该模型查询外部知识库或文档集以查找相关文本。.
- 生产： 然后，基于 Transformer 的模型（例如 GPT 或 BART）会根据原始输入和检索到的信息生成响应。.
Transformer架构为RAG生成部分提供输入，而RAG本身指的是利用外部检索到的知识来增强输出的过程。这提高了模型生成更明智、更符合上下文且更及时响应的能力，使其能够利用预训练知识之外的更广泛信息。.
例如，假设用户向人工智能助手询问“量子计算领域的最新进展是什么？”如果没有实时互联网连接，仅靠生成模型可能难以提供最新的答案。然而，在 RAG 系统中，模型可以首先搜索包含近期量子计算研究论文或新闻文章的相关数据库。然后，它会生成一个包含这些来源最新研究成果的答案，从而确保提供更全面、更准确的信息。.
因此，RAG 通过实时利用外部知识增强其生成过程，提高了模型的能力，使其能够更有效地回答具体或动态的问题。.
LLM聊天机器人是如何学习的？
无监督学习
逻辑学习模型（LLM）通过无监督学习进行学习，即利用大量文本数据训练模型来预测序列中的下一个词。该训练过程涉及向模型输入大型的、未标注的数据集。由于没有显式的人工标注，模型仅通过识别文本中的模式和结构来学习模式、语法、上下文以及词与词之间的关系。.
学习过程的核心是梯度下降，这是一种优化算法，它会随着时间的推移调整模型参数（权重），以最小化预测误差。模型从随机权重开始，在处理每个文本输入时，根据文本内容预测下一个单词。当预测错误时，模型会更新其权重以减少未来的误差。这种迭代过程会在庞大的数据集上重复数十亿次，从而使模型能够生成一致且符合文本规范的文本。.
在训练过程中，模型会学习：
- N如何： 语言结构的规则。.
- 语义学： 词语和短语中隐藏的含义。.
- 语境： 词语在不同情境下的相互作用方式，使得该模型能够处理长期依赖关系和细微差别。.
无监督学习的一个实际应用是市场营销中的客户细分。假设一家公司拥有庞大的客户行为数据集，但没有预先定义的类别，例如«高价值客户»或«经常购买者»。利用k均值聚类这种无监督算法，模型可以根据客户的购买行为（例如，高消费客户、偶尔购买客户）自动对客户进行分组。这些细分可以作为制定更有针对性的营销策略的基础。.
在监督下进行微调
虽然逻辑学习模型（LLM）最初使用无监督学习进行训练，但通常会使用监督学习对其进行微调，以提高其在特定任务上的性能。在这一步骤中，模型会在一个较小的、带有标签的数据集上进行训练，该数据集能够提供正确的输出（例如，分类标签或问题的答案）。这使得模型能够学习更多特定于任务的模式，并提高其在特定应用（例如翻译或问答）中的准确率。.
例如，在进行无监督客户细分后，一家电商公司可能希望将客户评论分类为正面、负面或中性，以优化电子邮件营销活动。该公司可以使用带有情感标签的客户评论数据集来微调预训练模型。这种微调使模型能够更专注于理解情感，并提高其对未来与该公司产品相关的评论进行分类的能力。.
学习迁移
逻辑学习模型（LLM）也采用迁移学习，即将从一个任务中获得的知识应用于其他任务，即使这些任务通常不相关。这使得模型能够在不同的场景下有效运行，而无需针对每个特定任务进行显式训练。.
以情感分析为例，假设一家公司想要扩展其模型的功能，使其能够处理更广泛的客户问题，包括客户服务问题。该公司无需从头开始，而是可以利用迁移学习，将情感分析模型对客户情绪的理解应用到新的任务中，例如回答客户问题。.
例如，一家公司可以将经过优化的情感模型应用于客户服务聊天机器人。这样，聊天机器人就能理解客户反馈中的情绪，并根据这些情绪做出智能回应。如果客户对延迟发货表示不满，模型会利用其对情绪和上下文的理解，生成富有同情心且乐于助人的回复。这种方法显著提升了聊天机器人帮助客户的能力，而无需进行大量的新训练。.
构建内部聊天机器人：为什么以及如何构建？
原因：我们为什么要构建内部聊天机器人？
- 缩短销售周期： 内部聊天机器人可以通过从 CRM 系统检索客户数据来自动生成个性化的对外电子邮件，帮助销售团队更快地生成相关的短信。.
- 改进客户支持： 该聊天机器人可以与现有的知识库和支持工单系统集成，为支持团队提供快速准确的答案，缩短响应时间，提高客户满意度。.
- 培训新员工： 聊天机器人可以通过提供对内部文档、政策和常见问题的即时访问，实现入职和招聘流程的自动化，帮助新员工有效地学习公司流程。.
- 找出文档缺口：
该聊天机器人可以识别当前文档中未涵盖的未解答问题或信息请求，并帮助突出显示需要更新的领域。.
操作指南：如何构建聊天机器人？
- 定义范围和基于角色的访问权限：
明确聊天机器人的用途——无论是销售、支持还是培训——并实施基于角色的访问控制 (RBAC)，以确保用户只能收到与其角色相关的信息。例如，支持代表可以访问详细的内部资源，而普通员工只能访问更基础的信息。. - 技术选择与集成：
使用基于Transformer的模型（例如GPT）进行自然语言理解，并将其与内部API、数据库和知识库集成。使用RAG（红绿灯）获取相关的实时答案信息。. - 实施授权机制：
将您的聊天机器人与权限服务（例如 Oso）集成，以便根据用户角色和属性强制执行权限。这可以确保只有授权人员才能访问敏感的公司数据，例如销售数据或员工绩效。. - 训练和微调：
使用特定领域的数据训练聊天机器人，并整合内部文档和知识库。利用监督学习对模型进行微调，确保在上下文中提供准确的响应，同时确保模型能够根据用户权限隐藏哪些信息。. - 测试和监控：
定期邀请内部用户测试机器人，以发现性能问题和未经授权的访问尝试。持续更新机器人的知识库，并调整模型以反映公司流程、政策和安全协议的变化。.
构建LLM聊天机器人的四种方法：优缺点
预训练模型和微调
构建基于语言学习模型（LLM）的聊天机器人的常用方法是使用预训练模型（例如 GPT 或 BERT），然后在特定领域的数据集上进行微调。预训练模型在大规模语料库上进行训练，使其能够有效地处理自然语言。微调这些模型则需要使用更小、更具体的数据集，针对特定用例（例如客户支持或内部文档）进行训练。这种方法使聊天机器人能够充分利用预训练模型强大的语言处理能力，同时又能专注于目标领域的特征。.
恢复增强发电（RAG）
RAG（实时生成算法）结合了从外部来源检索相关信息和LLM（逻辑逻辑模型）的生成能力。在基于RAG的聊天机器人中，当用户提交查询时，模型首先会查询外部知识库或数据库以获取相关信息。然后，检索到的信息会被传递给生成模型，由生成模型生成答案。这种方法通过使答案基于实时数据来提高准确性，使其特别适用于需要最新信息的应用。RAG的主要优势在于它无需在特定领域的数据集上进行大量训练即可生成上下文相关的准确答案。.
例如，如果 Oso 的内部聊天机器人采用基于 RAG（红黄绿）的方法来回答开发者的问题，它可以在生成答案之前查询最新的内部文档以及 GitHub 代码库，以确保开发者获得关于 Oso 权限系统的最新、最准确的答案。将实时数据检索与生成模型相结合，可以实现更准确、更个性化的答案，从而减少聊天机器人频繁更新或重新训练的需求。.
然而，实施红黄绿系统可能很复杂，因为它需要整合外部数据源并管理数据检索过程。此外，确保数据的质量和相关性对于维持系统的有效性至关重要。.
法律体系
基于规则的系统根据预定义的规则集运行，聊天机器人遵循特定的模式或决策树来生成回复。这种方法通常用于范围明确的任务，例如回答常见问题或执行特定命令。基于规则的系统不需要大规模的训练数据，因此比基于逻辑学习模型（LLM）的系统资源消耗更低。然而，由于它们只能根据初始定义的规则做出响应，因此在处理意外的用户输入或复杂对话方面存在局限性。随着时间的推移，它们可能需要维护，以满足不断变化的用户需求或业务要求。.
在 Oso 中，基于规则的聊天机器人示例可能包含预定义问题，例如«请告诉我这个迁移项目的范围»或«我们在代码的哪个位置定义了这个功能？»。聊天机器人会根据这些固定的规则做出回应。虽然这种方法对于定义明确的问题效果很好，但它无法处理更复杂或意外的输入，需要转接给人工客服或更新规则集。.
综合方法
混合方法结合了语言学习模型（LLM）、结果分析生成模型（RAG）和基于规则的系统的优势，以克服每种方法的局限性。例如，聊天机器人可以使用语言学习模型来处理和理解自然语言输入，使用结果分析生成模型从外部来源检索相关信息，并使用基于规则的逻辑来执行特定任务或结构化工作流程。这种方法使聊天机器人既能处理动态的、上下文相关的查询，也能处理需要预定义、固定响应的任务。然而，混合系统在设计和维护方面引入了复杂性，因为它们需要跨多个组件进行集成，并确保不同方法之间的无缝交互。.
基于 API 的解决方案
基于 API 的解决方案使聊天机器人能够与外部系统交互，从而检索数据、触发操作或执行特定功能。这种方法对于需要访问实时数据、执行交易或与其他软件系统集成的聊天机器人尤为有用。例如，聊天机器人可以调用 API 来检索客户数据或处理支付请求。虽然基于 API 的解决方案扩展了聊天机器人的功能，使其超越了简单的对话任务，但也带来了对外部服务的依赖。如果外部 API 出现故障、访问权限受限或发生与聊天机器人不兼容的更改，这些依赖关系可能会造成潜在的故障点。此外，使用外部 API 还会引发安全和数据隐私方面的担忧，尤其是在处理敏感或个人信息时。.
聊天机器人安全风险及最佳实践
构建基于逻辑逻辑模型（LLM）的聊天机器人时，必须考虑可能损害聊天机器人完整性和敏感数据隐私的潜在安全风险。其中一个主要风险是误导，即LLM生成虚假或误导性信息。这可能非常危险，尤其是在客户支持或内部文档等高风险领域，因为错误的建议可能导致混乱甚至经济损失。.
权限在保障聊天机器人安全方面起着至关重要的作用，尤其是在限制对敏感信息的访问方面。如果没有适当的访问控制，未经授权的用户很可能获得他们不应该访问的信息。.
例如，如果未实施适当的访问限制，聊天机器人可能会无意中泄露员工的个人绩效详情。同样，如果聊天机器人缺乏防止未经授权查询的安全措施，则可能会泄露机密信息，例如同事的家庭病史。.
其他可能的恐怖故事包括：
- 一名员工正在向其他员工查询收入信息，以便与自己的收入进行比较。.
- 一名员工在查找健康保险信息时，无意中注意到一位同事的病情，例如乳腺癌，于是询问了相关情况。.
- 一个团队在部门外查找文件时，无意中获得了公司敏感的财务数据。.
- 级别较低的员工试图从高级团队获取机密项目细节，并获取他们无权查看的战略计划或机密谈判内容。.
- 用户搜索有关特定公司政策的信息，却意外收到过时或敏感的、已泄露的政策版本。.
- 承包商获取了与其临时角色无关的包含知识产权（IP）或商业秘密的内部文件。.
结论
因此，构建安全的LLM聊天机器人需要在先进的AI技术和强大的身份验证机制之间取得平衡。通过集成增强型检索、利用预训练模型以及实施强大的基于角色的访问控制，企业可以确保其聊天机器人不仅高效，而且安全，并提供个性化且符合上下文的交互体验。.
要了解有关如何构建 LLM 聊天机器人并使用身份验证保护它的更多信息，请参加 O'Reilly 网络研讨会 SuperStream：生产中的检索增强生成。.
