category
Ally Financial是美国最大的纯数字银行和领先的汽车贷款机构，最近与LangChain合作发布了第一个初始编码模块，该模块解决了在高度监管、以消费者为中心的行业中使用个人身份信息（PII）的人工智能开发人员面临的重大挑战。此处提供的PII屏蔽模块为在正常业务过程中经常处理客户PII的组织（包括金融服务、医疗保健和零售业的组织）提供了一个起点，以构建生成性人工智能应用程序，同时保护客户数据。
发布使用LangChain构建的Ally.ai
在LangChain的支持下构建的PII屏蔽模块是为Ally.ai创建的，Ally.ai是该公司专有的基于云的人工智能平台，将成为Ally数据和商用LLM之间的安全桥梁。Ally是金融服务行业生成人工智能的早期采用者，于2023年9月推出了该平台。该公司与Ally.ai的第一个用例利用平台的力量，帮助客户关怀与体验团队每天与数千名客户互动。
Ally.ai协助700多名客户服务助理总结他们与Ally客户之间的对话。该平台连接到商业级LLM，通过共享每个客户电话的完整记录来帮助他们，然后由LLM汇总。在高度监管的银行业，在LLM进行总结之前，应将PII剔除。
在LangChain软件的帮助下，Ally的开发人员为Ally.ai创建了一个模块，该模块将屏蔽各种形式的PII，包括姓名、电子邮件地址、账号等。因为LangChain为Ally团队提供了快速交付和迭代的构建块和框架，他们可以在推进项目的同时解决关键挑战。Ally.ai是由五名工程师组成的团队在短短两个月内建成的。该平台已经对业务产生了影响，特别是收到呼叫摘要的客户服务助理：
- Ally.ai为每次客户电话节省了30秒到2分钟的时间，使员工能够快速完成客户电话摘要
- 85%以上的通话摘要不需要员工进行额外编辑，这证明了该平台的实力
- 同事们还表示，Ally.ai的总结帮助他们将精力集中在有意义的客户互动上，并减少了记录对话和在屏幕之间切换所需的时间。
“作为一家为1100多万客户提供服务的数字银行，我们希望将正确的技术交到我们的队友手中，让他们能够提高生产力并提供卓越的服务。我们看到了生成人工智能为我们的业务带来的巨大机遇，我们使用LangChain快速投入生产。Ally.AI平台使我们的团队能够花更多的时间与客户相处，同时也比以往任何时候都更有效率。”–Ally首席信息、数据和数字官Sathish Muthukrishnan
增强安全性和合规性+为LangChain贡献PII过滤
虽然Ally行动迅速，但他们在行动时非常谨慎和深思熟虑，因为他们在一个受监管的行业中运作。安全和客户数据隐私是他们所有计划的首要和中心，有了Ally.ai，Ally团队必须确信没有PII数据发送给LLM。PII过滤是产品的一项要求，以确保最佳安全实践。然而，实现这一点需要大量的工作，因为PII数据可以有多种形式，并且在与用户的任何实时对话中，用户可能会主动共享敏感信息。
为了以符合银行治理和合规需求的方式发布Ally.ai平台，Ally团队在LangChain代码中添加了自己的PII过滤，在发送给LLM之前屏蔽了所有敏感数据。结果是一个新的PII屏蔽模块，它可以首先识别潜在的PII，在它进入LLM之前屏蔽它，然后在LLM返回摘要或其他输出时重新水合PII。从本质上讲，PII屏蔽模块与LLM具有双向通信——在数据共享之前和之后。
Ally的PII过滤方法非常成功，以至于Ally团队希望通过贡献他们的代码来回馈LangChain社区，让其他人受益。
Muthurkrishnan继续说道：“LangChain生态系统发展迅速，我们在开发Ally.ai平台时从typescript包中受益。我们想回馈社区，所以我们在LangChain社区包中开源了我们的代码。我们很高兴其他金融机构或在受监管行业运营的其他公司能够从我们的创建中受益。”
前方之路
Ally.ai的初步成果鼓励Ally团队在整个企业中探索近200个人工智能用例。虽然并不是所有的用例都能投入生产，但Ally已经开始对另外两个用例进行最终评估——一个是与营销内容和SEO团队进行的，第二个是与Ally的投资者关系小组进行的。这两个用例都倾向于优化员工生产力和改进业务流程。例如，营销内容团队发现发起活动所需的时间减少了2-3周。随着更多的用例通过Ally广泛的治理流程进行测试和评估，随着公司扩展其人工智能能力，Ally.ai的使用将是一个不变的过程，它具有必要的隐私和安全功能。
穆图克里什南说：“我们没有停滞不前，开发商社区也没有。”。“我们希望，通过做出这一贡献并与LangChain合作，我们的行动将成为其他组织的榜样，这些组织希望以负责任的方式利用人工智能的力量，积极服务于消费者和我们的社区。”
有关Ally技术团队的更多见解，包括团队如何正确使用人工智能和探索新创新，请访问https://ally.tech.你也可以在这里阅读更多关于他们的公告。
“我们的目标是让LangChain无处不在。我们设计的框架无论公司规模或运营的行业如何，都是有用的。Ally突破了界限，解决了我们看到许多公司遇到的一个真正的问题。我们很感激Ally决定支持我们的使命，并做出贡献，让其他人受益，我们很高兴能继续与Ally合作，发展LangChain，更好地为金融机构服务。”——LangChain首席执行官Harrison Chase
- 登录 发表评论