大语音模型

随着人工智能工具的日益普及，快速工程正成为开发人员需要掌握的技能。大型语言模型（LLM）和其他生成基础模型需要上下文、特定和定制的自然语言指令来生成所需的输出。这意味着开发人员需要编写清晰、简洁和信息丰富的提示。

在本博客中，我们将探讨六种最佳实践，这些实践将使您成为一名更高效的快速工程师。通过遵循我们的建议，您可以开始创建更个性化、更准确、更符合上下文的应用程序。那么，让我们开始吧！

提示#1：了解模型的优缺点

随着人工智能模型的发展和变得越来越复杂，开发人员必须了解它们的能力和局限性。作为一名开发人员，了解这些优缺点可以帮助您避免犯错，并创建更安全、更可靠的应用程序。

例如，经过训练以识别蓝莓图像的AI模型可能无法识别草莓图像。为什么？因为该模型仅在蓝莓图像的数据集上训练。如果开发人员使用此模型构建一个应该同时识别蓝莓和草莓的应用程序，该应用程序可能会出错，导致无效的结果和糟糕的用户体验。

大型语言模型（LLMs）的兴起为人机交互带来了令人兴奋的可能性。然而，利用这些强大的人工智能模型的全部潜力需要一项关键技能：快速工程。这一新兴领域侧重于制作有效的提示，以解锁LLM的能力，使其能够理解意图、遵循指示并生成所需的输出。随着我们在各种应用中与人工智能的互动越来越多，快速工程在确保准确、相关和安全的互动方面发挥着至关重要的作用。

什么是快速工程？

提示工程是设计和优化提示的艺术和科学，以指导人工智能模型，特别是LLM，生成所需的响应。通过精心制作提示，您可以为模型提供上下文、说明和示例，帮助它理解您的意图并以有意义的方式做出回应。把它看作是为人工智能提供一个路线图，引导它朝着你心目中的特定输出发展。

要深入了解提示设计的世界并探索其应用程序，请查看Google Cloud上的提示设计简介。

准备好尝试LLM并直接进行工程设计了吗？尝试Vertex AI免费试用版，体验这项技术的强大功能。

AI的提示是什么？

在人工智能的背景下，提示是您向模型提供的输入，以引发特定的响应。这可以采取各种形式，从简单的问题或关键字到复杂的指令、代码片段，甚至创意写作示例。提示的有效性直接影响AI输出的质量和相关性。

```

Now, I will execute this query to get the total sales per country.

[('USA', 523.0600000000003), ('Canada', 303.9599999999999), ('France', 195.09999999999994), ('Brazil', 190.09999999999997), ('Germany', 156.48), ('United Kingdom', 112.85999999999999), ('Czech Republic', 90.24000000000001), ('Portugal', 77.23999999999998), ('India', 75.25999999999999), ('Chile', 46.62)]The total sales per country are as follows:

1. USA: $523.06
2. Canada: $303.96
3. France: $195.10
4. Brazil: $190.10
5. Germany: $156.48
6. United Kingdom: $112.86
7. Czech Republic: $90.24
8.

The past few weeks have been exciting for developers interested in deploying AI-powered applications. The field is evolving quickly, and it is now possible to build AI-powered applications without having to spend months or years learning the ins and outs of machine learning. This opens up a whole new world of possibilities, as developers can now experiment with AI in ways that were never before possible.

在这篇文章中，我演示了如何使用Python中的OpenAI Whisper近乎实时地转录实时音频流。我们这样做是为了监视流中的特定关键字。此外，转录后的文本会记录时间戳以供进一步使用。通过对转录的文本进行模糊匹配，我们可以找到对关键词的提及。然后，我们通过信号信使向包含口语段落相关部分的团体或个人触发一条信息。

背景

这是一个在周末建立的快速POC：为了赢得比赛，我想监控当地电台是否提到了一些关键词。这需要迅速完成，这产生了一个简单的解决方案。此外，它必须尽可能节约资源，以最大限度地降低基础设施成本。虽然它并不是以稳定性为主要关注点来构建的，但它实际上在几周内表现完美，没有任何停机时间。因此，目标实现了！

所有代码在此回购中都可用。在下文中，我将介绍解决方案的总体结构，并解释代码的一些相关部分。

概述

该解决方案由三部分组成：

save_stream.py从实时音频流中以30秒为单位连续保存.mp3文件

transcript.py使用OpenAI Whisper永久转录每个音频块。然后，它使用模糊匹配来监控口语中的关键词。在比赛中，它调用msg_group_via_signal.sh

以及如何对您的文档进行同样的处理

在过去的六个月里，我一直在一个初创公司Voxel51工作，该公司是开源计算机视觉工具包FiftyOne的创始人。作为一名机器学习工程师和开发人员，我的工作是倾听我们的开源社区，并为他们带来他们需要的东西——新功能、集成、教程、研讨会，你能想到的。

几周前，我们在FiftyOne中添加了对矢量搜索引擎和文本相似性查询的原生支持，这样用户就可以通过简单的自然语言查询在他们的（通常是海量的，包含数百万或数千万个样本）数据集中找到最相关的图像。

这让我们陷入了一个奇怪的境地：现在，使用开源FiftyOne的人可以通过自然语言查询轻松搜索数据集，但使用我们的文档仍然需要传统的关键字搜索。

我们有很多文档，这些文档有其优点和缺点。作为一名用户，我有时会发现，考虑到文档的数量，准确地找到我想要的内容需要比我想要的更多的时间。