Apresentando a API YOU: Pesquisa em escala da Web para LLMs

Histórico

Os modelos de linguagem ampla (LLMs) abriram novas possibilidades para a transformação de vários setores da economia. Esses modelos têm a capacidade de absorver grandes quantidades de texto, o que lhes permite gerar resultados que podem automatizar muitas tarefas que dependem da linguagem. No entanto, há três problemas principais com os LLMs que pretendemos resolver:

  • Muitas vezes, eles alucinam, produzindo resultados que não se baseiam em informações do mundo real.
  • Eles podem gerar conteúdo sem apoiá-lo em fontes confiáveis, o que dificulta a verificação da precisão.
  • Eles lutam para acompanhar os eventos em constante mudança que ocorrem em todo o mundo, levando a respostas desatualizadas.

A API YOU

Para enfrentar esses desafios, estamos lançando a API YOU. Ela oferece um conjunto abrangente de ferramentas criadas para ajudar os desenvolvedores a fundamentar os resultados dos LLMs nas informações mais recentes, precisas e relevantes disponíveis. Ao aproveitar o poder dessa API, os desenvolvedores podem garantir que o conteúdo gerado pelo LLM seja apoiado por fontes confiáveis e dados atualizados.

A API está sendo lançada com três pontos de extremidade dedicados:

  1. Pesquisa na Web - Fornece resultados de pesquisa semelhantes aos do Google ou do Bing, exceto pelo fato de que, em vez de trechos curtos projetados para atrair os humanos a clicar nos links, fornecemos muitos trechos longos projetados para fornecer ao LLM as informações mais relevantes necessárias para gerar a melhor resposta. Isso é semelhante, mas mais avançado e mais rápido do que as APIs SERP.
  2. Notícias - Semelhante à Pesquisa na Web, mas exclusivamente resultados de notícias para aplicativos que dependem principalmente de eventos atuais.
  3. LLM da Web - Nossa solução completa combina nossos resultados de pesquisa na Web com um LLM para geração aumentada por recuperação (RAG), aprimorando a precisão dos fatos e reduzindo as alucinações nas respostas.

Você pode saber mais sobre como usar cada um deles em docs.you.com. Os pontos de extremidade Web Search, News e Web LLM estão disponíveis em api.you.com. Você pode acessar uma avaliação gratuita dos endpoints Web Search e News.

Avaliação da API do YOU

Avaliamos a eficácia da API YOU adaptando vários conjuntos de dados de respostas a perguntas acadêmicas à configuração da "Web aberta": as passagens normalmente fornecidas a uma IA como contexto devem, em vez disso, ser recuperadas da própria Web. Esse método de avaliação exige muito mais do sistema como um todo do que os benchmarks acadêmicos dos quais eles são derivados. Isso proporciona uma avaliação mais realista e prática do desempenho dos sistemas RAG em escala da Web.

No primeiro conjunto de resultados abaixo, comparamos o uso dos resultados de pesquisa do You.com, Google ou Bing com o LLM padrão implantado em nosso endpoint do Web LLM. A API YOU sai na frente em todos os benchmarks.

As pontuações F1 mais altas em toda a linha mostram que o LLM tem mais probabilidade de gerar uma resposta correta com os resultados de pesquisa da API do YOU do que com os resultados de pesquisa do Google. O LLM usado nesses experimentos tem uma janela de contexto de 16 mil tokens e é mais semelhante ao modelo ChatGPT 3.5 Turbo da OpenAI. Os números de recall têm uma margem ainda maior do que as pontuações F1, o que sugere que o LLM não pode usar totalmente as informações extras que a API de pesquisa na Web do You.com fornece para gerar respostas melhores.

A lembrança aqui significa que a resposta correta (com base na frase original da verdade básica dos conjuntos de dados) está incluída nos trechos que são retornados pela API:

Recall do FreshQAEsquadrãoV2 RecallRecall do HotpotQAMS MARCO Recall
You.com85.1%75.6%67.4%81.5%
Google72.2%50.4%49.0%65.3%
Bing73.8%54.4%56.0%70.5%

Usando um LLM com uma janela de contexto de 16k cheia de trechos para responder a perguntas:

FreshQA EsquadrãoV2 F1HotpotQA F1MS MARCO
You.com44.7%27.5%34.7%23.8%
Google41.4%27.0%33.4%20.1%
Bing40.7%25.1%34.5%22.6%

Se quiser avaliar seu índice da Web em escala total para LLMs nesses conjuntos de dados, envie-nos um e-mail para [email protected] e poderemos compartilhar os benchmarks de avaliação.

Trabalho futuro

Continuaremos a trabalhar para aprimorar a funcionalidade da API e a experiência do usuário. Estão sendo feitos esforços para tornar as APIs mais intuitivamente conversacionais, permitindo que os usuários lidem com o contexto sem esforço. Além disso, módulos intermediários, como a reescrita de consultas, serão expostos como novos pontos de extremidade, permitindo que os desenvolvedores personalizem o uso da API YOU de acordo com suas necessidades específicas. Além disso, a equipe da API pretende incorporar recursos de agente, semelhantes aos dos modos Agent e Deep Research do You.com, tornando toda a funcionalidade do You.com acessível por meio da API.

Conclusão

A API YOU capacita os desenvolvedores a superar as limitações dos LLMs, fornecendo-lhes as ferramentas para fundamentar seus resultados nas informações mais recentes, precisas e relevantes. Com seu desempenho superior em comparação com os provedores de pesquisa existentes e sua capacidade de se adaptar a vários LLMs, a API está revolucionando a maneira como os desenvolvedores podem aproveitar o poder dos LLMs em seus aplicativos. Esperamos que isso liberte o conhecimento na Web das opções muito limitadas e restritivas disponíveis atualmente. Estamos animados para ver os muitos aplicativos que estão sendo criados e daremos suporte ao nosso ecossistema com inovações futuras com conhecimento atualizado da Web.

Saiba mais sobre como usar a API em docs.you.com. Visite api.you.com para acessar os endpoints Web Search, News e Web LLM. Se tiver alguma dúvida, envie um e-mail para [email protected].

Yay, você leu o artigo inteiro. Se você gostou desta história, por favor recomende 👏 e compartilhe para ajudar os outros a encontrá-la!