Tutorial NerdGraph: Configurar ferramentas e documentos RAG

visualização

Ainda estamos trabalhando nesse recurso, mas adoraríamos que você experimentasse!

Atualmente, esse recurso é fornecido como parte de um programa de visualização de acordo com nossas políticas de pré-lançamento.

Com New Relic, você pode aprimorar o agente NRAI com RAG. Isso significa que você pode associar documentação, runbooks, retrospectos de incidentes e até mesmo código-fonte aos seus serviços, dando ao NRAI melhores insights sobre problemas com seu sistema.

Comece com RAG

Obtenha o ID da sua organização

{
  actor {
    organization {
      id
    }
  }
}

Crie uma ferramenta RAG

Vale ressaltar que o nome e a descrição da sua ferramenta RAG são extremamente importantes! O LLM escolherá utilizar uma ferramenta ao responder a um prompt com base na precisão do nome e da descrição da ferramenta.

mutation {
  entityManagementCreateRagTool(
    ragToolEntity: {
      description: "Runbooks for resolving incidents with APIs",
      name: "API Runbooks",
      scope: {id: `${ORGANIZATION_ID}`, type: ORGANIZATION}}
  ) {
    entity {
      id
    }
  }
}

Carregar um documento para a API Blob

Observe que esta etapa específica não é feita pelo NerdGraph. Isso ocorre porque o NerdGraph oferece suporte ao upload de arquivos por meio de suas APIs.

curl -X POST https://blob-api.one-service.newrelic.com/v1/e/organizations/$ORGANIZATION_ID/RagDocuments \
    -H 'Api-Key: NRAK-XXXXXXXXXX' \
    -H 'NewRelic-Entity: {"name": "Runbooks for API service" }' \
    -H 'Content-Type: application/json' \
    -d @incidents.json

A resposta será semelhante a esta:

{
  "{entityGuid}": "MTIyODU0NTN8TkdFUHxSQUdfRE9DVU1FTlR8MDE5NGUyOTgtYmQzMS03NzA4LWI3NzItYzQ4MTZlYjNhYThk",
  "blobVersionEntity": null
}

Visualizar a entidade do documento RAG representada no NerdGraph

{
  actor {
    entityManagement {
      entity(
        id: `${RAG_DOCUMENT_GUID}`
      ) {
        ... on EntityManagementRagDocumentEntity {
          id
          name
          blob {
            url
          }
          type
        }
      }
    }
  }
}

Agora que temos uma ferramenta RAG e um documento RAG, precisamos associá-los um ao outro. Isso é feito por meio das APIs de gerenciamento de entidades no NerdGraph.

Crie um relacionamento entre o Documento RAG e a Ferramenta RAG

mutation {
  entityManagementCreateRelationship(
    relationship: {
      source: {
        scope: ORGANIZATION,
        id: `${RAG_DOCUMENT_GUID}`
      },
      target: {
        scope: ORGANIZATION,
        id: `${RAG_TOOL_GUID}`
      },
      type: "INDEXED_FOR"}
  ) {
    relationship {
      type
      target {
        id
        type
      }
      source {
        id
        type
      }
    }
  }
}

consulta para ver as relações entre os Documentos RAG e as Ferramentas RAG

{
  actor {
    entityManagement {
      relationships(
        filter: {sourceId: {eq: `${RAG_DOCUMENT_ID}`}}
      ) {
        items {
          type
          target {
            id
            type
          }
        }
      }
    }
  }
}

consulte a ferramenta RAG

Você pode consultar sua ferramenta RAG e receber correspondências em blocos com base nos documentos indexados para uma determinada ferramenta. Você pode usar o NRAI para resumir as correspondências de blocos retornadas ou pode usar as APIs do NerdGraph para recuperar a correspondência e usar sua própria IA em seus próprios sistemas.

{
  actor {
    machineLearning {
      ragQueryData(prompt: "tell me about the incident", toolId: `${RAG_TOOL_GUID}`) {
        blobId
        chunk
        documentId
        score
        toolId
      }
    }
  }
}