O que é LLM?

Definição completa

LLM (Large Language Model, ou Modelo de Linguagem de Grande Escala) é um tipo de modelo de inteligência artificial treinado com enormes volumes de texto — livros, artigos, código-fonte, páginas web — para aprender padrões da linguagem humana. Com base nesse treino, o modelo consegue compreender, resumir, traduzir e gerar texto de forma contextualmente coerente. Internamente, o texto é dividido em unidades chamadas tokens, convertidas em vetores numéricos (embeddings) e processadas por uma arquitetura chamada Transformer, que usa um mecanismo de atenção para identificar quais partes do contexto são mais relevantes em cada momento. Modelos como GPT, Claude e Gemini são exemplos de LLMs. É importante notar que um LLM não "pensa": ele realiza cálculos estatísticos para prever qual sequência de tokens tem maior probabilidade de ser a resposta correta dado um determinado input.

Exemplo de código

// Chamada à API de um LLM (exemplo com a API da Anthropic)
const response = await fetch('https://api.anthropic.com/v1/messages', {
  method: 'POST',
  headers: {
    'Content-Type': 'application/json',
    'x-api-key': process.env.ANTHROPIC_API_KEY,
    'anthropic-version': '2023-06-01'
  },
  body: JSON.stringify({
    model: 'claude-sonnet-4-6',
    max_tokens: 256,
    messages: [
      {
        role: 'user',
        content: 'Explica o conceito de dívida técnica em 2 frases.'
      }
    ]
  })
});

const data = await response.json();
console.log(data.content[0].text);