Pesquisa aberta sobre eficiência de LLMs: embeddings, tokens, pesos e busca vetorial. Só entram caminhos com equação, custo e teste refutável.https://www.harpya.org/pt-BRConteúdo CC BY 4.0 · Carlos Frederico Domínguezhttps://www.jmlr.org/papers/v3/bengio03a.htmlhttps://www.jmlr.org/papers/v3/bengio03a.htmlBengio, Ducharme, Vincent, Jauvin · JMLR, 2003. fundamento.Mon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://www.vldb.org/conf/1998/p194.pdfhttps://www.vldb.org/conf/1998/p194.pdfWeber, Schek, Blott · VLDB, 1998. arte prévia · caminho 1.Mon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://arxiv.org/abs/1706.03762https://arxiv.org/abs/1706.03762Vaswani et al. · NeurIPS, 2017. fundamento.Mon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://arxiv.org/abs/1301.3781https://arxiv.org/abs/1301.3781Mikolov et al. · arXiv, 2013. fundamento.Mon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://arxiv.org/abs/2303.09855https://arxiv.org/abs/2303.09855Gao, Long · SIGMOD, 2023. arte prévia · caminho 3.Mon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://arxiv.org/abs/2205.13147https://arxiv.org/abs/2205.13147Kusupati et al. · NeurIPS, 2022. base a bater.Mon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://arxiv.org/abs/2502.09720https://arxiv.org/abs/2502.09720Savkin, Porat, Ordentlich, Polyanskiy · arXiv, 2025. caminho 5.Mon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://arxiv.org/abs/2508.21038https://arxiv.org/abs/2508.21038Weller et al. · arXiv, 2025. limite teórico.Mon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://arxiv.org/abs/2510.00566https://arxiv.org/abs/2510.00566Ramani, Schlomer, Nayar, Ranu, Patel, Karras · arXiv, 2025. arte prévia · caminho 4.Mon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://arxiv.org/abs/2503.04422https://arxiv.org/abs/2503.04422Kuffo, Krippner, Boncz · arXiv, 2025. arte prévia · caminho 4.Mon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://arxiv.org/abs/1705.08039https://arxiv.org/abs/1705.08039Nickel, Kiela · NeurIPS, 2017. a ideia interessante.Mon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://arxiv.org/abs/2405.12497https://arxiv.org/abs/2405.12497Gao, Long · SIGMOD, 2024. arte prévia · caminho 3.Mon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://arxiv.org/abs/2104.09864https://arxiv.org/abs/2104.09864Su et al. · arXiv, 2021. fundamento.Mon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://arxiv.org/abs/2509.12086https://arxiv.org/abs/2509.12086Li, Deng, Yan, Zhi, Cheng · arXiv, 2025. arte prévia · caminho 6.Mon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://arxiv.org/abs/1706.01449https://arxiv.org/abs/1706.01449Abuzaid et al. · arXiv, 2017. arte prévia · caminho 1.Mon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://arxiv.org/abs/2504.19874https://arxiv.org/abs/2504.19874Zandieh, Daliri, Hadian, Mirrokni · arXiv, 2025. limite teórico.Mon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://www.harpya.org/estudos/caminhos/certificado-inteiro/https://www.harpya.org/estudos/caminhos/certificado-inteiro/Ler primeiro os 4 bits altos de cada linha int8, excluir com certeza quem não pode vencer e ler os 4 bits baixos só dos sobreviventes.Mon, 12 Oct 2026 12:00:00 GMTCaminhoshttps://www.harpya.org/estudos/caminhos/pesos-de-fase/https://www.harpya.org/estudos/caminhos/pesos-de-fase/Pesos complexos de 2 bits contra pesos reais de 2 bits no mesmo orçamento. Único resultado forte da família complexa.Mon, 12 Oct 2026 12:00:00 GMTCaminhoshttps://www.harpya.org/estudos/caminhos/valor-e-derivada/https://www.harpya.org/estudos/caminhos/valor-e-derivada/Cada item guarda um vetor e uma direção de variação. É a forma de primeira ordem do estado de controle.Mon, 12 Oct 2026 12:00:00 GMTCaminhoshttps://www.harpya.org/estudos/caminhos/tensor-train-na-cabeca/https://www.harpya.org/estudos/caminhos/tensor-train-na-cabeca/Fatorar a tabela do vocabulário como produto de tensores pequenos e comparar com int4 em bytes iguais.Mon, 12 Oct 2026 12:00:00 GMTCaminhoshttps://www.harpya.org/estudos/caminhos/escala-diagonal/https://www.harpya.org/estudos/caminhos/escala-diagonal/Centralizar a tabela e reescalar cada coluna pela sua faixa. Foi o único ganho claro medido até aqui.Mon, 12 Oct 2026 12:00:00 GMTCaminhoshttps://www.harpya.org/estudos/caminhos/raio-probabilistico/https://www.harpya.org/estudos/caminhos/raio-probabilistico/Trocar a folga de raiz de d do limite determinístico por uma taxa de falha explícita.Mon, 12 Oct 2026 12:00:00 GMTCaminhoshttps://www.harpya.org/estudos/caminhos/certificado-bits-dimensoes/https://www.harpya.org/estudos/caminhos/certificado-bits-dimensoes/Um só limite que soma o resíduo de bits e a cauda de dimensões, escolhendo por consulta o que ler.Mon, 12 Oct 2026 12:00:00 GMTCaminhoshttps://www.harpya.org/estudos/caminhos/reticulados-e8-leech/https://www.harpya.org/estudos/caminhos/reticulados-e8-leech/Códigos de reticulado aninhado, hoje usados em pesos de LLM, aplicados ao vetor guardado no índice.Mon, 12 Oct 2026 12:00:00 GMTCaminhoshttps://www.harpya.org/estudos/caminhos/bits-por-coluna/https://www.harpya.org/estudos/caminhos/bits-por-coluna/Dar mais bits às colunas que mais pesam no erro. A versão determinística ainda não foi publicada.Mon, 12 Oct 2026 12:00:00 GMTCaminhoshttps://www.harpya.org/estudos/caminhos/controle-bellman/https://www.harpya.org/estudos/caminhos/controle-bellman/A hipótese central do programa escrita como problema de controle: diz o que otimizar e mede o teto do estado de contexto.Mon, 12 Oct 2026 12:00:00 GMTCaminhoshttps://www.harpya.org/estudos/caminhos/cabeca-de-saida/https://www.harpya.org/estudos/caminhos/cabeca-de-saida/Duas ideias para a camada que escolhe o próximo token, cada uma decidida por uma medida de posto efetivo.Mon, 12 Oct 2026 12:00:00 GMTCaminhoshttps://www.harpya.org/estudos/caminhos/atalho-entre-camadas/https://www.harpya.org/estudos/caminhos/atalho-entre-camadas/Substituir as camadas finais do encoder por um mapa linear ajustado. Ataca o lugar onde está 99% da latência.Mon, 12 Oct 2026 12:00:00 GMTCaminhoshttps://www.harpya.org/biblioteca/https://www.harpya.org/biblioteca/Boucheron, Lugosi, Massart. 2013Mon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://www.deeplearningbook.org/https://www.deeplearningbook.org/Goodfellow, Bengio, Courville. 2016 · gratuito onlineMon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://www.harpya.org/biblioteca/https://www.harpya.org/biblioteca/Cover, Thomas. 2ª ed.Mon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://nlp.stanford.edu/IR-book/https://nlp.stanford.edu/IR-book/Manning, Raghavan, Schütze. 2008 · gratuito onlineMon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://mml-book.github.io/https://mml-book.github.io/Deisenroth, Faisal, Ong. 2020 · gratuitoMon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://web.stanford.edu/~jurafsky/slp3/https://web.stanford.edu/~jurafsky/slp3/Jurafsky, Martin. rascunho da 3ª ed. onlineMon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://www.harpya.org/biblioteca/https://www.harpya.org/biblioteca/Conway, Sloane. clássicoMon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://udlbook.github.io/udlbook/https://udlbook.github.io/udlbook/Simon J. D. Prince. 2023 · gratuitoMon, 12 Oct 2026 12:00:00 GMTBibliotecahttps://www.youtube.com/watch?v=zjkBMFhNj_ghttps://www.youtube.com/watch?v=zjkBMFhNj_gAndrej Karpathy. Visão geral de uma hora sobre o que são LLMs, como são treinados, para onde vão e seus riscos de segurança.Mon, 12 Oct 2026 12:00:00 GMTVídeosIniciantehttps://www.youtube.com/watch?v=tOMjTCO0htAhttps://www.youtube.com/watch?v=tOMjTCO0htAFrom Languages to Information. Aula acadêmica de Dan Jurafsky (Stanford, From Languages to Information) que detalha o algoritmo Byte Pair Encoding passo a passo e por que a tokenização por subpalavras resolve o problema de palavras fora do vocabulário.Mon, 12 Oct 2026 12:00:00 GMTVídeosAvançadohttps://www.youtube.com/watch?v=1c9iyoVIwDshttps://www.youtube.com/watch?v=1c9iyoVIwDsIBM Technology. Apresenta quatro técnicas de engenharia de prompt, entre elas o Chain of Thought, que pede ao modelo para raciocinar passo a passo, além de RAG, ReAct e Directional Stimulus Prompting.Mon, 12 Oct 2026 12:00:00 GMTVídeosIniciantehttps://www.youtube.com/watch?v=sOPDGQjFcuMhttps://www.youtube.com/watch?v=sOPDGQjFcuMMaarten Grootendorst. Guia visual de Mixture of Experts em LLMs que mostra de forma simples como a rede de roteamento escolhe quais especialistas processam cada token.Mon, 12 Oct 2026 12:00:00 GMTVídeosIniciantehttps://www.youtube.com/watch?v=KV5gbOmHbjUhttps://www.youtube.com/watch?v=KV5gbOmHbjUNeel Nanda. Neel Nanda percorre o artigo A Mathematical Framework for Transformer Circuits, mostrando como fazer engenharia reversa de circuitos dentro de transformers (interpretabilidade mecanicista).Mon, 12 Oct 2026 12:00:00 GMTVídeosAvançadohttps://www.youtube.com/watch?v=GchC5WxeXGchttps://www.youtube.com/watch?v=GchC5WxeXGcSam Witteveen. Tutorial prático de RAG Fusion, que gera múltiplas variações da pergunta (expansão de query) e reordena os resultados com Reciprocal Rank Fusion para melhorar a recuperação.Mon, 12 Oct 2026 12:00:00 GMTVídeosIntermediáriohttps://www.youtube.com/watch?v=30Ofh-Myte4https://www.youtube.com/watch?v=30Ofh-Myte4DeepLearningAI. Palestra no AI Dev 25 sobre como gerenciar memória em agentes de IA, combinando memória de curto prazo e memória de longo prazo persistente para manter contexto em tarefas extensas.Mon, 12 Oct 2026 12:00:00 GMTVídeosIntermediáriohttps://www.youtube.com/watch?v=XtT5i0ZeHHEhttps://www.youtube.com/watch?v=XtT5i0ZeHHEIBM Technology. Explica o que é inferência em IA, a fase em que um modelo já treinado aplica o que aprendeu para responder a dados novos, em contraste com o treinamento, e por que ela concentra a maior parte do custo de operação.Mon, 12 Oct 2026 12:00:00 GMTVídeosIniciantehttps://www.youtube.com/watch?v=5tmGKTNW8DQhttps://www.youtube.com/watch?v=5tmGKTNW8DQAsianometry. Mostra por que o hardware de IA esbarra na "parede de memória": mover dados entre a memória e o processador custa mais tempo e energia do que os próprios cálculos, e apresenta saídas como computação em memória.Mon, 12 Oct 2026 12:00:00 GMTVídeosIniciantehttps://www.youtube.com/watch?v=QXVCqtAZAn4https://www.youtube.com/watch?v=QXVCqtAZAn4DeepLearningAI. Workshop da DeepLearningAI com a Hugging Face sobre alinhamento de LLMs com Direct Preference Optimization, que dispensa o modelo de recompensa separado usado no RLHF com PPO.Mon, 12 Oct 2026 12:00:00 GMTVídeosAvançadohttps://www.youtube.com/watch?v=5P7I-xPq8u8https://www.youtube.com/watch?v=5P7I-xPq8u8Arxiv Insights. Introdução aos métodos de gradiente de política em aprendizado por reforço, a família de algoritmos de onde vem o PPO.Mon, 12 Oct 2026 12:00:00 GMTVídeosAvançadohttps://www.youtube.com/watch?v=eMlx5fFNoYchttps://www.youtube.com/watch?v=eMlx5fFNoYc3Blue1Brown. A animação mais clara de como palavras viram vetores em alta dimensão e de como a atenção ajusta cada vetor pelo contexto.Mon, 12 Oct 2026 12:00:00 GMTVídeosIniciantehttps://www.youtube.com/watch?v=iDulhoQ2prohttps://www.youtube.com/watch?v=iDulhoQ2proYannic Kilcher. Leitura guiada do artigo de 2017 do Google que apresentou a arquitetura Transformer.Mon, 12 Oct 2026 12:00:00 GMTVídeosIntermediáriohttps://www.youtube.com/watch?v=5cnk5zpf1EAhttps://www.youtube.com/watch?v=5cnk5zpf1EADiscover AI. Explicação do AutoGPT e do BabyAGI, os primeiros agentes autônomos que geravam e priorizavam as próprias tarefas em loop para resolver objetivos complexos.Mon, 12 Oct 2026 12:00:00 GMTVídeosIniciantehttps://www.youtube.com/watch?v=_sq3ixXMQTchttps://www.youtube.com/watch?v=_sq3ixXMQTcAmazon Web Services. Episódio Back to Basics da AWS sobre como o RAG resolve conhecimento desatualizado e acesso a dados privados em aplicações de IA generativa corporativas.Mon, 12 Oct 2026 12:00:00 GMTVídeosIniciantehttps://www.youtube.com/watch?v=Ilg3gGewQ5Uhttps://www.youtube.com/watch?v=Ilg3gGewQ5U3Blue1Brown. A intuição da retropropagação: como o erro da saída volta pela rede e ajusta cada peso.Mon, 12 Oct 2026 12:00:00 GMTVídeosIntermediáriohttps://www.youtube.com/watch?v=aHCDrAbH_gohttps://www.youtube.com/watch?v=aHCDrAbH_goLangChain. Vídeo oficial da LangChain sobre como construir agentes eficazes com LangGraph, organizando fluxos como grafos de estado em vez de loops livres.Mon, 12 Oct 2026 12:00:00 GMTVídeosAvançadohttps://www.youtube.com/watch?v=TRjq7t2Ms5Ihttps://www.youtube.com/watch?v=TRjq7t2Ms5IAI Engineer. Palestra de Jerry Liu, criador do LlamaIndex, sobre como levar RAG para produção: chunking, recuperação avançada, roteamento, agentes e avaliação de pipelines.Mon, 12 Oct 2026 12:00:00 GMTVídeosAvançadohttps://www.youtube.com/watch?v=aircAruvnKkhttps://www.youtube.com/watch?v=aircAruvnKk3Blue1Brown. O que é uma rede neural: camadas, pesos, vieses e ativações, com o exemplo clássico de reconhecer dígitos.Mon, 12 Oct 2026 12:00:00 GMTVídeosIniciantehttps://www.youtube.com/watch?v=HEikzVL-lZUhttps://www.youtube.com/watch?v=HEikzVL-lZUHugging Face. Como o BPE monta o vocabulário de subpalavras fundindo os pares mais frequentes, o algoritmo usado pelo GPT e por muitos outros modelos.Mon, 12 Oct 2026 12:00:00 GMTVídeosIntermediáriohttps://www.youtube.com/watch?v=zn2ukSnDqSghttps://www.youtube.com/watch?v=zn2ukSnDqSgComputerphile. O Computerphile mostra como funcionam os jailbreaks do ChatGPT, explicando por que instruções criativas conseguem contornar as regras de segurança impostas ao modelo.Mon, 12 Oct 2026 12:00:00 GMTVídeosIniciantehttps://www.youtube.com/watch?v=wBPZNhw1LV4https://www.youtube.com/watch?v=wBPZNhw1LV4FAR․AI. Collin Burns, autor principal do artigo da OpenAI, apresenta a generalização de fraco para forte: como supervisores mais fracos podem orientar modelos mais capazes, um análogo do problema da supervisão escalável.Mon, 12 Oct 2026 12:00:00 GMTVídeosAvançadohttps://www.youtube.com/watch?v=tnejrr-0a94https://www.youtube.com/watch?v=tnejrr-0a94Matthew Berman. Tutorial prático montando uma equipe de múltiplos agentes com CrewAI, rodando localmente, em que cada agente tem papel próprio e colabora para concluir uma tarefa.Mon, 12 Oct 2026 12:00:00 GMTVídeosIntermediáriohttps://www.youtube.com/watch?v=pSKHDduKt_ghttps://www.youtube.com/watch?v=pSKHDduKt_gArize AI. Discussão aprofundada do artigo Toolformer da Meta, que mostra como um modelo aprende de forma autossupervisionada quando e como chamar APIs como calculadora e calendário.Mon, 12 Oct 2026 12:00:00 GMTVídeosAvançado