arreta-ai/PublicHearingBRLDSExtended

PublicHearingLDSExtended Dataset

PublicHearingLDSExtended é um dataset estruturado para verificação de alegações (claim verification) e recuperação de evidências em audiências públicas da Câmara dos Deputados do Brasil.

Ele estende o dataset original PublicHearingBR_LDS, preservando 100% dos seus documentos e metadados, adicionando uma camada estruturada de alegações (claims) por orador com evidências recuperadas via Graph Retrieval e verificações automáticas geradas pelo modelo Gemma-4-26B-A4B-it.

---

📌 Sobre o Dataset

O dataset transforma cada opinião atribuída a um participante nas audiências públicas em uma claim individualizável e associada ao seu respectivo orador. Para cada claim, o pipeline de recuperação recupera trechos da transcrição falados exclusivamente pelo próprio orador, e um LLM avalia se a claim é sustentada (INFERRED) ou não (NOT_INFERRED) pelo texto recuperado.

Principais Características

• Preservação Total: Mantém todos os campos originais de PublicHearingBR_LDS.jsonl sem exclusão ou modificação.
• Rastreabilidade por Orador: Recuperação de evidências estritamente restrita aos trechos proferidos pelo orador da claim.
• Evidências via Grafo: Uso de BM25, embeddings densos (BAAI/bge-m3), Reciprocal Rank Fusion (RRF), KNN Graph expansion e Reranker (bge-reranker-v2-m3).
• Verificação LLM: Verificação estruturada utilizando google/gemma-4-26B-A4B-it.

---

📂 Origem e Estrutura dos Dados

Fonte Original

O dataset de entrada é o PublicHearingBR_LDS.jsonl. Cada registro possui quatro campos principais:

• id: Identificador único do documento da audiência pública.
• transcricao: Texto na íntegra da transcrição dos discursos da audiência.
• materia: Notícia / resumo jornalístico associado à audiência.
• metadados: Estrutura contendo o assunto e a lista de envolvidos (nome, cargo e lista de opinioes).

---

🔄 Processo de Construção do Dataset

O pipeline de geração executa o seguinte fluxo para cada documento:

PublicHearingBR_LDS
        ↓
extração das opiniões
        ↓
claims + speaker
        ↓
Graph Retrieval (filtro por speaker)
        ↓
evidências recuperadas
        ↓
Gemma (LLM Verification)
        ↓
PublicHearingLDSExtended.jsonl

Detalhamento do Pipeline Graph + Gemma

1. Extração de Claims: Cada opinião presente em metadados.envolvidos[i].opinioes[j] é convertida em uma claim com ID determinístico <id_documento>_<indice_pessoa>_<indice_opiniao> (ex: 1_1_1).

2. Chunking e Filtro por Speaker: A transcrição completa do documento é segmentada por parágrafos e sentenças (paragraphs_sentences, respeitando limites naturais de discursos, com agrupamento dinâmico entre 200 e 1000 caracteres). As falas são atribuídas aos oradores e a recuperação de evidências busca apenas nos trechos falados pelo orador da claim.

3. Recuperação em Grafo (Graph Retrieval):

   • Busca Híbrida: BM25 + Embeddings Vetoriais (BAAI/bge-m3).
   • RRF (Reciprocal Rank Fusion): Combinação das listas ranqueadas para seleção dos seed chunks.
   • KNN Graph Expansion: Expansão topológica no grafo K-Nearest Neighbors de chunks.
   • Reranking: Reranqueamento final via BAAI/bge-reranker-v2-m3.

4. Verificação NLI via Gemma: O prompt de verificação NLI é alimentado com a claim e as evidências recuperadas. O modelo google/gemma-4-26B-A4B-it produz uma resposta JSON estritamente validada contendo o rótulo (INFERRED ou NOT_INFERRED) e os trechos de suporte.

---

📋 Schema do Dataset (PublicHearingLDSExtended.jsonl)

Cada linha do arquivo .jsonl segue a seguinte estrutura JSON:

{
  "id": 1,
  "transcricao": "O SR. PRESIDENTE...",
  "materia": "Jornalistas acusam Alexandre de Moraes...",
  "metadados": {
    "assunto": "Acusações de censura...",
    "envolvidos": [
      {
        "nome": "Michael Shellenberger",
        "cargo": "Jornalista norte-americano",
        "opinioes": [
          "Acusou Alexandre de Moraes de censura ao solicitar o bloqueio de contas na rede social X."
        ]
      }
    ]
  },
  "claims": [
    {
      "claim_id": "1_1_1",
      "speaker": {
        "nome": "Michael Shellenberger",
        "cargo": "Jornalista norte-americano"
      },
      "claim": "Acusou Alexandre de Moraes de censura ao solicitar o bloqueio de contas na rede social X.",
      "verification": {
        "prediction": "INFERRED",
        "evidence": [
          "Texto da evidência 1 recuperada pelo Graph...",
          "Texto da evidência 2 recuperada pelo Graph..."
        ],
        "supporting_evidence": [
          {
            "evidencia_id": "Evidencia 1",
            "trechos": [
              "trecho exato da evidência que sustenta a claim"
            ]
          }
        ],
        "evidence_details": [
          {
            "rank": 1,
            "chunk_id": "doc_1_chunk_93",
            "text": "...",
            "chunk_position": 93,
            "vector_score": 0.617,
            "bm25_score": 7.578,
            "rrf_score": 0.032,
            "reranker_score": 0.522,
            "speaker": "MICHAEL SHELLENBERGER",
            "is_seed": true,
            "graph_hops": 0
          },
          {
            "rank": 2,
            "chunk_id": "doc_1_chunk_129",
            "text": "...",
            "chunk_position": 129,
            "vector_score": 0.446,
            "bm25_score": 5.376,
            "rrf_score": 0.030,
            "graph_score": 0.697,
            "reranker_score": 0.001,
            "speaker": "MICHAEL SHELLENBERGER",
            "is_seed": false,
            "graph_hops": 1
          }
        ]
      }
    }
  ]
}

Campos com valor nulo são omitidos da saída, e não gravados como null. Na prática:

• graph_score (similaridade de cosseno da aresta pela qual o chunk foi alcançado) aparece apenas em chunks obtidos pela expansão do grafo (is_seed: false). Chunks semente (is_seed: true, graph_hops: 0) não possuem esse campo.
• vector_score, bm25_score e rrf_score são omitidos quando o chunk foi alcançado apenas pelo grafo e não apareceu nas buscas iniciais.
• chunk_position é o índice do chunk na transcrição segmentada (não uma posição em caracteres).

---

⚖️ Relação com PublicHearingBR_NLI

O dataset PublicHearingBR_NLI.jsonl é um recurso independente e não foi utilizado para gerar as evidências ou rótulos deste dataset.

• As evidências em PublicHearingLDSExtended foram recuperadas do zero diretamente das transcrições do PublicHearingBR_LDS utilizando o pipeline Graph.
• As verificações foram re-executadas de forma autônoma pelo modelo Gemma.
• As anotações de verificação manual do NLI original não foram copiadas ou reaproveitadas.

---

⚠️ Natureza das Labels

Notice / Aviso: The claim verification labels included in this dataset are automatically generated using the Graph retrieval pipeline and Gemma. They should not be interpreted as human-annotated ground truth.

(Os rótulos de verificação de alegações incluídos neste dataset são gerados automaticamente usando o pipeline de recuperação em grafo e o modelo Gemma. Eles não devem ser interpretados como padrão-ouro ou gabarito anotado por humanos.)

---

🛠️ Reprodutibilidade

Toda a lógica de geração do dataset está contida no script oficial:

contribution/create_extended_lds.py

Como Executar

Para gerar o dataset completo:

python contribution/create_extended_lds.py

Para realizar um teste rápido em um número reduzido de documentos:

python contribution/create_extended_lds.py --limit 3

Para executar mais rápido, processando claims em paralelo:

python contribution/create_extended_lds.py --workers 8

Parâmetros

Flag	Default	Descrição
--input	PublicHearingBR_LDS.jsonl	Dataset de entrada (relativo à raiz do projeto).
--output	PublicHearingLDSExtended.jsonl	Dataset de saída (relativo à raiz do projeto).
--limit	todos	Número máximo de documentos a processar.
--workers	1	Número de threads que processam claims em paralelo.
--model	gemma	Alias (gemma, deepseek, mistral) ou nome completo do modelo na API.
--chunking-method	paragraphs_sentences	Estratégia de chunking (paragraphs_sentences ou fixed_window).

A chave da API é lida de DEEPINFRA_TOKEN ou LLM_API_KEY (e LLM_BASE_URL para outro provedor).

Concorrência (--workers)

As claims são distribuídas entre --workers threads:

• Recuperação (Graph): chunking, embeddings, BM25, grafo KNN e reranker usam modelos locais compartilhados. Essa etapa é serializada por um lock, para evitar disputa de memória na GPU.
• Verificação (LLM): a chamada HTTP ao modelo é a etapa mais lenta e roda em paralelo. Com --workers 8, até 8 chamadas ficam em andamento ao mesmo tempo.
• Ordem da saída: vários documentos podem estar em processamento simultaneamente, mas PublicHearingLDSExtended.jsonl é sempre escrito na ordem original dos documentos.
• Rate limit: muitos workers podem gerar erros 429 no provedor. O cliente já aplica backoff exponencial; se os erros persistirem, reduza --workers.

Checkpoint e Retomada

Cada claim concluída é gravada imediatamente em <output>.claims_checkpoint.jsonl (ex.: PublicHearingLDSExtended.claims_checkpoint.jsonl). Ao reexecutar o script, claims já presentes no checkpoint são reaproveitadas sem novas chamadas ao LLM. Para reprocessar uma claim, remova a linha correspondente do checkpoint.

Alterando o Modelo LLM

Use a flag --model:

python contribution/create_extended_lds.py --model deepseek

Ou altere o default na variável global no topo do script:

MODEL = "gemma"  # ou "deepseek", "mistral"

---

⚡ Limitações Conhecidas

1. Rótulos Automáticos: As classificações dependem da precisão do LLM (Gemma) e podem conter alucinações ou interpretações incorretas.
2. Filtro por Speaker: A atribuição de falas aos oradores utiliza heurísticas de regex (parse_speaker_spans). Falhas na formatação da transcrição original podem afetar o isolamento do orador.
3. Limites do Retrieval: Se a transcrição omitir a fala de um orador citado nos metadados, o pipeline utiliza como fallback o texto completo do documento para prevenir falhas.

---

📄 Citação / Referência Bibliográfica

Se você utilizar o dataset PublicHearingBR_LDS ou o PublicHearingLDSExtended, cite o artigo original:

@inproceedings{fernandes2024publichearingbr,
  title     = {PublicHearingBR: A Brazilian Portuguese Dataset of Public Hearing Transcripts for Summarization of Long Documents},
  author    = {Fernandes, Patrick and others},
  booktitle = {Proceedings of the International Conference on Computational Linguistics (COLING)},
  year      = {2024}
}

---

Gerado via contribution/create_extended_lds.py.